Esta pregunta la propone Aaron MacLean  en el artículo titulado Una advertencia a los jóvenes: digan simplemente no a la IA. El autor expone y advierte sobre que el uso indiscriminado de estas herramientas deteriorará la capacidad de razonamiento y de escritura.

Especialmente cuando se está estudiando: La sustitución del pensamiento genuino por los Grandes Modelos de Lenguaje es una amenaza generacional. Lo que está en juego es nada menos que la vida de la mente. Mediante una conversación con un colega en la Academia Naval de los Estados Unidos le dijo que la utilización de la IA para preparar las clases era imprenscinble. La razón es que los alumnos escriben todo lo que tienen que escribir con IA. Si la prepración de las clases y de los trabajos están hechos por IA, se conseguirá un ahorro de tiempo para tener más entrenamientos.

MacLean responde que el objetivo de las clases teóricas no puede consistir en que los alumnos aprendan a utilizar herramientas para sustituir su capacidad de escribir ni que los profesores no preparen ni piensen ellos mismos sus clases. Las conclusiones de MacLean son contundentes. Por ejemplo: Existe, por supuesto, un argumento práctico y superficial: la importancia de la escritura persuasiva para la carrera profesional. Hace poco escuché a un oficial retirado de alto rango agasajar a una clase con historias de sus victorias burocráticas para conseguir recursos en el Pentágono, y señalar que básicamente ganó —y cito textualmente— porque «escribió un ensayo mejor» que sus oponentes. Este tipo de cosas importan. En mi experiencia, una escritura clara y persuasiva es esencial para el éxito profesional. Un segundo argumento ha sido muy repetido en diálogos entre profesor y alumno: «Sé lo que pienso, pero no puedo plasmarlo en palabras». Mi profesor respondió: «Bueno, entonces no sabes realmente lo que piensas. Escribir algo es lo mismo que pensarlo. Si no puedes escribirlo, no lo has pensado».

En definitiva, escribir ayuda a razonar. Se debe utilizar la IA como ayuda o como herramienta. Si es un sustituto de nuestra activividad escritora estaremos cometiendo un fraude contra nosotros mismos. La pereza y el orgullo limpulsan a sustituir lo propio por lo generado por IA: parace mejor que lo escrito por nosotros. Pero es como presentar un curriculum manipulado o inventado [en fin…]: Ahora contamos con tecnología que, en esencia, promete suplantar la actividad humana fundamental: el pensamiento. Y si bien es un poco triste que los seres humanos simplemente seamos menos musicales que antes, esta amenaza es mucho más grave. O dicho de otra forma: La IA generativa presenta, por lo tanto, una doble amenaza: primero, te tienta ofreciéndote liberarte de tu necesidad de razonar, del tedio de organizar tus pensamientos. Pero, casi igual de malo, también despoja a la civilización humana de toda información y todo aprendizaje, y luego, aparentemente, lo reduce todo a papilla sin matices, escupiéndote su sórdida imitación del pensamiento: relatos insípidos y complejos que, diría yo, están escritos a un nivel de décimo grado, salvo por su extraña cualidad alienígena que no se parece en nada a nada humano.

La libertad está en juego y la esclavitud esperando. Las actividades humanas representadas por la filosofía y el pensamiento estratégico necesitan ser aprendidas, contrastadas y rectificadas o corregidas: Qué momento tan asombroso en la historia de la humanidad, cuando la larga historia de nuestra especie —la historia misma de la razón y la tecnología— concluye con la autodestrucción, que surge del mismo principio que la ha definido desde sus inicios. La amenaza que plantea esta nueva tecnología es aún más preocupante que la fisión atómica, porque lo primero que ha llegado al mercado no es una bomba capaz de destruir ciudades, sino un ataque mucho más sutil y de mayor alcance contra la esencia misma de nuestra humanidad.

La enseñanza universitaria necesita reformas preventivas. El autor señala como ejemplo los exámenes de Oxford y la contrarrevolución de los exámenes orales. Finaliza con un mensaje dirigido a los jóvenes con ilusión por el presente y por el futuro: Concluyo con esto. Quizás existan algunos usos prácticos individuales de la IA que no sean perjudiciales. Pero les aconsejo que sean completamente radicales. Ustedes, los jóvenes, aquí mismo, son de quienes dependemos. Su país depende de que piensen por sí mismos: de que realmente lean, formulen sus propias ideas, trabajen. De que sean lectores y escritores, no solo que parezcan tener cerebro. Para cualquier uso de estas nuevas herramientas que sustituya tu propia comprensión genuina —que, me temo, es la mayoría de sus usos—, rechaza la muleta. Como decía un antiguo compañero mío: si no has empezado a usar estas herramientas, no lo hagas. Si ya has empezado, deja de hacerlo. La libertad empieza en casa. Empieza en tu mente. También es una actividad, no una posesión. No abandones la carrera.

Dando sentido a la revolución de la IA es un ensayo de Iskander Rehman. Realiza una comparación entre lo que en su momento (1961) supuso la predicción de que puede existir vida estraterrestre inteligente muy supeior a la nuestra. Esta posible cultura extraterrestre y su inteligencia superior se convirtieron en una amenaza: El advenimiento de una Superinteligencia Artificial (ISA) o Inteligencia General Artificial (IGA), es decir, una forma avanzada de IA que supera las capacidades humanas en casi todos los campos cognitivos, es quizás el análogo más cercano al descubrimiento público de una inteligencia extraterrestre avanzada. Además, es mucho más probable que ocurra a lo largo de nuestra vida, y muchos titanes de la industria y plataformas líderes de predicción predicen su materialización en los próximos cinco a diez años.

La solución que propone el autor es, en primer lugar, el estudio de la historia para aprender de otras advenimientos semejantes: «La historia es, en esencia, la ciencia del cambio», señaló en una ocasión el gran historiador francés y héroe de la resistencia Marc Bloch, antes de añadir con tristeza que «no hay realidad más fluida que el presente, ni verdad más efímera». Como en todos los períodos de gran incertidumbre, los comentaristas, fascinados o alarmados por la velocidad de los avances de la IA, han recurrido instintivamente al pasado, buscando con avidez desplegar diversas analogías históricas.[…] Quizás lo más importante es que una sensibilidad histórica puede ayudar a los responsables políticos a navegar períodos de incertidumbre y agitación, al permitirles ver más de “lo desconocido como familiar”. El resultado, como dice el Premio Nobel Daron Acemoglu, es que el impacto de la IA será multifacético, como una mezcla entre lo que sucedió con la imprenta, con la máquina de vapor o con la bomba atómica bajo cuya amenaza seguimos todavía.

Hay que ser prudentes, humildes y cautelosos. Estudiar y aprender hasta de los mitos: Consideremos, por ejemplo, el mito frecuentemente invocado de 
Midas , el rey griego a quien el dios Dioniso le concedió un deseo y que tontamente pide que todo lo que toque se convierta en oro, solo para darse cuenta con horror de que incluso la comida, la bebida y su propia hija se transfiguran en metal sin vida. En los debates sobre IA, el mito de Midas se ha invocado a menudo como metáfora de la desalineación de valores: cuando una IAA cumple un objetivo literalmente y de una manera  brutalmente maximalista , con poca comprensión del sentido común o límites morales.

En una palabra hay que estudiar más, leer más, pensar más, escribir más para que la IA nos pueda servir de algo. Esta entrada quiere advertir -sin rechazar el avance de la IA- los usos incontrolados de la IA antes de cometer errores irreperables especialmente en la enseñanza. Los dos artículos mencionados están en Engelsberg Ideas. LLegar hasta ellos ha sido posible por la lectura de algunas colaboraciones de Nueva Revista.