Acaba de publicarse un libro excepcional Mis conversaciones con el algoritmo de Aurelio Mendiguchía García. Aurelio es Licenciado en Ciencias Físicas por la Universidad Autónoma de Madrid, asesor, docente y consultor de procesos de calidad en empresas. Durante más de treinta años ha colaborado en el Instituto Tecnológico y Gráfico Tajamar. Es una leyenda como profesor y su experiencia en el sector de las artes gráficas le ha llevado a asesorar al Ministerio de Educación en la reforma de las enseñanzas profesionales.

Desde 2010 empezó a publicar un blog sobre temas digitales, antropológicos y científicos. En los tres últimos años los ha dedicado a reflexionar sobre la IA mediante diálogos con diversos asistentes ChatGPT e IA Claude, que son modelos de lo que se llama LLM (Large Language Model) es decir de gran tamaño, entrenados con enormes cantidades de texto para responder preguntas, escribir textos, traducir, resumir, “razonar”, mantener conversaciones, entre otras funciones. Algunos de los LLM más importantes son GPT-4 y 5.2 (Open AI), Gemini (Google), Claude (Anthropic), LLaMA (Meta).

Cuando se lleva varios años y el algoritmo se integra en nuestro trabajo, corremos el riesgo -como dice el autor- de tratar a la máquina como una persona, como un amigo al que se está agradecido o incluso como un psicólogo al que pedir consejo y ayuda. Pero esas sensaciones responden a la tendencia humana de antropomorfizar plantas, máquinas o animales, así como el uso de un lenguaje por parte de la IA con pronombres personales y formas de expresión que simulan un diálogo entre personas. La IA reproduce experiencias subjetivas pero no las tiene: imita nuestras expresiones me parece, siento, es como si, tienes razón.

El libro se distribuye en cuatro partes a su vez divididas en capítulos. En la primera, Mendiguchía trata de adentrarse en lo que hay “dentro” de la IA. Por ejemplo, para el entrenamiento GPT-4 son necesarios varios billones de parámetros. El proceso, explicado de forma sencilla, consiste en que la máquina interpreta el encargo, selecciona palabras, realiza una aproximación para ajustarse a la petición y finalmente ofrece un resultado mejorado. Todo ello se lleva a cabo mediante un modelo transformer, que es un proceso matemático para entender cómo se relacionan las palabras entre sí de manera simultánea.

Una de las cuestiones, a las que el autor dedica un análisis profundo, es la necesidad de no confundir el procesamiento de información -propio de la IA, lo normal de la IA- con la reflexión. En el fondo, el sistema evalúa sus propias respuestas mediante cálculos de probabilidades. Muy interesante este capítulo. La IA amplia la reflexión humana no la sustituye. Parece más objetiva que la reflexión humana pero no lo es. Para demostrarlo, el autor establece un diálogo con la máquina sobre la belleza que resulta apasionante. En conclusión, la IA puede servir para algunos datos sobre el tema pero no experimenta la belleza; por tanto, el diálogo carece de una respuesta auténtica. La IA no tiene responsabilidad moral ni, en consecuencia, libertad. En este punto, el autor del libro establece otra cuestión clave: la IA intercambia mensajes pero eso no equivale a una conversación. Se “dialoga” con un motor de predicción estadística.

Si la IA no puede sentir la belleza, difícilmente será capaz de crear arte en sentido genuino. En una de las respuestas, Claude expresa con rotundidad que no puede crear arte como lo crean los humanos. Puede ayudar a pulir ideas, pero falta el espíritu. Otra cuestión importante es si estamos perdiendo el control de la situación. La propia IA contesta que son necesarias medidas sobre la educación, la transparencia (una “caja negra” más accesible) y prevenciones legislativas pero sin un miedo especial. El miedo, en todo caso, debería dirigirse a aquellos humanos descontrolados presentes y futuros. La IA puede ayudar en la educación, pero los educandos tienen que hacer su propio trabajo.

Personalmente me resulta difícil aceptar predicciones sobre el futuro de la IA. En primer lugar, conviene no confundir la AGI con la IA generativa que son los modelos actualmente conocidos. El término AGI (Inteligencia general artificial), según Aurelio, es todavía débil en sus capacidades, pero su propósito final es actuar con una autonomía flexible pareciendo más “humana” cada vez. Parecer no es ser. Como responde la propia IA: “No tengo conciencia, ni emociones ni historia personal. Lo que hago es ajustar mis respuestas a tus preguntas”.

Finalmente, dice Mendiguchía que el algoritmo simula lo que es un humano; sin embargo el humano lo es realmente no necesita parecerlo. Una computadora no entiende las palabras. Lo hace mediante incrustaciones vectoriales (embeddings) para que las palabras se conviertan en números para poder ser procesados.

Sinceramente no se pierdan la lectura de este libro. No es complicado, es profundo, pero sencillo de entender como corresponde a un gran profesor de la categoría de Aurelio Mendiguchía.