Predecir palabra por palabra
Los modelos de lenguaje de hoy escriben poemas, redactan contratos, programan software, traducen idiomas y resuelven problemas matemáticos. Y, sin embargo, cuando alguien le pregunta a un ingeniero cómo lo hacen, responde que predicen, palabra por palabra, cuál es la más probable a continuación.
La habitación china, revisitada
La pregunta no es nueva. En 1980 el filósofo John Searle planteó el experimento mental conocido como la habitación china.
Imaginen, decía, a una persona encerrada en un cuarto, sin saber chino, con un manual gigantesco que le indica qué símbolos chinos producir cuando recibe ciertos otros. Desde afuera, el cuarto parece hablar chino con fluidez perfecta. Desde adentro, no hay comprensión: solo manipulación de símbolos.
Searle concluyó que sintaxis no es semántica, que mover signos no es entender lo que significan, y que por tanto ningún sistema puramente computacional —por sofisticado que sea— puede pensar de verdad.
Cuarenta y cinco años después, los modelos de lenguaje son la habitación china más grande jamás construida.
Cientos de miles de millones de parámetros entrenados sobre prácticamente todo el texto digitalizado del planeta. Y la pregunta de Searle vuelve a estar viva.
Tres respuestas posibles
Hay tres respuestas en juego, y conviene distinguirlas porque cada una tiene consecuencias prácticas distintas.
La primera es la respuesta funcionalista, asociada a Hilary Putnam y Daniel Dennett. Si camina como pato, grazna como pato y resuelve problemas como pato, es pato.
Lo que importa es la función, no el sustrato. Si un modelo da consistentemente respuestas correctas, originales y contextualmente apropiadas, decir que “no entiende de verdad” es introducir una distinción metafísica sin diferencia práctica.
La segunda es la respuesta del propio Searle, que sigue vigente: el sistema produce conducta indistinguible de la comprensión, pero no hay nadie ahí adentro. No hay intencionalidad, no hay “para qué”, no hay punto de vista.
Como decía Ludwig Wittgenstein —que sabía mucho de juegos de lenguaje—: “los límites de mi lenguaje son los límites de mi mundo”. Un sistema que solo manipula lenguaje tiene un mundo del tamaño de su corpus, y nada más.
La tercera respuesta, la más interesante, viene de la fenomenología y de María Zambrano: pensar no es solo procesar, ni siquiera comprender; pensar es también padecer. La razón humana, decía, está atravesada por la vida que la sostiene: por el cuerpo, por la mortalidad, por el deseo.
Un sistema que no muere, no sufre, no espera y no recuerda haber sufrido, puede simular pensamiento, pero no es habitado por él.
Por qué la distinción importa hoy
¿Significa esto que la discusión es ociosa? Al contrario. La línea que separa pensar de predecir es la línea sobre la que se va a construir, en los próximos años, todo el régimen jurídico de la responsabilidad.
Quién responde por un diagnóstico médico mal hecho por un modelo, quién por un contrato mal redactado, quién por una decisión judicial automatizada.
Si los modelos piensan, hay un sujeto al que reclamar. Si no piensan, hay siempre un humano detrás —el desarrollador, el operador, el regulador— que es el responsable último. La filosofía aquí no es decoración. Es la base del derecho.
Tres preguntas para distinguir comprensión de cálculo
Por eso conviene un criterio práctico. Propongo tres preguntas para distinguir comprensión de cálculo, aplicables a cualquier sistema con el que uno interactúe.
¿El sistema puede decir qué es lo que no sabe, o solo produce respuestas con la misma confianza estadística? Sócrates tenía razón en una cosa: el inicio de la sabiduría es saber que no se sabe. Un modelo que alucina datos con elocuencia no piensa; calcula.
¿El sistema tiene un para qué propio, o solo responde a tareas dadas? Aristóteles llamó a esto teleología: la actividad que tiene su fin en sí misma. Pensar humano es, casi por definición, pensar para algo —vivir, decidir, amar, morir mejor—. Un modelo no tiene “para qué”.
¿El sistema se equivoca de un modo que pueda corregirse desde la propia experiencia, o solo se reentrena con datos nuevos? La diferencia entre aprender y reentrenarse es la diferencia entre madurar y reinstalarse.
Pensar es otra cosa
Mientras esos tres criterios no se satisfagan, lo prudente es seguir hablando con cuidado. Los modelos predicen extraordinariamente bien. Pensar es otra cosa. Y las palabras, decía Confucio, deben corresponder a las cosas: si las llamamos mal, todo lo demás se desordena.
La propuesta es de orden lingüístico, casi modesta. Dejemos de decir que la inteligencia artificial “piensa”. Digamos que predice, que calcula, que asiste. Reservar el verbo pensar para lo que hacemos —o intentamos hacer— los humanos no es chauvinismo de especie.
Es una manera de no perder el rastro de qué tipo de actividad merece responsabilidad y cuál merece supervisión. Como dice un viejo refrán: cada cosa por su nombre, y cada quien por su lugar.