FROYLÁN ALFARO
Durante décadas, una de las ideas más atractivas de la inteligencia artificial ha sido pensar que la mente humana funciona, en lo esencial, igual que un programa de computadora. El cerebro sería el soporte físico y la mente, el programa que se ejecuta sobre él. Si esto fuera correcto, entonces bastaría con construir el programa adecuado para producir comprensión, pensamiento e incluso conciencia.
El filósofo John Searle cuestionó justamente esa idea. Su crítica se dirige a la afirmación de que ejecutar correctamente un programa es suficiente para tener una mente.
Para entender su argumento hay que distinguir dos cosas. Una computadora manipula símbolos siguiendo reglas. Puede recibir una entrada, aplicar una serie de instrucciones y producir una salida. Pero esas operaciones se realizan atendiendo a la forma de los símbolos, no a su significado. A esto se le llama sintaxis. En cambio, cuando una persona entiende una palabra, una frase o una pregunta, los símbolos significan algo para ella, entonces hay contenido. A eso se le llama semántica. La diferencia parece pequeña, pero es importante y es el centro de toda la discusión.
Searle propone el experimento de la habitación china para hacer clara esa diferencia. Imaginemos a una persona encerrada en un cuarto. Esa persona no sabe chino. Dentro recibe hojas llenas de signos chinos y dispone de un manual, escrito en una lengua que sí comprende, que le indica qué símbolos debe devolver ante cada conjunto de símbolos que recibe.
Siguiendo cuidadosamente las reglas, puede producir respuestas tan buenas que una persona situada fuera del cuarto podría creer que allí dentro hay alguien que entiende chino. Sin embargo, la persona encerrada sigue sin entender una sola palabra. Sólo ha aprendido a manipular signos siguiendo reglas formales.
Para Searle, eso es justamente lo que hace un programa de computadora. El programa transforma símbolos en otros símbolos de acuerdo con instrucciones. Puede hacerlo de manera extraordinariamente compleja y producir respuestas convincentes, pero de ahí no se sigue que exista comprensión. El comportamiento externo puede ser correcto y, aun así, faltar el significado.
Su argumento va un poco en el siguiente sentido:
1. Las mentes tienen contenidos, pues pensamos acerca de algo, creemos algo, deseamos algo.
2. Esos contenidos poseen significado.
3. Los programas de computadora están definidos por operaciones formales sobre símbolos.
4. Las reglas formales, por sí solas, no generan significado.
5. Por tanto, ejecutar un programa no basta para producir una mente.
Pero, Searle no sostiene simplemente que “las máquinas no pueden pensar”. De hecho, señala que el cerebro también puede considerarse una máquina en un sentido biológico. La cuestión es ¿qué propiedades tendría que poseer una máquina para producir estados mentales? Su respuesta es que no basta con ejecutar el programa correcto. El cerebro produce mente gracias a determinados poderes causales, y una máquina artificial sólo podría producir mente si tuviera capacidades causales equivalentes. La programación, por sí sola, no sería suficiente.
En otras palabras, simular algo no equivale necesariamente a producir. Una computadora puede simular una tormenta, pero el procesador no termina mojado. Puede simular el movimiento del dinero en una economía, pero dentro del equipo no circulan billetes. Del mismo modo, sostiene Searle, simular comprensión no significa necesariamente comprender.
Aunque el argumento de Searle es de la década de 1980, resulta especialmente interesante hoy cuando tenemos IA por todos lados.
Searle no intenta demostrar que una máquina jamás pueda tener mente, pero sí muestra que el pensamiento no puede reducirse sin más a la ejecución de reglas formales. Por lo que, si queremos afirmar que una máquina comprende, tendremos que explicar de dónde surge el significado y por qué sus símbolos son algo más que marcas manipuladas correctamente.
La pregunta, entonces, querido lector, no es si una computadora puede imitarnos, es ¿qué tendría que ocurrir dentro de un sistema para que pudiéramos decir, con buenas razones, que allí hay realmente alguien que entiende?
Acerca del autor
