¿Pueden los computadores pensar?
La razón por la que un programa de computador no pueda jamás ser una mente es simplemente que un programa de computador es solamente sintáctico, y las mentes son más que sintácticas. Las mentes son semánticas, en el sentido de que tienen algo más que una estructura formal: tienen un contenido.
Para ilustrar este punto he diseñado un cierto experimento de pensamiento. Imaginemos que un grupo de programadores de computador ha escrito un programa que capacita a un computador para simular que entiende chino. Así, por ejemplo, si al computador se le hace una pregunta en chino, confrontará la pregunta con su memoria o su base de datos y producirá respuestas adecuadas a las preguntas en chino.
Supongamos, por mor del argumento, que las respuestas del computador son tan buenas como las de un hablante nativo del chino. Ahora bien, ¿entiende el computador, según esto, chino? ¿Entiende literalmente chino, de la manera en que los hablantes del chino entienden chino?
Bien, imaginemos que se le encierra a usted en una habitación y que en esta habitación hay diversas cestas llenas de símbolos chinos. Imaginemos que usted (como yo) no entiende chino, pero que se le da un libro de reglas en castellano para manipular esos símbolos chinos. Las reglas especifican las manipulaciones de los símbolos de manera puramente formal, en términos de su sintaxis, no de su semántica.
[...] Supóngase, además, que los programadores son tan buenos al diseñar los programas y que usted es tan bueno manipulando los símbolos que enseguida sus respuestas son indistinguibles de las de un hablante nativo del chino. He aquí que usted está encerrado en su habitación barajando sus símbolos chinos y devolviendo símbolos chinos en respuesta a los símbolos chinos que entran.
[...] Ahora bien, lo esencial de la historieta es simplemente esto: en virtud del cumplimiento de un programa de computador formal desde el punto de vista de un observador externo, usted se comporta exactamente como si entendiese chino, pero a pesar de todo usted no entiende ni palabra de chino. [...] Todo lo que el computador tiene, como usted tiene también, es un programa formal para manipular símbolos chinos no interpretados.
Para repetirlo: un computador tiene una sintaxis, pero no una semántica. Todo el objeto de la parábola de la habitación china es recordarnos un hecho que conocíamos desde el principio. Comprender un lenguaje, o ciertamente, tener estados mentales, incluye algo más que tener un puñado de símbolos formales. Incluye tener una interpretación o un significado agregado a esos símbolos. Y un computador digital, tal como se ha definido, no puede tener más que símbolos formales puesto que la operación del computador, como dije anteriormente, se define en términos de su capacidad para llevar a cabo programas. Y esos programas son especificables de manera puramente formal —esto es, no tienen contenido semántico.
John Searle, Mentes, cerebros y ciencia, Cátedra, Madrid, 1985, pp. 37-39.