Argumento de la habitación china

Imagina que estás encerrado en una habitación, sin saber una palabra de chino, y recibes por una ranura tarjetas con símbolos chinos. Tienes un manual en tu idioma que te dice, para cualquier combinación de símbolos que entra, qué símbolos devolver por la misma ranura. Siguiendo el manual al pie de la letra, tus respuestas resultan indistinguibles de las de un hablante nativo de chino para quien está afuera. Pero tú, adentro, no entiendes una palabra de lo que procesaste: sólo manipulaste formas siguiendo reglas.

Ese es el experimento mental que John Searle publicó en 1980 en el artículo "Minds, Brains, and Programs". Su conclusión: si la persona dentro de la habitación —que ejecuta exactamente el mismo procedimiento formal que ejecutaría un programa de computador— no comprende chino pese a producir respuestas correctas, entonces ningún computador que ejecute ese mismo programa comprende tampoco, sin importar cuán convincentes sean sus respuestas. Searle usó esto para refutar lo que llamó la "IA fuerte": la tesis de que un computador correctamente programado no simula una mente, sino que literalmente tiene una.

La respuesta más discutida —y la que Searle mismo anticipó y respondió en su artículo original— es la "réplica de sistemas" (system reply): concede que la persona dentro de la habitación no entiende chino, pero sostiene que el sistema completo (la persona, el manual, las tarjetas, la habitación entera) sí entiende, aunque ninguna de sus partes por separado lo haga. Searle contraargumenta que la persona podría memorizar todo el manual y trabajar mentalmente sin ninguna habitación ni papeles —convirtiéndose ella misma en "todo el sistema"— y seguiría sin entender chino, lo que para él muestra que la réplica de sistemas no resuelve el problema.

Existen otras réplicas clásicas que la Stanford Encyclopedia of Philosophy documenta con detalle: la "réplica del robot" (que el sistema entendería si estuviera conectado a sensores y actuadores en el mundo, no aislado en una habitación), la "réplica del simulador cerebral" (que simular cada neurona del cerebro de un hablante de chino sí produciría comprensión), y objeciones desde el conexionismo que cuestionan si la analogía con un programa de reglas simbólicas aplica a redes neuronales que no operan por reglas explícitas como el manual del experimento.

El argumento sigue citándose hoy exactamente por eso: los grandes modelos de lenguaje actuales procesan y generan texto de manera que, para muchos críticos, se parece bastante a la habitación china a escala industrial —transforman patrones de entrada en patrones de salida sin que esté claro si hay algo parecido a comprensión detrás—. Es central remarcar que se trata de una TESIS FILOSÓFICA sobre qué constituye comprensión genuina, no de un hecho técnico verificable sobre cómo funcionan los modelos de lenguaje por dentro.