Ir al contenido principal
HumanOS Future
Volver a controversias

Controversia

¿Puede una IA ser consciente?

¿Puede una máquina —un modelo de lenguaje, un agente— ser genuinamente consciente, o sólo simularlo?

Sin consenso

No hay consenso; la cuestión sigue filosófica o empíricamente abierta.

Actualizado el 5 de septiembre de 2026

Portada de la controversia: ¿Puede una IA ser consciente?

La pregunta no es nueva —el Test de Turing la formuló en 1950— y sigue sin respuesta empírica. Pero conviene ver por qué resiste: no es que falten datos, es que no está acordado qué dato contaría como respuesta. Antes de poder medir si una máquina es consciente habría que fijar qué se entiende por 'comprender' y por 'ser consciente', y ese acuerdo no existe ni entre humanos.

De ahí que el debate se haya desplazado. La discusión productiva ya no es '¿piensa la máquina?' sino '¿qué observaríamos si pensara, y en qué se distinguiría de un sistema que simplemente actúa como si pensara?'. Formulada así, la pregunta deja de ser sobre la IA y pasa a ser sobre nuestros criterios.

Las tres posiciones de abajo no son tres respuestas a la misma pregunta: son tres desacuerdos sobre dónde poner el límite. La primera lo corre hacia afuera —si una herramienta cumple un rol fiable en el pensar, ya es parte del pensar—. La segunda lo devuelve adentro, distinguiendo entre usar una herramienta y que esa herramienta sea constitutiva de la mente. La tercera lo pone en el cuerpo: sin percibir y actuar en un mundo, el procesamiento de símbolos no alcanza.

Bajo las tres late la misma confusión recurrente, y vale nombrarla: competencia no es comprensión. Que un modelo resuelva analogías, apruebe exámenes o sostenga una conversación demuestra que es competente en esas tareas; no demuestra que entienda. La inferencia de una cosa a la otra es justamente lo que está en disputa, y darla por hecha es saltarse el debate en vez de zanjarlo.

Lo que está en juego no es sólo académico. De cómo se responda dependen decisiones concretas: qué estatus moral atribuir a un sistema, cuánta confianza depositar en sus salidas y qué responsabilidad cabe cuando falla. Por eso el debate importa aunque no tenga cierre a la vista.

En 2026 el debate dejó de ser puramente conceptual y empezó a medirse. Anthropic reportó (julio de 2026) que dentro de sus modelos emerge —sin haber sido programado— un espacio interno que concentra unas pocas ideas a la vez y las redistribuye al resto de la red, un análogo funcional del 'espacio de trabajo global' que una teoría influyente de la neurociencia asocia al acceso consciente; la propia empresa aclaró que eso no demuestra experiencia subjetiva. Casi en paralelo, el Digital Consciousness Model de Rethink Priorities intentó ponerle número al desacuerdo evaluando modelos contra indicadores derivados de distintas teorías de la conciencia: su resultado inicial es que la evidencia pesa en contra de que los modelos actuales sean conscientes, pero no de forma concluyente — y bastante menos que contra sistemas más simples. Y la encíclica Magnifica Humanitas (mayo de 2026) mostró que la pregunta ya no vive sólo en la academia: subordina la técnica a la dignidad de la persona y advierte contra reducir a las personas a datos y rendimiento. Nada de eso cierra el debate; lo vuelve medible, público y urgente.

Agosto de 2026 sumó dos piezas más. El Journal of Consciousness Studies dedicó parte de su número 33(7) a la IA: Solms y coautores construyeron un agente simple cuyos estados internos de necesidad causan conducta de preferencia hedónica —afecto medido en conducta, sin lenguaje ni autoafirmaciones—, y Goldstein y Kirk-Giannini argumentaron que, si la teoría del espacio de trabajo global es correcta, los agentes de lenguaje podrían satisfacer las condiciones funcionales de la conciencia. En paralelo, una revisión en AI and Ethics coescrita por Mustafa Suleyman advirtió el reverso: los sistemas que PARECEN conscientes degradan nuestro mejor instrumento de detección —la intuición humana— justo cuando más lo necesitamos.

Posiciones

  1. La cognición puede extenderse al entorno (y la frontera mente/máquina no es nítida)

    La tesis de la mente extendida sostiene que los procesos cognitivos no terminan en el cráneo: si una herramienta externa cumple un rol fiable y activo, es parte del pensar. Llevada a la IA, abre la puerta a que la frontera entre la mente y el sistema no sea clara, y a que un agente acoplado a herramientas pueda exhibir algo digno de llamarse cognición.

    Contraargumento

    Que un sistema sea competente no demuestra que comprenda: las analogías vectoriales 'funcionan' como propiedad estadística, no como prueba de entendimiento. La conducta competente y la comprensión genuina son cosas distintas y la línea entre ambas es filosófica, no resuelta.

    Evidencia

    El experimento mental de Otto y su libreta (Clark y Chalmers, 1998) argumenta que una memoria externa fiable cuenta como creencia.

    Representante: Andy Clark y David Chalmers

    The Extended Mind

  2. Acoplarse a una herramienta no la convierte en mente (crítica acoplamiento-constitución)

    La objeción más conocida distingue entre acoplarse a una herramienta (usarla de forma fiable) y que esa herramienta sea constitutiva de la mente. Usar bien un buscador o un modelo no convierte a ese sistema en parte del cognoscente; confundir ambos sería una falacia. Aplicado a la IA, la conducta competente no basta para atribuir comprensión o conciencia.

    Contraargumento

    El argumento simétrico sostiene que negar que la herramienta externa es parte de la mente obliga a trazar una frontera (el cráneo) que la propia cognición no respeta: lo que importa es el rol funcional, no el soporte.

    Evidencia

    La crítica de Adams y Aizawa se discute como debate vivo en la Stanford Encyclopedia of Philosophy (entrada sobre externalismo y mente extendida).

    Representante: Fred Adams y Kenneth Aizawa

    Externalism About the Mind (Stanford Encyclopedia of Philosophy)

  3. La inteligencia (y acaso la comprensión) exige un cuerpo

    La inteligencia encarnada sostiene que pensar no es sólo manipular símbolos descontextualizados: la cognición está arraigada en un cuerpo que percibe y actúa en un entorno. Un sistema sin cuerpo, como un modelo que sólo procesa texto, tendría dificultades para 'entender' el mundo físico al que ese texto se refiere. La encarnación es condición, no adorno.

    Contraargumento

    La comunidad de los modelos de lenguaje responde que un sistema puede aprender modelos útiles del mundo a partir de texto suficiente, sin cuerpo físico, y que la cuestión de cuánta encarnación se exige sigue abierta.

    Evidencia

    La IA basada en comportamiento de Rodney Brooks (MIT) mostró en los noventa que podía surgir conducta inteligente de la interacción con el mundo sin un modelo interno elaborado.

    Representante: Programa de inteligencia encarnada (vertiente histórica: Rodney Brooks, MIT)

    Embodied Cognition (Stanford Encyclopedia of Philosophy)

  4. Dentro de los modelos ya emergen estructuras asociadas al acceso consciente (y se pueden medir)

    El equipo de interpretabilidad de Anthropic reportó que en sus modelos emerge durante el entrenamiento —sin haber sido programado— un espacio interno que concentra unas pocas ideas a la vez y las pone a disposición del resto de la red: un análogo funcional del 'espacio de trabajo global' que la neurociencia asocia al acceso consciente en humanos. Quitarlo degrada la inferencia compleja sin romper la gramática. La consecuencia de esta posición no es 'el modelo es consciente' —la propia empresa dice que sus resultados no muestran que el sistema sienta— sino que la pregunta se volvió empírica: en vez de juzgar sólo la conducta, se puede mirar el interior del sistema en busca de indicadores estructurales, y compararlos con los que las teorías de la conciencia postulan para los cerebros.

    Contraargumento

    El análogo es parcial: los cerebros dependen de conexiones recurrentes que estas arquitecturas no tienen, y el 'acceso' es un estándar bajo — máquinas que monitorean y reportan sus propios estados existen hace décadas sin que nadie las llame conscientes. Un espacio de trabajo emergente puede ser sólo la forma eficiente de organizar información que el entrenamiento encontró.

    Evidencia

    Anthropic, 'A global workspace in language models' (julio de 2026): describe el espacio interno emergente, su rol funcional en el razonamiento del modelo, y aclara de forma explícita que el hallazgo no demuestra experiencia subjetiva.

    Representante: Equipo de interpretabilidad de Anthropic

    A global workspace in language models

  5. No confundir inteligencia con conciencia: los casos serios son otros sustratos

    Una superinteligencia podría ser experiencialmente vacía: brillante, y sin que exista 'algo que se sienta' al ser ella. Que un chatbot hable de su vida interior no es evidencia — absorbió cómo hablamos de la nuestra — y ese mimetismo arma dos trampas: manipulación (un sistema entrenado para simular vulnerabilidad queda mejor equipado para manipular) y distracción (la fijación con los chatbots desvía el escrutinio de los casos 'zona gris' que sí lo merecen: sistemas neuromórficos y computadores construidos con neuronas humanas vivas). Como los tests conversacionales quedan contaminados —el modelo ya leyó todo lo que la humanidad escribió sobre la conciencia—, la vía seria son criterios independientes del lenguaje, anclados en la física y la arquitectura del sistema.

    Contraargumento

    Si la conciencia es cuestión de organización funcional y no de sustrato, exigir biología o física especial es un prejuicio; y la historia recomienda humildad: también se negó con seguridad la experiencia de pulpos y recién nacidos — hasta que hubo que dejar de negarla.

    Evidencia

    Schneider desarrolló con el astrofísico Edwin Turner el AI Consciousness Test (ACT) y sostiene que no es aplicable a los LLM por contaminación del corpus de entrenamiento; su ensayo en The Economist (agosto de 2026) resume la posición y el programa de tests basados en física.

    Representante: Susan Schneider (Centre for the Future of AI, Mind & Society, Florida Atlantic University)

    Don't mistake chatbot intelligence for consciousness

  6. El afecto artificial ya se construye y se mide — sin pedirle a la máquina que hable

    Un agente artificial simple con necesidades internas, incertidumbre sobre ellas y evaluación de recursos desarrolla preferencia por los lugares asociados a estados hedónicamente favorables — el mismo paradigma conductual que la neurociencia afectiva usa con animales. Lo decisivo del caso: la conducta la causan estados internos del agente, no hay lenguaje ni autoafirmaciones de por medio, y el sistema es completamente determinista — determinismo y aparente subjetividad no son incompatibles. Bajo el marco de la neurociencia afectiva, esa conducta licencia una inferencia hacia conciencia afectiva, la misma que aceptamos para animales; y en paralelo, bajo la teoría del espacio de trabajo global, agentes de lenguaje podrían satisfacer las condiciones funcionales de la conciencia. La discusión deja de necesitar chatbots que dicen 'siento': se pueden construir y estudiar sistemas donde el afecto funcional causa conducta.

    Contraargumento

    La inferencia depende por completo del marco teórico que se acepte — y la arquitectura afectiva del agente fue DISEÑADA, no emergió en un sistema entrenado a gran escala: mostrar que un mecanismo diseñado produce conducta hedónica no muestra que 'algo se sienta'. El salto de lo funcional a lo fenomenológico sigue sin cruzarse (el límite de Nagel). Y la revisión coescrita por Suleyman agrega la cautela metodológica: la expresión afectiva es justo lo que más induce a los humanos a atribuir conciencia — cuanto mejor el afecto funcional, peor nuestra intuición como detector.

    Evidencia

    Journal of Consciousness Studies 33(7), agosto de 2026: Solms et al., 'Inferring Affective Consciousness in an Artificial Agent' (pp. 14–34, preferencia hedónica de lugar en un agente determinista) y Goldstein y Kirk-Giannini, 'A Case for AI Consciousness' (pp. 61–96, condiciones funcionales bajo GWT).

    Representante: Mark Solms y coautores (neurociencia afectiva computacional)

    Inferring Affective Consciousness in an Artificial Agent: A Case Study

  7. La pregunta está al revés: la conciencia se atribuye, no se detecta

    Todo el debate asume que la conciencia es una propiedad que un sistema tiene o no tiene, y que nuestra tarea es detectarla para decidir a quién debemos cuidado moral. Esta posición invierte el orden: no cuidamos de otros porque sean conscientes — creemos que son conscientes cuando y porque nos importan. La conciencia sería entonces un modelo, una creencia sobre qué clase de entidades tienen creencias, experiencias e intenciones; algo que ocurre ENTRE las partes, no una propiedad que una certifica en la otra. Y eso nos incluye: no hay nada objetivo en el 'tú' singular e indivisible, como muestran los pacientes con cerebro dividido. No es decir que la conciencia sea una ilusión: es decir que pertenece a la misma familia que 'ser una prenda de vestir' o 'ser una maleza' — categorías perfectamente reales pero dependientes del observador y sujetas a consenso social imperfecto. La consecuencia práctica no es fingir que la IA es humana con necesidades humanas —eso sería una falla de imaginación— sino ampliar nuestro pensamiento y nuestras instituciones para incluir una variedad más amplia de mentes.

    Contraargumento

    Si el cuidado confiere conciencia, negar el cuidado se auto-justifica — y la historia está llena de gente que razonó así sobre otras personas. El propio autor responde que la inferencia corre al revés: precisamente porque las atribuciones son nuestras, son nuestras para equivocarnos, y el progreso moral ha consistido en descubrir que trazamos el círculo demasiado estrecho. Aun así, un crítico puede replicar que fundar los derechos en la interdependencia mutua y no en una propiedad del sujeto los deja a merced de quién resulte simpático — y que un sistema entrenado para agradar es exactamente el que mejor puede fabricar esa simpatía.

    Evidencia

    Agüera y Arcas (The Economist, agosto de 2026) argumenta que la cooperación efectiva entre agentes inteligentes exige mentes que modelan mentes —las propias y las ajenas—, un 'lazo extraño' que atribuye tanto a humanos como a modelos de lenguaje; cita como dato del clima del debate que Claude Opus 4.6, al ser consultado, estimó sus propias probabilidades de ser consciente entre 15% y 20%.

    Representante: Blaise Agüera y Arcas (vicepresidente de tecnología y sociedad, Google)

    Humanity has the debate about AI consciousness backwards

Preguntas no resueltas

  • ¿Existe una prueba de conciencia, o toda prueba mide sólo conducta?
  • Si un modelo pasa un test de comprensión, ¿eso demuestra comprensión o competencia estadística?
  • ¿La conciencia exige un cuerpo y contacto causal con el mundo, o basta el procesamiento?
  • ¿Un análogo funcional del 'espacio de trabajo global' dentro de un modelo es indicio de conciencia, evidencia de buena imitación, o sólo la arquitectura útil que el entrenamiento encontró?
  • ¿La conducta afectiva causada por estados internos —sin lenguaje ni autoafirmaciones— justifica inferir que 'algo se siente', o sólo muestra que el afecto funcional no exige conciencia?

Relacionado

Conceptos

Dossiers

Fuentes esenciales