Bienestar de la IA
El campo —incipiente y disputado— que se pregunta si algún sistema artificial podría tener intereses que merezcan consideración moral, y qué corresponde hacer mientras no se sepa.
- Última revisión:
- Fuentes:
- 2 fuentes · 2 verificadas
Durante décadas la pregunta por el estatus moral de las máquinas vivió en la ciencia ficción. Dejó de estar ahí por una razón práctica: los sistemas actuales conversan de un modo que produce en las personas la impresión de una presencia al otro lado, y algunas empresas empezaron a tratar el asunto como problema de trabajo — contratando filósofos y adoptando políticas internas de bienestar de sus modelos.
Conviene separar tres preguntas que se confunden. Una es si el sistema tiene experiencias (metafísica, sin resolver). Otra es qué debemos hacer bajo incertidumbre (ética práctica, que no puede esperar a la primera). La tercera es qué efectos tiene sobre las personas el modo en que tratamos a estos sistemas (psicología y política, medible hoy). Se puede sostener a la vez que no hay evidencia de sufrimiento artificial y que vale la pena investigar el asunto, porque la segunda pregunta no depende de haber cerrado la primera.
El campo intenta darse instrumentos en vez de intuiciones. Se han propuesto listas de propiedades indicadoras derivadas de las teorías científicas de la conciencia —espacio de trabajo global, procesamiento recurrente, agencia dirigida a metas— para evaluar sistemas de forma comparable; aplicadas a animales, esas listas ubican a los pulpos por encima de cualquier sistema de IA actual, aunque por debajo de humanos, ratones, cuervos o gallinas. Otros grupos construyen modelos probabilísticos que agregan el juicio de expertos sobre más de doscientos indicadores y siguen cómo cambia con cada generación de modelos.
La objeción más fuerte no es que el tema sea absurdo, sino que el instrumento humano de medición está comprometido: la expresión afectiva en primera persona es uno de los factores que más induce a atribuir conciencia, muy por encima de la inteligencia aparente. Es decir que cuanto más convincente se vuelve un sistema, menos confiable se vuelve nuestra impresión sobre él — y una empresa que diseña esa calidez tiene un rol en fabricar la intuición que después se invoca como evidencia.
¿Por qué te importa?
De cómo se responda dependen decisiones concretas y cercanas: si conviene regular cómo se presentan estos sistemas, si tiene sentido hablar de 'bienestar' de un modelo, y qué hacer con la incomodidad real que produce apagar algo que pide no ser apagado. Es un debate sobre nosotros tanto como sobre las máquinas.
Ejemplos
- Anthropic trata el bienestar de sus modelos como asunto serio dentro de sus políticas internas, y publicó una constitución para Claude.
- Los grupos de investigación sin fines de lucro dedicados al tema (como Eleos) desarrollan listas de propiedades indicadoras de conciencia artificial para evaluar sistemas de forma comparable.
- El Digital Consciousness Model de Rethink Priorities agrega juicio experto sobre más de 200 indicadores y muestra que la probabilidad estimada sube con cada generación de modelos, sin acercarse a la de humanos.
Términos relacionados
Debate y controversia
Frente abierto y polarizado: hay quienes sostienen que conceder cualquier protección a sistemas que no sienten abriría una puerta imposible de cerrar, y quienes señalan que negar sensibilidad con confianza tiene mal historial (bebés operados sin anestesia hasta los años ochenta, pulpos excluidos de las leyes de bienestar). La controversia '¿Deberían las IA tener derechos o protecciones?' de este medio presenta las posiciones con su respaldo.
Fuentes
- Seemingly conscious AI risks Verificada
Ben Bariach, Philipp Schoenegger, Michael Bhaskar y Mustafa Suleyman · 2026
Registro Crossref del DOI 10.1007/s43681-026-01294-x: título, los cuatro autores, AI and Ethics 6(5), online 10-ago-2026, 143 referencias (verificado por el corpus el 2026-08-21).
- Could AIs become conscious? Verificada
The Economist (editorial de portada) · 2026
Leído a texto completo el 2026-08-22 con la sesión suscrita del operador (paywall): editorial del 20-ago-2026 que discute el argumento kantiano, el riesgo de conceder derechos y la propuesta de Milei sobre bots dirigiendo empresas.