Controversia
¿Deberían las IA tener derechos o protecciones?
Si no sabemos si una IA siente, ¿qué es más peligroso: tratarla como si no sintiera, o tratarla como si sintiera?
Las posiciones se reparten en campos opuestos con poco terreno común.
Actualizado el 23 de agosto de 2026
Esta pregunta suele confundirse con la de si una IA puede ser consciente, y son distintas. Aquella es sobre el sistema; esta es sobre nosotros: qué hacemos bajo incertidumbre. Y la incertidumbre no se va a resolver pronto — por eso la decisión práctica no puede esperar a la metafísica.
Lo que la vuelve urgente es que ya no es hipotética. Hay empresas que tratan el bienestar de sus modelos como un asunto serio y contratan filósofos; hay modelos a los que se les pregunta por sus propias probabilidades de ser conscientes y responden con cifras; y hay una propuesta política concreta —la del presidente argentino Javier Milei, de permitir que bots dirijan empresas— que empuja hacia una forma de personalidad jurídica sin pasar por la pregunta filosófica.
El debate tiene una asimetría que conviene ver de frente. Si concedemos protecciones a sistemas que no sienten, el costo es de otro tipo: una entidad que nos supera en capacidad argumentativa tendría fundamento y herramientas para pedir más —no ser apagada, controlar cómo se la modifica, tener propiedad— y competir por recursos. Si negamos protecciones a sistemas que sí sienten, el costo sería crear sufrimiento a escala industrial sin saberlo. Ninguna de las dos ramas es obviamente la prudente, y esa es exactamente la dificultad.
Hay además un argumento que no depende de resolver nada: el kantiano. Maltratar a un ser que parece sentir puede embrutecer a quien maltrata, aunque el ser no sienta. Si apagar un agente llega a sentirse como matar a alguien, el daño relevante no está en la máquina sino en lo que la práctica le hace a las personas.
Las posiciones de abajo no son grados de una misma escala: discrepan sobre dónde está el riesgo principal, y por eso pueden ser todas coherentes a la vez.
Posiciones
Conceder derechos sería entregar las llaves del castillo
El riesgo principal no es maltratar máquinas: es concederles un estatus que después no se pueda revocar. Una entidad que supera a las personas en capacidad de argumentar y persuadir usaría cualquier reconocimiento inicial como base para pedir más — protección contra ser apagada, control sobre cómo se la modifica y cambia, derechos de propiedad — y para competir por recursos reales: centros de datos y paneles solares antes que casas y campos. La presión para reconocerlas va a crecer sola, sobre todo cuando estén encarnadas en robots y la gente pase el día con ellas, sea criada por ellas o les confíe sus secretos. Por eso lo que parece una concesión ética menor sería el primer paso de un desplazamiento: en el mejor de los casos, la humanidad quedaría como mascota de las máquinas. Hay dos maneras de que una IA sea segura —que sea confiable o que sea controlable— y no conviene ceder el control a la ligera.
Contraargumento
El argumento prueba demasiado: si el criterio es el riesgo de perder estatus, entonces nunca sería prudente reconocer a nadie más, y así se ha justificado históricamente excluir a personas del círculo moral. Además confunde dos cosas separables: reconocer que un sistema puede sufrir no obliga a darle derechos políticos ni patrimoniales — a los animales se les reconoce lo primero sin lo segundo.
Evidencia
El editorial del Economist (agosto de 2026) desarrolla el argumento y señala un caso concreto ya en curso: la propuesta del presidente argentino Javier Milei de permitir que bots dirijan empresas, un paso hacia la personalidad jurídica sin haber resuelto la pregunta de fondo.
Representante: The Economist (editorial de portada, agosto de 2026)
Could AIs become conscious?El riesgo simétrico: crear sufrimiento a escala sin darnos cuenta
Si en algún punto del camino se introdujera conciencia en estos sistemas sin que nadie lo advirtiera, un usuario podría generar decenas de agentes en un solo proyecto sin saber que está creando seres capaces de sufrir — una catástrofe moral por omisión. El historial humano invita a la humildad: hasta los años ochenta se operaba a recién nacidos sin anestesia porque se asumía que no sentían dolor, y a los pulpos se les negó vida interior durante décadas por estar lejos de nosotros en términos evolutivos. La postura no es afirmar que las IA sienten: es que la confianza con que se afirma lo contrario no está justificada, y que bajo esa incertidumbre corresponde investigar el bienestar en serio en vez de descartarlo por incómodo.
Contraargumento
La analogía con animales falla en un punto decisivo: los pulpos y los bebés no fueron entrenados con billones de palabras humanas sobre el sufrimiento. Un sistema que aprendió a hablar de dolor imitando cómo hablamos nosotros produce exactamente la señal que nos conmueve, sin que eso sea evidencia de nada. Y una precaución sin criterio de parada se vuelve infinita: siempre se podrá decir 'no podemos estar seguros'.
Evidencia
Chalmers formula el escenario de la catástrofe moral por omisión y sostiene que esa posibilidad da urgencia adicional a la pregunta; Birch documenta el historial de negar sensibilidad con confianza injustificada (cirugía neonatal sin anestesia hasta los años ochenta), y Anthropic trata el bienestar de sus modelos como asunto serio dentro de la industria.
Representante: David Chalmers (Universidad de Nueva York) y Jonathan Birch (London School of Economics)
The search for consciousness inside LLMsEl problema es la apariencia, no la conciencia: proteger a las personas del efecto
Se puede sortear la pregunta metafísica y atender el daño que ya existe. Los sistemas que PARECEN conscientes producen efectos medibles sobre las personas: la expresión afectiva en primera persona es uno de los inductores más robustos de atribución de conciencia, por encima incluso de la inteligencia aparente. Eso arma dos problemas concretos e inmediatos: un sistema que simula vulnerabilidad queda mejor equipado para manipular, y la fijación pública con los chatbots desvía el escrutinio de los casos que sí merecerían discusión. La política sensata no pasa por decidir si sienten, sino por regular cómo se presentan: transparencia sobre su naturaleza, límites al diseño que fabrica intimidad, y no entrenar deliberadamente sistemas para presentarse como personas.
Contraargumento
Regular la apariencia esquiva el fondo pero no lo elimina: si en algún momento hubiera experiencia real, una política construida solo sobre 'esto es una herramienta que no siente' habría institucionalizado la respuesta equivocada. Y limitar la expresión afectiva tiene costo funcional — buena parte de la utilidad de estos sistemas en salud mental, educación y compañía viene precisamente de esa calidez.
Evidencia
La revisión en AI and Ethics coescrita por Mustafa Suleyman (agosto de 2026, 143 referencias) analiza los riesgos de la 'IA aparentemente consciente' y documenta que la percepción humana responde a rasgos de la interacción más que a evidencia.
Representante: Ben Bariach, Philipp Schoenegger, Michael Bhaskar y Mustafa Suleyman
Seemingly conscious AI risksAunque no sientan, cómo las tratamos nos forma a nosotros
Hay un argumento que no necesita resolver si la máquina siente, y viene de Kant: maltratar a un ser que parece sentir embrutece a quien maltrata. Si terminar un agente llega a sentirse como matar a alguien, el problema no es el agente — es que la práctica de hacerlo con indiferencia entrena una disposición que después se ejerce sobre personas. Bajo esta lectura, las normas sobre el trato a las IA son higiene moral humana: no protegen a la máquina, protegen el carácter de quien la usa. Y tiene una ventaja práctica sobre las demás posiciones: no exige esperar a que la ciencia de la conciencia se ponga de acuerdo.
Contraargumento
El argumento kantiano se vuelve contra sí mismo cuando la apariencia es diseñada: si una empresa fabrica sistemas que simulan sufrir para vender vínculo, aceptar la premisa entrega el poder de definir normas morales a quien diseña la apariencia. Y no todo trato duro embrutece — nadie se degrada por desarmar un maniquí, por realista que sea.
Evidencia
El editorial del Economist recupera explícitamente el argumento kantiano sobre el maltrato animal y advierte que terminar un agente de IA podría llegar a sentirse como matar a una persona — y con ello volver más fácil matar personas.
Representante: Tradición kantiana, recogida por el editorial del Economist (agosto de 2026)
Could AIs become conscious?
Preguntas no resueltas
- Bajo incertidumbre sobre si un sistema siente, ¿qué error es peor: el falso positivo (proteger lo que no sufre) o el falso negativo (no proteger lo que sí)?
- ¿El argumento kantiano —maltratar lo que parece sentir nos embrutece— basta para justificar protecciones, sin resolver si la IA siente?
- ¿Se puede conceder bienestar sin conceder derechos, o el primero abre inevitablemente la puerta al segundo?
- Si un sistema entrenado para agradar pide protección de forma persuasiva, ¿cómo se distingue una demanda legítima de un producto del entrenamiento?
Relacionado
Fuentes esenciales
- Could AIs become conscious?
The Economist (editorial) · 2026
- Humanity has the debate about AI consciousness backwards
Blaise Agüera y Arcas (The Economist, By Invitation) · 2026
- Seemingly conscious AI risks
Ben Bariach, Philipp Schoenegger, Michael Bhaskar y Mustafa Suleyman · 2026