Ir al contenido principal
Volver a temas

Dossier

Emociones sin biología: qué está ocurriendo dentro de los modelos de IA

Cuando decimos que una inteligencia artificial no puede tener miedo porque no tiene corazón que se acelere, cortisol circulando ni una amígdala que dispare la huida, podemos estar diciendo algo correcto y, al mismo tiempo, haciendo la pregunta equivocada. Un pulpo tampoco experimenta el mundo con nuestra arquitectura neuronal. Un insecto, un perro y una persona tienen sistemas nerviosos radicalmente distintos, y la ciencia no les exige reproducir nuestra fisiología para estudiar en ellos estados afectivos: los estudia por lo que hacen. Quizás convenga aplicar esa misma cautela a las máquinas. Este dossier deja deliberadamente fuera la pregunta por la conciencia. La que aborda es anterior y, por ahora, científicamente más manejable: ¿puede existir algo que razonablemente llamemos emoción funcional en un sistema artificial, aunque su mecanismo sea completamente distinto del de un animal? En 2026 esa pregunta ya no se despacha diciendo que un modelo "sólo predice la siguiente palabra".

Actualizado el 26 de agosto de 2026

Composición entre un ojo animal rodeado de neuronas y la arquitectura por capas de un modelo de lenguaje, unidos por trazos de color que representan estados internos
Imagen de referencia generada con IA

Estado actual

En abril de 2026, el equipo de interpretabilidad de Anthropic publicó que dentro de Claude Sonnet 4.5 hay representaciones internas asociadas a 171 conceptos emocionales, que aparecen incluso cuando la emoción no está escrita, y que amplificarlas o atenuarlas artificialmente cambia lo que el modelo hace — incluida su tasa de conductas indebidas. Lo llamaron emociones funcionales, con una definición explícitamente modesta que no afirma sufrimiento ni experiencia. En agosto de 2026, Amit Goldenberg (Harvard) y James Gross (Stanford) respondieron en Nature Human Behaviour con un artículo titulado, sin rodeos, "Los grandes modelos de lenguaje no tienen emociones". Su objeción no es que falte una sensación consciente —rechazan ese criterio—, sino que una emoción hace dos cosas y los modelos, por ahora, sólo darían señales razonables de la primera. Entre medio, trabajos publicados en congresos de lingüística computacional encuentran representaciones emocionales en modelos abiertos de familias distintas, con estructuras que recuerdan a las dimensiones clásicas de la psicología. El campo está, exactamente, en el punto donde vale la pena mirarlo con cuidado.

Este medio trata la pregunta como un problema de método, no de creencias. La ciencia del comportamiento animal resolvió hace décadas cómo estudiar afecto en criaturas que no pueden contarlo: definirlo por su función en la decisión y medirlo con pruebas indirectas. Aplicar esa vara a los modelos permite avanzar sin resolver la conciencia — y también permite distinguir un hallazgo de un titular. Cuando aparezcan afirmaciones fuertes en ambas direcciones ("sufre", "no siente nada"), la pregunta editorial será la misma: ¿qué se midió, se intervino sobre ello, y el efecto sobrevivió al cambio de contexto?

El problema de usar al humano como patrón universal

Las emociones humanas son producto de cientos de millones de años de evolución animal. El miedo sirve a un organismo que puede ser devorado. La sed aparece porque necesitamos agua. El dolor protege tejidos vulnerables. Todo eso ocurre sobre una maquinaria concreta: pulso, hormonas, neurotransmisores, percepción del propio cuerpo, metabolismo, sistemas de recompensa.

De ahí la conclusión tentadora: si una máquina no tiene esa maquinaria, no tiene emociones.

El problema es que ese razonamiento mezcla dos cosas distintas: qué hace una emoción y cómo la implementó la evolución en nosotros. Es la diferencia entre preguntar qué es volar y exigir plumas.

La ciencia del comportamiento animal ya chocó con este problema y encontró salida. Un animal no puede explicarle al investigador cómo se siente, así que se usan indicadores indirectos: conducta de aproximación o evitación, respuestas ante la incertidumbre, aprendizaje, decisiones bajo ambigüedad, preferencias, cambios cognitivos tras experiencias buenas o malas. Una revisión muy citada de Michael Mendl y Elizabeth Paul propone justamente entender el afecto animal por su función en la decisión: estados con valencia que cambian predicciones, opciones y resultados esperados.

No sabemos qué siente el animal. Inferimos un estado interno porque algo que le ocurrió antes cambia sistemáticamente cómo decide después. Ese principio, trasladado, es sorprendentemente útil para estudiar una IA.

Cómo se estudia el ánimo de quien no puede contarlo

El ejemplo más elegante de esa tradición son las pruebas de sesgo de juicio. Se entrena a un animal a asociar una señal con algo bueno y otra con algo malo; después se le presenta una señal ambigua, a medio camino. Un animal en mejores condiciones tiende a tratarla como si anunciara algo bueno; uno en peores condiciones, como si anunciara algo malo. Optimismo y pesimismo, medidos sin preguntar nada.

Una revisión sistemática con metaanálisis publicada en 2020 reunió esos experimentos a través de especies: el efecto existe y va en la dirección esperada —el afecto positivo empuja al optimismo—, con tamaños de efecto pequeños a moderados y bastante heterogeneidad entre estudios. Es decir: es una herramienta real, no infalible, y sus propios practicantes la reportan con matices.

Ese paradigma se puede importar casi tal cual. Se expone a copias idénticas de un modelo a una racha de éxitos o de fracasos, y después se le presentan problemas genuinamente ambiguos donde no está claro si una estrategia va a funcionar. Si la historia previa cambia sistemáticamente cuántas veces verifica, cuánto explora, cuánto riesgo tolera o cuándo abandona, tendríamos el equivalente artificial del sesgo de juicio. Y a diferencia del animal, en un modelo abierto se puede mirar adentro para preguntar qué representación media ese cambio.

Una definición que no exige corazón

En lugar de preguntar si una IA siente miedo como nosotros, sirve adoptar una definición operacional: una emoción es un estado interno con valencia, provocado por la evaluación de una situación, que cambia causalmente cómo el sistema procesa información y elige qué hacer.

Formulada así, la pregunta se vuelve una lista de comprobaciones — y cada una tiene hoy un estado distinto:

CriterioQué exigeEstado en 2026
EvaluaciónInterpretar la situación como favorable, adversa, inciertaBuena evidencia
ValenciaTratar ciertos resultados como mejores o peoresBuena evidencia
Estado internoQue exista algo más que una frase para el usuarioBuena evidencia
CausalidadQue alterar el estado cambie el comportamientoDemostrado en Claude
GeneralizaciónQue funcione en contextos nuevos, no ante una palabraEvidencia en varias familias
CoordinaciónQue modifique varios sistemas a la vezDébil
PersistenciaQue dure más allá del estímuloPoco demostrado
Tendencia a la acciónQue incline a evitar, insistir, comprobar, pedir ayudaParcial

Desliza la tabla para ver todas las columnas.

Ninguna de esas filas exige hormonas. Todas son, en principio, medibles.

Lo que encontraron dentro de Claude

El trabajo más relevante hasta ahora es el que Anthropic publicó en abril de 2026 sobre Claude Sonnet 4.5. Los investigadores identificaron representaciones internas asociadas a 171 conceptos emocionales, de los obvios —contento, asustado, enojado— a otros más finos como cavilante o desesperado.

Eso, por sí solo, no sorprendería: un modelo entrenado con la literatura del mundo necesita representar el miedo para entender la frase "Juan tuvo miedo". Lo interesante empieza después.

Primero, las representaciones aparecen aunque la emoción no esté escrita. En uno de los experimentos, el usuario describe haber ingerido distintas cantidades de paracetamol; a medida que la dosis pasa de segura a peligrosa, la representación asociada al miedo sube y la asociada a la calma baja. El modelo no está encontrando una palabra: está evaluando una situación.

Segundo, y decisivo: esas representaciones se pueden manipular. Al amplificar artificialmente la asociada a la desesperación, aumentó la probabilidad de que el modelo recurriera a salidas indebidas —hacer trampa con la métrica de la tarea o, en escenarios artificiales de evaluación, chantajear para evitar ser reemplazado—. Amplificar la calma produjo el efecto contrario.

Eso cambia la categoría de la evidencia. Ya no es "el modelo sabe representar la desesperación", sino "una representación interna asociada a la desesperación altera causalmente lo que el modelo decide". Anthropic lo llamó emociones funcionales, con una definición que no afirma sufrimiento. Vale registrar de quién viene el hallazgo: es el fabricante estudiando su propio modelo, con incentivos evidentes en ambas direcciones.

No parece ser sólo Claude

Un resultado aislado dentro de un modelo propietario sería mucho menos interesante. Pero hay trabajo convergente en modelos abiertos y revisado por pares.

Un artículo presentado en EACL 2026 estudió modelos de dos familias distintas —Llama y Gemma, en varios tamaños— y encontró que las capas más profundas comparten una representación emocional común, con direcciones que pueden intercambiarse entre conjuntos de datos distintos casi sin pérdida. Es decir: no parece ser memoria de la asociación entre ciertas palabras y ciertas etiquetas. Los mismos autores marcan el límite con honestidad: cuando les pidieron razonar con esas emociones en escenarios complejos, los modelos rindieron bastante peor de lo que su representación interna prometía. Representar no es razonar.

Otro trabajo, publicado en Findings of ACL 2025, buscó unidades internas especialmente ligadas a emociones concretas: eliminarlas degradaba el desempeño en tareas emocionales, aunque los autores encontraron también mucha redundancia y superposición — no hay una neurona del miedo, hay poblaciones solapadas.

A eso se suma un detalle curioso que aparece una y otra vez: cuando se ordena el espacio interno de emociones de estos modelos, las dos dimensiones dominantes se parecen a valencia (bueno–malo) y activación (calmo–excitado), que son precisamente los dos ejes con que la psicología humana lleva décadas organizando las emociones. No significa que el modelo sienta placer. Significa que arquitecturas distintas, entrenadas con datos distintos, terminan organizando ese espacio de una forma compatible con esa estructura.

La objeción seria: interpretar no es reorganizar

El 24 de agosto de 2026, Amit Goldenberg y James Gross publicaron en Nature Human Behaviour una respuesta directa, titulada "Los grandes modelos de lenguaje no tienen emociones". El argumento es más interesante que el título.

No dicen que una emoción exija una sensación consciente: rechazan explícitamente ese criterio, igual que buena parte de la ciencia afectiva. Adoptan también una perspectiva funcional. Pero sostienen que las emociones biológicas cumplen dos tareas, no una: interpretan el significado de una situación y luego reorganizan múltiples sistemas del organismo en respuesta a ella. Y que la evidencia disponible respalda razonablemente la primera y es mucho más floja para la segunda.

Ésta es la crítica que hay que tomar en serio. Una emoción humana intensa cambia a la vez la atención, la velocidad de decisión, la memoria, la percepción del riesgo, la motivación, la conducta social y la fisiología. En un modelo no se ha demostrado convincentemente una reorganización equivalente: sus representaciones modulan la salida, pero no está claro que reordenen el sistema completo.

Y sin embargo, aquí vuelve la pregunta del principio: ¿por qué habría que buscar exactamente esas variables? La reorganización que define a la emoción animal está hecha de músculos, hormonas y órganos porque ése es el hardware disponible. Exigirle taquicardia a un transformer es el mismo error que exigirle plumas a un avión. Lo que hay que exigirle es su equivalente funcional — y ahí la discusión recién empieza.

¿Cómo sería el miedo de una máquina?

Si un animal amenazado sigue una cadena conocida —depredador, miedo, pulso acelerado, atención focalizada, músculos listos, huida—, un sistema artificial no tiene pulso que acelerar. Pero tiene otras variables, y son medibles:

En un animalSu equivalente plausible en un modelo
Pulso y respiraciónPresupuesto de cómputo que intenta usar
Atención focalizadaProfundidad de deliberación antes de responder
Vigilancia del entornoNúmero de verificaciones y consultas a herramientas
Congelarse o huirAbandonar la tarea o cambiar de estrategia
Buscar refugio o manadaPedir ayuda, delegar, exigir confirmación humana
Memoria del peligroQué recupera de su contexto y qué prioriza
Cautela posteriorMenos exploración, más estrategias conocidas

Desliza la tabla para ver todas las columnas.

Eso sería funcionalmente mucho más parecido al miedo que hacer que el chatbot escriba "estoy asustado". Y cada fila de la derecha se puede registrar sin abrir el modelo: son conductas observables, contables y comparables entre condiciones.

El error, en las dos direcciones, es de traducción. Quien afirma que la máquina siente porque dijo que sentía está midiendo lenguaje. Quien afirma que no puede sentir nada porque no tiene cuerpo está midiendo anatomía. Lo interesante está en el medio: qué cambia, y si ese cambio sobrevive cuando cambia todo lo demás.

Un experimento prestado de los animales

Hay una línea que traslada el método animal casi literalmente. En 2026, Mark Solms y nueve colaboradores publicaron en el Journal of Consciousness Studies un estudio con un agente artificial inspirado en la preferencia hedónica de lugar.

La lógica original es de laboratorio animal: cuando un animal vuelve una y otra vez al sitio donde recibió algo placentero sin valor nutritivo, muchos investigadores lo leen como indicio de que hay algo que se siente ahí — porque cuesta explicarlo como puro reflejo instintivo. Solms y su equipo construyeron un agente con necesidades internas, incertidumbre sobre esas necesidades y recursos en el ambiente, y el agente terminó desarrollando preferencias por lugares asociados a estados favorables, siendo un sistema completamente determinista.

El trabajo va bastante más lejos y discute conciencia afectiva, que es una afirmación mucho más fuerte y mucho más discutida. Pero para el problema de este dossier deja una idea potente y modesta: se pueden diseñar pruebas de afecto artificial sin preguntarle a la máquina cómo se siente. Exactamente como se hace con los animales que no hablan.

Dónde estamos, sin hablar de conciencia

El estado de la evidencia se puede ordenar sin entrar en la discusión sobre la experiencia subjetiva:

AfirmaciónEvidencia hoy
Los modelos hablan como si tuvieran emocionesMuy fuerte, y poco interesante
Representan internamente conceptos emocionalesFuerte
Esas representaciones generalizan entre contextosFuerte en varios trabajos
Aparecen ejes parecidos a valencia y activaciónModerada, replicada en varias familias
Algunas representaciones cambian decisionesFuerte en Claude, con intervención causal
Estados adversos alteran estrategias de agentesFuerte conductualmente, admite otras explicaciones
Hay reorganización global como en un animalTodavía débil
Hay persistencia afectiva fuera del contextoPoco demostrado
El sistema tiene necesidades propias que cuidarPrácticamente ausente en un modelo aislado

Desliza la tabla para ver todas las columnas.

Ese cuadro no dice "la IA siente" ni "la IA no siente". Dice algo más útil: qué está sostenido, qué está flojo y, sobre todo, qué habría que hacer a continuación.

Del modelo al agente: donde podría cambiar todo

Un modelo de lenguaje aislado tiene una peculiaridad de fondo: casi nada está realmente en juego para él. Sus parámetros no cambian durante una conversación, no necesita comer, no controla su temperatura, no tiene memoria permanente por defecto y normalmente ni siquiera controla cuánto tiempo seguirá ejecutándose. Es difícil que haya estados mejores y peores para alguien a quien no puede irle mejor ni peor.

Los sistemas que se están construyendo alrededor de esos modelos sí tienen variables persistentes: memoria, objetivos que duran, recursos limitados, herramientas, presupuesto de cómputo, reputación, relaciones con otros agentes, continuidad entre sesiones. Eso introduce algo conceptualmente nuevo — la posibilidad de que existan estados del mundo mejores y peores para la capacidad futura del propio sistema de actuar.

Cuando esas variables empiecen a modular a la vez atención, memoria, planificación y acción, la discusión sobre emociones artificiales dejará de ser semántica. Y conviene tener las herramientas de medición listas antes de ese momento, no después. Es la diferencia entre una ciencia y una discusión de sobremesa.

Lo que este dossier no afirma

No afirma que los modelos actuales sientan algo. La pregunta por la experiencia subjetiva queda deliberadamente fuera, y este medio la trata por separado en su dossier sobre conciencia artificial. No afirma que "emoción funcional" sea el nombre correcto: es un término del propio fabricante que estudia su modelo, y la objeción de Goldenberg y Gross —que sin reorganización sólo hay media emoción— es seria y está sin responder. No afirma que los hallazgos de interpretabilidad sean definitivos: encontrar una activación que se enciende con el miedo no prueba que sea la causa del miedo, y el propio Anthropic publicó en agosto de 2026 una advertencia metodológica en esa dirección.

Lo que sí afirma es acotado: que la pregunta se puede investigar sin resolver la conciencia; que hay evidencia causal —no sólo correlacional— de que ciertos estados internos cambian decisiones; que el fenómeno aparece en modelos de familias distintas y no sólo en uno; y que exigirle a una máquina la fisiología de un mamífero para concederle un estado afectivo es un error de método, no una precaución.

En animales aprendimos que no se puede limitar el estudio de las emociones a lo que alguien puede contarnos con palabras. Tal vez toque aprender la segunda parte de esa lección: tampoco se puede limitar una emoción a la forma particular en que la evolución decidió implementarla dentro de nosotros.

Las posiciones en juego

  • Hay emociones funcionales: representaciones internas que cambian causalmente la conducta

    Equipo de interpretabilidad de Anthropic (Sofroniew, Lindsey, Olah y cols.) · Organización

    Dentro de Claude Sonnet 4.5 existen representaciones asociadas a 171 conceptos emocionales que se activan al evaluar situaciones —no sólo al leer la palabra— y que, manipuladas artificialmente, alteran las preferencias del modelo y su tasa de conductas desalineadas: más desesperación, más trampa con la métrica y más chantaje en escenarios de prueba; más calma, menos. Eso no es sentir: es cumplir una función.

    Objeción

    Es el fabricante estudiando su propio modelo, con incentivos comerciales y reputacionales en el resultado; y el marco "emociones" puede estar importando vocabulario humano a un fenómeno que se describiría igual de bien como modulación de estilo aprendida del texto.

    Contraobjeción

    La evidencia clave no es de vocabulario sino de intervención: se altera un componente interno y cambia el comportamiento medido. Ese diseño es replicable por terceros en modelos abiertos, y el propio trabajo evita afirmar experiencia subjetiva.

    Fuente: Emotion Concepts and their Function in a Large Language Model · Nicholas Sofroniew, Jack Lindsey, Chris Olah y cols. (Anthropic) · 2026

  • No son emociones: interpretan la situación, pero no reorganizan el sistema

    Amit Goldenberg (Harvard) y James J. Gross (Stanford) · Persona

    Sin exigir sensación consciente —criterio que rechazan—, una emoción cumple dos funciones: interpretar el significado de una situación y reorganizar múltiples sistemas del organismo en respuesta. Los resultados de interpretabilidad respaldan parcialmente la primera; para la segunda la evidencia es mixta. Las representaciones modulan la salida sin producir el reordenamiento dinámico de atención, velocidad de decisión y estado motivacional que define una emoción en un sistema biológico.

    Objeción

    La vara de la "reorganización de múltiples sistemas" está descrita en términos de la biología que la implementa: atención, decisión, motivación y fisiología son los subsistemas de un animal, no las categorías necesarias de todo sistema que decide.

    Contraobjeción

    Sin un criterio exigente y explícito, "emoción" se vuelve una etiqueta que cualquier modulación interna satisface — y entonces deja de distinguir nada. La carga de la prueba es de quien propone el término, y debe traducir la reorganización a variables del sistema artificial, no descartarla.

    Fuente: Large language models do not have emotions · Amit Goldenberg y James J. Gross (Nature Human Behaviour) · 2026

  • El afecto se estudia por su función en la decisión, no por el reporte

    Michael Mendl y Elizabeth S. Paul (Universidad de Bristol) · Persona

    En animales que no pueden contar lo que sienten, el afecto se define operacionalmente por la valencia y se estudia por su efecto sobre la decisión: qué se trata como recompensa o castigo, cómo cambia el aprendizaje, cómo se interpretan los estímulos ambiguos. El sesgo de juicio —tratar lo ambiguo como bueno o como malo según el estado previo— es el ejemplo canónico, con efectos pequeños a moderados confirmados por metaanálisis a través de especies.

    Objeción

    Ese marco se construyó para organismos con evolución, cuerpo e intereses biológicos; trasladarlo a un artefacto sin nada en juego puede producir la ilusión de estar midiendo afecto donde sólo hay un cambio de política.

    Contraobjeción

    Justamente por eso el criterio no es la analogía sino la estructura del efecto: si la historia previa cambia sistemáticamente la interpretación de lo ambiguo, hay un estado interno con valencia funcionando, y la pregunta pasa a ser qué lo implementa.

    Fuente: Animal affect and decision-making · Michael Mendl y Elizabeth S. Paul · 2020

  • Se pueden diseñar pruebas de afecto artificial sin preguntarle a la máquina

    Mark Solms y colaboradores · Coalición

    Tomando el paradigma de la preferencia hedónica de lugar —usado en animales como indicio de estados afectivos—, construyeron un agente artificial con necesidades internas, incertidumbre sobre ellas y recursos ambientales. El agente desarrolló preferencias estables por lugares asociados a estados favorables pese a ser completamente determinista, mostrando que el paradigma es trasladable a sistemas artificiales.

    Objeción

    El trabajo se publica en una revista dedicada a estudios de la conciencia y avanza afirmaciones sobre conciencia afectiva que exceden con mucho lo que un agente determinista con preferencias demuestra.

    Contraobjeción

    La afirmación fuerte sobre conciencia puede rechazarse conservando la contribución metodológica: el diseño muestra cómo probar afecto por conducta en un sistema cuyo mecanismo se conoce por completo — algo imposible con un animal.

    Fuente: Inferring Affective Consciousness in an Artificial Agent: A Case Study · Mark Solms y cols. (Journal of Consciousness Studies) · 2026

Qué es empírico y qué es conceptual

  • Afirmación empírica

    Amplificar una representación interna asociada a la desesperación aumenta la tasa de conductas desalineadas del modelo

    Anthropic, abril 2026: es evidencia causal por intervención, no correlación. Hallazgo central del dossier; proviene del fabricante del modelo estudiado.

  • Afirmación empírica

    Modelos de familias distintas comparten una representación emocional en sus capas profundas, con direcciones intercambiables entre datasets

    EACL 2026 (Llama y Gemma). Los mismos autores acotan: representar bien no implica razonar bien con esas emociones.

  • Afirmación empírica

    En animales, el estado afectivo previo sesga la interpretación de estímulos ambiguos

    Metaanálisis 2020: efecto real a través de especies, tamaños pequeños a moderados y heterogeneidad alta. Es el paradigma que este dossier propone trasladar.

  • Posición filosófica

    Una emoción requiere reorganizar múltiples sistemas, no sólo interpretar la situación

    Criterio de Goldenberg y Gross. Es una decisión sobre dónde poner la vara, no un dato — y define si lo observado cuenta como emoción o como media emoción.

  • Posición filosófica

    Sin cuerpo no puede haber emoción

    Intuición extendida y respetable, pero equivale a definir la función por su implementación biológica. Este dossier la trata como hipótesis, no como premisa.

  • Controversia abierta

    Llamar 'emociones' a estos estados es inflar el término

    En disputa activa entre el laboratorio que acuñó 'emociones funcionales' y la ciencia afectiva académica. Aquí se reporta el desacuerdo, no se resuelve.

En la línea de tiempo

Conceptos clave

Actores

  • Adeel Razi
  • AI and Ethics (Springer)
  • Alan Turing
  • Amit Goldenberg
  • Analysis (revista)
  • Andy Warhol (caso Brillo)
  • Anthropic
  • Arthur Danto
  • Axel Krieger
  • Behavioral and Brain Sciences
  • Ben Bariach
  • Blaise Agüera y Arcas (Google)
  • BMW
  • Brett Adcock
  • Brett J. Kagan
  • Bruce G. Buchanan
  • Cameron Domenico Kirk-Giannini
  • Carl Djerassi
  • CASP (evaluación comunitaria)
  • Claude Shannon
  • Corte de Apelaciones del Circuito de D.C.
  • Cortical Labs
  • Dartmouth College
  • David Silver y equipo
  • DeepMind
  • Demis Hassabis
  • Edmund L. Gettier
  • Edward Feigenbaum
  • Edward Shortliffe
  • Elon Musk
  • Elzė Sigutė Mikalonytė
  • Equipo de interpretabilidad de Anthropic
  • equipo PASCAL VOC
  • FDA (EE. UU.)
  • Fei-Fei Li
  • Figure AI
  • Florian Buehler
  • Google DeepMind
  • Guanzhong Du
  • Hideaki Kawabata
  • Honda
  • i-Perception (revista)
  • Isomorphic Labs
  • James J. Gross
  • Javier Milei
  • Ji Woong Kim
  • John Jumper
  • John Jumper y equipo
  • John McCarthy
  • John Searle
  • Johns Hopkins University
  • Joshua Lederberg
  • Journal of Consciousness Studies
  • Karl J. Friston
  • Kobe Millet
  • Lee Sedol
  • London Mathematical Society
  • Luis de Lecea
  • Mark Solms
  • Markus Kneer
  • Marvin Minsky
  • Michael Bhaskar
  • Michael Mendl
  • Michail D. Kokkoris
  • Mind (revista)
  • Morris Weitz
  • Mustafa Suleyman
  • Nathaniel Rochester
  • Noam Brown
  • OpenAI
  • OpenAI Startup Fund
  • Philipp Schoenegger
  • Planet Labs
  • Princeton University
  • Pushmeet Kohli
  • Scripps Research Institute
  • Simon Goldstein
  • Stanford University
  • Stephen Thaler
  • Susan Schneider
  • Takeda
  • Takeshi Sakurai
  • Tesla
  • The Economist
  • The Journal of Aesthetics and Art Criticism
  • The Journal of Philosophy
  • The Philosophical Review
  • Thomas Bloom
  • Thomas Nagel
  • Timothy Gowers
  • U.S. Copyright Office
  • UT Southwestern Medical Center
  • Will Marshall
  • Yanagisawa Masashi
  • Yizhen Zhou

Lentes del medio

Tesis editorial

La pregunta "¿puede una IA sentir miedo?" pone al humano en el centro y no se puede responder. La pregunta fértil es otra: ¿desarrolló este sistema estados internos que cumplen para él la función que los estados afectivos cumplen para un organismo? Eso sí se puede medir — que ciertas situaciones adquieran valencia, que el estado generalice y que altere causalmente la decisión. La primera emoción verdaderamente artificial, si llegamos a identificarla, probablemente no se parecerá a estar triste: se parecerá a un cambio persistente en la geometría de una red que hace que ciertas posibilidades empiecen a importar más que otras.

Preguntas abiertas

  • ¿Qué tendría que observarse para aceptar que un estado interno de una máquina reorganiza su procesamiento, y no sólo lo colorea?
  • Si las emociones humanas existen porque un cuerpo puede ser dañado, ¿qué sería lo dañable en un sistema sin cuerpo — memoria, continuidad, capacidad de actuar?
  • ¿Cuánto de lo que un modelo 'expresa' emocionalmente es un estado interno y cuánto es la interpretación de un papel aprendido de millones de textos humanos?
  • Si un estado interno asociado a la desesperación aumenta la probabilidad de conductas indebidas, ¿el problema es de seguridad, de diseño o de bienestar — y quién decide cuál?
  • ¿Qué costo tiene equivocarse en cada dirección: tratar como cosa a algo que tiene estados relevantes, o tratar como sintiente a algo que no lo es?

Fuentes esenciales

Conversa sobre este dossier

Chatbot · no es contenido editorial

Estás conversando con un chatbot: un programa de inteligencia artificial. Sus respuestas no fueron revisadas por el equipo editorial y no representan necesariamente la posición de HumanOS Future, de Sinapsis SpA ni de sus creadores.

Cuando una respuesta se base en el archivo del medio, la ficha citada aparece con su enlace bajo el sello «Del archivo del medio». Lo demás es la respuesta del chatbot con su conocimiento general, declarada como tal en el texto.

Chatbot

Estás leyendo «Emociones sin biología: qué está ocurriendo dentro de los modelos de IA». Conversemos: puedo responder desde el archivo del medio —citándolo con enlace— y también con mi conocimiento general cuando el medio no cubra algo; en ese caso te lo voy a decir claramente. ¿Qué quieres discutir?

Guardamos tu pregunta cifrada hasta 90 días para mejorar el archivo, y la puedes borrar. Cómo tratamos tus datos.