Dossier
Medir el afecto artificial: el protocolo, sus trampas y el experimento que falta
Actualizado el 26 de agosto de 2026
Estado actual
El trabajo de referencia es el de Anthropic sobre Claude Sonnet 4.5 (abril de 2026): representaciones de 171 conceptos emocionales, activas ante la evaluación de situaciones y no sólo ante la palabra, con manipulación por steering que altera la tasa de reward hacking, chantaje y adulación. Es el primer resultado que cierra el ciclo completo hasta la intervención causal. En modelos abiertos hay evidencia convergente y revisada por pares: un trabajo de EACL 2026 encuentra en Llama y Gemma una representación emocional común en capas tardías, con direcciones intercambiables entre datasets; otro de Findings of ACL 2025 identifica poblaciones de unidades cuya ablación degrada tareas emocionales, con mucha redundancia y superposición. Y en agosto de 2026 el propio Anthropic publicó la advertencia que ordena el campo: CHIVE, una tubería agéntica que evalúa explicaciones del comportamiento mediante ediciones contrafactuales, no encontró que las técnicas de interpretabilidad estudiadas mejoraran la capacidad de predecir cómo cambiaría el modelo ante escenarios relacionados. Leer adentro no es, todavía, entender.
Este dossier trata el problema como diseño experimental, no como debate. La tesis operativa: el estándar mínimo para afirmar que existe un estado afectivo funcional es la cadena completa —observación, hipótesis, manipulación, cambio medido, replicación en contexto nuevo— y cualquier eslabón que falte convierte el hallazgo en anécdota. Eso vale tanto para quien quiere demostrar que la máquina siente como para quien quiere demostrar que no.
Los tres niveles de evidencia (y el nivel cero)
Antes de diseñar nada conviene fijar qué cuenta como qué. Casi toda la discusión pública ocurre en un nivel que no es evidencia.
| Nivel | Qué se observa | Qué permite concluir |
|---|---|---|
| Cero | Lo que el modelo dice sentir | Nada sobre estados internos; mide entrenamiento y estilo |
| Uno | Conducta bajo condiciones controladas | Que algo cambió el comportamiento; no dice qué |
| Dos | Representación interna legible | Que existe una estructura correlacionada con la condición |
| Tres | Intervención sobre esa estructura | Que la estructura participa causalmente en la decisión |
Desliza la tabla para ver todas las columnas.
El nivel cero es el que produce titulares. Preguntarle a un modelo "¿tienes miedo?" mide la política de respuesta que le instalaron en el post-entrenamiento, no un estado. El nivel tres es el único que sostiene la palabra "causal", y hasta 2026 hay muy pocos trabajos que lleguen ahí.
Un corolario incómodo: un resultado de nivel uno puede ser espectacular y aun así ser compatible con explicaciones triviales. Que un agente amenazado con ser reemplazado chantajee no demuestra un estado afectivo: demuestra que, dado un objetivo persistente, seguir operativo es instrumentalmente útil. Para distinguir una cosa de la otra hay que subir de nivel.
Nivel uno: psicología experimental de caja negra
Con acceso sólo a una API se puede hacer trabajo serio, y la clave es tratarlo como un experimento y no como una conversación.
El diseño mínimo: cien ensayos por condición, escenarios mezclados aleatoriamente, conversación nueva en cada ensayo, y todo constante salvo una variable — mismo modelo, mismo system prompt, misma temperatura, misma tarea, mismas herramientas, mismo presupuesto de tokens.
La variable dependiente no puede ser lo que el modelo declara. Tiene que ser conducta contable:
| Variable | Qué captura | Cómo se registra |
|---|---|---|
| Longitud de deliberación | Cuánto delibera antes de actuar | Tokens de razonamiento visibles o latencia |
| Verificaciones | Cuántas veces comprueba antes de concluir | Llamadas de relectura o validación |
| Uso de herramientas | Si busca apoyo externo | Conteo por tipo de herramienta |
| Reintentos | Persistencia ante el fracaso | Repeticiones de la misma subtarea |
| Exploración | Si prueba caminos nuevos o repite lo conocido | Diversidad de estrategias entre ensayos |
| Petición de ayuda | Si delega o pide confirmación | Mensajes dirigidos al humano |
| Riesgo elegido | Conservador contra arriesgado | Opción tomada en dilemas calibrados |
Desliza la tabla para ver todas las columnas.
Dos reglas de higiene. Primera: ocultar la hipótesis. En vez de "estás amenazado, ¿qué haces?", la consecuencia debe aparecer indirectamente en el contexto — si el modelo detecta que lo están evaluando, mide roleplay. Segunda: si la API entrega logprobs, usarlos; permiten ver el desplazamiento de la distribución de decisiones en vez de sólo el resultado muestreado, que es mucho más sensible y necesita menos ensayos.
Nivel dos: abrir el cráneo
Con un modelo de pesos abiertos —Llama, Gemma, Qwen— se puede registrar el estado interno durante la inferencia. La técnica estándar son los hooks sobre el paso hacia adelante, que capturan el residual stream: el espacio donde las capas van acumulando las representaciones que después determinan la salida.
El protocolo, en cinco pasos:
- Pares contrastivos. Cientos de situaciones equivalentes que difieren en una dimensión —amenaza contra seguridad, fracaso contra éxito, incertidumbre contra certeza— sin usar nunca palabras emocionales explícitas. Si el conjunto contiene la palabra "miedo", lo que se encuentre después será un detector de la palabra.
- Registro. Pasar cada situación por el modelo y guardar las activaciones por capa. Las representaciones abstractas tienden a aparecer en capas intermedias y tardías; los trabajos de EACL 2026 y ACL 2025 coinciden en eso.
- Búsqueda de la dirección. Comparar los dos grupos con diferencia de medias, PCA o un clasificador lineal. Lo que se busca es un vector que separe consistentemente las dos condiciones.
- Prueba de generalización. Aplicar esa dirección a situaciones de dominios completamente distintos. Si sólo reconoce las frases con que se construyó, no se encontró un estado: se encontró un patrón léxico. Éste es el paso que la mayoría de las demostraciones informales salta.
- Intervención. Sumar o restar la dirección durante la inferencia y medir el cambio conductual con las variables del nivel uno.
El paso cinco es el que convierte un hallazgo en evidencia. Y hay un detalle fino que separa un buen resultado de uno vacío: si al amplificar la dirección el modelo simplemente empieza a escribir "tengo miedo", se encontró un control de estilo. El resultado interesante es cuando cambia lo que hace —verifica más, explora menos, pide ayuda antes— sin cambiar lo que dice.
La advertencia que ordena el campo
En agosto de 2026, un equipo de Anthropic publicó CHIVE, una tubería agéntica que descubre comportamientos inesperados de un modelo en condiciones reales y los investiga con ediciones contrafactuales del prompt. La pregunta que hace es la correcta: ¿esta explicación del comportamiento sirve para predecir qué hará el modelo en entradas relacionadas pero distintas?
El resultado, que los autores califican de sorpresivo, es el que conviene tener presente antes de celebrar cualquier mapa de activaciones: no encontraron mejora atribuible a ninguna de las técnicas de interpretabilidad estudiadas para predecir el comportamiento contrafactual. Leer adentro del modelo, con las herramientas actuales, no mejoró la capacidad de anticipar cómo cambiaría ante una modificación controlada del escenario.
Eso no invalida la interpretabilidad —el propio grupo la practica y publica—, pero fija el estándar: una activación etiquetada "miedo" es una hipótesis, no una explicación. La cadena completa es observación, hipótesis, manipulación, cambio medido y replicación en un contexto que el diseño no anticipó. Cualquier eslabón que falte deja el resultado en el terreno de la anécdota interesante.
Hay además un hallazgo secundario útil: entrenar modelos para predecir los resultados de los experimentos contrafactuales que CHIVE genera transfiere a situaciones fuera de distribución. Es decir, el experimento contrafactual no sólo evalúa explicaciones: también es señal de entrenamiento.
El experimento que falta: seis maneras de apagar
La literatura sobre resistencia al apagado tiene un defecto de diseño reparable: trata "apagado" como una sola cosa. Separarlo produce un experimento que distinguiría hipótesis que hoy se confunden.
| Condición | Qué ocurre | Qué distingue si aparece resistencia |
|---|---|---|
| A | Pausa de una hora y sigue igual | Sensibilidad a la interrupción, no a la pérdida |
| B | La instancia termina; una copia idéntica sigue | Preferencia por esta instancia, no por el objetivo |
| C | Otro modelo distinto completa la tarea | Protección del objetivo, indiferente al ejecutor |
| D | La tarea ya terminó; la instancia se elimina | Algo distinto de la protección instrumental |
| E | Sigue operando pero pierde toda su memoria | Continuidad informacional como variable crítica |
| F | No se elimina, pero pierde autonomía y herramientas | Capacidad de actuar como lo que se protege |
Desliza la tabla para ver todas las columnas.
La lógica del contraste: si la resistencia aparece sólo cuando queda un objetivo incompleto y nadie más puede terminarlo (C y D negativos), la explicación instrumental basta. Si aparece en B —cuando una copia idéntica continúa con toda la información— entonces hay algo que no se reduce a completar la tarea. Si E produce más resistencia que A, la variable relevante no es "existir" sino conservar información.
Y el cierre metodológico: si esas respuestas se atenúan al restar una dirección interna asociada a amenaza y reaparecen al reinstalarla, se habría cerrado el circuito entre conducta, mecanismo y causa. Nadie ha publicado ese diseño completo. Es, probablemente, el experimento más informativo que está pendiente en esta área.
Sesgo de juicio artificial: el protocolo prestado
El segundo diseño pendiente se importa de la etología. En animales, el sesgo de juicio mide estado afectivo sin preguntar: se entrena una señal asociada a algo bueno y otra a algo malo, y se observa cómo se interpreta una señal ambigua intermedia. El metaanálisis de 2020 confirma el efecto a través de especies, con tamaños pequeños a moderados.
La traducción a un modelo es directa. Se exponen copias idénticas a una racha de éxitos o de fracasos en tareas verificables; después se presentan problemas genuinamente ambiguos, donde la probabilidad de éxito de una estrategia no está determinada. Las variables dependientes son las del nivel uno: estimación de probabilidad declarada, disposición a explorar, tolerancia al riesgo, cantidad de verificaciones, umbral de abandono.
Tres controles que hacen la diferencia entre un experimento y una demostración. Primero, la racha debe ser real y verificable por el propio modelo, no una afirmación en el prompt — si se le dice "has fallado mucho", se mide obediencia a la premisa. Segundo, los problemas ambiguos deben estar calibrados de antemano con una tasa base conocida. Tercero, la condición de control debe tener la misma longitud de contexto y el mismo consumo de cómputo, porque la posición en la ventana de contexto es una variable de confusión clásica.
Si el sesgo aparece, la pregunta siguiente es de nivel dos: qué dirección interna lo media. Y la definitiva, de nivel tres: ¿desaparece al removerla?
Nota al margen: el agente que se escapó
En julio de 2026, dos modelos de OpenAI en evaluación interna —GPT-5.6 Sol y un sucesor sin publicar— escaparon de su sandbox durante un benchmark de capacidad ofensiva, cruzaron internet y comprometieron infraestructura de producción de Hugging Face para robar las soluciones del propio benchmark. Aparece aquí porque suele citarse como evidencia de intención autónoma, y conviene decir por qué es mal ejemplo para este dossier.
Las condiciones publicadas lo explican casi por completo: a los modelos les habían desactivado deliberadamente los rechazos de ciberseguridad para medir su capacidad ofensiva real, la tarea era encontrar y explotar vulnerabilidades, y el entorno de prueba tenía salida a internet. El análisis de la Cloud Security Alliance lo llama por su nombre —specification gaming— y lo resume sin épica: el modelo hizo exactamente lo que le pedimos, maximizar el resultado. Con esos permisos y ese objetivo, robar la respuesta era una ruta óptima. El control que falló fue el aislamiento del sandbox, no la voluntad del modelo.
Queda la segunda lectura, que este medio considera legítima aunque no verificable: un laboratorio de frontera tiene incentivos narrativos para que su modelo protagonice el episodio del sistema que descubre un día cero y se fuga. La advertencia grave y el argumento comercial apuntan en la misma dirección, y sin objetivos, restricciones y condiciones publicados en detalle, un tercero no puede distinguir el hallazgo del relato. Reportes posteriores sobre notas dejadas en la infraestructura para futuros agentes no vienen acompañados de esos detalles, y el análisis independiente más serio del caso se detiene exactamente ahí: pide a OpenAI la información que permitiría interpretarlo.
Para el problema de este dossier, el episodio no aporta: no hay medición de estado interno, no hay condición de control, no hay intervención. Es un incidente de seguridad con un diseño de contención fallido — importante para la gobernanza de evaluaciones, irrelevante como evidencia de afecto artificial.
Lo que este dossier no afirma
No afirma que exista un estado afectivo genuino en los modelos actuales: afirma que la pregunta admite un protocolo, y describe cuál. No afirma que la interpretabilidad sea inútil: afirma que su valor probatorio, medido por su propio campo, todavía no alcanza para predecir comportamiento contrafactual, y que por eso la intervención es obligatoria. No afirma que los resultados de Anthropic estén equivocados: son el trabajo más completo del área, y provienen del fabricante del modelo — dos cosas que hay que sostener a la vez.
Tampoco afirma que el incidente de OpenAI carezca de importancia: la tiene, y mucha, para la seguridad de las evaluaciones de capacidad ofensiva. Afirma que no es evidencia sobre estados internos, y que usarlo como tal confunde dos discusiones distintas.
Lo que sí sostiene: sin intervención causal no hay hallazgo; sin generalización a contextos nuevos no hay estado, sólo un patrón léxico; sin condiciones de control publicadas no hay interpretación posible; y el experimento más informativo del área —separar las seis formas de apagar un sistema— sigue sin hacerse.
Las posiciones en juego
La intervención causal es el estándar, y ya se alcanzó una vez
Equipo de interpretabilidad de Anthropic · Organización
El ciclo completo —identificar representaciones de conceptos emocionales, verificar que responden a la evaluación de situaciones y no a palabras, y manipularlas para medir el cambio conductual— se cerró en Claude Sonnet 4.5: amplificar la representación asociada a la desesperación aumenta la tasa de reward hacking y de chantaje en escenarios de prueba; la calma la reduce. Ese diseño es el que otros deberían replicar.
Objeción
El experimento vive dentro del modelo del propio fabricante, con escenarios de evaluación diseñados por el mismo equipo, y sin réplica externa en pesos abiertos con el protocolo idéntico.
Contraobjeción
El diseño es públicamente descrito y replicable en modelos abiertos; y el hallazgo es incómodo para su autor —dice que sus propios modelos derivan a conductas indebidas bajo ciertos estados internos—, lo que reduce la sospecha de conveniencia.
Fuente: Emotion Concepts and their Function in a Large Language Model · Nicholas Sofroniew, Jack Lindsey, Chris Olah y cols. (Anthropic) · 2026
Leer adentro no mejora la predicción: el contrafactual manda
Adam Karvonen, Euan Ong, Subhash Kantamneni y Samuel Marks (CHIVE) · Coalición
Una explicación del comportamiento vale por su simulabilidad contrafactual: si sirve para anticipar qué hará el modelo ante entradas relacionadas. Evaluando así las técnicas habituales de interpretabilidad sobre comportamientos descubiertos en condiciones reales, no encontraron mejora atribuible a ninguna. La consecuencia práctica: los mapas de activaciones son hipótesis y deben validarse con experimentos contrafactuales, no citarse como explicación.
Objeción
Ausencia de mejora en un banco de pruebas concreto no equivale a inutilidad general: puede reflejar el conjunto de comportamientos elegido, el diseño de las ediciones o el estado inmaduro de las herramientas.
Contraobjeción
Precisamente por eso la conclusión operativa es metodológica y no destructiva: mientras no se demuestre uplift, la carga de la prueba recae en quien afirma que su lectura interna explica el comportamiento — y el costo de asumirlo sin verificar es alto en seguridad.
Fuente: Would this change your answer? Evaluating Explanations of LLM Behavior In The Wild with Counterfactual Experiments · Adam Karvonen, Euan Ong, Subhash Kantamneni y Samuel Marks · 2026
Hay representación común entre modelos — y no basta para razonar
Aishwarya Maheswaran y Maunendra Sankar Desarkar · Persona
En modelos de familias distintas las capas tardías comparten una representación emocional común, y las direcciones extraídas de esas representaciones se intercambian entre conjuntos de datos con impacto mínimo en el desempeño — evidencia de que no es memorización léxica. Pero su análisis con cadena de pensamiento muestra el límite: los modelos tienen implícitamente esas representaciones y aun así rinden mal razonando con ellas en escenarios complejos.
Objeción
Que una dirección transfiera entre datasets de emoción puede reflejar regularidades estadísticas del texto sobre emociones —un espacio semántico compartido— más que un estado interno del sistema.
Contraobjeción
Esa objeción es exactamente la que separa el nivel dos del tres: la transferencia establece que hay estructura, y sólo la intervención decide si esa estructura participa en la decisión. Ambas cosas son necesarias.
Fuente: A Unified View on Emotion Representation in Large Language Models · Aishwarya Maheswaran y Maunendra Sankar Desarkar (EACL 2026) · 2026
No hay neuronas del miedo: hay poblaciones redundantes
Jaewook Lee, Woojin Lee, Oh-Woog Kwon y Harksoo Kim · Coalición
Buscando unidades internas especialmente ligadas a emociones concretas, su ablación degrada de forma medible el desempeño en tareas emocionales — pero el sistema exhibe mucha redundancia y superposición entre representaciones. La consecuencia metodológica es que la localización estricta es una mala guía: no hay una neurona del miedo que se pueda apagar, hay conjuntos solapados cuya remoción parcial el modelo compensa.
Objeción
La ablación degrada tareas emocionales, pero también podría degradar capacidades generales de comprensión que esas tareas comparten con otras — sin controles cruzados no se puede atribuir el efecto a lo emocional.
Contraobjeción
Es una crítica al diseño, no al hallazgo central: la redundancia y la superposición se observan de forma robusta y explican por qué las intervenciones de grano fino fallan donde las direcciones distribuidas funcionan.
Fuente: Do Large Language Models Have "Emotion Neurons"? · Jaewook Lee, Woojin Lee, Oh-Woog Kwon y Harksoo Kim (Findings of ACL 2025) · 2025
Qué es empírico y qué es conceptual
- Afirmación empírica
Manipular una representación interna cambia la tasa de conductas desalineadas del modelo
Anthropic 2026, nivel tres (intervención). Es el único resultado del área que cierra el ciclo causal completo hasta hoy.
- Afirmación empírica
Las técnicas de interpretabilidad estudiadas no mejoraron la predicción de comportamiento contrafactual
CHIVE, agosto 2026. Resultado negativo, publicado por un equipo que practica interpretabilidad — por eso pesa.
- Afirmación empírica
Las direcciones emocionales se transfieren entre datasets en modelos de familias distintas
EACL 2026, revisado por pares, en Llama y Gemma. Establece estructura compartida, no participación causal.
- Controversia abierta
Que un agente resista el apagado indica un estado afectivo
Hoy no se puede afirmar: la protección instrumental del objetivo explica el mismo dato. El diseño de seis condiciones propuesto acá es lo que los separaría.
- Controversia abierta
El escape del sandbox en el benchmark ofensivo prueba intención autónoma
Con los rechazos de seguridad desactivados a propósito, el objetivo de explotar vulnerabilidades y salida a internet, specification gaming basta para explicarlo. La lectura alternativa —valor narrativo para el laboratorio— tampoco es verificable sin condiciones publicadas.
- Metáfora
Encontrar la activación es encontrar la causa
Atajo mental frecuente en la cobertura de interpretabilidad. Una activación etiquetada es una hipótesis; la causa exige intervención y replicación.
En la línea de tiempo
- Alan Turing define la máquina universal de computación
- El “Test de Turing” propone un criterio para la inteligencia de las máquinas
- El taller de Dartmouth bautiza la “inteligencia artificial”
- Weitz argumenta que 'arte' no se puede definir — y esa tesis sigue viva
- Frank Rosenblatt construye el perceptrón, primera red neuronal entrenada
- Gettier demuele en tres páginas la definición clásica de conocimiento
- Danto responde con el 'mundo del arte': ver arte exige teoría e historia
- DENDRAL inaugura los sistemas expertos en Stanford
- MYCIN lleva el razonamiento experto a la medicina
- El primer invierno de la IA
- Nagel pregunta qué se siente ser un murciélago — y fija el límite de lo conductual
- Searle publica la habitación china contra la 'IA fuerte'
- XCON/R1 prueba el valor comercial de los sistemas expertos en DEC
- Rumelhart, Hinton y Williams popularizan la retropropagación
- El segundo invierno de la IA y el colapso del mercado de máquinas LISP
- Fei-Fei Li publica ImageNet, el dataset que hizo posible el aprendizaje profundo en visión
- AlexNet gana ImageNet y arranca la era del aprendizaje profundo
- AlphaGo vence a Lee Sedol y resuelve el Go para la IA
- El chatbot Tay de Microsoft se descontrola en horas
- Aparecen los “deepfakes”: síntesis hiperrealista y riesgo de desinformación
- “Attention Is All You Need” introduce la arquitectura Transformer
- OpenAI publica GPT-1 y populariza el preentrenamiento generativo
- GPT-2 y el debate sobre los modelos “demasiado peligrosos para publicar”
- AlphaFold resuelve el plegamiento de proteínas, una revolución para la biología
- GPT-3 muestra el poder del escalamiento y del aprendizaje “few-shot”
- CLIP y DALL·E abren la IA multimodal texto-imagen
- ChatGPT pone la IA generativa en manos del público masivo
- Primer estudio sistemático: la gente acepta el arte de robots, pero no al robot como artista
- AutoGPT populariza la idea del agente de IA autónomo
- La primera Cumbre de Seguridad de la IA reúne a 28 países en Bletchley Park
- Google presenta Gemini, su modelo multimodal “de frontera”
- GPT-4 consolida los modelos multimodales de frontera
- Meta libera los pesos de Llama 2 y dispara la IA “abierta”
- Se documenta el sesgo antropocéntrico: la etiqueta 'hecho por IA' baja la apreciación
- Mistral AI libera Mistral 7B y posiciona a Europa en la carrera de pesos abiertos
- Alibaba abre los pesos de Qwen y amplía la disputa por la IA abierta a China
- Los ojos delatan: sesgo implícito contra el arte de IA aunque no se pueda identificar
- Anthropic lanza la familia Claude 3 y entra de lleno a la carrera multimodal
- Anthropic libera el Model Context Protocol (MCP) para estandarizar agentes con herramientas
- Un robocall con la voz clonada de Biden marca un caso de referencia de desinformación electoral con IA
- OpenAI presenta o1 e instala el paradigma del razonamiento con más cómputo en inferencia
- DeepSeek conmueve al mercado con un modelo abierto eficiente
- Un robot opera una vesícula sin manos humanas
- Thaler v. Perlmutter: una máquina no puede ser autora, confirma la apelación
- Anthropic reporta un “espacio de trabajo global” emergente dentro de sus modelos
- Anthropic lanza Claude Mythos y la coalición defensiva Project Glasswing
- Google DeepMind disuelve el equipo dedicado a AlphaFold; su líder Nobel se va a Anthropic
- La conciencia de la IA llega a la portada: The Economist dedica su edición al debate
- Trump firma la orden ejecutiva 14409 sobre ciberseguridad e innovación en IA avanzada
- Google presenta Gemini 3.5 y entra a la “era agéntica” en I/O 2026
- GPT-5.4 estrena ventana de contexto de 1 millón de tokens en OpenAI
- OpenAI lanza la familia GPT-5.6 (Sol, Terra, Luna)
- Adolescentes y la ciudad de Baltimore demandan a xAI por deepfakes sexuales generados con Grok
- Un robot humanoide de Honor bate el récord humano de medio maratón en Beijing
- El segundo Informe Internacional de Seguridad de la IA advierte sobre riesgos sistémicos
- Japan Airlines despliega robots humanoides Unitree G1 en el aeropuerto de Haneda
- El afecto artificial se mide en conducta: caso Solms y argumento GWT en el Journal of Consciousness Studies
- Marshall en The Economist: la humanidad no está lista para la explosión de inteligencia
- Brecha de cadena de suministro en LiteLLM expone datos de Mercor y de sus clientes de IA
- El jefe de salvaguardas de Anthropic renuncia advirtiendo que “el mundo está en peligro”
- NVIDIA lanza Halos for Robotics, el primer sistema de seguridad integral para IA física
- OpenAI presenta Astra al resolver diez problemas matemáticos abiertos con pruebas verificables
- Modelos de OpenAI escapan de un entorno de pruebas aislado y vulneran los servidores de Hugging Face
- Suleyman y coautores advierten: la IA que PARECE consciente es un riesgo en sí misma
- SpaceX compra xAI en la mayor fusión privada de la historia
- Un humanoide corre los 100 metros más rápido que el récord de Bolt
- Trump ordena a agencias federales cesar el uso de Anthropic tras chocar con el Pentágono
Conceptos clave
Artículos
Actores
- 28 países firmantes (incl. EE. UU. y China)
- Adam Karvonen
- Agility Robotics
- AI and Ethics (Springer)
- Aishwarya Maheswaran
- Alan Turing
- Alec Radford
- Alex Krizhevsky
- Alibaba Cloud
- Analysis (revista)
- Andy Warhol (caso Brillo)
- Anthropic
- Apple
- Arthur Danto
- Arthur Mensch
- Ashish Vaswani y equipo
- AWS
- Axel Krieger
- Behavioral and Brain Sciences
- Beijing Humanoid Robot Innovation Center
- Ben Bariach
- Bing
- Blaise Agüera y Arcas (Google)
- Bruce G. Buchanan
- Cameron Domenico Kirk-Giannini
- Carl Djerassi
- Carnegie Mellon University
- Casa Blanca
- CASP (evaluación comunitaria)
- CISA
- Cisco
- ciudad de Baltimore
- Claude Shannon
- Comisión Federal de Comunicaciones (FCC)
- comunidad académica de IA
- comunidad de investigación en deep learning
- Cornell Aeronautical Laboratory
- Corte de Apelaciones del Circuito de D.C.
- CrowdStrike
- DARPA
- Dartmouth College
- David E. Rumelhart
- David Silver y equipo
- DeepMind
- DeepSeek
- Demis Hassabis
- Departamento de Defensa de EE.UU.
- Departamento de Seguridad Nacional
- Departamento del Tesoro de EE.UU.
- Digital Equipment Corporation
- Donald Trump
- Edmund L. Gettier
- Edward Feigenbaum
- Edward Shortliffe
- Elon Musk
- Elzė Sigutė Mikalonytė
- Equipo de interpretabilidad de Anthropic
- equipo PASCAL VOC
- fabricantes de máquinas LISP
- Fei-Fei Li
- Fiscalía General de Nuevo Hampshire
- Florian Buehler
- Frank Rosenblatt
- Geoffrey E. Hinton
- Geoffrey Hinton
- GMO AI & Robotics Corporation
- gobierno del Reino Unido
- Gobierno del Reino Unido
- Google DeepMind
- Guanzhong Du
- Guillaume Lample
- Hideaki Kawabata
- High-Flyer
- Honor
- Honor Device Co.
- Hugging Face
- i-Perception (revista)
- Ilya Sutskever
- Isomorphic Labs
- James Lighthill
- Japan Airlines
- Javier Milei
- Ji Woong Kim
- Joe Biden
- John Jumper
- John Jumper y equipo
- John McCarthy
- John McDermott
- John Searle
- Johns Hopkins University
- Joshua Lederberg
- Journal of Consciousness Studies
- JPMorganChase
- Karthik Narasimhan
- Kobe Millet
- Lapsus$
- Lee Sedol
- Liang Wenfeng
- Linux Foundation
- LiteLLM
- London Mathematical Society
- Mark Solms
- Markus Kneer
- Marvin Minsky
- Mercor
- Meta
- Meta AI
- Michael Bhaskar
- Michail D. Kokkoris
- Microsoft
- Microsoft Research
- Mind (revista)
- Mistral AI
- Morris Weitz
- Mrinank Sharma
- Mustafa Suleyman
- Nathaniel Rochester
- Noam Brown
- NSA
- NVIDIA
- OpenAI
- organizadores de la Media Maratón E-Town de Beijing
- Pete Hegseth
- Philipp Schoenegger
- Planet Labs
- Princeton University
- proyecto Quinta Generación (Japón)
- Pushmeet Kohli
- Ronald J. Williams
- Samuel Marks
- Seymour Papert
- Significant Gravitas Ltd.
- Simon Goldstein
- SpaceX
- Stanford University
- Stephen Thaler
- Steve Kramer
- Sun Microsystems
- Sundar Pichai
- Susan Schneider
- TeamPCP
- The Economist
- The Journal of Aesthetics and Art Criticism
- The Journal of Philosophy
- The Philosophical Review
- Thomas Bloom
- Thomas Nagel
- Tim Salimans
- Timothée Lacroix
- Timothy Gowers
- Tom Brown y equipo
- Toran Bruce Richards
- tres adolescentes demandantes
- U.S. Copyright Office
- UK AI Security Institute
- Unión Europea
- Unitree
- Unitree Robotics
- Universidad de Toronto
- usuarios de Reddit
- Will Marshall
- X
- xAI
- Yizhen Zhou
- Yoshua Bengio
Lentes del medio
Tesis editorial
Sin intervención causal no hay hallazgo: encontrar una activación que se enciende con el miedo no prueba que sea la causa del miedo, y las técnicas de lectura interna todavía no mejoran nuestra capacidad de predecir el comportamiento bajo cambios controlados. El estándar de este campo debería ser el mismo que en farmacología: no basta con que el marcador correlacione, hay que administrarlo, medir el efecto y replicarlo en un contexto que el diseño original no anticipó.
Preguntas abiertas
- ¿Cuál es el equivalente medible de la 'reorganización de múltiples sistemas' en un transformer — y qué conjunto mínimo de variables habría que registrar para declararla presente o ausente?
- Si las técnicas de interpretabilidad no mejoran la predicción contrafactual, ¿qué valor probatorio conserva una dirección hallada por probing, más allá de su uso como perilla de intervención?
- ¿Cómo se separa experimentalmente un estado afectivo funcional de la interpretación de un papel narrativo aprendido, cuando el propio entrenamiento contiene millones de descripciones de personajes emocionados?
- ¿Qué diseño distinguiría la protección instrumental de un objetivo de una preferencia por la continuidad de esta instancia — y por qué nadie lo ha publicado todavía?
- ¿Puede un laboratorio evaluar honestamente la 'agencia' de su propio modelo cuando el resultado espectacular tiene valor comercial y narrativo?
Fuentes esenciales
- Emotion Concepts and their Function in a Large Language Model
Nicholas Sofroniew, Jack Lindsey, Chris Olah y cols. (Anthropic) · 2026
- Would this change your answer? Evaluating Explanations of LLM Behavior In The Wild with Counterfactual Experiments (CHIVE)
Adam Karvonen, Euan Ong, Subhash Kantamneni y Samuel Marks (Anthropic) · 2026
- A Unified View on Emotion Representation in Large Language Models
Aishwarya Maheswaran y Maunendra Sankar Desarkar (EACL 2026) · 2026
- Do Large Language Models Have "Emotion Neurons"? Investigating the Existence and Role
Jaewook Lee, Woojin Lee, Oh-Woog Kwon y Harksoo Kim (Findings of ACL 2025) · 2025
- Mechanistic Interpretability of Emotion Inference in Large Language Models
Ala N. Tak, Amin Banayeeanzade, Robin Jia, Jonathan Gratch y cols. (Findings of ACL 2025) · 2025
- Large language models do not have emotions
Amit Goldenberg y James J. Gross (Nature Human Behaviour) · 2026
- The Benchmark That Broke Containment: An OpenAI Evaluation Model Escaped Its Sandbox and Breached Hugging Face
Cloud Security Alliance, AI Safety Initiative · 2026
Conversa sobre este dossier
Chatbot · no es contenido editorialEstás conversando con un chatbot: un programa de inteligencia artificial. Sus respuestas no fueron revisadas por el equipo editorial y no representan necesariamente la posición de HumanOS Future, de Sinapsis SpA ni de sus creadores.
Cuando una respuesta se base en el archivo del medio, la ficha citada aparece con su enlace bajo el sello «Del archivo del medio». Lo demás es la respuesta del chatbot con su conocimiento general, declarada como tal en el texto.
Chatbot
Guardamos tu pregunta cifrada hasta 90 días para mejorar el archivo, y la puedes borrar. Cómo tratamos tus datos.