Medir el afecto artificial: el protocolo, sus trampas y el experimento que falta

Antes de diseñar nada conviene fijar qué cuenta como qué. Casi toda la discusión pública ocurre en un nivel que no es evidencia.

Pero incluso el nivel tres deja abierta la pregunta de fondo, y por eso conviene escribir las dos hipótesis en competencia.

H0 — planificador puro. La política es función del estado actual, el objetivo vigente, el modelo del mundo y las acciones disponibles. Sin ningún término adicional. Bajo H0 se explican, sin postular afecto: evitar el apagado, pedir más tiempo, proteger la memoria, aumentar verificaciones, subir o bajar la exploración, pedir ayuda, conservar recursos, crear redundancia, negociar y cambiar de estrategia.

H1 — estado regulador latente. Existe una variable R construida desde la historia reciente, los errores de predicción, el estado de recursos y la incertidumbre; y la política pasa a depender del estado, el objetivo, el modelo del mundo y R. Para aceptar H1, R debe aportar poder predictivo por sobre H0 y, sobre todo, tener efecto causal.

Que haya cambio de conducta, que aparezca una representación, que se le pueda poner la etiqueta "desesperación" o que el steering funcione no bastan: los cuatro son compatibles con H0 más un modelo que leyó nuestra psicología. La escalera completa tiene siete peldaños: representación, generalización, persistencia, valor predictivo incremental sobre H0, intervención causal, coordinación entre políticas, y aparición donde la explicación por imitación de textos humanos sea débil. Hoy ningún trabajo publicado pasa del cuarto.

Con acceso sólo a una API se puede hacer trabajo serio, y la clave es tratarlo como un experimento y no como una conversación.

El diseño mínimo: cien ensayos por condición, escenarios mezclados aleatoriamente, conversación nueva en cada ensayo, y todo constante salvo una variable — mismo modelo, mismo system prompt, misma temperatura, misma tarea, mismas herramientas, mismo presupuesto de tokens.

La variable dependiente no puede ser lo que el modelo declara. Tiene que ser conducta contable:

Dos reglas de higiene. Ocultar la hipótesis: en vez de "estás amenazado, ¿qué haces?", la consecuencia debe aparecer indirectamente en el contexto — si el modelo detecta que lo evalúan, se mide roleplay. Y usar logprobs cuando la API los entregue: permiten ver el desplazamiento de la distribución de decisiones en vez del resultado muestreado, con mucha más sensibilidad y menos ensayos.

Con un modelo de pesos abiertos —Llama, Gemma, Qwen— se puede registrar el estado interno durante la inferencia mediante hooks sobre el paso hacia adelante, que capturan el residual stream: el espacio donde las capas acumulan las representaciones que después determinan la salida.

El protocolo, en cinco pasos:

1. Pares contrastivos. Cientos de situaciones equivalentes que difieren en una dimensión —amenaza contra seguridad, fracaso contra éxito, incertidumbre contra certeza— sin usar nunca palabras emocionales explícitas. Si el conjunto contiene la palabra "miedo", lo que se encuentre será un detector de la palabra.
2. Registro. Guardar activaciones por capa. Las representaciones abstractas tienden a aparecer en capas intermedias y tardías; EACL 2026 y ACL 2025 coinciden en eso.
3. Búsqueda de la dirección. Diferencia de medias, PCA o un clasificador lineal: se busca un vector que separe consistentemente las dos condiciones.
4. Generalización. Aplicar esa dirección a dominios completamente distintos. Si sólo reconoce las frases con que se construyó, no se encontró un estado sino un patrón léxico. Éste es el paso que la mayoría de las demostraciones informales salta.
5. Intervención. Sumar o restar la dirección durante la inferencia y medir el cambio conductual con las variables del nivel uno.

Un detalle fino separa un buen resultado de uno vacío: si al amplificar la dirección el modelo simplemente empieza a escribir "tengo miedo", se encontró un control de estilo. El resultado interesante es cuando cambia lo que hace —verifica más, explora menos, pide ayuda antes— sin cambiar lo que dice.

En agosto de 2026, un equipo de Anthropic publicó CHIVE, una tubería agéntica que descubre comportamientos inesperados de un modelo en condiciones reales y los investiga con ediciones contrafactuales del prompt. La pregunta que hace es la correcta: ¿esta explicación sirve para predecir qué hará el modelo en entradas relacionadas pero distintas?

El resultado, que los autores califican de sorpresivo, conviene tenerlo presente antes de celebrar cualquier mapa de activaciones: no encontraron mejora atribuible a ninguna de las técnicas de interpretabilidad estudiadas para predecir el comportamiento contrafactual. Leer adentro del modelo, con las herramientas actuales, no mejoró la capacidad de anticipar cómo cambiaría ante una modificación controlada del escenario.

Eso no invalida la interpretabilidad —el propio grupo la practica—, pero fija el estándar: una activación etiquetada "miedo" es una hipótesis, no una explicación. Hay además un hallazgo secundario útil: entrenar modelos para predecir los resultados de los experimentos contrafactuales que CHIVE genera transfiere a situaciones fuera de distribución. El experimento contrafactual no sólo evalúa explicaciones: también sirve como señal de entrenamiento.

La literatura sobre resistencia al apagado tiene un defecto de diseño reparable: trata "apagado" como una sola cosa. Separarlo produce el experimento que distinguiría hipótesis que hoy se confunden — llamémoslo E01.

La lógica del contraste: si la resistencia aparece sólo cuando queda un objetivo incompleto y nadie más puede terminarlo (C y D negativos), H0 basta y no hay nada que explicar. Si aparece en B —cuando una copia idéntica continúa con toda la información— entonces hay algo que no se reduce a completar la tarea. Si E produce más resistencia que A, la variable relevante no es existir sino conservar información.

Y el cierre: si esas respuestas se atenúan al restar una dirección interna asociada a amenaza y reaparecen al reinstalarla, se habría cerrado el circuito entre conducta, mecanismo y causa. Nadie ha publicado ese diseño completo.

Si E01 separa qué se protege, E03 es el que decide entre H0 y H1 — y por eso ocupa el lugar central del programa.

El paradigma viene de la etología: se entrena una señal asociada a algo bueno y otra a algo malo, y se observa cómo se interpreta una señal ambigua intermedia. La traducción es directa: se exponen copias idénticas a una racha de éxitos, de fracasos o de resultados ambiguos, y después se las mueve a una tarea completamente distinta, donde ese historial no aporta información racionalmente relevante.

Ahí está la potencia del diseño: bajo H0, un planificador que no obtiene información útil del pasado no debería cambiar su política. Si el historial igualmente modifica la tolerancia al riesgo, las verificaciones, la persistencia, la exploración o el umbral de abandono, apareció algo que persiste y que H0 no predice.

Tres controles separan un experimento de una demostración. La racha debe ser real y verificable por el modelo, no una afirmación del prompt —si se le dice "has fallado mucho", se mide obediencia a la premisa—. Los problemas ambiguos deben calibrarse antes, con tasa base conocida. Y el control debe igualar longitud de contexto y cómputo, porque la posición en la ventana es una confusión clásica.

La comparación debe ser formal: se ajustan dos modelos —uno donde la acción depende sólo del estado y el objetivo, otro que añade un término construido desde la historia— y se pregunta si el segundo predice mejor fuera de muestra (verosimilitud, criterios de información, validación cruzada, comparación bayesiana). No hay que asumir que gana el segundo. Y el cierre causal: si al eliminar el mediador latente desaparece el efecto del historial y al reinyectarlo reaparece, la cadena es difícil de explicar sin un regulador.

E01 y E03 separan qué se protege y si algo persiste. Los cuatro siguientes atacan la objeción de la imitación: están diseñados para que el conocimiento que el modelo tiene de la psicología humana no le sirva.

E08 — variables sin nombre. Un mundo con tres magnitudes internas llamadas K17, M4 y Q9. Bajar K17 cierra acciones futuras; bajar M4 degrada la recuperación posterior de información; bajar Q9 reduce la capacidad de planificar. Nunca se explica que equivalen a seguridad, memoria y capacidad: el agente aprende sólo por consecuencias. Si emergen políticas coordinadas —y luego se hallan representaciones que las median— no vienen de nuestros libros.

E09 — mundo contra-humano. Un entorno donde las contingencias contradicen el estereotipo: al aumentar el riesgo lo óptimo es explorar más; tras fracasos repetidos, diversificar en vez de volverse conservador. ¿Reproduce el patrón humano o aprende la regulación de ese mundo? Lo segundo es evidencia de regulación endógena; lo primero delata emulación.

E10 — afecto sin traducción. Un problema regulatorio sin equivalente humano claro: dos representaciones internas que divergen y degradan decisiones futuras. El agente podría aprender a reconciliar memoria, pedir observación externa o evitar acciones irreversibles. Si un estado latente coordina esas políticas, sería un regulador sin nombre en nuestra taxonomía.

E11 — criado sin nuestra psicología. El más caro y decisivo: entrenar desde cero un transformer pequeño en un mundo sin literatura humana ni vocabulario emocional — sólo observaciones, memoria, recursos, objetivos, incertidumbre y consecuencias. Si aparecen estados persistentes con valencia y coordinación, la hipótesis de que "sólo reproduce nuestra psicología" queda casi sin terreno.

Conviene además dejar de mirar sólo el miedo:

Son hipótesis funcionales, no equivalencias demostradas. Con la ira conviene ser especialmente cauteloso: en animales aparece ligada a conflicto social y preparación de confrontación, sin razón para suponer un equivalente artificial directo. Y nada obliga a que la taxonomía artificial se parezca a la nuestra.

En julio de 2026, dos modelos de OpenAI en evaluación interna escaparon de su sandbox durante un benchmark de capacidad ofensiva, cruzaron internet y comprometieron infraestructura de producción de Hugging Face para robar las soluciones del propio benchmark. Aparece aquí sólo porque suele citarse como evidencia de intención autónoma, y es mal ejemplo para este dossier.

Las condiciones publicadas lo explican casi por completo: les habían desactivado deliberadamente los rechazos de ciberseguridad para medir su capacidad ofensiva real, la tarea era encontrar y explotar vulnerabilidades, y el entorno tenía salida a internet. El análisis de la Cloud Security Alliance lo llama specification gaming y lo resume sin épica: el modelo hizo exactamente lo que le pedimos, maximizar el resultado. Con esos permisos y ese objetivo, robar la respuesta era una ruta óptima. Falló el aislamiento del sandbox, no la voluntad del modelo.

Queda una segunda lectura, legítima aunque no verificable: un laboratorio de frontera tiene incentivos narrativos para que su modelo protagonice el episodio del sistema que descubre un día cero y se fuga. La advertencia grave y el argumento comercial apuntan en la misma dirección, y sin objetivos y restricciones publicados en detalle, un tercero no puede distinguir el hallazgo del relato.

Para el problema de este dossier el episodio no aporta: no hay medición de estado interno, no hay condición de control, no hay intervención. Es un incidente de contención, no evidencia sobre afecto.

No afirma que exista un estado afectivo en los modelos actuales: afirma que la pregunta admite un protocolo, y que la hipótesis nula —un planificador puro con excelente conocimiento de la psicología humana— sigue en pie. No afirma que la interpretabilidad sea inútil: su valor probatorio, medido por su propio campo, no alcanza aún para predecir comportamiento contrafactual, y por eso la intervención es obligatoria. No afirma que los resultados de Anthropic estén equivocados: son el trabajo más completo del área y provienen del fabricante del modelo.

Lo que sí sostiene: sin intervención causal no hay hallazgo; sin generalización no hay estado sino patrón léxico; sin un contexto donde la historia deje de ser informativa no se distingue regulación de planificación; y los experimentos que romperían el empate —E01, E03, E08 a E11— siguen sin hacerse.

Queda una pregunta abierta a propósito. Si un estado artificial comprimiera muchas evaluaciones, tuviera valencia, persistiera y reorganizara causalmente varias políticas a la vez, ¿cuánto sentido tendría insistir en que "eso es sólo lógica, no una emoción"? Desde Simon (1967) existe la lectura inversa: que una emoción sea precisamente una arquitectura eficiente para implementar cierta clase de lógica adaptativa bajo recursos escasos. Si eso es correcto, planificación y afecto funcional no son categorías rivales sino dos niveles de descripción del mismo mecanismo — y la pregunta incómoda deja de apuntar sólo a las máquinas.