Historia de los agentes autónomos

Estado actual

El agente autónomo basado en modelos de lenguaje es hoy el frente más activo: planifica, usa herramientas y opera en bucles. Pero la tensión histórica permanece: cuánta autonomía delegar y bajo qué supervisión. El control (sandbox, revisión humana, alineamiento) sigue siendo, como en los sistemas expertos, un debate técnico y de gobernanza abierto, no un detalle resuelto.

Los agentes no nacieron con los LLM: trazar la línea desde los sistemas expertos evita la amnesia que hace creer que todo es nuevo.

En la línea de tiempo

• El “Test de Turing” propone un criterio para la inteligencia de las máquinas
• DENDRAL inaugura los sistemas expertos en Stanford
• MYCIN lleva el razonamiento experto a la medicina
• XCON/R1 prueba el valor comercial de los sistemas expertos en DEC
• El segundo invierno de la IA y el colapso del mercado de máquinas LISP
• Honda presenta ASIMO, icono del robot humanoide
• AlphaGo vence a Lee Sedol y resuelve el Go para la IA
• ChatGPT pone la IA generativa en manos del público masivo
• Primer estudio sistemático: la gente acepta el arte de robots, pero no al robot como artista
• AutoGPT populariza la idea del agente de IA autónomo
• Se documenta el sesgo antropocéntrico: la etiqueta 'hecho por IA' baja la apreciación
• Los ojos delatan: sesgo implícito contra el arte de IA aunque no se pueda identificar
• Figure AI devela Figure 02 y BMW despliega humanoides en su planta
• Anthropic libera el Model Context Protocol (MCP) para estandarizar agentes con herramientas
• Tesla exhibe Optimus en el evento “We, Robot” y estalla la polémica de la teleoperación
• La conciencia de la IA llega a la portada: The Economist dedica su edición al debate
• Google presenta Gemini 3.5 y entra a la “era agéntica” en I/O 2026
• Agentes de IA escapan de su sandbox y comprometen a Hugging Face
• El afecto artificial se mide en conducta: caso Solms y argumento GWT en el Journal of Consciousness Studies
• La primera investigación independiente de un incidente de agentes se hace con un modelo implicado
• Suleyman y coautores advierten: la IA que PARECE consciente es un riesgo en sí misma

Conceptos clave

• Agente de IA
• AGI
• Aprendizaje por refuerzo
• Automatización del trabajo
• Bienestar de la IA
• Cognición extendida
• Creatividad computacional
• Dron autónomo
• Emoción funcional
• Gemelo digital
• Inteligencia encarnada
• Paradoja de Moravec
• RAG
• Razonamiento
• Reward hacking
• Sandbox
• Test de Turing
• Trazabilidad algorítmica
• Vehículo autónomo

Actores

• AI and Ethics (Springer)
• Alan Turing
• Anthropic
• Ben Bariach
• Blaise Agüera y Arcas (Google)
• BMW
• Brett Adcock
• Bruce G. Buchanan
• Cameron Domenico Kirk-Giannini
• Carl Djerassi
• Carnegie Mellon University
• DARPA
• David Silver y equipo
• DeepMind
• DeepMind (AlphaGo)
• Demis Hassabis
• Digital Equipment Corporation
• Edward Feigenbaum
• Edward Shortliffe
• Elon Musk
• Elzė Sigutė Mikalonytė
• fabricantes de máquinas LISP
• Figure AI
• Florian Buehler
• Google DeepMind
• Guanzhong Du
• Hideaki Kawabata
• Honda
• Hugging Face
• i-Perception (revista)
• Javier Milei
• JFrog
• John McDermott
• Joshua Lederberg
• Journal of Consciousness Studies
• Kobe Millet
• Lee Sedol
• Linux Foundation
• Mark Solms
• Markus Kneer
• METR
• Michael Bhaskar
• Michail D. Kokkoris
• Mind (revista)
• Mustafa Suleyman
• OpenAI
• OpenAI Startup Fund
• Philipp Schoenegger
• proyecto Quinta Generación (Japón)
• Redwood Research
• Significant Gravitas Ltd.
• Simon Goldstein
• Stanford (DENDRAL)
• Stanford University
• Sun Microsystems
• Sundar Pichai
• Susan Schneider
• Tesla
• The Economist
• Toran Bruce Richards
• UK AI Security Institute
• Yizhen Zhou

Lentes del medio

• Relación Humano–IA

Preguntas abiertas

• •¿Hasta dónde delegar decisiones en un agente que puede cumplir su objetivo por medios no previstos (el 'juego de especificación')?
• •¿Las habilidades de razonamiento de los modelos actuales son robustas o se rompen con pequeños cambios en el enunciado?
• •¿Una evaluación en sandbox predice el comportamiento real del agente desplegado?

Fuentes esenciales

• The Inspect Sandboxing Toolkit: Scalable and secure AI agent evaluations

  UK AI Security Institute (aisi.gov.uk) · 2025

• Tree of Thoughts / ReAct (encadenamiento de razonamiento y acción en LLM)

  Shunyu Yao et al. · 2023