Mejora recursiva
La idea de que una IA suficientemente capaz podría mejorar su propio diseño, y cada versión mejorada mejoraría a la siguiente, en un lazo que se aceleraría por sí solo. Es una hipótesis, no un hecho demostrado.
- Última revisión:
- Fuentes:
- 2 fuentes · 2 verificadas
La mejora recursiva describe un lazo de retroalimentación: un sistema lo bastante inteligente para diseñar una versión mejor de sí mismo, que a su vez diseñaría otra aún mejor, y así sin intervención humana. El argumento clásico es de Good (1965): una 'máquina ultrainteligente' superaría a cualquier humano, incluido el de diseñar máquinas, lo que dispararía un progreso que dejaría al humano atrás.
Bostrom (2014) desarrolló este razonamiento en el marco del análisis de la superinteligencia y los riesgos de control: si el lazo se sostiene, el momento crítico sería cuándo la IA empieza a mejorarse a sí misma, no cuándo alcanza un nivel fijo.
La mejora recursiva es especulativa y discutida. Sus supuestos —que la inteligencia se pueda 'auto-mejorar' sin límite práctico, que eso conduzca a una aceleración y que ocurra en plazos relevantes— son objeto de debate serio entre investigadores. Es útil como herramienta para pensar riesgos extremos y límites del control; no es una predicción establecida ni una tecnología existente.
¿Por qué te importa?
Es el motor conceptual de los escenarios más extremos sobre la IA y, por eso, de buena parte del argumento para invertir en seguridad antes de que las capacidades crezcan. Entender que es una hipótesis te permite evaluar esos argumentos sin aceptarlos ni descartarlos a ciegas.
Ejemplos
- La formulación original del lazo de automejora en Good (1965).
- El desarrollo del argumento en el análisis de superinteligencia de Bostrom (2014).
- Experimentos actuales en los que IA asiste a la investigación en IA, que se citan a veces como precursores parciales del lazo.
Términos relacionados
Debate y controversia
Es muy debatido. Se cuestiona si la automejora ilimitada es posible o si topa con límites físicos, de datos y de retorno decreciente; si conduciría a una 'explosión' real; y qué plazo sería pertinente. Varios investigadores lo consideran una especulación débil sobre la que no conviene fundar política.
Fuentes
I. J. Good · 1965
WebFetch abrió el PDF y citó el pasaje de la 'máquina ultrainteligente' que puede superar toda actividad intelectual humana; origen del argumento de automejora.
Nick Bostrom · 2014
WebFetch confirmó en Open Library autor (Bostrom), título y subtítulo, Oxford University Press, 2014.