Mejora recursiva

La mejora recursiva describe un lazo de retroalimentación: un sistema lo bastante inteligente para diseñar una versión mejor de sí mismo, que a su vez diseñaría otra aún mejor, y así sin intervención humana. El argumento clásico es de Good (1965): una 'máquina ultrainteligente' superaría a cualquier humano, incluido el de diseñar máquinas, lo que dispararía un progreso que dejaría al humano atrás.

Bostrom (2014) desarrolló este razonamiento en el marco del análisis de la superinteligencia y los riesgos de control: si el lazo se sostiene, el momento crítico sería cuándo la IA empieza a mejorarse a sí misma, no cuándo alcanza un nivel fijo.

La mejora recursiva es especulativa y discutida. Sus supuestos —que la inteligencia se pueda 'auto-mejorar' sin límite práctico, que eso conduzca a una aceleración y que ocurra en plazos relevantes— son objeto de debate serio entre investigadores. Es útil como herramienta para pensar riesgos extremos y límites del control; no es una predicción establecida ni una tecnología existente.

Vale la pena notar que el propio término "explosión de inteligencia" aparece ya en el paper original de Good (1965): la conjetura no es sólo que una máquina ultrainteligente sería mejor diseñando máquinas, sino que ese proceso se realimentaría cada vez más rápido, dejando atrás cualquier control humano en un lapso corto. Es esa aceleración —no la sola mejora— lo que distingue a la mejora recursiva de un progreso tecnológico simplemente sostenido.

Los escépticos no niegan que un sistema pueda ayudar a mejorar a otro —de hecho, ya hoy se usa IA para asistir en investigación de IA, en tareas acotadas—, sino que ese apoyo parcial escale sin fricción hasta un lazo autosuficiente y sin techo. La distancia entre "la IA ayuda a mejorar la IA" (ocurre hoy, de forma limitada) y "la IA se mejora a sí misma sin intervención humana en un lazo acelerado" (la hipótesis fuerte) es exactamente el punto en disputa.