La singularidad no es un día en el calendario

Nuestro cerebro comprende bastante bien una progresión como 1, 2, 3, 4, 5. Intuye peor una como 1, 2, 4, 8, 16. Sabemos intelectualmente lo que significa duplicar algo, pero tendemos a imaginar el futuro prolongando aproximadamente la pendiente que vemos en el presente.

La psicología experimental tiene un nombre para esto: sesgo de crecimiento exponencial (exponential growth bias). Las personas subestiman sistemáticamente las consecuencias del crecimiento exponencial, y el efecto aparece incluso entre individuos educados y conscientes de que el sesgo existe: en los experimentos de Schonger y Sele publicados en PLOS ONE, saber del sesgo no bastaba para corregirlo. Curiosamente, el mismo estudio encontró que resulta más fácil comprender una exponencial cuando se comunica como "tiempo de duplicación" que cuando se expresa como una tasa de crecimiento.

Ese pequeño defecto de nuestra intuición podría convertirse en uno de los grandes problemas intelectuales de nuestro tiempo. Porque varias de las tecnologías que estamos desarrollando no solo avanzan rápidamente: empiezan a ayudar a desarrollar las tecnologías que vendrán después.

La palabra singularidad suele evocar una escena cinematográfica: un computador despierta, se vuelve infinitamente inteligente y, a partir de ese instante, nadie sabe qué ocurre. Esa caricatura es útil para vender películas y bastante mala para entender el problema.

En 1965, el matemático Irving John Good imaginó lo que llamó una "máquina ultrainteligente". Si una máquina fuese mejor que cualquier humano en las tareas intelectuales —razonaba— también podría ser mejor que nosotros diseñando máquinas inteligentes. Podría entonces participar en la creación de una máquina todavía mejor, que a su vez podría diseñar otra. Good llamó a ese proceso una explosión de inteligencia.

Décadas después, el matemático y escritor Vernor Vinge popularizó la expresión "singularidad tecnológica" en un ensayo presentado en un simposio de la NASA en 1993. La analogía proviene, en parte, de la física: una singularidad señala un lugar a partir del cual nuestras ecuaciones dejan de permitirnos extrapolar. Aplicado a la tecnología, no significa que el progreso se vuelva infinito. Significa algo más interesante: que nuestra capacidad de predecir el mundo posterior disminuye radicalmente, porque los agentes que producen el cambio pasan a ser más capaces que aquellos que intentan anticiparlo.

Ray Kurzweil convertiría después esta idea en una narrativa mucho más amplia sobre aceleración, computación, biología y aumento humano. Desde entonces la singularidad se ha transformado simultáneamente en hipótesis científica, filosofía, movimiento cultural, herramienta de marketing y, ocasionalmente, religión secular. Conviene separar todo eso. No existe hoy evidencia de que hayamos entrado en una explosión autónoma e incontrolada de inteligencia. Pero tampoco estamos en el mismo lugar en que estábamos hace cinco años.

Los sistemas de inteligencia artificial participan actualmente en programación, investigación, diseño de experimentos, evaluación de otros sistemas y construcción de infraestructura para IA. Eso no equivale a una máquina rediseñándose autónomamente. Pero cambia la naturaleza del problema.

Todavía estamos, en gran medida, en un mundo donde los humanos deciden y las máquinas aceleran. La pregunta es qué ocurre si algún día las máquinas también se vuelven buenas decidiendo qué investigar para construir mejores máquinas. Entonces el círculo podría empezar a cerrarse: IA → mejora la investigación en IA → produce mejor IA → mejora todavía más la investigación en IA.

Eso es la mejora recursiva. Y es el corazón técnico de las versiones más fuertes de la hipótesis de la singularidad.

El horizonte temporal de METR no mide cuánto rato puede permanecer encendido un agente. Pregunta algo diferente: ¿qué tan compleja puede ser una tarea antes de que la probabilidad de que una IA consiga terminarla autónomamente empiece a caer? Para responderlo compara tareas de programación, machine learning y ciberseguridad con el tiempo que necesitaría un profesional humano competente.

Hace pocos años, la unidad natural para pensar la autonomía de un modelo eran minutos. Después fueron horas. Ahora empiezan a aparecer tareas que equivalen a muchas horas de trabajo profesional. La pregunta importante no es si un gráfico concreto seguirá exactamente la misma exponencial — probablemente no lo hará. La pregunta es qué ocurre cuando cruzamos sucesivamente escalas: minutos → horas → días → semanas → meses. Porque en algún punto deja de cambiar solamente la productividad. Empieza a cambiar la organización del trabajo intelectual.

Nada obliga a que una curva exponencial continúe indefinidamente. Una bacteria se multiplica hasta quedarse sin alimento; una tecnología crece hasta saturar su mercado; los procesadores encuentran restricciones térmicas; los centros de datos necesitan electricidad; las fábricas de chips necesitan materiales, capital, agua, talento y años. Muchas supuestas exponenciales terminan siendo curvas S: crecer, crecer rápido, encontrar un cuello de botella, desacelerarse.

La hipótesis de la explosión de inteligencia ha sido criticada precisamente por asumir que esas restricciones desaparecerán. El filósofo David Thorstad sostiene que las defensas clásicas de la singularidad descansan en supuestos de crecimiento que carecen de suficiente respaldo — rendimientos decrecientes en la investigación incluidos.

Es una objeción importante. Pero tiene una respuesta inquietante: el cuello de botella también puede moverse. Si escribir software deja de ser el problema, el límite pasa a ser revisarlo. Si revisar se automatiza, el límite se vuelve elegir qué construir. Después chips; después electricidad; después fabricación. No se necesita una exponencial infinita: solo que cada nueva tecnología elimine durante un tiempo la restricción que frenaba a la anterior. El resultado puede parecer menos una única curva y más una sucesión de aceleraciones.

Y hay un factor adicional: las curvas empiezan a tocarse. IA, robótica, biología computacional, edición genética, nuevos materiales, interfaces cerebro-computador, energía. Una IA mejor ayuda a diseñar proteínas; la biología sintética produce materiales; mejores baterías permiten robots más autónomos; robots automatizan laboratorios; laboratorios generan datos; los datos alimentan mejores modelos. No sabemos qué ciclos importarán de verdad, pero esta interconexión hace que extrapolar cada tecnología por separado sea cada vez menos útil.

Hay que sostener simultáneamente dos ideas que parecen contradictorias: la inteligencia artificial está mejorando extraordinariamente rápido, y la inteligencia artificial actual sigue siendo extraordinariamente irregular.

No estamos construyendo una versión electrónica de una persona. Estamos creando algo más extraño: una inteligencia capaz de ser simultáneamente sobrehumana y ridículamente incompetente dependiendo del problema. Una inteligencia dentada — el AI Index habla de una "frontera dentada" (jagged frontier). Los robots, mientras tanto, funcionan mucho mejor en laboratorios que enfrentados al caos de una casa real. Eso vuelve aún más difícil imaginar el futuro.

Futuro 1: la curva se dobla. La arquitectura actual encuentra límites; la mejora continúa pero se encarece; no aparece ninguna superinteligencia autónoma. Incluso este escenario sería profundamente transformador, porque congelar las capacidades de 2026 no congelaría sus consecuencias: falta integrar estas herramientas en millones de empresas, colegios, hospitales, gobiernos y hogares. La difusión tecnológica tiene su propia inercia. No se necesita AGI para cambiar el mundo.

Futuro 2: aceleración sin explosión. Las IA automatizan crecientemente programación, investigación, ingeniería y administración. Los humanos siguen fijando objetivos, pero cada persona dirige decenas o cientos de agentes; una organización de cien personas ejecuta el trabajo que antes requería miles. La ciencia se acelera — también la propaganda, la vigilancia, el descubrimiento de medicamentos y el diseño de armas. La característica central no sería una inteligencia todopoderosa sino la abundancia de capacidad cognitiva. Y quizá descubramos que nuestras sociedades fueron diseñadas suponiendo exactamente lo contrario: que la inteligencia, el conocimiento experto y el tiempo humano eran recursos escasos.

Futuro 3: el bucle se cierra. Los sistemas adquieren suficiente autonomía científica como para participar sustancialmente en la creación de sus sucesores. Aquí aparece la posibilidad de una verdadera explosión de inteligencia. No sabemos si puede ocurrir, ni a qué velocidad, ni siquiera si "inteligencia" es una variable suficientemente simple como para hablar de ella como si fuese la velocidad de un automóvil. Pero tampoco podemos descartar racionalmente una posibilidad solo porque sus consecuencias sean difíciles de imaginar.

Hay otra posibilidad menos espectacular y posiblemente más cercana: una especie de singularidad social antes que una singularidad de inteligencia. No porque aparezca una mente artificial omnipotente, sino porque nuestra capacidad de adaptación institucional quede por debajo de la velocidad del cambio.

Las leyes tardan años. Los sistemas educacionales, décadas. Las profesiones construyen normas durante generaciones. Las ciudades duran siglos. Las tecnologías digitales pueden desplegarse globalmente en meses. Ahí aparece un problema de sincronización: podríamos tener medicina del siglo XXI regulada por instituciones concebidas en el XX, educación organizada según necesidades industriales del XIX y cerebros biológicos cuya arquitectura se formó muchísimo antes que todo lo anterior.

La verdadera brecha quizá no sea entre humanos y máquinas. Puede ser entre la velocidad de nuestras tecnologías y la velocidad de nuestras instituciones.

Y el problema del trabajo es solo una parte. Durante siglos organizamos la sociedad alrededor de una cadena: capacidad → trabajo → ingresos → identidad → estatus. Si la capacidad cognitiva artificial se vuelve extremadamente barata, esa cadena empieza a romperse — y aparecen preguntas más difíciles que "qué empleos desaparecerán". Qué vale una educación, qué significa mérito, qué significa autoría, y cuánto de nuestro sentido de propósito provenía simplemente de que alguien necesitaba que hiciéramos algo.

Normalmente imaginamos el futuro modificando el presente: autos pero eléctricos, computadores pero mejores, médicos con IA, profesores con IA. Es comprensible — nuestra imaginación también es bastante lineal. Pero los grandes cambios tecnológicos no se limitan a mejorar objetos: cambian las categorías. Antes del automóvil tenía sentido imaginar un caballo más rápido; era mucho más difícil imaginar autopistas, suburbios, estaciones de servicio y ciudades enteras diseñadas alrededor del auto.

Eso es lo que toca intentar ahora. No preguntarse únicamente qué puede hacer mejor la inteligencia artificial, sino qué cosas dejarán de tener sentido cuando pueda hacerlo — y qué cosas nuevas se volverán posibles.

Los humanos siempre hemos externalizado capacidades: la escritura externalizó memoria; los mapas, navegación; las calculadoras, cálculo; internet, acceso a información. La IA podría externalizar parcialmente algo que considerábamos más íntimo: el pensamiento operativo. Y en paralelo aparecen tecnologías que recorren el camino contrario — interfaces neuronales, prótesis cognitivas, genética. Entonces la pregunta "¿será más inteligente la máquina o el humano?" podría resultar tan anticuada como preguntar si una persona es más rápida que un automóvil. La unidad relevante podría terminar siendo el sistema: humano + máquinas + instituciones + redes. Eso abre posibilidades extraordinarias. También riesgos extraordinarios.