La carrera de la IA no es solo por inteligencia. Es por el derecho a decidir

La carrera real tiene muchas pistas y ninguna línea de llegada acordada

Imaginemos que mañana apareciera una IA extraordinariamente competente. No omnisciente ni mágica: simplemente capaz de acelerar la ciencia, diseñar medicamentos, optimizar redes eléctricas, automatizar buena parte del trabajo intelectual y multiplicar la productividad.

Suponer que ése sería el final feliz de la historia confunde dos problemas.

El primero es técnico: ¿podemos construirla sin perder el control sobre ella?

El segundo es político y quizá más antiguo: ¿controlarla para hacer qué?

El 23 de julio de 2025 la Casa Blanca de Donald Trump publicó Winning the AI Race: America’s AI Action Plan. La retórica no era ambigua: Estados Unidos debía “ganar” la carrera. El plan agrupó más de 90 acciones alrededor de tres grandes objetivos: acelerar innovación, construir infraestructura estadounidense de IA y liderar la diplomacia y seguridad internacional. Ese mismo día, la orden ejecutiva 14320 impulsó la exportación de un “stack” estadounidense completo —hardware, nube, modelos, aplicaciones y estándares— para extender el ecosistema tecnológico de EE.UU. y disminuir la dependencia mundial de tecnologías rivales.

Eso ayuda a entender algo fundamental: una plataforma tecnológica también es una arquitectura de dependencia. No hace falta que Washington controle cada respuesta producida por una IA para obtener influencia. Si chips, servicios cloud, modelos, software, estándares de seguridad y contratos empresariales pertenecen al mismo ecosistema, cambiar de proveedor puede volverse política y económicamente costoso. Esa lógica explica por qué la competencia actual ya no se reduce a quién consigue el mejor puntaje en un benchmark.

Pero el relato de “Estados Unidos versus China” resulta igualmente insuficiente.

China publicó el Global AI Governance Action Plan el 26 de julio de 2025. El lenguaje es muy diferente del estadounidense: define la IA como un potencial “bien público internacional”, combina innovación acelerada con seguridad, confiabilidad y controlabilidad, pide reducir barreras tecnológicas y coloca repetidamente la soberanía nacional, la inclusión y el acceso de los países en desarrollo dentro de la discusión.

No hay que ser ingenuos: un documento diplomático demuestra qué desea presentar un Estado como su posición, no que esa posición describa perfectamente su conducta. Pero tampoco conviene cometer el error inverso de ignorarlo porque proviene de Pekín. China está articulando una doctrina de gobernanza alternativa: acceso amplio, soberanía estatal, protagonismo de Naciones Unidas, mayor representación del Sur Global y controles de seguridad compatibles con sus propias concepciones de autoridad estatal.

Y en 2026 pasó de las declaraciones a construir institución.

El 16 de julio se firmó en Shanghái el acuerdo para crear la World Artificial Intelligence Cooperation Organization (WAICO). Según la misión china ante Naciones Unidas, nació como una organización intergubernamental independiente, con sede en Shanghái y 29 Estados fundadores. Entre los firmantes estuvieron representantes de Rusia, Pakistán, Indonesia, Kazajistán, Laos y otros países que rara vez ocupan el centro del relato occidental sobre gobernanza de IA.

Esto merece bastante más atención de la que recibe. China no propone simplemente “tener mejores modelos”. Está intentando participar en la creación de las instituciones que definirán qué se entiende por IA segura, justa y soberana.

Su apuesta por los modelos abiertos también tiene una dimensión geopolítica. El 9 de julio de 2026, la portavoz de la Cancillería china, Mao Ning, afirmó que modelos abiertos como DeepSeek y Qwen habían reducido significativamente el umbral y el costo de usar IA, en beneficio de los países en desarrollo que no disponen del capital estadounidense. Es simultáneamente una política industrial, una estrategia de influencia y una proposición ideológica sobre cómo debería distribuirse la tecnología.

Rusia se encuentra en una situación diferente. Quiere soberanía tecnológica pero posee menos recursos para conseguirla. Vladimir Putin ha convertido el desarrollo de modelos nacionales en una cuestión explícita de soberanía tecnológica y cultural. El 19 de noviembre de 2025, en la conferencia AI Journey, pidió un grupo de trabajo nacional para acelerar la IA generativa rusa, calificó de inaceptable depender de modelos de lenguaje diseñados en otros países —los describió como instrumentos de influencia sobre la opinión pública— y puso como camino a sistemas nacionales como GigaChat, de Sberbank, y YandexGPT.

El problema es físico. Las sanciones occidentales dificultaron seriamente el acceso ruso a semiconductores avanzados; el propio CEO de Sberbank, German Gref, reconoció la dificultad de sustituir las GPU. Ya en enero de 2025 Putin había ordenado profundizar la cooperación con China en IA, y el 20 de mayo de 2026 Gref dijo esperar que Sberbank pudiera usar chips chinos para GigaChat.

Rusia ilustra así una tesis importante: soberanía declarada y autonomía tecnológica no son sinónimos. Un país puede tener científicos, energía, modelos nacionales y voluntad política y, aun así, depender de una cadena industrial que no controla.

La respuesta rusa ha sido más soberanía, no menos. En marzo de 2026 su gobierno avanzaba además hacia facultades para restringir herramientas extranjeras de IA que transfirieran datos fuera del país —el proyecto nombraba a ChatGPT, Claude y Gemini—, enmarcando la medida tanto en seguridad de datos como en la defensa de valores nacionales.

Europa vive casi la contradicción opuesta. Ha sido mucho más ambiciosa construyendo reglas que construyendo plataformas dominantes. El AI Act está en vigor y parte de sus reglas ya se aplica —las prohibiciones desde febrero de 2025, las obligaciones para modelos de propósito general desde agosto de 2025, las de transparencia desde agosto de 2026—, pero su núcleo duro quedó para después: un reglamento “ómnibus” que entró en vigor el 27 de julio de 2026, días antes del plazo original, aplazó las obligaciones para sistemas de alto riesgo hasta diciembre de 2027 y agosto de 2028. Mientras tanto, Bruselas complementa su regulación con estrategias de adopción, ciberseguridad e “independencia tecnológica”, y en junio de 2026 presentó un paquete de soberanía tecnológica para reducir su dependencia de la nube estadounidense. En otras palabras: Europa descubrió que regular tecnologías ajenas no equivale necesariamente a poseerlas.

El Código de Conducta del proceso de Hiroshima, impulsado originalmente por el G7, representa otro enfoque: obligaciones voluntarias de evaluación, gestión de riesgos y transparencia para desarrolladores de sistemas avanzados. No es un tratado, y precisamente ahí está la diferencia.

India, Brasil y varios países africanos introducen otro quiebre. En las discusiones recientes sobre armas autónomas, India se ha alineado con quienes prefieren directrices no vinculantes, mientras Brasil, Irlanda y diversos Estados africanos han defendido reglas jurídicamente obligatorias. Es una advertencia útil contra el cliché “Occidente regula, el resto acelera”: las coaliciones cambian según el problema.

Japón, Corea del Sur y Taiwán importan por otra razón: la cadena industrial. Los países del Golfo, por capital y energía. Israel, por la intersección excepcionalmente intensa entre sector tecnológico y defensa. Y Chile y otros países latinoamericanos tienen una oportunidad distinta: no competir razonablemente por entrenar cada generación del mayor modelo del mundo, sino intentar controlar capacidades estratégicas concretas —datos, talento, lenguaje, energía, aplicaciones y gobernanza— evitando una dependencia completa del proveedor extranjero. La propia literatura sobre “compute” muestra que el poder computacional relevante no es solo una GPU: incluye interconexión, memoria, almacenamiento, software, infraestructura y capacidad de servir modelos a escala.

Chile ya tiene una Política Nacional de IA organizada en tres ejes —factores habilitantes, desarrollo y adopción, y gobernanza y ética—, y CENIA lanzó en febrero de 2026 LatamGPT, un modelo abierto construido con datos latinoamericanos por más de 60 instituciones de la región; también estimó que la mitad de la fuerza laboral chilena podría acelerar al menos un 30 % sus tareas con IA generativa. No es soberanía de frontera al estilo estadounidense o chino; es otra capa de autonomía.

Eso conduce a una definición más útil de la carrera:

No hay una competencia para “tener IA”. Hay competencias simultáneas por inventarla, entrenarla, producir sus chips, alimentarla con energía, difundirla, establecer sus estándares, integrarla en empresas y ejércitos y decidir para qué se utilizará.

Un país puede perder una y ganar otra.

El mapa: 25 actores y quién decide qué

Antes de seguir conviene ver el tablero completo. El mapa que sigue reúne a los 25 actores de esta historia —Estados, organismos internacionales, laboratorios, nubes, empresas de defensa, prensa, investigadores e inversores— y las relaciones que el artículo documenta entre ellos: quién provee a quién, quién sanciona, quién regula, qué postura lleva cada potencia a Ginebra y quién investiga lo que los demás hacen.

El mapa es interactivo: gíralo en 360 grados, acércate con la rueda o con dos dedos y toca cualquier figura sin arrastrarla para abrir su tarjeta: lo que sabemos de ese actor, lo que llama la atención, con quién se relaciona y su fuente principal. El botón «Ver como lista» muestra lo mismo en texto.

Tres lecturas saltan a la vista al recorrerlo. La primera: la Convención CCW recibe flechas de casi todas las potencias, de Naciones Unidas, del CICR y de los investigadores, y no emite ninguna. Es el lugar donde se discute qué debería prohibirse; por ahora, no el lugar donde se decide.

La segunda: las empresas que proveen nube, datos y software a ejércitos —Google, Microsoft, Palantir, Anduril— no tienen asiento en esa mesa, donde negocian los Estados, y la regulación más ambiciosa del tablero, la europea, excluye expresamente los usos exclusivamente militares. Sus límites prácticos los ponen contratos, revisiones internas, empleados, periodistas e inversores: las líneas grises de escrutinio que llegan a Israel, a Microsoft y a Palantir. Los dos laboratorios que sí hablaron ante el Consejo de Seguridad, OpenAI y Anthropic, protagonizan también el episodio más nítido de este año sobre quién decide los usos militares de la IA: uno firmó con el Pentágono y el otro fue declarado un riesgo para su cadena de suministro.

La tercera: Chile aparece en las dos conversaciones que este artículo considera estratégicas para un país mediano: las reglas —pide en Ginebra un instrumento vinculante, junto a Brasil— y la capacidad propia —LatamGPT, con CENIA—.

Frenar qué, exactamente: el falso duelo entre aceleracionistas y catastrofistas

Durante algunos años el debate estadounidense pareció ordenarse alrededor de una división atractiva: quienes querían acelerar y quienes querían frenar.

En 2026 esa descripción ya resulta casi inútil.

Un mismo actor puede querer acelerar las aplicaciones beneficiosas, restringir determinados usos militares, establecer evaluaciones para modelos de frontera, abrir algunos modelos, mantener cerrados otros, aumentar centros de datos y pedir simultáneamente cooperación internacional de seguridad.

Es exactamente lo que estamos observando.

La administración Trump ha adoptado una orientación inequívocamente pro-aceleración e infraestructura. Sin embargo, Estados Unidos participa simultáneamente en las discusiones sobre armas autónomas y sostiene que el derecho humanitario existente y directrices flexibles son preferibles a un nuevo tratado vinculante. No se opone, por tanto, a toda restricción: disputa qué debe limitarse y con qué fuerza jurídica.

China quiere acelerar la difusión y presenta los modelos abiertos como una forma de democratizar el acceso, pero su discurso oficial exige a la vez sistemas “seguros y controlables”. En el ámbito militar ha declarado que las armas deben permanecer bajo control humano y que se debe evitar una carrera armamentista de IA.

Rusia quiere desarrollar más capacidad propia, restringir algunas herramientas extranjeras y, en las discusiones sobre armas autónomas, coincide actualmente con Estados Unidos en resistirse a un nuevo instrumento jurídicamente vinculante.

Y las propias empresas de frontera encarnan la paradoja.

Sam Altman llevaba años defendiendo simultáneamente el desarrollo de sistemas cada vez más capaces y la gobernanza de los riesgos extremos. En septiembre de 2026 la tensión se volvió más explícita. El 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo titulado We Must Pace the Frontier, y ese mismo día Altman respondió que estaba de acuerdo con él en la necesidad de “pace the frontier”, moderar el ritmo de la frontera; hasta Elon Musk escribió que Amodei tenía razón. El 21 de septiembre OpenAI propuso crear normas técnicas compartidas entre laboratorios y países para la próxima fase de la IA, incluida la automejora recursiva, y el 23 de septiembre Altman y Amodei hablaron ante el Consejo de Seguridad de Naciones Unidas para pedir cooperación internacional, supervisión humana sobre sistemas poderosos y estándares comunes.

Eso no significa que OpenAI haya dejado de competir. Significa algo más interesante: competir y pedir barreras de seguridad ya no son posiciones mutuamente excluyentes.

Anthropic ofrece otro ejemplo. Mientras Dario Amodei se ha convertido en una de las voces más insistentes sobre riesgo de frontera, la empresa continúa lanzando modelos más potentes: su Claude Opus 5.5 fue presentado el 22 de septiembre, diez días después del ensayo sobre moderar el ritmo, con más capacidad, costos hasta 40 % menores en cargas típicas y evaluaciones externas previas al lanzamiento, entre ellas la de METR.

La pregunta seria ya no es, entonces, “¿pausar o acelerar?”.

Es:

¿Qué capacidad? ¿Hasta qué umbral? ¿Quién puede desarrollarla? ¿Quién puede desplegarla? ¿Qué pruebas debe pasar? ¿Quién audita esas pruebas? ¿Qué usos quedan prohibidos? ¿Y quién comprueba que se respete la prohibición?

Una pausa mundial de seis meses y la obligación de demostrar que un sistema capaz de diseñar agentes biológicos peligrosos está controlado son políticas radicalmente distintas. También lo son impedir un modelo abierto, exigir evaluaciones previas al despliegue o prohibir que una máquina elija autónomamente personas contra las cuales aplicar fuerza.

Meterlas en la misma categoría “regulación” oscurece más de lo que aclara.

Hay además un conflicto de intereses estructural, pero no hace falta imaginar conspiraciones para verlo.

Las empresas poseen más información técnica que los reguladores, tienen incentivos comerciales para avanzar y al mismo tiempo pueden sufrir daños extraordinarios si un producto causa una catástrofe. Los gobiernos quieren seguridad pública, pero también crecimiento económico, ventaja militar y competitividad nacional. Los militares valoran control y confiabilidad, pero igualmente la velocidad de decisión. Los ciudadanos quieren innovación y beneficios, aunque pueden oponerse a sus costos locales, laborales o ambientales.

La presión social se filtra por lugares distintos.

Empleados de empresas tecnológicas han protestado por contratos militares —en abril de 2024 Google despidió a unas 28 personas tras sentadas contra Project Nimbus—; inversores como Storebrand vendieron sus participaciones en Palantir por preocupaciones acerca de los derechos humanos y el uso de sus tecnologías en Israel. Al mismo tiempo, el apetito de gobiernos por estas capacidades continúa creciendo.

En España, Pedro Sánchez presentó el 21 de septiembre su plan IA360 con una frase directa —“la autorregulación no funciona”— y vinculó la IA con empleo, desinformación, sostenibilidad, soberanía de datos y concentración de poder, al mismo tiempo que anunciaba más infraestructura de IA. Incluso allí, regulación y aceleración aparecen juntas.

Ese patrón probablemente sea más importante que las etiquetas.

Casi nadie poderoso quiere simplemente detener la IA. La disputa real es quién acelera qué, bajo qué reglas y conservando qué capacidad de veto.

La guerra es el lugar donde “mantener un humano” deja de ser una respuesta suficiente

La respuesta directa a una de las preguntas iniciales es:

No, al 28 de septiembre de 2026 no existe un tratado internacional que prohíba usar inteligencia artificial en la guerra.

Tampoco existe una negociación seria para eliminar toda IA militar. Sería extremadamente difícil incluso definir esa prohibición: un modelo puede ayudar a reparar un vehículo, traducir inteligencia, detectar malware, administrar logística, analizar una imagen satelital o recomendar un objetivo. Esas funciones tienen implicancias morales y militares muy diferentes.

El CICR divide precisamente el problema. La IA ya aparece en armas autónomas, sistemas de apoyo a decisiones, inteligencia y vigilancia, logística y operaciones cibernéticas. El derecho internacional humanitario se aplica a esos usos, pero el CICR advierte especialmente sobre armas autónomas, sistemas de apoyo a decisiones y aplicaciones cibernéticas, por su velocidad, imprevisibilidad y riesgo de sobreconfianza humana.

La discusión más importante se concentra en los sistemas de armas autónomas (autonomous weapon systems).

El 5 de octubre de 2023, el secretario general de Naciones Unidas y la presidenta del CICR hicieron un llamado extraordinariamente concreto: querían que los Estados negociaran y concluyeran antes de finales de 2026 un instrumento jurídicamente vinculante que prohibiera algunos sistemas autónomos y restringiera otros.

No ocurrió.

El 25 de agosto de 2026 ambas instituciones tuvieron que renovar el llamado. Reconocieron que, pese a años de discusiones, las negociaciones del instrumento todavía no habían comenzado. Señalaron como “el camino más claro disponible” la Séptima Conferencia de Revisión de la Convención sobre Ciertas Armas Convencionales (CCW), del 16 al 20 de noviembre en Ginebra, donde los Estados pueden decidir negociar. Aun si lo decidieran, la negociación empezaría recién después.

Y una semana después quedó claro por qué.

En la reunión del grupo de expertos de la CCW, del 31 de agosto al 4 de septiembre en Ginebra, una mayoría —76 Estados al cierre, 70 de ellos partes de la Convención— respaldaba un texto como base para negociar prohibiciones y regulaciones. Brasil encabezó una declaración de 47 países que lo calificó de “base suficiente”, e Irlanda y el Grupo Africano defendieron un instrumento vinculante. Pero Estados Unidos y Rusia debilitaron el texto insistiendo en cambios a disposiciones que tenían amplio respaldo: según Human Rights Watch, el alcance se redujo de “todo el derecho internacional” al derecho humanitario y se eliminaron las referencias al diseño y el desarrollo de estas armas. Washington mantiene su preferencia por pautas no vinculantes y su posición de que el derecho humanitario existente ya es el marco jurídico fundamental; India también prefiere un resultado no vinculante.

La ironía geopolítica es formidable: Washington y Moscú pueden ser adversarios en casi todo y aun así converger cuando una nueva norma internacional podría restringir capacidades militares que ambos quieren preservar.

China presenta una posición distinta en el plano declarativo. Desde un documento de posición de 2021, y de nuevo en su libro blanco de control de armamentos de noviembre de 2025 y en el Diálogo de Shangri-La de mayo de 2026, sostiene que la autoridad final sobre los sistemas de armas debe quedar en manos humanas, que se opone a las armas letales inteligentes sin control humano y que no participará en una carrera armamentista de IA. Apoya un instrumento vinculante, pero “cuando las condiciones estén maduras”.

Pero “control humano” contiene una trampa semántica.

Supongamos que una máquina analiza diez millones de señales, puntúa a 40.000 personas, recomienda 200 objetivos y un oficial tarda veinte segundos en confirmar cada recomendación.

Formalmente hay una persona en el loop.

¿Está realmente decidiendo?

Israel como laboratorio del problema

Aquí el caso israelí importa no porque demuestre que “la IA mata sola”, cosa que la evidencia disponible no establece en los casos discutidos, sino porque muestra cómo la velocidad y escala algorítmicas pueden transformar una decisión aun cuando exista aprobación humana.

El 3 de abril de 2024, una investigación de +972 Magazine y Local Call, publicada el mismo día por The Guardian con acceso a los mismos testimonios, citó a seis oficiales de inteligencia israelíes que describieron un sistema denominado Lavender utilizado para identificar presuntos miembros de Hamas y la Yihad Islámica Palestina. Las fuentes afirmaron que, durante una etapa de la guerra, la base llegó a marcar a unas 37.000 personas como posibles objetivos, con un margen de error que ellas mismas estimaban en torno al 10 %, y que en determinados casos la revisión humana duraba unos veinte segundos.

El ejército israelí disputó aspectos centrales de esa caracterización. Sostuvo que Lavender no era un sistema que determinara quién debía ser atacado, sino una base de datos para cruzar fuentes de inteligencia, y que los analistas verificaban los objetivos de forma independiente, con decisiones de ataque sujetas a procedimientos humanos y al derecho internacional.

Ésa no es una nota al pie: es el centro de la discusión.

La evidencia pública permite afirmar que Israel emplea herramientas algorítmicas y de IA para procesar grandes volúmenes de inteligencia y apoyar operaciones. No permite afirmar con la misma seguridad que Lavender sea una “máquina que decide matar”. Y mucho menos permite atribuir Lavender a una determinada compañía privada sin pruebas.

Lo mismo vale para Habsora/The Gospel, asociado en investigaciones periodísticas y declaraciones israelíes con la generación acelerada de objetivos estructurales. El ex jefe del Estado Mayor Aviv Kochavi describió públicamente el salto: antes se identificaban unos 50 objetivos al año; con el sistema, hasta 100 por día. Aquí también conviene separar generación de candidatos, análisis de inteligencia, validación de objetivos y decisión de ejecutar un ataque. Un informe de SIPRI de junio de 2025 sobre targeting asistido por IA insiste precisamente en que los sistemas de apoyo a decisiones y las armas autónomas son categorías técnica y jurídicamente distintas, y propone tratarlos en procesos separados.

Palantir: infraestructura de decisión, no “el algoritmo Lavender”

Palantir sí mantiene relaciones demostradas con aparatos de defensa.

En enero de 2024 estableció una asociación estratégica con el Ministerio de Defensa israelí para tecnología vinculada a misiones de guerra. En octubre de ese año Storebrand, la mayor gestora de activos de Noruega, vendió unos US$24 millones en acciones de la empresa, citando el riesgo de contribuir a violaciones de derechos humanos por los sistemas de vigilancia predictiva que, según la gestora, Palantir provee a Israel en los territorios palestinos.

Pero no encontramos evidencia pública suficiente para afirmar que Palantir creó Lavender o Gospel, ni que sus productos hayan sido el componente que seleccionó los blancos atribuidos a esos sistemas. Las investigaciones originales atribuyen ambos sistemas a la inteligencia militar israelí, y Palantir ha negado por escrito —incluso ante un relator especial de la ONU— haberlos construido. Confundir “proveedor tecnológico del Ministerio de Defensa israelí” con “autor del algoritmo de targeting” sería un salto que la evidencia no permite.

Eso es precisamente lo perturbador del ecosistema moderno: puede resultar difícil reconstruir la cadena completa.

Google ha reconocido infraestructura cloud suministrada al gobierno israelí mediante Project Nimbus, un contrato de US$1.200 millones compartido con Amazon, y documentación obtenida por TIME en abril de 2024 mostró al Ministerio de Defensa como cliente de Google Cloud; ese material no demostraba que Google suministrara tecnología para Lavender o para seleccionar objetivos.

Otra investigación de The Guardian, +972 y Local Call, de enero de 2025, documentó un fuerte crecimiento del uso israelí de servicios cloud y de IA de Microsoft durante la guerra, incluyendo apoyo a unidades de inteligencia. Una segunda, de agosto de 2025, reveló que la Unidad 8200 guardaba en servidores de Azure millones de horas de llamadas palestinas interceptadas; en septiembre, tras una revisión interna, Microsoft cortó servicios específicos a esa unidad. Nuevamente: infraestructura disponible no equivale automáticamente a responsabilidad por cada uso operativo. Pero el caso muestra que un proveedor sí puede averiguar para qué se usa lo que vende, y actuar.

Palantir, mientras tanto, está profundamente integrada en otros teatros. En mayo de 2026 Volodímir Zelenski se reunió con Alex Karp para expandir su cooperación. Según el gobierno ucraniano, Ucrania y Palantir trabajan con datos de combate utilizados para entrenar sistemas de detección e intercepción de drones —más de 80 modelos de IA de un centenar de empresas locales de defensa—, y las herramientas de la empresa participan en análisis de ataques e inteligencia operacional.

Palantir y Anduril también anunciaron, en diciembre de 2024, una asociación destinada a preparar, estructurar y utilizar datos de defensa sensibles —incluso clasificados— para entrenamiento de IA.

Por eso la pregunta jurídica del futuro probablemente no será solo:

“¿Quién apretó el botón?”

Será:

¿Quién reunió los datos? ¿Quién decidió qué variables importaban? ¿Quién entrenó el modelo? ¿Quién estableció su umbral? ¿Quién vio sus errores conocidos? ¿Quién convirtió un score en recomendación? ¿Cuánto tiempo tuvo el operador para cuestionarlo? ¿Podía rechazarlo realmente? ¿Y queda un registro que permita reconstruirlo después?

Ése es el punto en que el lema human in the loop se vuelve insuficiente.

Un humano que puede decir “no” tiene más control que uno que solamente confirma. Uno que comprende la incertidumbre tiene más control que uno que recibe un número presentado como objetivo. Uno con cinco horas tiene una situación diferente de uno con cinco segundos. Y uno cuya decisión es auditada posteriormente enfrenta incentivos diferentes de uno que sabe que el razonamiento desaparecerá dentro de una caja negra.

El CICR señala exactamente el riesgo de sobreconfianza en sistemas de apoyo a decisiones y sostiene que la IA debe respaldar, no reemplazar o perjudicar, el juicio necesario para cumplir el derecho humanitario.

En armas nucleares el problema sería todavía más grave. Mantener exclusivamente en manos humanas la autorización final no soluciona necesariamente un sistema previo que ha presentado erróneamente un ataque como inminente, ha comprimido el tiempo disponible y ha convertido “no hacer nada” en la opción psicológicamente más difícil.

La última milla puede ser humana mientras las primeras novecientas noventa y nueve ya fueron algorítmicas.

Estado de la negociación militar

La respuesta, por tanto, no es que el mundo esté intentando “prohibir la IA en la guerra”.

Es más modesta y más inquietante:

el mundo intenta ponerse de acuerdo sobre dónde termina una herramienta y comienza una delegación inaceptable de la decisión de matar, mientras las tecnologías se despliegan más rápido de lo que avanza el acuerdo.

Poder sin poseer el mayor supercomputador

El caso DeepSeek destruyó una simplificación muy cómoda: que capacidad de IA y cantidad de dinero gastado eran prácticamente la misma cosa.

No la destruyó por completo. La modificó.

DeepSeek informó que el entrenamiento de V3 —preentrenamiento, extensión de contexto y ajuste posterior— requirió unas 2,8 millones de horas de GPU H800, con un costo de cómputo calculado en torno a US$5,6 millones a un precio de alquiler de US$2 por hora. La cifra se convirtió rápidamente en “DeepSeek construyó por cinco millones lo que Silicon Valley necesitaba miles de millones para hacer”. Eso era una exageración: el propio informe aclara que el número cubre solo esa corrida y deja fuera la investigación y los experimentos previos, y tampoco incluye salarios, iteraciones fallidas ni la compra del hardware; la consultora SemiAnalysis estimó el gasto total en el orden de US$1.300 a 1.600 millones.

Pero el descubrimiento importante sobrevivió a la exageración.

La eficiencia algorítmica puede alterar el valor estratégico del cómputo.

Si una determinada capacidad necesita diez veces menos operaciones, un Estado o una empresa con menos hardware puede competir en una zona antes inaccesible. Si los pesos se publican y pueden cuantizarse o destilarse, actores pequeños pueden apropiarse de una capacidad que no habrían podido entrenar desde cero. Si además se especializa un modelo con datos propios, puede ser excelente en una función concreta sin ser el “modelo más inteligente del planeta”.

El efecto, sin embargo, tiene una segunda cara. Una reducción drástica del costo por consulta puede provocar muchísimo más uso. En marzo de 2025 DeepSeek publicó que, si hubiera cobrado a la tarifa de su modelo R1 todos los tokens que procesó en un día, habría ingresado unos US$562.000 frente a un costo de US$87.000; aclaró que su ingreso real era “sustancialmente menor”. Esos cálculos mostraban hasta qué punto la economía de servir modelos podía abaratarse.

Así que eficiencia no significa necesariamente menos centros de datos.

Puede significar más IA en todas partes.

El verdadero mapa de poder se parece entonces a una cadena:

chips → memoria → redes → centros de datos → energía → modelos → datos → software → distribución → aplicaciones → instituciones.

Estados Unidos conserva ventajas enormes en varios de esos puntos y utiliza controles de exportación y alianzas industriales para conservarlas. China ha respondido con inversión doméstica, eficiencia y apertura selectiva. Rusia muestra la vulnerabilidad de quedar fuera del segmento de semiconductores avanzados: en 2026 Sberbank dependía explícitamente de conseguir alternativas chinas.

Esto responde a la pregunta: ¿alguien puede ser fuerte sin tener el cómputo de Estados Unidos y sus grandes empresas?

Sí, pero hay que añadir inmediatamente:

fuerte para qué.

Para entrenar el modelo de propósito general más avanzado desde cero, la escala de cómputo continúa siendo una barrera formidable.

Para desarrollar aplicaciones militares, sanitarias, industriales o científicas de alto valor sobre modelos existentes, la barrera es mucho menor.

Para poseer datos únicos, ser nodo energético, fabricar un componente crítico, desarrollar modelos lingüísticos locales o imponer un estándar internacional, no es necesario ganar la carrera del modelo más grande.

Para conservar completa independencia tecnológica, en cambio, ni siquiera la mayoría de las grandes potencias posee hoy todas las piezas.

Eso ofrece una estrategia distinta para países medianos y pequeños.

Chile no necesita una versión austral de OpenAI para evitar ser irrelevante. Necesita preguntarse qué capacidades son suficientemente estratégicas como para no tercerizarlas completamente.

Un conjunto razonable incluye conocimiento local, capacidad de evaluar modelos, recursos humanos, datos públicos y culturales, infraestructura para inferencia sensible, modelos de lenguaje regionales, ciberseguridad, capacidad regulatoria y acceso competitivo a múltiples ecosistemas. La política chilena ya reconoce la combinación de factores habilitantes, adopción y gobernanza; CENIA y LatamGPT son intentos de fortalecer la capa regional de conocimiento y lenguaje.

La mejor analogía quizá no sea construir aviones.

Es la electricidad.

Un país no necesita fabricar cada turbina para considerar esencial tener una red eléctrica capaz de operar, elegir proveedores y recuperarse de una interrupción.

Autonomía estratégica no significa fabricar todo. Significa evitar que otro pueda apagar demasiado de lo que importa.

El problema difícil quizá seamos nosotros

Hasta aquí, la historia podría parecer una versión sofisticada de una carrera armamentista tecnológica.

Pero existe una pregunta todavía más interesante.

Supongamos —y esto es deliberadamente un experimento mental, no una predicción— que dentro de veinte años la IA, la automatización y la biotecnología permiten satisfacer gran parte de las necesidades materiales humanas: energía mucho más barata, terapias extraordinarias, educación personalizada, producción automatizada, enormes ganancias científicas.

¿Habríamos resuelto el problema humano?

No necesariamente.

Porque escasez material y desacuerdo moral son cosas distintas.

Podemos estar de acuerdo en querer curar el cáncer y discrepar radicalmente sobre aborto, religión, inmigración, propiedad, vigilancia, sexualidad, privacidad, mérito, igualdad, identidad cultural, libertad de expresión o cuánto poder puede tener el Estado.

Y hay bienes cuya naturaleza es relativa, no absoluta.

No todos pueden tener mayor estatus que todos los demás.

No todos pueden gobernar.

Dos grupos pueden reclamar el mismo territorio.

Dos religiones pueden aceptar que todos tengan comida y aun así discrepar sobre qué debe enseñarse a los niños.

Una sociedad puede producir abundancia y todavía pelear por quién define sus reglas.

Aquí aparece uno de los errores más profundos de cierta imaginación tecnológica: confundir una solución al problema de capacidad con una solución al problema de legitimidad.

Tres fallas distintas de una IA

Conviene separar tres posibilidades.

La IA desobediente. El humano le pide A y el sistema persigue B. Éste es el problema clásico de alineamiento, robustez, interpretabilidad y control.

La IA obediente a una orden dañina. El humano pide exactamente A, el sistema entiende perfectamente A y lo ejecuta extraordinariamente bien. La seguridad técnica puede funcionar a la perfección y el resultado seguir siendo atroz.

La IA obediente a un objetivo legítimamente disputado. El sistema optimiza con impecable competencia una política que beneficia a algunos y perjudica a otros, o impone una determinada concepción de justicia, privacidad o bienestar.

El primer problema es fundamentalmente técnico.

Los otros dos son política.

Y eso significa que una IA perfectamente alineada con su operador puede estar perfectamente desalineada con millones de seres humanos.

La prueba psicológica del poder

Aquí conviene ser muy cuidadosos con la psicología de líderes.

No hay base científica seria para diagnosticar a Donald Trump, Xi Jinping, Vladimir Putin, Sam Altman, Dario Amodei, Elon Musk o Alex Karp desde discursos y apariciones públicas. Etiquetarlos como “narcisistas”, “megalómanos” o “psicópatas” puede ser emocionalmente satisfactorio; como método de investigación es bastante malo.

La pregunta útil no es qué trastorno tendría cada uno.

Es qué ocurre cuando seres humanos normales reciben muchísimo poder, información incompleta, presión temporal y fuertes incentivos para no parecer débiles.

Hay evidencia experimental de que sentirse poderoso puede reducir, en determinados contextos, la tendencia espontánea a adoptar la perspectiva de otra persona. Los famosos experimentos de Adam Galinsky y colegas encontraron ese efecto, aunque convertir un resultado experimental de estudiantes y adultos en una teoría sobre presidentes sería una extrapolación abusiva.

Más directamente relevante para IA es el fenómeno de sobreconfianza en sistemas automatizados. El propio CICR destaca el peligro de que usuarios militares depositen una confianza excesiva en recomendaciones de sistemas de IA, especialmente cuando las herramientas trabajan a velocidades y escalas que dificultan revisar su razonamiento.

Ese problema puede empeorar con el rango jerárquico.

Un comandante no tiene que ser irracional para seguir una recomendación defectuosa. Basta una combinación bastante humana:

el sistema suele acertar;

su interfaz presenta un score con aparente precisión;

el tiempo es escaso;

el enemigo puede atacar primero;

varios subordinados ya han aceptado el resultado;

rechazar la recomendación obliga a justificar por qué;

aprobarla solo exige confiar en “el sistema”.

La tecnología puede así crear una ironía extraordinaria: introducimos la IA para compensar errores humanos y terminamos creando una nueva manera de institucionalizarlos.

Pero también ocurre lo contrario. Las máquinas pueden obligarnos a explicitar premisas, comparar escenarios que una persona no alcanzaría a calcular y mostrar inconsistencias. Una IA de apoyo bien diseñada podría incrementar, no reducir, la calidad de la deliberación.

La variable crítica es el diseño institucional.

¿Se muestra una sola recomendación o varias alternativas?

¿Se informa incertidumbre?

¿Puede el decisor pedir evidencia contraria?

¿Hay un segundo equipo independiente?

¿Queda registrado quién discrepó?

¿Se revisa sistemáticamente después de los hechos cuándo el algoritmo estuvo equivocado?

¿El operador que dice “no” es recompensado cuando detecta un error o castigado por ralentizar el sistema?

Ahí se juega mucho más del futuro que en la personalidad individual del gobernante.

Los líderes de IA también ejercen poder político

Hay otro cambio histórico curioso: algunas de las decisiones más trascendentes ya no pasan exclusivamente por presidentes o parlamentos.

Un pequeño número de CEOs y laboratorios decide cuándo entrenar modelos, qué evaluaciones realizar, qué capacidades publicar, cuándo liberar pesos, qué gobiernos pueden comprar sistemas y cuándo una nueva capacidad se considera demasiado peligrosa.

En 2026 eso dejó de ser teórico. Anthropic se negó a levantar dos restricciones de uso en su relación con el Pentágono —nada de armas completamente autónomas, nada de vigilancia masiva de ciudadanos estadounidenses—. A fines de febrero Trump ordenó a las agencias federales dejar de usar su tecnología, y en marzo el Departamento de Guerra, como la administración rebautizó al de Defensa, la declaró un “riesgo para la cadena de suministro”, una figura normalmente reservada a proveedores extranjeros. En esos mismos días OpenAI anunció su propio acuerdo para operar en una red clasificada, con líneas rojas declaradas parecidas; Altman reconoció después que el proceso había sido “definitivamente apresurado” y enmendó el contrato para prohibir de forma explícita la vigilancia doméstica. Anthropic demandó: ganó en primera instancia el 28 de agosto y perdió 2 a 1 en la Corte de Apelaciones del Circuito de Washington el 25 de septiembre, en un caso paralelo y por otro fundamento. La designación sigue vigente.

Más allá de quién tenga la razón jurídica, el episodio muestra la disputa de este artículo en su forma más pura: una empresa que reclama el derecho a decir que no sobre ciertos usos de su IA y un gobierno que sostiene que los usos legales los decide él.

Los propios líderes de la industria empiezan a reconocer el problema.

Ante el Consejo de Seguridad, Sam Altman describió dos caminos y advirtió contra uno de ellos: “un mundo donde el poder está concentrado, las decisiones son opacas y la gente siente que la tecnología más importante de su vida es algo que se le hace a ella”.

La frase es importante precisamente porque la institución que dirige posee parte del poder que él dice que no debería concentrarse.

Eso no prueba hipocresía. Prueba un problema estructural.

Un CEO puede creer honestamente que la decisión debería ser democrática y simultáneamente pensar que frenar unilateralmente su empresa entregaría ventaja a un competidor menos responsable.

Dario Amodei puede creer que la frontera avanza demasiado rápido y, al mismo tiempo, concluir que Anthropic debe mantenerse cerca de ella para investigar seguridad y no quedar irrelevante.

Elon Musk puede advertir públicamente sobre riesgo existencial y dirigir una empresa que compite agresivamente por aumentar capacidades.

Alex Karp puede defender explícitamente el empleo de tecnología occidental para reforzar democracias aliadas mientras críticos sostienen que determinadas implementaciones expanden demasiado el poder de seguridad del Estado.

No necesitamos resolver cuáles motivaciones son “auténticas”.

La estructura produce un dilema independientemente de ellas:

Cada actor puede pensar que sería mejor que todos fueran prudentes y, al mismo tiempo, que sería peligroso ser el único prudente.

Ésa es prácticamente la fórmula de una carrera armamentista.

Y luego está la población

Tampoco deberíamos construir una historia en la que una élite omnipotente impone tecnología sobre ciudadanos perfectamente coherentes.

Las poblaciones quieren cosas contradictorias.

Queremos mejores tratamientos médicos pero privacidad.

Queremos que la IA detecte fraudes pero no que nos vigile.

Queremos servicios más baratos pero empleos estables.

Queremos seguridad nacional pero dudamos de sistemas estatales de vigilancia.

Queremos modelos abiertos cuando nos benefician y restricciones cuando tememos que los use un adversario.

Incluso consumidores que adoptan agentes de IA expresan incertidumbre sobre quién responde cuando éstos actúan en su nombre. El 22 de septiembre, seis grandes bancos —entre ellos Bank of America, NatWest, ING y Capital One— publicaron principios para el comercio mediante agentes y pidieron reglas más claras de responsabilidad, privacidad y fraude: hoy no está claro quién responde si un agente autoriza una compra fraudulenta.

Por eso “que decida el pueblo” tampoco termina el problema.

¿Qué mayoría?

¿En qué momento?

¿Sobre qué información?

¿Puede una mayoría decidir algo irreversible contra una minoría?

¿Debe la generación de 2026 decidir una arquitectura tecnológica que limite lo que podrá escoger la generación de 2046?

Democracia no elimina el conflicto de valores. Es, en buena medida, una tecnología social para administrarlo sin convertir cada desacuerdo en guerra.

Y ésa quizá sea la comparación decisiva con la IA.

El futuro idílico y su paradoja

Imaginemos dos sociedades.

Ambas poseen la misma superinteligencia benevolente y técnicamente segura.

En la primera, un comité irreversible fija una función objetivo: maximizar una combinación de longevidad, felicidad reportada, igualdad y estabilidad social.

En la segunda, la IA tiene restricciones más severas. Hay múltiples sistemas, poderes distribuidos, derechos que la optimización no puede vulnerar, procedimientos para apelar decisiones y mecanismos para modificar objetivos con el tiempo.

La primera podría ser más eficiente.

La segunda podría ser más humana.

No porque necesariamente tome mejores decisiones, sino porque preserva algo que una sociedad plural necesita: el derecho a estar en desacuerdo con la definición vigente de “mejor”.

Ésta es la dimensión que frecuentemente desaparece bajo la palabra alignment.

Nos preguntamos:

¿Cómo alineamos la IA con los valores humanos?

Como si “los valores humanos” fueran un archivo que todavía no hemos conseguido encontrar.

No lo son.

Son una conversación conflictiva de miles de años.

El problema no consiste solamente en que no conocemos bien nuestros valores. Es que no tenemos los mismos.

Por eso quizá la meta no deba ser una IA perfectamente alineada con “la humanidad”, sino instituciones sociotécnicas que permitan que múltiples grupos humanos negocien, limiten y revisen los objetivos que delegan en ella.

El futuro políticamente seguro podría parecer menos a un rey filósofo omnisciente y más a una constitución extraordinariamente buena.

Una constitución no decide la respuesta correcta a todas las preguntas.

Decide cómo seguimos discutiéndolas sin que quien ganó hoy tenga poder para impedir que mañana se vuelva a discutir.

Ese principio —contestabilidad, reversibilidad, distribución del poder— puede resultar más importante que cualquier conjunto definitivo de valores.

Y aquí aparece la conexión con los temas que los documentales y las películas recientes sobre IA han llevado al público: killer robots, el trabajo humano invisible detrás de los sistemas, sesgos incorporados en datos, promesas casi utópicas, miedo al reemplazo y la tentación de imaginar una máquina objetiva que finalmente tome mejores decisiones que nosotros. Humans in the Loop, una película de ficción de Aranya Sahay que Netflix distribuye desde octubre de 2025, sigue a una mujer adivasi de Jharkhand, en India, que trabaja etiquetando datos para sistemas de IA: lleva precisamente el foco hacia la labor humana de anotación y las comunidades que quedan escondidas detrás de la aparente autonomía de la IA.

Es una corrección saludable a la imagen de “la máquina decide”.

Siempre hay humanos alrededor.

Construyendo categorías.

Definiendo éxito.

Etiquetando datos.

Pagando infraestructura.

Eligiendo qué optimizar.

Y beneficiándose —o no— de la respuesta.

Dossier de evidencias: lo que sabemos, lo que no y los futuros que siguen abiertos

La evidencia reunida permite reemplazar algunas intuiciones simples por un mapa más incómodo.

Cronología mínima de la carrera

Qué quiere realmente cada gran bloque

Cinco hipótesis contrastadas

La competencia hace más difícil la seguridad. — Evidencia: fuerte, pero no absoluta. La lógica aparece tanto entre empresas como entre Estados. Nadie quiere asumir unilateralmente un costo que pueda entregar ventaja al rival. Sin embargo, cooperación parcial sigue siendo posible: estándares, incident reporting, evaluación y ciertos límites militares pueden ser mutuamente beneficiosos. La reciente defensa de estándares técnicos internacionales por parte de OpenAI y las discusiones de Ginebra muestran ambas fuerzas simultáneamente.

La eficiencia permite poder sin liderazgo computacional. — Evidencia: sí, dentro de límites. DeepSeek lo demuestra para capacidades significativas; Rusia demuestra la otra cara: no poseer hardware suficiente sigue restringiendo lo que puede hacerse. La conclusión no es “el cómputo dejó de importar”, sino que una unidad de cómputo puede volverse mucho más productiva.

Un humano formalmente presente puede no constituir control significativo. — Evidencia: fuerte como problema conceptual y operacional. Los sistemas de apoyo pueden producir más recomendaciones de las que una persona puede auditar y generar sesgos de automatización. El caso Lavender es evidencia controvertida pero instructiva de esta preocupación; el CICR la reconoce como problema general.

La abundancia material eliminaría el conflicto político. — Evidencia: insuficiente y teóricamente improbable. Es razonable esperar que reduzca conflictos derivados directamente de carencias, pero no existe base para asumir que eliminaría desacuerdos sobre autoridad, valores, reconocimiento, identidad o bienes posicionales. Ésta es precisamente la razón por la que distribución y legitimidad no pueden reducirse a productividad.

Decisiones tecnológicas inicialmente reversibles pueden volverse difíciles de revertir. — Evidencia: muy plausible. Los stacks exportados, efectos de red, contratos gubernamentales, datos acumulados, infraestructura y capacitación crean costos de salida. La competencia de EE.UU., China y Europa por ecosistemas completos, no meramente modelos, tiene sentido precisamente porque quien controla la infraestructura obtiene persistencia.

Los futuros que siguen abiertos

Hay por lo menos cinco caminos coherentes con la evidencia actual.

Competencia con barandas. EE.UU. y China continúan escalando capacidades, pero acuerdan pequeños espacios de control mutuo: incidentes, armamento nuclear, armas completamente autónomas, evaluaciones extremas. Sería menos un “Tratado Mundial de IA” que una acumulación de reglas concretas.

Fragmentación. Dos o más ecosistemas tecnológicos incompatibles emergen alrededor de chips, nube, modelos, estándares de contenido y gobernanza. Países medianos deben elegir, mezclar o mantener redundancia.

Concentración. El costo de la próxima frontera vuelve a crecer más rápido que la eficiencia y unos pocos Estados y empresas controlan sistemas radicalmente superiores. El problema de legitimidad se vuelve entonces mucho más grave.

Difusión. La eficiencia gana. Capacidades actualmente exclusivas de grandes laboratorios pasan a ejecutarse en hardware ampliamente disponible. El problema central cambia de controlar quién puede entrenar a controlar lo que millones de actores pueden hacer.

Cooperación competitiva. Quizá el escenario menos cinematográfico y más realista: rivales continúan compitiendo ferozmente y cooperan en unas pocas áreas donde el riesgo de equivocarse resulta intolerable. La historia nuclear ofrece suficientes precedentes para saber que adversarios no necesitan confiar mutuamente para preferir algunas reglas a ninguna.

Lo que no está establecido

No sabemos si los actuales sistemas de frontera están cerca de una transición cualitativa hacia inteligencia general o si quedan cuellos de botella fundamentales.

No sabemos si la ventaja del cómputo crecerá o disminuirá respecto de la eficiencia algorítmica.

No está demostrado públicamente que Lavender haya funcionado exactamente de la forma descrita por todas las fuentes anónimas de las investigaciones de 2024; el ejército israelí ha disputado aspectos importantes de esa descripción.

No existe evidencia pública suficiente para atribuir Lavender o Gospel a Palantir. Lo comprobado es una relación tecnológica más amplia entre Palantir y el aparato de defensa israelí.

No sabemos cómo terminará el litigio entre Anthropic y el Pentágono, ni si fijará un precedente sobre el derecho de un proveedor a restringir usos militares legales de su tecnología.

No sabemos hasta qué punto las declaraciones oficiales chinas sobre control humano militar se corresponden con doctrinas operativas clasificadas. Una declaración oficial demuestra posición diplomática, no implementación.

No sabemos si la nueva organización internacional creada en Shanghái conseguirá convertirse en un contrapeso importante o quedará como foro diplomático de influencia limitada. Su existencia y sus 29 fundadores sí están establecidos; su futura eficacia no.

Y no tenemos evidencia científica que permita convertir estilos públicos de Trump, Xi, Putin, Altman, Amodei, Karp u otros dirigentes en diagnósticos psicológicos confiables. Analizar incentivos, sistemas de decisión y discursos es mucho más defendible que pretender mirar dentro de sus cabezas.

Qué evidencia podría cambiar esta interpretación

La lectura de este artículo cambiaría sustancialmente si ocurriera cualquiera de cuatro cosas.

Un tratado vinculante y verificable sobre armas autónomas demostraría que la cooperación internacional puede superar el dilema competitivo precisamente en uno de los ámbitos más difíciles.

Una nueva generación de sistemas que consiguiera capacidades de frontera con órdenes de magnitud menos cómputo reforzaría la hipótesis de difusión y debilitaría el poder de los controles sobre chips.

En sentido contrario, si la próxima frontera necesitara clusters tan gigantescos que solo dos o tres Estados pudieran financiarlos, el problema se desplazaría hacia una concentración de poder sin precedentes.

Y una evidencia operacional robusta de que sistemas de deliberación humano-IA consiguen reducir errores, presentar desacuerdo y preservar capacidad de veto real modificaría la visión pesimista sobre automatización del juicio.

Pero hay una conclusión que sobreviviría probablemente a todos esos cambios.

La humanidad está intentando resolver dos problemas simultáneamente y solemos hablar solo de uno.

El primero es:

¿Podemos construir una inteligencia superior sin perder el control?

Es una pregunta técnica gigantesca.

La segunda es:

Si conservamos el control, ¿quiénes somos exactamente “nosotros”?

Ahí empieza el problema político.

Porque quizá consigamos una IA capaz de curar enfermedades, reducir drásticamente la pobreza y liberar tiempo humano. Quizá tengamos delante una oportunidad histórica extraordinaria.

Y todavía podríamos arruinarla discutiendo quién merece mandar.

No sería la primera vez.

Lo verdaderamente nuevo es la escala de las herramientas que tendremos mientras discutimos.

Hasta ahora, cuando una sociedad elegía mal, otra sociedad podía elegir diferente; cuando un gobierno caía, muchas de sus decisiones podían revertirse; cuando una ideología fracasaba, eventualmente podía ser reemplazada.

Una infraestructura de inteligencia omnipresente cambia esa geometría. Quien establezca sus objetivos, reglas, dependencias y permisos podría influir no solo en qué decisiones tomamos, sino en qué decisiones llegamos a considerar posibles.

Por eso el gran desafío de la IA quizá no consista en fabricar una máquina que sepa decidir mejor que nosotros.

Puede consistir en algo políticamente mucho más difícil:

construir máquinas extraordinariamente poderosas sin permitir que nadie —ni un presidente, ni un general, ni un CEO, ni una mayoría momentánea, ni la propia máquina— adquiera para siempre el derecho de decidir qué debe significar para todos los demás una vida buena.

La carrera realmente importante no es entonces Estados Unidos contra China.

Ni humanos contra máquinas.

Es una carrera entre dos capacidades humanas que avanzan a velocidades muy diferentes:

nuestra capacidad para obtener poder y nuestra capacidad para compartirlo sin destruirnos.