Uso dual de la IA

El "uso dual" no es un concepto nuevo de la IA: viene de la física nuclear y de la biología (la "investigación de doble uso preocupante" o DURC se regula desde antes de que existiera el aprendizaje profundo). Lo que cambió es que ahora un modelo de IA puede ser el instrumento que convierte una capacidad benéfica en una peligrosa con un ajuste relativamente simple, no con años de laboratorio.

El caso que puso el problema sobre la mesa fue el de Urbina, Lentzos, Invernizzi y Ekins (2022): tenían un modelo de descubrimiento de fármacos que normalmente penaliza la toxicidad al proponer moléculas candidatas. Invirtieron esa penalización —premiar la toxicidad en vez de evitarla— y en menos de seis horas, en un computador de escritorio, el modelo generó 40.000 moléculas candidatas, entre ellas la neurotoxina VX y variantes que el propio modelo predecía aún más potentes. Los autores detuvieron la investigación ahí mismo y no publicaron los parámetros exactos, precisamente para no entregar una receta.

Lo que vuelve esto un problema estructural y no anecdótico es que el mecanismo interno —predecir qué tan bien una molécula se ajusta a un objetivo biológico— es agnóstico al objetivo. El mismo modelo que optimiza "menos tóxico y más terapéutico" optimiza igual de bien "más tóxico y más letal" si le cambias el signo de la función de recompensa. No hay una frontera técnica que separe ambos usos: la separa la intención de quien lo usa.

Hoy esto se gestiona de tres formas paralelas: laboratorios de IA generalista publican políticas de escalamiento (como Anthropic, que define umbrales de capacidad ligados explícitamente al riesgo de dar instrucciones útiles para armas biológicas o químicas); agencias de bioseguridad extienden sus marcos de DURC para cubrir herramientas de diseño molecular asistidas por IA; y hay debate sobre controles de acceso a cómputo y a ciertas capacidades de modelos.

Lo que se discute de verdad es si publicar en detalle cómo se demuestra una capacidad peligrosa (como hicieron Urbina et al., aunque omitiendo los parámetros exactos) es en sí mismo un riesgo de información, o si la transparencia científica sobre el riesgo es necesaria para que la comunidad se defienda. También se debate si restringir el acceso a modelos de biología computacional frena más la investigación legítima que el daño que previene.