Ir al contenido principal
HumanOS Future
Volver a controversias

Controversia

¿Los modelos abiertos aumentan o reducen el riesgo?

¿Liberar los pesos de los modelos reduce el riesgo (auditoría, soberanía) o lo aumenta (proliferación de usos dañinos)?

Debate abierto

Hay posiciones serias en varios sentidos; ninguna se impone como acuerdo.

Actualizado el 5 de septiembre de 2026

Portada de la controversia: ¿Los modelos abiertos aumentan o reducen el riesgo?

La apertura de pesos es hoy el frente más disputado de la IA, y buena parte de la disputa es de vocabulario antes que de fondo. 'Abierto' no es un interruptor sino un gradiente: se pueden liberar los pesos y no los datos, los datos y no el código de entrenamiento, o todo con una licencia que restringe usos. Dos personas pueden defender 'la apertura' refiriéndose a cosas distintas, y discutir sin tocarse.

Cuando el vocabulario se ordena, aparece el desacuerdo real, y es una asimetría: publicar es irreversible. Un modelo cerrado puede corregirse, moderarse o retirarse; uno descargado un millón de veces, no. Eso significa que la decisión de liberar no se toma una vez, se toma para siempre, y que quien acierta gana auditoría mientras quien se equivoca no tiene vuelta atrás.

Frente a eso, el argumento de la apertura no es ingenuo: sostiene que la opacidad tampoco es gratis. Un modelo que nadie puede inspeccionar esconde sus sesgos y sus fallos, y concentra en unos pocos laboratorios el poder de decidir qué se puede construir. La auditoría independiente exige acceso, y el acceso exige apertura.

El precedente de GPT-2 en 2019 —publicación por etapas, con el argumento de que el modelo completo era demasiado peligroso— se cita desde los dos lados, y por eso es tan instructivo. Para unos probó que la cautela es posible y ordenada. Para otros probó lo contrario: el daño anunciado no se materializó, y la advertencia funcionó como publicidad. El mismo hecho, leído al revés.

Quedan dos preguntas incómodas que ninguna posición responde bien. La primera es el open-washing: llamar 'abierto' a lo que no lo es, aprovechando la buena prensa de la palabra sin asumir sus costos. La segunda es quién se beneficia de verdad: si afinar un modelo abierto exige cómputo que casi nadie tiene, la apertura puede no democratizar el acceso sino sólo mover la dependencia de sitio.

Posiciones

  1. La apertura permite auditoría y reduce dependencia

    Liberar los pesos (y no sólo el acceso por API) deja a la comunidad inspeccionar el modelo, replicarlo, afinarlo y desplegarlo localmente. Eso reduce la dependencia de un puñado de laboratorios, democratiza el acceso y permite hallar fallos y sesgos que un modelo cerrado esconde. Los marcos de apertura distinguen grados justamente para no confundir 'pesos' con 'código abierto', pero defienden que más apertura, mejor definida, es neta.

    Contraargumento

    La misma accesibilidad que permite auditar facilita usos dañinos: un modelo descargable no puede ser retirado ni moderado a posteriori.

    Evidencia

    La Open Source Initiative publica una definición de open weights y advierte que no equivalen a open source, para exigir precisión, no para desalentar la apertura.

    Representante: Open Source Initiative

    Open Weights: not quite what you've been told

  2. Algunos modelos son demasiado peligrosos para liberarlos sin restricción

    Cuando un modelo es lo bastante capaz como para generar desinformación a escala, contenido dañino o code para ataques, liberar sus pesos sin restricción multiplica el riesgo de forma irreversible: lo descargado no se puede retirar. El release escalonado —publicar por partes según se evalúa el impacto— es una postura cautelosa que antepone la no proliferación a la transparencia total.

    Contraargumento

    Retener el modelo concentra poder en quien lo tiene y elimina la posibilidad de auditoría independiente; el callejón del 'demasiado peligroso' también puede servir de marketing.

    Evidencia

    En 2019 OpenAI publicó GPT-2 por etapas, argumentando que el modelo completo era 'demasiado peligroso para publicar' de una vez.

    Representante: OpenAI (decisión de release escalonado de GPT-2)

    GPT-2 (artículo)

Preguntas no resueltas

  • ¿La auditoría que permite la apertura compensa el riesgo de los usos dañinos que facilita?
  • ¿Cómo evitar el 'open-washing' y exigir que 'abierto' declare exactamente qué se libera?
  • ¿La apertura reduce de verdad la dependencia o sólo la traslada a quien tiene cómputo para afinar el modelo?

Relacionado

Conceptos

Dossiers

Fuentes esenciales