Enfoque basado en riesgo (regulación de IA)

Regular la IA por "riesgo" en vez de por "tecnología" es una elección de diseño legal, no la única posible. La alternativa más simple —una ley que dijera "toda IA debe cumplir tal requisito"— trataría igual a un filtro de spam y a un sistema que decide si alguien recibe un crédito hipotecario. El enfoque basado en riesgo separa los usos según el daño potencial que pueden causar y sólo impone las obligaciones más estrictas donde ese daño es mayor.

El ejemplo más desarrollado y más citado internacionalmente es el Reglamento de IA de la Unión Europea (Reglamento (UE) 2024/1689), adoptado en 2024. Clasifica los sistemas en cuatro niveles: riesgo inaceptable (prohibido de plano —por ejemplo, puntuación social o manipulación subliminal), alto riesgo (sistemas usados en salud, empleo, educación o justicia, que deben cumplir requisitos de documentación técnica, supervisión humana y evaluación de conformidad antes de salir al mercado), riesgo limitado (obligaciones de transparencia, como avisar que estás hablando con un chatbot) y riesgo mínimo (la gran mayoría de los usos, sin obligaciones adicionales). El propio reglamento resume la lógica: las reglas deben ajustarse "a la intensidad y el alcance de los riesgos" que puede generar cada sistema.

La ventaja que se le atribuye a este diseño es la proporcionalidad: no frena la innovación en usos de bajo riesgo mientras concentra la carga regulatoria —y el costo de cumplimiento— donde el daño potencial es más serio. La desventaja es que alguien tiene que decidir, con criterios que no siempre son obvios de antemano, qué cae en cada categoría, y esa clasificación puede quedar desactualizada frente a usos nuevos que el legislador no anticipó.

Este modelo se volvió, de facto, la referencia que otros países citan al diseñar su propia regulación de IA —incluyendo el proyecto de ley chileno, que declara explícitamente aplicar un "enfoque de riesgo proporcional"—, aunque no todos lo copian de forma idéntica: Estados Unidos, por ejemplo, ha preferido hasta ahora marcos voluntarios sectoriales antes que una ley horizontal única.

Lo que se discute es si clasificar por "nivel de riesgo del sistema" es la unidad correcta de análisis, o si el riesgo depende más del contexto de uso que del sistema en sí mismo (el mismo modelo de lenguaje puede ser de bajo riesgo en un chatbot de entretenimiento y de alto riesgo si se usa para evaluar currículums), y si las categorías fijas de una ley pueden mantenerse al día frente a una tecnología que cambia cada pocos meses.