Trazabilidad algorítmica
La capacidad de reconstruir, paso a paso, cómo y por qué un sistema de IA llegó a una decisión: qué datos usó, qué pasos siguió y en qué momento. Es la base para auditar y responsabilizar.
- Última revisión:
- Fuentes:
- 3 fuentes · 3 verificadas
La trazabilidad algorítmica es la condición para que una decisión automatizada pueda revisarse después. Si un sistema rechaza un crédito, asigna una prioridad médica o filtra un contenido, la trazabilidad permite reconstruir el camino: qué entradas tuvo, qué pasos siguió el modelo y qué produjo cada etapa. Sin eso, la decisión es una caja negra imposible de auditar o de impugnar.
La idea es central en la gobernanza contemporánea. Diakopoulos (2016) la formuló como parte de la rendición de cuentas de los algoritmos: la transparencia que importa no es exponer el código, sino conservar registros —logs— que permitan explicar y atribuir. El marco del NIST (2023) incluye la trazabilidad entre las propiedades de una IA confiable, y la Ley de IA de la Unión Europea (2024) impone obligaciones de registro (logging) para los sistemas de alto riesgo.
La trazabilidad es importante y, a la vez, resistida. Conservar registros cuesta, choca con el secreto comercial y con la privacidad de los datos, y un log no garantiza por sí solo explicación. Por eso el debate no es si conviene trazar (sí), sino cuánto, durante cuánto tiempo y bajo qué salvaguardias, para que la trazabilidad sea herramienta de confianza y no mera vitrina.
¿Por qué te importa?
Si una decisión automatizada te afecta —un crédito, una cobertura, una postulación— la trazabilidad es lo que permite pedir explicaciones y reclamar. Y para una empresa que usa IA, es lo que separa un sistema auditable de un riesgo legal y reputacional.
Ejemplos
- La obligación de registro (logging) para sistemas de IA de alto riesgo en la Ley de IA de la UE (2024).
- La inclusión de la trazabilidad como propiedad de la IA confiable en el NIST AI RMF (2023).
- La investigación sobre rendición de cuentas algorítmica desde el periodismo computacional (Diakopoulos, 2016).
Términos relacionados
Debate y controversia
Hay tensión real entre trazabilidad y secretos comerciales o privacidad de datos, lo que lleva a disputas sobre cuánto registrar y por cuánto tiempo. Se discute además si el registro técnico basta para explicar decisiones complejas o si la 'transparencia' deviene a veces en teatro regulatorio sin sustancia.
Fuentes
Nicholas Diakopoulos · 2016
Verificada vía metadatos Crossref del DOI 10.1145/2844110 (Communications of the ACM, vol. 59, n.º 2, 2016, autor confirmado). La página editorial (dl.acm.org) bloquea la lectura automatizada (403); el DOI es autoritativo.
NIST (EE. UU.) · 2023
WebFetch confirmó la página oficial de NIST, AI RMF 1.0 (2023); incluye trazabilidad y transparencia entre las propiedades de la IA confiable.
Parlamento Europeo y Consejo (EUR-Lex) · 2024
WebFetch confirmó la página oficial de EUR-Lex, Reglamento (UE) 2024/1689 de 13 de junio de 2024, que impone registro (logging) para sistemas de IA de alto riesgo.