Trazabilidad algorítmica

La trazabilidad algorítmica es la condición para que una decisión automatizada pueda revisarse después. Si un sistema rechaza un crédito, asigna una prioridad médica o filtra un contenido, la trazabilidad permite reconstruir el camino: qué entradas tuvo, qué pasos siguió el modelo y qué produjo cada etapa. Sin eso, la decisión es una caja negra imposible de auditar o de impugnar.

La idea es central en la gobernanza contemporánea. Diakopoulos (2016) la formuló como parte de la rendición de cuentas de los algoritmos: la transparencia que importa no es exponer el código, sino conservar registros —logs— que permitan explicar y atribuir. El marco del NIST (2023) incluye la trazabilidad entre las propiedades de una IA confiable, y la Ley de IA de la Unión Europea (2024) impone obligaciones de registro (logging) para los sistemas de alto riesgo.

La trazabilidad es importante y, a la vez, resistida. Conservar registros cuesta, choca con el secreto comercial y con la privacidad de los datos, y un log no garantiza por sí solo explicación. Por eso el debate no es si conviene trazar (sí), sino cuánto, durante cuánto tiempo y bajo qué salvaguardias, para que la trazabilidad sea herramienta de confianza y no mera vitrina.

En la práctica, trazar una decisión no es sólo guardar un archivo de registro: implica decidir qué se guarda (¿el dato de entrada completo? ¿sólo un resumen?), por cuánto tiempo, quién puede consultarlo y cómo se protege ese mismo registro —que a menudo contiene datos personales sensibles— de un uso indebido. Un sistema puede cumplir con la letra de "guardar logs" y aun así no ofrecer una explicación útil para la persona afectada por la decisión.

Por eso la trazabilidad se evalúa cada vez más junto a otro criterio: la explicabilidad, es decir, si además de reconstruir el camino técnico de una decisión, se puede traducir ese camino a una razón comprensible para quien no diseñó el sistema. Tener el registro es necesario pero no basta por sí solo; sin él, en cambio, ni siquiera hay de dónde partir.