Injusticia epistémica

Miranda Fricker le puso nombre, en 2007, a un tipo de daño que ocurría desde siempre: el que se comete contra una persona en su capacidad de saber y de ser creída. Distinguió dos formas. La injusticia testimonial ocurre cuando un prejuicio le resta credibilidad a alguien — el médico que descarta el dolor que relata una paciente, el tribunal que le cree menos al testigo por su acento. La injusticia hermenéutica es más silenciosa: una laguna en los conceptos compartidos deja a alguien sin las palabras para entender o comunicar su propia experiencia (antes de que existiera el concepto "acoso laboral", quien lo sufría no tenía cómo nombrarlo).

¿Qué tiene que ver con la IA? Dos cosas, y ninguna es decorativa. La primera: los sistemas que puntúan, filtran y priorizan — currículos, créditos, diagnósticos, moderación de contenido — pueden heredar y automatizar los mismos prejuicios de credibilidad que Fricker describió entre personas, ahora a escala y con menos derecho a réplica. Un sesgo algorítmico que sistemáticamente desestima lo que dicen ciertos grupos es injusticia testimonial industrializada.

La segunda es más sutil: los modelos de lenguaje se entrenan sobre corpus donde unas voces abundan y otras casi no existen. Si el modelo se convierte en la interfaz por defecto hacia el conocimiento, las perspectivas subrepresentadas en el entrenamiento quedan doblemente fuera: no están en las respuestas y tampoco en los conceptos que las respuestas ofrecen para pensar. Esa es la versión algorítmica de la laguna hermenéutica.

El concepto también disciplina el debate sobre "la IA que sabe": la credibilidad —la que se concede y la que se niega— es un fenómeno social con historia y poder de por medio. Preguntar quién es tratado como fuente fiable (y quién no, y por qué) aplica tanto a personas como a sistemas, y es una pregunta de justicia además de epistemología.