Privacidad diferencial

La privacidad diferencial es una definición matemática, no una promesa vaga de "protegemos tus datos". Formalizada por Cynthia Dwork y colegas a mediados de la década de 2000 y sistematizada en el libro de referencia de Dwork y Roth (2014), su idea central es agregar ruido aleatorio calibrado a un cálculo estadístico de modo que el resultado sea casi idéntico exista o no exista una persona particular en el conjunto de datos. La garantía no depende de qué tan poderoso sea el atacante ni de qué otra información tenga: es una propiedad matemática del mecanismo, no una suposición sobre el mundo.

En términos accesibles, funciona así: en vez de responder una pregunta ("¿cuántas personas de esta comuna tienen tal condición?") con el número exacto, el mecanismo responde ese número más un ruido aleatorio de una magnitud controlada por un parámetro (llamado épsilon). Cuanto menor el épsilon, mayor la privacidad y menor la precisión del resultado; cuanto mayor el épsilon, al revés. Existen variantes: la privacidad diferencial "local", donde el ruido se agrega en tu propio dispositivo antes de que el dato salga de ahí (así el servidor nunca ve tu dato real), y la "central", donde el ruido se agrega después de recolectar los datos crudos.

Apple fue pionera en el despliegue masivo de privacidad diferencial local: desde 2017 la usa para aprender qué emojis son populares o qué sitios consumen mucha batería en Safari, sin que sus servidores reciban jamás el dato sin randomizar de un usuario individual, a escala de cientos de millones de dispositivos. La Oficina del Censo de Estados Unidos adoptó una variante (privacidad diferencial zero-concentrada) como su Sistema de Evasión de Divulgación para el Censo 2020, agregando ruido calibrado a los conteos en seis niveles geográficos anidados antes de publicarlos.

El caso del Censo es también el mejor ejemplo de la tensión que genera esta técnica: introducir ruido matemáticamente garantizado protege contra la reidentificación, pero distorsiona los conteos exactos que demógrafos y autoridades de redistritaje electoral necesitaban para trazar límites de distritos legislativos con precisión. No es un defecto de implementación: es el costo inherente del compromiso privacidad-utilidad que la técnica formaliza explícitamente en vez de esconder.

En el contexto de modelos de lenguaje, la privacidad diferencial se propone —con adopción todavía limitada en la industria— como una manera de entrenar modelos que reduzcan el riesgo de memorizar y luego reproducir literalmente datos de una persona específica, el problema que se describe en la entrada de filtración de datos de entrenamiento. El desafío es que aplicarla durante el entrenamiento de un modelo grande normalmente reduce su calidad, lo que ha frenado su uso generalizado más allá de casos con datos especialmente sensibles.