YEl pasado mes de febrero, la Cumbre para la Acción sobre la Inteligencia Artificial (IA), celebrada en París, reunió a más de un centenar de países en torno a una declaración a favor “Inteligencia artificial inclusiva y sostenible”. Nueve meses después, queda una pregunta: cuando la IA se establece en los contextos más frágiles (campamentos de refugiados, territorios indígenas, zonas de desastre), ¿quién decide su diseño, sus usos, sus límites?
La respuesta revela una brecha entre la retórica de la inclusión y la realidad del poder. La inteligencia artificial, que afecta a las poblaciones más vulnerables, a menudo está diseñada en otros lugares, por otros, para objetivos alejados de sus necesidades.
El ejemplo del campo de Bidi Bidi en Uganda ilustra esta asimetría. En 2018, el Programa Mundial de Alimentos implementó allí Primes, un sistema biométrico para la distribución de ayuda. Para 270.000 refugiados de Sudán del Sur la elección era sencilla: entregar sus datos biométricos o renunciar a la comida. A algunos se les suspendió la atención por errores de registro, otros proporcionaron sus huellas dactilares sin saber cómo se utilizarían sus datos o cómo apelar una decisión. El sistema funcionaba en una caja negra: opaca para quienes lo servían, transparente para quienes lo controlaban.
Sin consulta local
No es el fallo técnico lo que llama la atención, sino la ausencia estructural de participación. Diseñado por expertos del Norte, el sistema nunca ha sido objeto de consulta local. Cuando surgieron problemas, fueron los refugiados quienes sufrieron las consecuencias sin haber tenido voz y voto.
Esta lógica se reproduce en otros lugares. En Filipinas, más de 15 millones de indígenas ven multiplicado el uso de la inteligencia artificial en su territorio: vigilancia destinada a identificar “grupos terroristas”minería automatizada, biometría para acceder a servicios públicos. Sin embargo, la Ley de Derechos de los Pueblos Indígenas de 1997 exige el consentimiento libre, previo e informado antes de cualquier proyecto en tierras ancestrales. Los sistemas de inteligencia artificial se utilizan como si este derecho no existiera.
Te queda el 65,95% de este artículo por leer. El resto está reservado para suscriptores.
About The Author
