¿Es IA?

En febrero, la Cumbre sobre Inteligencia Artificial, que en esos días reunió en París a varias decenas de líderes mundiales y un millar de investigadores y fue vista como un desafío en un momento en que las rivalidades tecnológicas y regulatorias se exacerbaban en este campo en auge, sentó a más  de cien países en torno a una mesa para discutir sobre la “inteligencia artificial inclusiva y sostenible”. Nueve meses después, queda una pregunta: cuando la IA se implementa en los contextos más frágiles (campos de refugiados, territorios indígenas, zonas de desastre, países con regímenes totalitarios, pobre regulación), ¿quién decide su diseño, sus usos, sus límites?

La respuesta revela una brecha entre la retórica de la inclusión y la realidad del poder. La IA, que afecta a las poblaciones más vulnerables, a menudo es diseñada en otros lugares, por otros, para objetivos muy alejados de sus necesidades.

El ejemplo del campamento de Bidi Bidi en Uganda ilustra esta asimetría. En 2018, el Programa Mundial de Alimentos implementó Primes, un sistema biométrico para la distribución de ayuda. Para un cuarto de millón de refugiados de Sudán del Sur, la elección era simple: entregar sus datos biométricos o dejar de comer. A algunos se les ha suspendido la asistencia debido a errores de registro, otros han proporcionado sus huellas dactilares sin saber cómo se utilizarían sus datos o cómo impugnar su filtración. El sistema operaba en una caja negra: opaco para aquellos a quienes servía, transparente para quienes lo controlaban.

No ha sido una falla técnica la que causa problemas, sino la falta estructural de participación de los sujetos de la herramienta tecnológica. El sistema fue desarrollado por expertos del Norte y nunca fue objeto de consulta local. Cuando surgían problemas, eran los refugiados los que sufrían las consecuencias sin haber tenido voz.

Esta lógica se reproduce en otras partes del mundo. En Filipinas, más de 15 millones de indígenas están viendo cómo se multiplica el uso de la IA en su territorio: vigilancia para identificar “grupos terroristas”, minería automatizada, biometría para acceder a los servicios públicos. Sin embargo, la Ley de Derechos de los Pueblos Indígenas de 1997 exige el consentimiento libre, previo e informado antes de cualquier proyecto sobre tierras ancestrales. Los sistemas de IA se despliegan como si este derecho no existiera. Y, en Kenia, el reconocimiento facial, las tecnologías de crédito predictivo y la vigilancia urbana se están desarrollando rápidamente, a menudo llevadas a cabo por empresas extranjeras: los datos de millones de kenianos se recopilan sin ninguna consulta local que determine las condiciones de uso y mecanismos de protección.

No es solamente una cuestión de ética, también es una cuestión de poder. ¿Quién controla los sistemas que determinan el acceso a los recursos, los servicios públicos, los territorios? Un sistema algorítmico que decide sobre el acceso a la ayuda alimentaria no es una herramienta neutral: es un mecanismo de gobernanza. Un sistema de vigilancia para las comunidades indígenas no es solo una tecnología: es una herramienta de control. Cuando estos sistemas se diseñan sin la participación de las comunidades involucradas, prolongan dinámicas invasoras: extracción de datos en lugar de minería, según la misma lógica de apropiación sin consentimiento.

La Carta de París sobre el Interés Público en la IA habla de “cerrar las brechas digitales” y “ayudar a los países en desarrollo”, sin especificar cómo o según qué mecanismos de control. Nada sobre la consulta comunitaria, nada sobre el consentimiento libre e informado, nada sobre la gobernanza local de datos o sobre los recursos. Esta ausencia no es fortuita: permite proclamar grandes principios sin cambiar las prácticas. Mientras, México, cuyo gobierno se define como humanista y campeón de los desprotegidos, por ejemplo, habla de crear una base de datos de usuarios de telefonía y CURP con registros biométricos, no destina recursos en su presupuesto para el desarrollo de la IA y limita la participación de los ciudadanos y expertos en la discusión de estos temas.

La soberanía no puede ser únicamente técnica o económica: debe ser democrática. Esto también es cierto para las personas en el Sur Global, que deberían controlar los sistemas que gobiernan sus datos, sus recursos y sus interacciones con el estado. A propósito, para las comunidades indígenas, este tema es vital. Sus territorios albergan recursos esenciales para la transición energética: litio, cobre, tierras raras. La IA optimiza su extracción, acelerando el despojo.

La pregunta ya no es si otra IA es posible: las comunidades de Uganda, Kenia, Filipinas -ahora Zacatecas- y medio mundo más están demostrando su urgente necesidad. Queda por ver si la comunidad internacional, México en particular, optará por transformar las promesas de la Cumbre de París en compromisos.

La historia dirá si la Carta de la IA para el Interés General habrá marcado el comienzo de una gobernanza verdaderamente democrática de la IA, o si seguirá siendo una declaración más, mientras los más vulnerables la sufren, se profundizan las asimetrías de poder y las promesas de inclusión siguen enmascarando la realidad de la exclusión.