Pensar la inteligencia artificial desde América Latina- Botando Corriente #63
Además: Musk cede en su pulso con Brasil | Datos de la represión digital en Venezuela
En corto ⚡
Los desafíos que la región enfrenta en cuanto a la inteligencia fueron discutidos esta semana en un foro celebrado en Buenos Aires.
Entre otros, la discusión expuso los riesgos de importar regulaciones externas que no se ajusten a las necesidades de la región, los problemas de la lógica extractivista de la economía de datos y la infraestructura del desarrollo tecnológico en América Latina.
El Pacto Digital Global aprobado esta semana en Nueva York podría abrir el camino para que América Latina entre a un diálogo global sobre inteligencia artificial.
Esta semana, durante la Cumbre del Futuro celebrada en Nueva York, fue aprobado el Pacto Digital Global, un marco general para la gobernanza de la tecnología y la Inteligencia Artificial en el mundo. Entre otras, este nuevo pacto llama a gobiernos y al sector privado a contribuir a un fondo para el desarrollo de la IA, fija el compromiso de crear un panel internacional científico y establece un diálogo global en el seno de las Naciones Unidas.
En opinión de Vanina Martínez, integrante del Órgano Asesor sobre IA de la ONU, con la adopción de este pacto, América Latina tendría la oportunidad de comunicar al mundo sus perspectivas sobre el tema y mejorar el papel que hasta ahora ha desempeñado. “En la mayoría de los marcos de gobernanza internacional, América Latina hace parte de la discusión, pero no está en la discusión. La región tiene que imponer sus deseos y realidades”, aseguró Martínez esta semana en el foro democracIA celebrado en Buenos Aires.
El evento, organizado por Luminate, Civic Compass y el International Fund for Public Interest Media, reunió a expertos de la región y del mundo para analizar los desafíos que la IA presenta para la democracia, profundizar en sus aspectos técnicos y conectar conversaciones entre el norte y sur global.
CTRL+C y CTRL+V de las regulaciones
La urgencia por atender los desafíos de la IA ha puesto a los legisladores del mundo a tramitar y discutir proyectos para regular estas tecnologías. Al igual que en otros casos, las normas de la Unión Europea han sido el modelo para diseñar leyes y otros mecanismos que prevengan posibles impactos negativos de las IA.
En particular, el enfoque de riesgos de la Ley de Inteligencia Artificial de la Unión Europea ha trazado el camino para otras iniciativas en el mundo. Sin embargo, muchas voces han alertado sobre las fallas de este sistema, según el cual entre mayor sean los riesgos de una IA para afectar los derechos humanos, mayores obligaciones habrá para los desarrolladores.
“Cuando se diseñan políticas públicas a partir de enfoques basados en riesgos, se negocian las garantías a los derechos humanos a partir de la premisa de que estas deben equilibrarse con otros valores como los de la innovación”, se lee en un informe de Access Now publicado en febrero de este año.
Además, este enfoque plantea la paradoja de que las compañías deben autoevaluar qué tan expuestas están a estos riesgos. “Básicamente están calificando su propia tarea”, expresó Maroussia Lévesque, investigadora afiliada al Berkman Klein Center de la Universidad de Harvard, en el foro.
Más allá de las fallas de proyectos que empiezan a implementarse en otras partes del mundo, existe el riesgo de que en las discusiones para adaptarlos se pierda la perspectiva local. Para Juan Carlos Lara, codirector ejecutivo de Derechos Digitales, importar modelos implica eludir el debate democrático necesario para que nuestras sociedades encuentren las soluciones que requieren para sus problemas específicos, que naturalmente no son los mismos que los de Europa o Estados Unidos.
Los circuitos abiertos de la IA en América Latina
Según Claudia López, investigadora del Centro Nacional de Inteligencia Artificial de Chile –CENIA–, en un mercado dominado por compañías del norte global, hay pocos incentivos para fomentar el desarrollo IA y evaluar sus posibles impactos en otras regiones. Con este panorama, es indispensable entonces que sean las organizaciones, gobiernos e instituciones académicas de América Latina quienes se ocupen de esta tarea.
Esto implica pensar con mayor detenimiento las relaciones entre nuestras sociedades y la industria. En cierta medida, el negocio reproduce las dinámicas de la extracción de recursos: en la región se ubican centros de datos de compañías extranjeras que contratan mano de obra a bajo costo y procesan datos producidos por personas de la región, sin que necesariamente esos beneficios se extiendan a las comunidades, como señaló Paola Ricaurte, investigadora del Departamento de Medios y Cultura digital del TEC de Monterrey. “Exportamos pera e importamos pera enlatada”, dijo Luciana Benotti, investigadora de la Universidad de Córdoba, sobre estos modelos extractivos.
Ante la falta de desarrollo de tecnologías propias, los gobiernos de la región se convierten en clientes preferentes de estas compañías. “Esa asimetría termina teniendo un impacto en la visión de las políticas públicas”, agregó Ricaurte.
Otra de las principales preocupaciones alrededor de la IA está en la posibilidad de reproducir sesgos, asunto que ha sido incluido en algunos proyectos de regulación. Benotti señaló la posibilidad de corregir sesgos de las bases de datos que alimentan los modelos de lenguaje para que no reflejen exclusivamente los valores dominantes. Para esto hacen falta mecanismos que permitan acceder a esos datos y entrenarlos con otros que representen la diversidad cultural y lingüística, así como personal calificado de la región, que ante la situación actual, se está fugando.
Elecciones GPT
La avalancha de elecciones de este año trajo consigo los primeros asomos de la IA como arma de campaña política y desinformación en América Latina. Para Franco Picatto, director ejecutivo de Chequeado, las últimas elecciones en Argentina permitieron ver la punta del iceberg del potencial daño que pueden causar estas tecnologías.
A pesar de los pronósticos, la evidencia no muestra todavía un uso masivo de técnicas avanzadas de IA para la desinformación electoral, pero sí un uso frecuente de cheapfakes, montajes más artesanales y menos realistas. En todo caso, hay alertas sobre ataques a través de contenidos sexuales sintéticos, una práctica que expone especialmente a las mujeres, como indicó Patricia Villa-Berger, investigadora asociada del Instituto Tecnológico de Estudios Superiores de Monterrey.
Más que enfoques regulatorios, expertos y expertas coinciden en la necesidad de amplificar esfuerzos para mejorar la alfabetización digital en la región y educar a las personas a detectar desinformación y no contribuir a amplificarla.
Este fin de semana iniciamos la serie ‘Inteligencia Artificial y democracia’ en alianza con CHCH. En el primer episodio, conversamos con Maroussia Lévesque.
Las reglas del juego
Musk empieza a ceder en su pulso con Brasil⚖️
Hace tres semanas, la red social X, fue suspendida en Brasil por no cumplir órdenes judiciales del Supremo Tribunal Federal para remover contenidos y eliminar cuentas. Aunque Elon Musk había tomado este caso como bandera de su lucha por la libertad de expresión “absolutista”, el viernes pasado los abogados de la compañía informaron que la plataforma ha cumplido con las demandas del Tribunal, con la esperanza de que se levante el bloqueo.
Destacamos tres puntos clave de este cambio:
Para algunos, la respuesta de la compañía es una muestra de que, más que una controversia sobre libertad de expresión, lo que estaba en juego en esta disputa era la soberanía de un país para hacer cumplir sus normas a un actor extranjero.
X ha pagado las multas impuestas por el tribunal y nombrado un nuevo representante en Brasil, otra medida que contrasta con la resistencia inicial de la empresa a cualquier forma de sumisión ante las autoridades locales.
Aunque el tribunal reconoció que X ha cumplido con las órdenes judiciales, también señaló que la documentación presentada es insuficiente, otorgando a la empresa un plazo adicional de cinco días para entregar los documentos faltantes.
Polo a tierra
Datos de la represión digital en Venezuela⛔
Un informe reciente de ProBox, DDIA y DFRLab, el laboratorio de investigación del Atlantic Council, mostró la forma en que el régimen de Nicolás Maduro ha intensificado su control sobre las plataformas digitales para reprimir a los opositores y consolidar su poder tras las elecciones presidenciales del 28 de julio.
El estudio, que tuvo en cuenta un análisis de más de 1,500 videos en YouTube, mostró la forma en que el régimen ha utilizado esta plataforma para amplificar sus mensajes. Con una red de canales aliados, se han enmarcado las protestas en Venezuela como un plan de desestabilización orquestado por la derecha internacional, sin mencionar las denuncias de fraude electoral que las han motivado. Los videos promovidos por estos canales cuentan con cerca de 1.9 millones de reproducciones.
El reportaje da cuenta además de dos métodos del régimen para perseguir opositores: la "Operación Tun Tun", una campaña digital para difundir propaganda oficialista; y la aplicación VenAPP, en la que es posible reportar a personas bajo la etiqueta de “guarimbas fascistas”. Ambos métodos han resultado en detenciones y reportes de violaciones a derechos humanos.
A pesar de que a finales de julio Apple y Google eliminaron VenAPP de sus tiendas, el archivo APK continúa accesible a través de Telegram y otros foros, por lo que es posible descargarla en dispositivos Android.
En la red 🕸️
Esta es la recomendación de esta semana de la Red de Expertos en Democracia y Tecnología de Linterna Verde en alianza con La Silla Vacía:
Los riesgos del reconocimiento facial: “El panóptico de Foucault no solo está en nuestros celulares, sino que también está en las calles”, escribe
, quien debuta en la red con la historia de una persona señalada como sospechosa de un atentado en Buenos Aires y detenida durante tres días por errores en el uso de sistemas de reconocimiento facial.