Temas claves a seguir en 2024 - Botando Corriente #45
Además: YouTube sancionará los deepfakes de víctimas de crímenes reales | Cómo las redes distorsionaron la percepción inicial sobre el conflicto entre Israel y Hamás.
Los últimos años bisiestos han sido tiempos de turbulencia para las redes sociales y la democracia. 2016 fue el año de las campañas políticas impulsadas con los datos de Cambridge Analytica y de los puntos de inflexión electorales que significaron el triunfo de Donald Trump, la aprobación del Brexit y el rechazo al Acuerdo de Paz en Colombia. Por su parte, 2020 dejó una ola de desinformación relacionada con la pandemia y fue el escenario de unas elecciones inflamables en Estados Unidos.
Entramos a 2024 con varias lecciones aprendidas de estos eventos, reflejadas en un nuevo ambiente regulatorio. Este año, sin embargo, tiene el ingrediente adicional de la inteligencia artificial (IA) al alcance de todos, un calendario electoral agitado y la transformación drástica de algunas redes sociales. Aquí, algunos temas clave para prestarles atención en 2024.
Un año de urnas
Según se ha pronosticado, es posible que 2024 rompa el récord de mayor cantidad de votantes de la historia. Entre otras, se celebrarán elecciones presidenciales en Estados Unidos e India, así como votaciones para el Parlamento Europeo. En la región, seis países elegirán a sus nuevos jefes de Estado: El Salvador, Panamá, República Dominicana, México, Uruguay y Venezuela.
De manera incipiente, la IA generativa debutó en las campañas electorales de América Latina en 2023, donde fue utilizada para crear anuncios falsos y para manipular a la opinión pública respecto a ciertos candidatos. Con el avance de estas técnicas y el lanzamiento de nuevos modelos, aumentará el uso de IA en todos lo certámenes electorales.
Esto no significa que 2024 vaya a ser el año de la dominación de la IA. Para Katie Harbath, consultora y ex directora de políticas públicas de Facebook, el uso de modelos generativos no tendrá todavía la escala que muchos imaginan. De manera similar a lo que ocurrió el año pasado, es posible que la conversación siga girando alrededor de los eventuales riesgos de estas tecnologías más que sobre el verdadero impacto que tengan.
Por su parte, en las elecciones en América Latina seguirán usándose las operaciones coordinadas que se han desplegado en el pasado en países como México, El Salvador –donde Nayib Bukele aspira a la reelección– o Venezuela, y que han implementado bots y canales masivos de propaganda para favorecer a gobiernos o desprestigiar a opositores políticos.
El aluvión electoral de este año, especialmente relacionado con procesos en la Unión Europea, probablemente pondrá a prueba las disposiciones de la Ley de Servicios Digitales. Esta normativa, que entró en vigencia en agosto pasado, obliga a las grandes plataformas de redes sociales y otras compañías de internet a tomar medidas para identificar y mitigar riesgos relacionados con la integridad electoral en ese territorio.
Noticias GPT
A finales de 2023 Google anunció el lanzamiento de su “Experiencia Generativa de Búsqueda” en varios países de América Latina. Con esta función, todavía en fase de prueba, las búsquedas en la página más utilizada del mundo arrojan respuestas generadas con IA a partir de otras fuentes disponibles en Internet. Al resumir la información de esta manera, se disminuye el interés de los usuarios en acceder a las páginas de noticias que la produjeron originalmente, afectando el tráfico a los sitios webs de medios de comunicación, que reciben cerca de la mitad de sus visitas a través de estas plataformas, como lo resaltó una investigación del Oxford Internet Institute el año pasado.
La función plantea nuevos retos para la situación del periodismo en la región, cuyo alcance se ha visto afectado en los últimos tiempos. Según se registró a finales de 2023, en Colombia los sitios de noticias sufrieron una caída de cerca del 40% en sus visitas, lo que puede estar asociado con cambios en los algoritmos de Facebook y X. La incursión de la Experiencia Generativa de Búsqueda podría ahondar esta crisis y obligaría a los medios de comunicación a replantear una vez más su modelo de negocio, como lo señaló Juanita León, directora del medio colombiano La Silla Vacía.
Adicionalmente, 2024 será el año en el que veremos decisiones judiciales importantes sobre el entrenamiento de modelos de IA con material protegido por derechos de autor, incluyendo noticias. En primera línea se encuentra la demanda que a finales de diciembre presentó The New York Times contra OpenAI y Microsoft. Según el medio, las compañías copiaron millones de sus publicaciones para entrenar a sus modelos de IA, cuyos resultados ahora reproducen casi textualmente sus artículos e imitan su estilo editorial, por lo cual “compiten directamente” con su contenido y afectan sus ingresos por razón de suscripciones, publicidad y licencias.
Ex Twitter
Tal vez 2024 sea el año en el que al hablar de X ya no sea necesario decir “antes Twitter”, no solo porque el nuevo nombre finalmente cale en el vocabulario de las redes sociales, sino porque quedará muy poco de la compañía que Elon Musk compró en octubre de 2022.
De seguir con los planes del dueño para convertir a X en “la aplicación de todas las cosas”, es decir, una red que compita a la vez con plataformas de video, trabajo, servicios de mensajería o apps de citas, 2024 será el año que defina el destino del artista antiguamente conocido como Twitter. Los planes de Musk, en todo caso, no dependen exclusivamente de su voluntad, sino de la capacidad financiera y técnica de la compañía, a la que el cambio de dirección le ha costado buena parte de su capital humano y de sus ingresos por anuncios.
A diferencia de lo que ocurrió en 2016 y 2020, es posible que X tenga un rol menos protagónico en la campaña presidencial en Estados Unidos. Por su parte, su principal competidor, Threads, encontrará en las elecciones una nueva prueba a su crecimiento y una oportunidad para concentrar más conversaciones políticas y noticiosas.
Pero mientras en Estados Unidos X pierde su vigencia, en América Latina –donde es el órgano de difusión de algunos gobiernos y donde Threads todavía no parece despegar– tiene todavía posibilidad de ser un epicentro de discusión. La llegada de Javier Milei a la presidencia de Argentina ha llamado la atención de Musk hacia la política de la región. La relación entre ambos, además de cierta afinidad ideológica, tiene también un carácter comercial. En el anuncio del Decreto de Necesidad y Urgencia emitido por Milei en los primeros días de su gobierno, el mandatario indicó que dentro del paquete de medidas estaría la liberación de servicios satelitales, “para permitir la llegada de empresas como Starlink”, de la que también es dueña Musk. A su vez, el empresario ha compartido en su cuenta de X –la más grande de la plataforma– publicaciones a favor de las reformas electorales propuestas por el presidente argentino.
Las reglas del juego ⏯️
YouTube sancionará los deepfakes de víctimas de crímenes reales
En las redes sociales se han popularizado videos creados mediante inteligencia artificial (IA) que simulan la imagen y voz de niños fallecidos a causa de violencia, con el fin de relatar sus historias. Frente a esta tendencia, YouTube anunció que, a partir de enero de 2024, impondrá sanciones a este tipo de contenido.
Este cambio actualiza su política de ciberbullying y acoso en aras de proteger la integridad y privacidad de menores de edad y víctimas de violencia. De acuerdo con la plataforma, los contenidos que incumplan la política serán eliminados. En caso de sanciones reiteradas, los canales podrán ser suspendidos.
En TikTok, donde estos videos se viralizan ampliamente, se prohíben medios sintéticos que representen menores de edad, pero a diferencia de YouTube, no es claro si esta restricción incluye contenido de IA que relate hechos mortales.
Este vacío en la norma de TikTok podría explicar por qué cuentas como Real Lab (@reallabz), que se dedican a publicar videos generados por IA en los que se narran crímenes reales y que a menudo carecen de advertencias de contenido violento, siguen activas en la plataforma acumulando millones de vistas.
Polo a tierra
Cómo las redes sociales distorsionaron la percepción sobre el inicio de la guerra en Medio Oriente👀
Un informe reciente elaborado por investigadores del DFRLab destaca cómo las decisiones de moderación de contenido de las plataformas impactaron en la comprensión inicial del conflicto Israel-Hamás, potenciando la viralización de información falsa e imágenes descontextualizadas.
De acuerdo con la investigación, las distintas interfaces, algoritmos y sistemas de monetización de Telegram, X, Meta y TikTok influyeron en la distorsión mediática de la realidad de la guerra. La propaganda y el material gráfico encontraron cabida en plataformas con bajos estándares de moderación como Telegram, mientras que en X el volumen de información errónea que se difundió alcanzó precedentes históricos.
Los investigadores señalan que X tuvo 342 millones de publicaciones sobre Israel-Hamás, superando los 57.3 millones de la guerra Rusia-Ucrania. Además, destacan que la desinformación en X se intensificó con el nuevo sistema de verificación premium, con el que los usuarios pueden monetizar y amplificar contenidos, en ocasiones falsos o engañosos.
El informe destacó también limitaciones en TikTok y en las plataformas de Meta respecto a la libertad de expresión de las voces pro-palestinas que documentaron daños del conflicto.