Tic, toc, TikTok: Estados Unidos pone en marcha su plan para forzar la venta de la aplicación - Botando Corriente #53
Además: Fallas de Meta para detectar discursos de odio con IA| El lucrativo negocio de la conspiración
Antes de comenzar🗳️
Estamos pensando cómo podemos mejorar Botando Corriente y para eso es indispensable contar con su visión. Por eso, les agradeceríamos enormemente si se toman unos minutos para responder una breve encuesta que nos ayudará a medir el impacto de nuestro trabajo y a idear maneras de seguir analizando la intersección entre democracia y tecnología.
En corto ⚡
Estados Unidos aprobó una ley que obliga a ByteDance a vender a TikTok so pena de ser prohibida en ese país. A falta de una regulación de datos o de plataformas, la norma constituye la mayor medida contra una compañía de tecnología en ese país.
La ley está motivada por supuestas razones de seguridad nacional, pues parte de la idea de que la aplicación es utilizada por el gobierno chino para espiar a los usuarios estadounidenses y promover propaganda a su favor. Sin embargo, aún no hay evidencia concreta.
La discusión se enmarca en una especie de guerra fría digital, según la cual la idea de seguridad nacional habilita tomar acciones que afectan a millones de usuarios.
La semana pasada, camuflada entre un paquete de ayuda extranjera, se aprobó en Estados Unidos una ley que podría prohibir TikTok en ese país. A falta de una regulación robusta sobre datos personales o plataformas digitales, la medida constituye la mayor acción de Estados Unidos contra una compañía de redes sociales. Con la firma de Joe Biden, comienza el conteo regresivo para que ByteDance –la compañía dueña de la aplicación– desafíe la norma en los tribunales o venda su producto estrella.
Desde hace años, TikTok ha sido objeto de suspicacias por parte de voces políticas en Estados Unidos, quienes encuentran que la aplicación podría estar siendo utilizada para que el gobierno chino obtenga información privada de los usuarios y para distribuir propaganda a su favor.
Al igual que muchas compañías de China, ByteDance tiene la obligación legal de establecer un comité interno compuesto por miembros del Partido Comunista. Además, el gobierno es dueño del 1% de Douyin Information Service, una filial doméstica de ByteDance. Según Shou Zi Chew, CEO de TikTok, esta participación se trata en realidad de una licencia para operar en ese país.
Desde 2020, a raíz de la presión de la administración de Donald Trump, TikTok ha procurado distanciarse del gobierno de China. Entre otras cosas, en 2022 la compañía puso en marcha el llamado Project Texas, una iniciativa para almacenar los datos de sus usuarios de Estados Unidos en servidores de Oracle ubicados en ese territorio, lo que en teoría serviría para protegerlos de actores extranjeros.
La compañía ha acompañado su defensa con el despliegue de campañas de lobby para evitar medidas en su contra. El año pasado, cuando Chew fue llamado a declarar ante el Congreso, TikTok cubrió los gastos de decenas de influenciadores que llegaron hasta Washington para oponerse a una posible sanción.
En las últimas semanas, durante la discusión de la norma que finalmente fue aprobada, TikTok dispuso un mensaje en su plataforma para sugerirle a sus usuarios que llamaran a los legisladores para manifestar su rechazo al proyecto de ley: “Dejemos que el Congreso sepa lo que TikTok significa para ti y dile que vote NO”, podía leerse sobre una opción para llamar al Capitolio.
Esta acción, sin embargo, pudo haber sido contraproducente y fue calificada como una forma de manipulación. “Mientras el Congreso discutía cómo una empresa extranjera podía influir en la política interna, TikTok demostró justamente cómo puede manipular el comportamiento de los usuarios frente a procesos políticos”, aseguró David Carrol, activista del derecho a la privacidad.
La aprobación de la norma, conocida como la Ley para Proteger a los Estadounidenses de Aplicaciones Controladas por Enemigos Extranjeros, condensa las preocupaciones de miembros de los partidos Republicano y Demócrata. Ahora, ByteDance tiene un plazo de nueve meses para separarse de la aplicación, so pena de que el gobierno la prohíba en el nivel nacional.
No es claro todavía cuál podría ser el alcance de la norma ni cómo podría efectuarse una eventual venta de TikTok que involucre solo su operación en Estados Unidos. En primer lugar, hay dificultades para calcular cuánto podría costar la compañía –la cifra podría ir desde 20.000 hasta 100.000 millones de dólares, según el Wall Street Journal–. Además, queda la duda de si una venta incluiría uno de los factores fundamentales de la aplicación: su algoritmo de recomendaciones, pues en realidad este hace parte del núcleo de la operaciones de ByteDance y la compañía no estaría dispuesta a entregarla a sus competidores. Según información de Reuters, ByteDance preferiría suspender su actividad en Estados Unidos antes de separarse de TikTok.
“No nos vamos a ninguna parte”, dijo Chew en un video publicado en la plataforma tras la aprobación de la ley, en el que además aseguró que TikTok agotaría los recursos legales disponibles para oponerse.
En principio, la jurisprudencia de Estados Unidos tendería a respaldar a TikTok, pues la Primera Enmienda –que en ese país consagra el derecho a la libertad de expresión– cobija incluso la propaganda extranjera. Sin embargo, el argumento de la protección de la seguridad nacional, que tanto el Congreso como el gobierno esgrimen para respaldar la prohibición o venta forzada, podrían convencer a la Corte Suprema para dejar la ley en firme.
En todo caso, no hay evidencia pública de que la relación entre ByteDance y el gobierno chino pueda estar siendo explotada de la manera en la que lo suponen quienes apoyan la ley, ni tampoco de que esta norma pueda evitar que esto en efecto ocurra.
Según los periodistas de tecnología Justin Hendrix y Ben Lennett, no hay razones concretas para considerar que TikTok haya sido un canal de influencia china más que otras redes sociales, ni de que los datos de esta plataforma sean más útiles para la inteligencia china que cualquier otro conjunto de datos disponibles en el mercado global. En el escenario de que la disputa de la ley llegue a la Corte Suprema, el gobierno de Estados Unidos deberá ofrecer información para comprobar lo que hasta ahora son hipótesis.
La disputa se enmarca además en la narrativa de una supuesta guerra fría digital entre China y Estados Unidos, según la cual la idea de la protección de seguridad nacional podría habilitar medidas que afectan a millones de usuarios en ese país. Para José Marichal, profesor de la Universidad Luterana de California, este tipo de reacciones derriban el ideal de una internet abierta: “Nos hemos movido del compromiso de la libertad en internet a una efectiva censura de una red social increíblemente popular por la única razón de que pertenece a una nación rival”, aseguró en una pieza publicada en Tech Policy.
Las reglas del juego
Las fallas de Meta para detectar discursos de odio hechos con IA🚩
Meta ha tenido limitaciones para detectar y eliminar contenidos discriminatorios hechos con inteligencia artificial. Así lo deja ver una tríada de decisiones del Consejo asesor de contenidos –un organismo que actúa como Corte Suprema en asuntos de moderación de la compañía–, que recientemente revisó tres publicaciones racistas creadas con estos métodos.
Una de las publicaciones mostraba personas afro caricaturizadas con capuchas saqueando una tienda en llamas. Otra, imitaba el cartel de una película, donde una mujer afro con rasgos físicos exagerados empujaba un carrito lleno de Cheetos. La película lleva por título "EBT", haciendo alusión al sistema de subsidios en EE. UU., y en lugar de los nombres de actores, se utilizaron los de Trayvon Martin y George Floyd, dos víctimas afroamericanas de violencia policial.
A pesar de que los contenidos fueron denunciados por varios usuarios por representar estereotipos raciales dañinos, Meta mantuvo las publicaciones en línea. Para el Consejo, esta decisión fue un desacierto, ya que las imágenes violaban claramente la política contra el discurso de odio, al realizar ataques directos contra características protegidas, así como la política de bullying y acoso al trivializar la muerte de los fallecidos. Tras la revisión del Consejo, Meta eliminó las publicaciones de la plataforma.
El Consejo no profundizó en el hecho de que estas imágenes fueron creadas con IA. Aunque la empresa cuenta con una política contra el contenido manipulado, parece haber un vacío, ya que esta regla sólo prohíbe explícitamente el uso de manipulaciones para engañar al usuario, como en el caso de los 'deepfakes', sin abordar de manera específica el contenido artificial que promueve discursos de odio.
Polo a tierra
El lucrativo negocio de la conspiración 💸
Las comunidades que promueven teorías de conspiración en línea han encontrado un refugio en redes sociales con menores estándares de moderación, como Telegram, donde pueden encontrar y compartir este tipo de contenido con mayor libertad.
Una característica de esta plataformas de mensajería son los canales de difusión, donde un administrador difunde información de manera unilateral hacia su audiencia. Un estudio realizado por investigadores de la Universidad Sapienza de Roma revela cómo los canales de teorías conspirativas logran obtener beneficios de sus suscriptores, generando ganancias que superan los 90 millones de dólares.
De acuerdo con la investigación, si bien la mayor parte del esfuerzo de los canales de conspiración se centra en promover sus teorías, también son utilizados para vender o promocionar productos cuestionables, como escudos 5G, a través de enlaces afiliados. En total, más de 65.000 URL fueron compartidas por más de 10.000 canales de Telegram.
El documento resalta que más del 10% de los canales registrados emplean enlaces que redirigen a Amazon y otros sitios de comercio electrónico para comprar productos que otorgan comisiones a los canales conspirativos. Otra estrategia, utilizada por más del 30% de estos grupos, son las campañas de donaciones para apoyar la actividad del canal.
El perfil analizado que recaudó más dinero fue QAnon Anonymous, que recibió más de 85.000 dólares a través de Patreon solo en septiembre de 2023. Los investigadores alertan sobre las posibilidades disponibles de financiación de este tipo de grupos, que en el pasado –como en el caso de QAnon– han estado relacionados con eventos violentos, como la toma del Capitolio en enero de 2021.