Moderación antinarcóticos: las dificultades de la prevención sobre el consumo de drogas en redes sociales - Botando Corriente #39
Además: Frenos a la IA en Hollywood | El deterioro de la libertad en Internet.
Las reglas del juego ✍️
La Inteligencia Artificial no escribirá películas ni series
La semana pasada, tras casi cinco meses de huelga, los representantes del Sindicato de Guionistas de Estados Unidos (WGA, por sus siglas en inglés) y los grandes estudios de Hollywood llegaron a un acuerdo tentativo que, entre otras, desarticula la posibilidad de que la inteligencia artificial (IA) reemplace a este eslabón de la industria del entretenimiento.
Según el documento, las compañías deberán informar al WGA si la idea de una película o de una serie fue generada por IA. En cualquier caso, este contenido no será considerado material original con derechos de autor. Esto significa que, por ejemplo, un guión producido por ChatGPT u otra IA deberá ser revisado o ajustado posteriormente por un guionista, quien retendrá los derechos de autor y las futuras regalías.
Además, el acuerdo brinda a los guionistas la libertad de apoyarse en modelos de IA en su proceso creativo si la empresa lo aprueba, pero los estudios no podrán forzar su uso.
El acuerdo no solo regula la IA, sino que introduce medidas de transparencia de datos en las plataformas de streaming. Ahora, compañías como Netflix o Amazon deberán reportar al sindicato las horas de transmisión de los proyectos de los guionistas, de lo que puede derivarse una compensación adicional.
Para Eryk Salvaggio, investigador de tecnologías emergentes en Siegel Family Endowerment, el acuerdo es un ejemplo de cómo la deliberación colectiva puede mitigar los riesgos que presenta la inteligencia artificial.
Moderación antinarcóticos: las dificultades de la prevención sobre el consumo de drogas en redes sociales
Hace unas semanas, cuando el presidente Gustavo Petro volvió a poner al fentanilo en la agenda pública en Colombia, el proyecto Échele Cabeza –un referente en la disminución de riesgos asociados al consumo de sustancias– intentó hacer una transmisión en Instagram para tratar el tema y desmentir mitos. Sin embargo, como una restricción por supuestos incumplimientos a sus normas de contenido, la plataforma le impidió dirigirse en vivo a su audiencia, que hoy suma más de 200.000 seguidores.
El caso es solo una muestra de los desafíos a los que se ven enfrentados proyectos periodísticos, organizaciones y activistas que a través de redes sociales buscan informar sobre el consumo de psicoactivos desde un enfoque científico y de prevención.
Como un eco de la política internacional contra las drogas, las plataformas tienen reglas para evitar convertirse en medios para el tráfico o la promoción de sustancias ilícitas, al igual que ocurre con otros bienes regulados como armas, fauna silvestre o medicamentos.
Con el avance de las discusiones sobre el uso de sustancias, otras redes sociales han matizado sus políticas. A raíz de una decisión del Consejo asesor de contenidos, en diciembre Meta cambió sus normas para permitir contenidos que discutan la legalidad y las cualidades científicas de los enteógenos, una categoría que reúne a ciertas sustancias psicoactivas. Además, recientemente se reafirmó que la promoción de otro tipo de drogas, como la ketamina, está permitida en las plataformas de Meta cuando se administra en un contexto médico.
En el caso de TikTok, las normas permiten concientizar sobre el consumo de sustancias y defender la reforma de políticas en materia de drogas. Twitter, por su parte, cuenta con normas menos desarrolladas, pero fue la primera plataforma en avalar la pauta de cannabis recreativo y de accesorios para el consumo de marihuana.
A pesar de estas excepciones, discursos informativos o de prevención no están del todo cubiertos por las normas. Esto, junto a posibles fallas en los sistemas de moderación, expone a los creadores de contenido a sanciones que a su vez limitan el debate público en línea.
A lo anterior se suma la falta de claridad en los procesos, pues las plataformas no siempre notifican las razones de una sanción o no responden a las apelaciones. Para Échele Cabeza, cambios recientes en Meta han empeorado el escenario, pues al no ser notificados no saben cuántas infracciones han cometido. Como la compañía utiliza un sistema de strikes, en el cual se aplican sanciones progresivas según se vayan acumulando faltas, a cada publicación nueva el proyecto se juega su presencia en Instagram, su mayor canal de difusión.
A este tipo de situaciones también se ha enfrentado Proyecto Soma, una organización peruana dedicada a la información, educación y los cuidados necesarios en un mundo con drogas. En dos ocasiones Instagram ha suspendido su cuenta. La primera vez, en agosto del año pasado, la plataforma les indicó que habían incumplido la política de bienes regulados. La sanción coincidió con una de sus publicaciones con mayor alcance: un video en el que respondían acusaciones en su contra hechas en un programa de televisión. Al apelar, Instagram aseguró que se había tratado de un error y restableció la cuenta.
En junio de este año, poco después de publicar una convocatoria para personas voluntarias, la plataforma volvió a suspender la cuenta por incumplir, supuestamente, las normas de spam. En esa oportunidad, la sanción se reversó tan pronto iniciaron el proceso de revisión. “Somos conscientes de que la vida de todo lo publicado en las redes sociales termina dependiendo de dichas empresas y no de quienes generan ese contenido, pero por la misma delicada razón creemos que debería haber una mejor comunicación”, opinan.
Hablar de drogas en redes sociales muchas veces lleva implícita una sanción más sutil: el shadowbanning, es decir, la disminución del alcance de los contenidos sin una explicación concreta. Así le ha ocurrido tanto a Échele Cabeza como a Mínima Dosis, una plataforma periodística sobre drogas. Esta especie de exclusión digital fue tan severa para Mínima Dosis, que por un tiempo su cuenta no aparecía en Instagram aunque se buscara con el nombre exacto.
Ante este escenario, las organizaciones han optado cambiar sus contenidos y utilizar estrategias para evadir los sistemas de detección. De acuerdo con Oswaldo Beltrán, director de Mínima Dosis, el shadowban en Instagram logró superarse al modificar los textos de cada una de sus publicaciones y sustituirlos por combinaciones como “L$D” o “dr0gas”. A pesar de que no hay información suficiente sobre los criterios de las plataformas, DoubleBlind, un medio especializado en el cubrimiento de drogas, publicó en agosto una guía con consejos similares para evitar sanciones en Instagram y reaccionar en caso de que ocurran.
Para Beltrán, a las conversaciones sobre drogas en línea se agrega un problema adicional. El auge del uso terapéutico de algunas sustancias psicodélicas ha venido acompañado de una proliferación de cuentas que promocionan supuestos tratamientos y retiros espirituales sin control: un nuevo reto de desinformación médica que se desarrolla en paralelo a las afectaciones de discursos que pretenden disminuir riesgos y ofrecer información científica.
De igual forma, mientras estas conversaciones se limitan, el tráfico de drogas a través de redes sociales ha venido aumentando, como lo alertó este año un informe de la Oficina de las Naciones Unidas contra la Droga y el Delito. Además, otro reporte de esa misma agencia para América Latina y el Caribe señaló que grupos criminales organizados estaban utilizando plataformas para ofrecer drogas sintéticas en la región, una situación en la que, según el documento, probablemente inciden la baja tasa de detección de estos contenidos y las capacidades limitadas de las autoridades para investigar y procesar ciberdelitos.
La inteligencia artificial acelera el deterioro de la libertad en Internet
Así lo anunció ayer la organización Freedom House al presentar su informe Freedom on the Net, un diagnóstico anual sobre el estado de los derechos humanos en línea a nivel global.
El estudio, que cubre el periodo entre junio de 2022 y mayo de 2023, destaca cómo la IA ha aumentado la escala, velocidad y eficiencia de la represión digital y las campañas de desinformación. En al menos 16 de los 70 países analizados se usaron herramientas de IA para sembrar dudas, desprestigiar a opositores políticos o influir en el debate público.
Según el informe, las tácticas engañosas en línea han escalado a través del uso de cuentas automatizadas para silenciar activistas y propagar de narrativas falsas sobre fraude electoral producidas con modelos de generación de texto, audio e imágenes.
En 7 de los 11 países de América tenidos en cuenta para el estudio se registraron acosos, agresiones físicas, medidas coercitivas y asesinatos motivados por alguna actividad en línea. Durante el periodo de análisis, se reportó que en Colombia al menos cinco periodistas fueron asesinados en posibles represalias por su trabajo en línea.