El 19 de julio, Bloomberg News informó sobre lo que muchos otros llevaban tiempo hablando: Twitter (ahora X) estaba perdiendo anunciantes, en parte debido a su escasa firmeza para abordar la incitación al odio. En el reportaje se citaba mucho a Callum Hood, jefe de investigación del Centro para Contrarrestar el Hostigamiento Digital (Center for Countering Digital Hate, CCDH), una organización sin fines de lucro que hace un seguimiento de los discursos de odio en las redes sociales, cuyo trabajo ha subrayado diversos casos en los que Twitter ha permitido que contenidos violentos, hirientes o engañosos permanezcan en la plataforma.
Al día siguiente, X anunció que presentaba una demanda contra el CCDH y la Fundación Europea para el Clima (ECF, por sus siglas en inglés), por el supuesto uso indebido de la información de Twitter que condujo a la pérdida de ingresos publicitarios. X sostiene que los datos que el CCDH utilizó en su investigación se obtuvieron recurriendo a las credenciales de acceso de la fundación, que tenía una cuenta en la herramienta de social listening (escucha social) externa, Brandwatch; esta última posee una licencia para usar la información de Twitter a través de su interfaz de programación de aplicaciones (API, por sus siglas en inglés). X alega que el CCDH no tenía permitido acceder a los datos de Twitter/X y también acusa al centro de extraerlos sin la debida autorización, infringiendo los términos de uso de la compañía.
X no respondió a nuestra solicitud de comentarios.
“La investigación del CCDH revela que el odio y la desinformación se están propagando como la pólvora en la plataforma bajo la propiedad de Musk, y esta demanda es un intento directo de silenciar esos esfuerzos”, declara Imran Ahmed, CEO de la organización sin fines de lucro.
La demanda de Twitter/X contra investigadores de la desinformación
Los expertos que hablaron con WIRED ven la acción legal como el más reciente movimiento de las plataformas de redes sociales para restringir el acceso a sus datos a los investigadores y organizaciones de la sociedad civil que pretenden exigirles una rendición de cuentas. “Hablamos de un acceso no solo para investigadores o académicos, sino que también podría extenderse posiblemente a defensores y periodistas, e incluso a responsables políticos”, señala Liz Woolery, responsable de política digital de PEN America, una organización sin fines de lucro que aboga por la libertad de expresión. “Sin ese tipo de datos, nos resulta difícil dedicarnos a la investigación necesaria para comprender mejor el alcance y la escala del problema al que nos enfrentamos, sobre cómo las redes sociales afectan nuestra vida cotidiana, y [cómo] mejorarlo”.
En 2021, Meta impidió a los investigadores del Observatorio de Publicidad de la Universidad de Nueva York recopilar datos sobre propaganda política y desinformación de Covid-19, de acuerdo con NPR. El año pasado, la compañía comunicó que cerraría su herramienta de monitoreo CrowdTangle, que ha sido fundamental para permitir a investigadores y periodistas realizar un seguimiento de Facebook. Tanto Meta como Twitter demandaron a Bright Data, una empresa israelí de recolección de datos, por el raspado de sus sitios; aunque Meta había contratado anteriormente a dicha firma para que extrajera información de otros sitios en su nombre. Musk dio a conocer en marzo que la compañía empezaría a cobrar 42,000 dólares al mes por su API, con lo que dejaría fuera de juego a la gran mayoría de investigadores y académicos que la han utilizado para analizar cuestiones como la desinformación y la incitación al odio en más de 17,000 estudios.
Hay razones por las que las plataformas no quieren que ni los investigadores ni los defensores husmeen y expongan sus fallas. Durante años, las organizaciones de defensa han utilizado ejemplos de contenidos violentos en las redes sociales como forma de presionar a los anunciantes para que les retiren su apoyo, obligando a las compañías a abordar los problemas o a cambiar sus políticas. Sin la investigación subyacente sobre la incitación al odio, la desinformación y otros materiales nocivos en las redes sociales, estas organizaciones tendrían poca capacidad para forzar a las empresas a modificar su modo de operar. En 2020, anunciantes como Starbucks, Patagonia y Honda abandonaron Facebook después de que se descubriera que la plataforma Meta tenía un criterio poco estricto para moderar la desinformación, en particular las publicaciones del expresidente de Estados Unidos, Donald Trump, lo que costó millones a la compañía.
En cuanto Musk asumió el mando de Twitter a finales de octubre de 2022, despidió a muchos de los miembros del personal que eran responsables de mantener la incitación al odio y la desinformación fuera de la plataforma; también restableció las cuentas de usuarios que habían sido vetados previamente, entre ellos Trump y el influencer Andrew Tate, que actualmente es acusado en Rumanía conforme a las leyes de tráfico de seres humanos. Un estudio publicado a principios de este año por el Instituto de Ciencias de la Información de la Universidad del Sur de California, la Universidad Estatal de Oregon, la Universidad de California en Los Ángeles y la Universidad de California en Merced descubrió que la incitación al odio aumentó drásticamente después de que Musk tomara el timón de la red social. Aproximadamente durante el mismo período de tiempo, la empresa vio cómo sus ingresos por publicidad se reducían a la mitad, ya que las marcas, entre ellas General Motors, Pfizer y United Airlines, abandonaron la plataforma, aparentemente preocupadas por que sus productos aparecieran junto a información errónea y discursos de odio.
Y aquello molestó inmensamente a Musk. El 4 de noviembre de 2022, tuiteó que “Twitter tuvo una caída inmensa de ingresos, debido a que grupos activistas presionan a los anunciantes, a pesar de que nada ha cambiado con la moderación de contenidos e hicimos todo lo que pudimos para apaciguar a los activistas. ¡Extremadamente desastroso! Están intentando destruir la libertad de expresión en Estados Unidos”.
A Woolery, de PEN America, le preocupa que, se mantenga o no la demanda de X contra el CCDH, el costo de luchar contra ella baste para intimidar a otras organizaciones que realizan un trabajo similar. “Demandas como esta, sobre todo cuando hablamos de una organización sin fines de lucro, se ven definitivamente como un intento de silenciar a los críticos”, afirma. “Si una organización sin fines de lucro, u otro individuo, no se encuentra en una posición financiera en la que pueda verdaderamente darlo todo para protegerse, entonces corre el riesgo de tener una mala defensa o de simplemente llegar a un acuerdo y tratar de salir de la situación para evitar incurrir en más gastos y daños a su reputación”.
Pero la demanda no solo presiona a los propios investigadores. También deja en evidencia otro camino a través del cual ahora resultaría más difícil para los defensores acceder a la información: las plataformas de social listening de terceros. Estas compañías acceden a los datos de las plataformas sociales y los analizan para permitir que sus clientes, desde contratistas de seguridad nacional hasta agencias de marketing, obtengan información sobre sus audiencias y orienten sus mensajes.
Tal-Or Cohen Montemayor, fundadora y directora ejecutivo de CyberWell, una organización sin fines de lucro que monitorea el antisemitismo en internet tanto en inglés como en árabe, comenta que en noviembre de 2022, poco después de que Musk se hiciera con la propiedad de la empresa, CyberWell se puso en contacto con Talkwalker, una empresa de social listening externa, para conseguir una suscripción que les permitiera analizar el discurso antisemita en la plataforma entonces llamada Twitter.
Cohen Montemayor relata que Talkwalker le dijo que la empresa no podía aceptarles como cliente debido a la naturaleza del trabajo de CyberWell. Ella dice que parece que “las herramientas de código abierto existentes y las de social listening se reservan únicamente para los anunciantes y los investigadores por encargo. A las organizaciones sin fines de lucro se les impide activamente el uso de estos recursos”.
Talkwalker no respondió a nuestra solicitud de comentarios sobre si sus acuerdos con X le prohíben tomar como clientes a organizaciones que se dedican a la vigilancia de la incitación al odio. X no contestó a nuestras preguntas sobre qué parámetros establece para el tipo de clientes que pueden aceptar las empresas de social listening externas.
Según la demanda de X contra el CCDH, un acuerdo de este año entre Brandwatch y la empresa de Musk establecía que cualquier filtración de datos de X a través de los clientes de Brandwatch se consideraría responsabilidad de la compañía de social listening. En Bluesky, competidor de X, Yoel Roth, exdirector senior de confianza y seguridad de Twitter, publicó que “el negocio de Brandwatch depende por completo, al 100%, del acceso a la información de Twitter, así que supongo que no resulta una sorpresa ver hasta qué punto se doblegan para complacer a la empresa”.
Por su parte, en un tuit del 20 de julio, Brandwatch hizo referencia al mismo informe del CCDH citado en la demanda de X, señalando que “recientemente, fuimos citados en un artículo sobre la relevancia de las marcas que utilizaban datos incompletos y obsoletos. Contenía métricas empleadas fuera de contexto para hacer declaraciones sin fundamento sobre Twitter”.
Brandwatch no respondió a nuestra petición de aclaraciones.
Pero Ahmed, del CCDH, asegura que la aseveración de que la investigación de su organización parte de datos incompletos es una forma que tiene X de ocultar los problemas de su propia plataforma. “Cada vez que declaras que encontraste información, se limitan a decir: ‘no, es mentira. Solo nosotros contamos con los datos. Es imposible que sepan la verdad. Únicamente nosotros la conocemos y sabemos lo que pasa’”, destaca.
Un representante de otra herramienta de social listening externa que utiliza datos de X y pidió permanecer en el anonimato para protegerse de represalias, confirmó a WIRED que empresas como la suya dependen en gran medida de la información de la red social. “Muchos de los servicios enfocados en Twitter, muchos de ellos vienen 100% de Twitter”, indican, destacando que Instagram hace tiempo que cerró su API y que las conversaciones en las plataformas de Meta no suelen ser tan públicas como las de X. “En términos de datos, Twitter sigue desempeñando un papel relevante en la provisión de información a las empresas de análisis”. Resaltan que, si bien la nueva API de pago de X ha puesto en aprietos a las compañías de análisis, perder por completo el acceso supondría el fin de una empresa; “básicamente es casi como si te pidieran que les pagues por un secuestro”.
Añaden que no han visto directrices que restrinjan el uso de los datos de X para la incitación al odio o la investigación para la defensa, pero existen pautas específicas de “conoce a tu cliente” que prohíben compartir datos de X con agencias gubernamentales sin permiso previo. El mismo día en que la plataforma de Musk anunció la demanda, el 31 de julio, America First Legal, una organización sin fines de lucro de derecha dirigida por Stephen Miller, exmiembro designado por Trump, dio a conocer que había apelado a la Ley de Libertad de Información para revisar la comunicación entre el CCDH y diversas agencias gubernamentales de Estados Unidos, alegando que es un “coordinador de actividades ilegales de censura”; por su parte, Ahmed manifiesta que su institución nunca se ha organizado con el Gobierno de EE UU. Esto equivaldría, de ser cierto, también a una infracción de los términos de uso de la plataforma.
Asimismo, la demanda de X denuncia que el CCDH es financiado por competidores de la red social, así como por “entidades gubernamentales y sus afiliados”, pero expone que “X Corp. carece actualmente de información suficiente para incluir las identidades de dichas entidades, organizaciones y personas en esta demanda”.
Obstáculos en el acceso a datos de X para la investigación
Incluso sin amenazas legales, existen costos significativos para los investigadores dedicados a esos temas en las plataformas. Los expertos que hablaron con WIRED sostienen que les preocupa que las posibles acciones en un nivel jurídico causen un efecto amedrentador en otras organizaciones dedicadas a estudiar estas problemáticas.
Después de publicar un informe que revelaba que el contenido antisemita se había duplicado en la plataforma tras la adquisición de Musk, Sasha Havlicek, cofundadora y CEO del Instituto para el Diálogo Estratégico (ISD, por su siglas en inglés), un grupo de expertos con sede en Londres enfocado en el extremismo y la desinformación, afirma que la compañía experimentó un bombardeo de tuits ofensivos. “En respuesta, Twitter sacó un hilo que obtuvo tres millones de visitas más o menos”, dice. “El propio Musk respondió con un emoji de excremento”.
En diciembre, Musk colaboró con periodistas de derecha para hacer públicos los llamados Twitter Files, una selección de documentos internos que parecían demostrar que la plataforma anterior a Musk había silenciado a algunos usuarios conservadores. Algunos materiales incluían los nombres y el email de investigadores de la desinformación pertenecientes al Observatorio de Internet de Stanford, muchos de los cuales eran estudiantes universitarios en aquella época. Un antiguo alumno, que pidió permanecer en el anonimato por miedo al acoso, asegura que las personas cuyos correos electrónicos acabaron en estos archivos han sido objeto de un hostigamiento continuo por su papel en la investigación.
“Darse cuenta de cómo ha ido evolucionando la situación y saber que puedes sufrir acoso ha hecho que mucha gente que trabajaba en ello muy de cerca lo piense ahora dos veces”, expresa el exalumno.
“Hay que preguntarse quién es el censurador ahora”, resalta Havlicek, de la ISD.
Havlicek confía en que la Ley de Servicios Digitales (DSA, por sus siglas en inglés) de la Unión Europea, que acabará permitiendo el acceso de los investigadores a la información de las grandes redes sociales, sirva de guía para otros países. Si habrá problemas legales en relación con los datos extraídos de forma lícita por investigadores europeos en virtud de la DSA, pero compartidos con otros investigadores o defensores no europeos, es otra incógnita.
“Estuve en Bruselas hace unas semanas hablando con la gente de Servicios Digitales sobre cómo podemos utilizar los datos que se pondrán a disposición a través del régimen de transparencia de la información de la DSA”, añade Ahmed. “Y cuando aparezca, la emplearemos de la forma más eficaz posible”.
Artículo originalmente publicado en WIRED. Adaptado por Andrei Osornio.
Informe mencionado en este artículo:
