1. Introducción¹

Durante mucho tiempo, Ucrania ha sido precursor de la desinformación y de la propaganda avanzadas, pues su ciudadanía ha enfrentado operaciones sistemáticas de influencia a través de las redes sociales durante la mayor parte del siglo XXI. Estas acciones son difíciles de rastrear e implican un intercambio informativo aparentemente interminable entre canales de comunicación nuevos y tradicionales —un ciclo de retroalimentación incansable y agotador de teorías conspirativas y el desconcierto desde las plataformas de redes sociales hasta los medios de comunicación, incluidos la radio y la televisión. Ucrania es blanco constante de esfuerzos de propaganda híbridos, computacionales y en red que emplean cada vez más tecnologías y estrategias innovadoras. (^{Chadwick 2013}; ^{Woolley y Howard 2018}; ^{Benkler et al. 2018}).

Sin duda, Rusia es el instigador de gran parte de la manipulación en Ucrania. Numerosos estudios han demostrado cómo el Kremlin, bajo la astuta dirección del presidente Vladimir Putin y su batería de propagandistas, ha lanzado una ofensiva informativa total contra el vecino suroccidental de Rusia, con consecuencias devastadoras en la vida real:² Ucrania ha presenciado un aumento en el extremismo violento y la metástasis del separatismo ruso, especialmente en la región fronteriza del Donbass (^{Aseyev 2022}). Como respuesta, Ucrania ha desarrollado numerosos e innovadores esfuerzos para hacer fact-checking, desacreditar y desmantelar las publicaciones falsas en línea. La invasión del país por parte de Putin llevó estas tendencias en un punto crítico. Por un lado, las redes sociales y las tecnologías que las acompañan son fundamentales para las campañas de desinformación antagónicas y transfronterizas. Por otro lado, estas innovaciones son cruciales para la comunicación y la organización entre las y los ucranianos que trabajan para repeler a quienes han invadido su país. La ciudadanía ucraniana ha utilizado de manera marcada las aplicaciones de mensajería cifrada, como Viber, Telegram, Signal y WhatsApp, para compartir noticias e información crítica de manera más efectiva, privada y segura. También han aprovechado plataformas digitales más públicas como Facebook, X y YouTube para difundir historias, videos e imágenes de las atrocidades rusas a audiencias extranjeras y nacionales, con el fin de generar apoyo para la resistencia.

De manera inevitable y trágica, la guerra en Ucrania ha provocado enormes pérdidas de vidas humanas y una cascada de violaciones de los derechos humanos. Además, ha generado un renovado escrutinio de los peligros relaciona- dos con las falsedades digitales politizadas. Por supuesto, estas preocupaciones han sido una parte importante del zeitgeist global desde mucho antes de los escándalos de Cambridge Analytica y Rusia de las elecciones estadounidenses de 2016. De hecho, el aluvión cada vez mayor de operaciones de influencia en línea comenzó a circular en las plataformas de redes sociales desde el 2004 (^{Rob y Shapiro 2021}). De hecho, muchos regímenes autoritarios han estado perfeccionando sus marcas únicas de control digital desde la llegada de internet a sus fronteras. Los regímenes de Birmania, China, Cuba, Egipto, Rusia, Singapur, Arabia Saudita, los Emiratos Árabes Unidos, Vietnam y otros han estado cultivando sistemas en línea personalizados para reforzar su poder durante décadas.³ La propaganda en línea no es nueva, pero sin duda está cambiando y difundiéndose.

Muchas democracias que en algún momento fueron prometedoras son ahora presas de virulentas campañas de desinformación y de esfuerzos de influencia. En Brasil, la llamada ‘oficina de odio’ del presidente Jair Bolsonaro (una granja clandestina de trolls en línea, supuestamente dirigida por miembros de su familia y su equipo de asesores) ha utilizado campañas de odio patrocinadas por el Estado, cuentas automatizadas en las redes sociales o “bots” y engaños digitales contra periodistas, líderes de la sociedad civil y el público en general (^{Ricard y Medeiros 2020}). Por su parte, Hungría, India, Mali, Filipinas y Turquía se han desplazado hacia el iliberalismo, impulsados en parte por el marcado control que ejercen sus líderes sobre los entornos informativos. Mientras tanto, democracias fundamentales como las de Reino Unido y Estados Unidos se han visto sacudidas por la propagación desenfrenada de falsedades institucionalizadas, en particular en torno al referéndum del Brexit de 2016 y los intentos infundados de Donald Trump de revocar las elecciones presidenciales estadounidenses de 2020.

¿Por qué la desinformación y la propaganda han surgido con renovada potencia alrededor del mundo durante la última década? Como señaló Larry Diamond, la democracia ha pasado de resurgir en la década de 1990 a estar en peligro en la actualidad (^{Diamond 2022}). Además, el giro contemporáneo hacia el autoritarismo está inextricablemente ligado al auge de la desinformación digital. Sumado a esto, puede ser difícil saber dónde comienza una tendencia y dónde termina la otra, o cuál engendró a cuál, pues las dos se retroalimentan y los factores interconectados que permiten su auge son culturales, políticos y económicos. Estas tendencias también se ven afectadas por factores regionales y mundiales. La revitalización del autoritarismo y la desinformación se produjo debido a cambios sociotécnicos complejos causados no solo por cambios en las urnas y en el entorno mediático global, sino también por efectos de segundo y tercer orden difíciles de rastrear y que están ligados a las operaciones de influencia en línea.⁴

Mientras tanto, poderosas organizaciones e individuos alrededor del mundo han normalizado el uso de las redes sociales y la tecnología de las comunicaciones en línea para sus propios fines nefastos. La dinámica de las redes sociales y el ecosistema descentralizado de internet, otrora presentados por sus evangelistas como herramientas aparentemente inevitables de libertad y democracia, han sido utilizados como armas para la manipulación de la opinión pública. Plataformas como Facebook y Google, a pesar de los intentos de presentarse como neutrales, están codificadas con los sesgos particulares de Silicon Valley (^{Noble 2018} y ^{Zuboff 2019}). En esa línea, sus algoritmos de toma de decisiones y ecosistemas de comunicación continúan siendo cooptados regularmente para la manipulación política y psicológica, al igual que las herramientas de los medios de comunicación que las precedieron.

Esto no quiere decir que la organización y el activismo democráticos ya no estén al alcance del internet, sino más bien que se han visto completamente obstaculizados en la mayoría de los espacios de comunicación digital. Muchos académicos/as, periodistas y expertos/as han sostenido que las mismas tecnologías y tácticas destinadas a manipular la opinión pública en línea en favor de causas autoritarias también pueden —e incluso deberían— emplearse en beneficio de causas más democráticas. Tomando en cuenta este contexto, los analistas de la Corporación Rand sostienen que la “manguera de la falsedad” digital rusa no puede contrarrestarse con la “pistola de agua de la verdad”. Además, abogan por diversos medios para contrarrestar este diluvio de desinformación, que van desde “preparar” a las audiencias en línea con contenido “correcto” hasta una “guerra electrónica u operaciones en el ciberespacio” (Paul y Mathews 2016). Las y los investigadores en educación y comunicación digital señalan que los chat bots (que menudo se asocian con las actuales campañas de propaganda en redes sociales) tienen un potencial real como andamiaje cívico automatizado para mejorar y personalizar el aprendizaje y se han utilizado en contextos del mundo real (^{Wollny et al. 2021}).

Sin embargo, existen diversos inconvenientes potenciales en combatir el fuego con fuego (o automatización con automatización) en línea. Los esfuerzos intensificados para difundir la democracia o frenar el autoritarismo, por bienintencionados que sean, podrían alienar y enfadar aún más a las personas ya cansadas del frenético mundo de internet, plagado de spam y mentiras. Esto es particularmente cierto si estas campañas de propaganda democrática no son transparentes sobre sus orígenes. La confianza es un recurso escaso y preciado en internet, y a las y los usuarios no les gusta que les engañen o bombardeen, sin importar la fuente.

¿Cómo es posible que la desinformación y la propaganda se hayan extendido y vuelto aún más potentes en la era de los medios de difusión? Sin duda, el internet ha permitido que quienes desean manipular el flujo de información lo hagan a escala masiva y transnacional. Estos propagandistas emplean tecnologías caracterizadas por la automatización y la amplificación. Sin embargo, también debemos reconocer que Alphabet (la empresa matriz de Google y YouTube), Meta (la empresa matriz de Facebook) y otros conglomerados multinacionales diseñaron sus ecosistemas de redes sociales para mantener a la gente interesada a toda costa. Por eso, Facebook y YouTube se crearon para priorizar la venta de anuncios y los datos personales de las y los usuarios por sobre la protección de la democracia y los derechos humanos. Esto significa que sus tendencias y recomendaciones —que se difunden diariamente a miles de millones de personas— han promovido el sensacionalismo y las teorías conspirativas. Se trata, por supuesto, de tipos de narrativas que se han vendido y difundido desde la introducción de la imprenta —y posiblemente desde los inicios de la civilización—. Sin embargo, las redes sociales y los motores de búsqueda de internet ofrecen rutinariamente desinformación e hipérboles sobre hechos y razones, y lo hacen a niveles impensables en los días de Gutenberg o Gilgamesh. La propaganda actual no se parece a nada que el mundo haya visto jamás y, a menudo, resulta imposible determinar quién está detrás de ella. El contenido propagandístico se anonimiza mediante un cifrado inquebrantable y se amplifica mediante personajes proxy difíciles de rastrear, incluso en las plataformas de redes sociales más públicas.

2. La evolución de la influencia en línea: tres tendencias

¿Cómo están cambiando las tácticas y tecnologías de la desinformación y propaganda actuales para lograr que las operaciones de influencia en línea sean más dinámicas y poderosas? Si bien en la última década han surgido pocos cambios a gran escala en las herramientas de los medios digitales, los propagandistas han seguido innovando. De hecho, muchos de estos avances fueron impulsados por los intentos frenéticos y desarticulados de las principales empresas de redes sociales de controlar lo que, hasta hace poco, eran espacios en línea no regulados repletos de bots y títeres (cuentas anónimas) que difundían falsedades malignas y otros contenidos dañinos. Los propagandistas trabajan para mantenerse a la vanguardia de una regulación que intenta sofocar sus esfuerzos y tratan de aprovechar cualquier laguna en su implementación. Son pragmáticos y utilizan las herramientas más baratas y disponibles para hacer el trabajo. Por ejemplo, cuando sea posible, optarán por una tecnología relativamente simple, como un software de películas caseras, para editar selectivamente un clip de su oposición en lugar de aprovechar un software complejo de deepfake para falsificar el contenido (Bowers et al. 2019).

Desde 2019, el equipo que dirijo en el Laboratorio de Investigación de Propaganda, una rama del Center for Media Engagement (Centro de Participación en los Medios de Comunicación) de la University of Texas-Austin, ha venido estudiando cómo los productores de campañas de manipulación en internet se están adaptando para evitar ser detectados por reguladores, moderadores y fact-checkers.⁵ Estas adaptaciones han sido impulsadas, en parte, por los esfuerzos vacilantes de las empresas de redes sociales para frenar a herramientas más simples como las cuentas básicas de bots. Con esto en mente, mi equipo y yo nos centramos en analizar cómo se difunde la propaganda utilizando herramientas de medios digitales que sean nuevas, poco estudiadas y cada vez más importantes en la arena política. Estas herramientas incluyen aplicaciones de mensajería que ofrecen varias formas de comunicación cifrada, como WhatsApp de Meta, Viber, LINE, KakaoTalk y Telegram; espacios privados como mensajes de texto entre pares y mensajería directa; “clones” marginales de plataformas de redes sociales populares, como Gab, Gettr, Parler y Rumble;⁶ mercados de datos, dispositivos de geolocalización y tecnología de vigilancia; y tecnologías de inteligencia artificial (IA) y realidad extendida (en la medida en que se relacionan con el flujo de información). Analizamos a las personas que crean y rastrean la desinformación y la propaganda utilizando estas tecnologías, es decir, hablamos y estudiamos a quienes operan las granjas de trolls, así como a los grupos de vigilancia que trabajan para bloquearlas. En ese sentido, nuestra preocupación se centra en las nuevas tácticas y estrategias que se utilizan para manipular la opinión pública en línea.

Nuestra investigación es de alcance internacional y nuestro enfoque principal es el seguimiento de la propaganda durante elecciones, crisis de seguridad y otros acontecimientos cruciales; dado que estudios anteriores sugieren que los esfuerzos de influencia en línea son particularmente frecuentes en esos momentos (^{Woolley y Howard 2018}). Nuestros estudios de caso exploran nuevos esfuerzos de manipulación política en línea en doce países: Birmania, Brasil, Egipto, Eritrea, Estados Unidos, Etiopía, India, Indonesia, México, Filipinas, Turquía y Ucrania. Hemos entrevistado a más de setenta personas con experiencia relevante en estos países para comparar los casos. A partir de esto, encontramos tres tendencias principales e interrelacionadas respecto a la evolución de la propaganda en línea, la desinformación y otras formas de operaciones de influencia digital coordinadas en todo el mundo.

En primer lugar, las operaciones de influencia en línea están cambiando de herramientas y estrategias “inorgánicas” a “semiorgánicas”. En otras palabras, cuando es posible, los propagandistas despliegan ejércitos organizados de personas reales o cuentas de redes sociales semiautomatizadas, en lugar de bots de redes sociales totalmente automatizados (que carecen de IA).

En segundo lugar, y muy relacionado con la primera tendencia, los propagandistas ahora contratan a influencers para impulsar sus ofensivas políticas en línea. Hemos entrevistado a empleados/as de numerosas empresas de marketing en redes sociales que organizan y alquilan equipos de usuarios populares como promotores en línea para campañas de información (o desinformación). A estas empresas les gusta especialmente aprovechar a las y los nanoinfluencers que tienen menos de diez mil seguidores. Las personas que entrevistamos informaron de que las y los nanoinfluencers tienen un efecto más localizado y relacionalmente potente.

En tercer lugar, las aplicaciones de mensajería cifradas (EMA, por sus siglas en inglés) y de chat privado desempeñan un papel cada vez más importante en los esfuerzos de influencia global. La seguridad de estas plataformas hace que la propaganda y la desinformación sean mucho más difíciles de rastrear. Una de esas plataformas, WhatsApp, ofrece espacios de mensajería más íntimos en el que las personas suelen comunicarse con amistades, familiares o comunidades basadas en intereses comunes. Por lo tanto, de manera similar al contenido de las y los nanoinfluencers, las operaciones de influencia en WhatsApp y similares son más convincentes porque la propaganda se difunde a través de las redes comunes de las y los usuarios y con los propagandistas.

3. Campañas inorgánicas a semiorgánicas

Sin duda, las cuentas de bots políticos siguen desempeñando un papel crucial en la propaganda automatizada (o “computacional”),⁷ pero ahora suelen ser complementos de herramientas y estrategias que parecen más naturales y difíciles de detectar. Las campañas de influencia en línea que datan de 2010 se basaron en grandes grupos de cuentas automatizadas en redes sociales con personajes falsos o robados para difundir contenido propagandístico, haciéndolo parecer mucho más popular de lo que realmente era (Metaxas y Mustafaraj 2010). Así, los propagandistas engañan a los algoritmos de redes sociales para que impulsen estas publicaciones aparentemente “en tendencia” o virales. Estas operaciones buscan que la desinformación (difusión de contenido falso a propósito) se convierta en misinformation (difundir contenido falso accidentalmente) a medida que las publicaciones virales son recogidas y compartidas por usuarios desprevenidos en un efecto de arrastre.

Los esfuerzos de las y los investigadores y periodistas por destapar campañas propagandísticas generalizadas con bots y los intentos de las empresas de redes sociales por acabar con esta automatización maliciosa han frustrado las campañas políticas con bots más obvias. Ahora, en lugar de dejar totalmente sus campañas en manos de la automatización —operaciones de influencia inorgánicas, no humanas y estrechamente coordinadas—, quienes manipulan el sentimiento público en línea y los flujos de comunicación política están combinando de manera más eficaz el trabajo de los bots con el de los humanos.

Muchos de los propagandistas profesionales que entrevistó mi equipo expresaron que algunas modificaciones relativamente simples a sus procedimientos operativos les ayudaron a evitar los mecanismos de detección. Por ejemplo, en lugar de utilizar únicamente software automatizado preprogramado para iniciar sesión en las plataformas de redes sociales y publicar contenido, ahora emplean grupos de personas que inician sesión esporádicamente de manera manual en cada una de sus cuentas de redes sociales y desde allí se publica durante la semana. Las personas entrevistadas no han descartado por completo la automatización, porque sigue siendo útil para amplificar y escalar, pero la actividad humana periódica en sus cuentas falsas puede desbaratar los algo- ritmos de detección de tráfico inorgánico. Muchas veces, cuando las cuentas de propaganda caen en la zona gris de ser semiautomatizadas (o semiorgánicas), evaden la temida censura o “desplataforma”.

La automatización también puede combinarse con agentes humanos. Un entrevistado, dueño de varios sitios web importantes para la generación de memes (fragmentos de contenido en línea que se comparten y difunden fácilmente), explicó cómo utiliza bots de Telegram para coordinar su grupo de miles de propagandistas humanos pagados. Cuando quiere que compartan un meme para un cliente, todo lo que tiene que hacer es introducirlo en un bot que lo comparte con cada uno de sus mil chats de Telegram (uno para cada propagandista), lo que le ahorra tener que iniciar sesión en cada chat manualmente. Cada propagandista pagado tiene cuentas de memes muy populares en las redes sociales (conocidas como “páginas de memes”) donde comparten su contenido (ya sea humorístico, político o de otro tipo), lo que aumenta su exposición. Además, afirmó haber difundido más de setenta mil publicaciones patrocinadas en diez países diferentes en los últimos dos años, lo que generó cinco mil millones de visitas (o “impresiones”) de usuarios/as de redes sociales. En otras palabras, concluye que “lo que se puede hacer con páginas de memes es a gran, gran escala”.

Los días en que las empresas de propaganda digital tenían decenas de miles de cuentas propias —fueran bots o no— están llegando a su fin. En cambio, estas empresas emplean cada vez más estrategias de intercambio semiorgánicas, que se basan en redes distribuidas que combinan sus propias cuentas, cuentas contratadas y cuentas de otros usuarios (involuntarios). En muchos casos, las empresas despliegan un grupo más pequeño de perfiles bien ubicados para lanzar mensajes provocativos en los lugares adecuados. Difunden información en los lugares donde las y los usuarios “reales” pasan su tiempo, haciendo circular memes políticos en grupos populares de Facebook, en colecciones específicas de chats de Telegram o con un hashtag particular de TikTok. Las empresas apuntan a que las y los usuarios comunes recojan la información y la compartan por voluntad propia.

A través de estos mecanismos semiorgánicos se podría divulgar no solo contenido falso: hipotéticamente, con esta táctica se podría difundir una amplia variedad de tipos de mensajes, siempre que el contenido sea lo suficientemente persuasivo como para que la gente quiera compartirlo. El director ejecutivo de una empresa de marketing digital afirmó que su organización “podría generar cientos de millones de impresiones en torno a las vacunas contra la COVID, explicando a la gente por qué deberían vacunarse”. Nos dijo que la principal razón por la que aún no lo había hecho era la falta de un cliente que pagara por ello.

En la actualidad, los gobiernos, las corporaciones, las ONG, los grupos extremistas y los partidos políticos de todo el mundo utilizan campañas de propaganda en línea con una parte humana y otra, con bots. Las personas entrevistadas en Egipto describieron campañas en las redes sociales iniciadas por el gobierno que utilizaban tácticas semiorgánicas para atacar y difamar a adversarios extranjeros. Nos dijeron que se han contratado empresas profesionales de marketing en línea para estrategias semiorgánicas en coordinación con grupos de los Emiratos Árabes Unidos y Arabia Saudita. Estas estrategias buscan difundir afirmaciones en redes sociales de que Irán, Turquía y Qatar patrocinan el terrorismo, son moralmente corruptos y cometen violaciones de los derechos humanos. Una persona que fungió como congresista en Filipinas y que es experta en seguridad nos dijo que en 2019 la propaganda filipina en línea había pasado de campañas impulsadas principalmente por bots a coordinar grupos de influencers humanos y bots a pequeña escala. Los grupos polí- ticos en Filipinas pagaban a “influencers de estilo de vida atractivos/as” para que publicaran su contenido para hacerlo parecer más auténtico. Muchos/as de estos/as influencers dependían de bots para inflar artificialmente sus números de seguidores/as.

Estos/as nanoinfluencers son componentes cruciales de las operaciones de propaganda semiorgánica. Esta es otra tendencia global que mi equipo ha observado en los últimos tres años: el auge de las y los nanoinfluencers políticos o partidistas. Una de las personas entrevistadas describió a las y los pequeños influencers como “los organizadores comunitarios de base de la actualidad” y “mensajeros de confianza” en línea. En esa línea, mientras que las y los megainfluencers (cuyo número de seguidores supera los cien mil) eran buenos para conseguir que muchas personas vieran un mensaje en particular, las y los nanoinfluencers eran mucho mejores para generar confianza y compromiso genuino con las y los usuarios comunes. Al igual que con las cuentas semiautomatizadas, los propagandistas despliegan grupos de nanoinfluencers patrocina- dos/as para dar la ilusión de autenticidad y de comunicación orgánica en línea. Sin embargo, cuando son utilizados por grupos políticos organizados, el uso de nanoinfluencers es más similar a la manipulación partidista que a la verdadera organización de base.

4. El auge de los infuencers políticos

Muchas personas de las campañas políticas y de organizaciones con motivaciones políticas en Filipinas, México, Estados Unidos y varios de los otros países que hemos estudiado nos explicaron que trabajan con influencers para difundir su tema o una candidatura en particular. Un entrevistado, que dirige una empresa de marketing de influencers políticos/as en Estados Unidos, dijo que su empresa considera que el uso de influencers humanos es una forma de contrarrestar los bots, trolls y desinformación de sus opositores políticos. La mayoría de los aproximadamente tres millones de influencers (en su mayoría nanoinfluencers) que tiene para alquilar solo aceptan difundir mensajes, respaldar puntos de vista o apoyar a candidaturas en las que creen. Sin embargo, el problema es que esto parece estar lejos de lo habitual. Muchos/as influencers de todo el mundo difunden contenido político simplemente porque les pagan por hacerlo: a veces en efectivo, pero también en prestigio político, obsequios de campaña o acceso especial y en persona a un/a funcionario/a electo/a poderoso/a. Además, no es raro que las y los influencers políticos eviten indicar claramente que una publicación determinada está patrocinada por un grupo político. Dependiendo de quién pague, una o un influencer también puede difundir con- tenido político sensacionalista o engañoso. En estos casos (y en muchos otros), el uso de influencers políticos pagados equivale a propaganda computacional por otros medios, distintos a los bots, los títeres y las granjas de trolls.

El uso de influencers políticos pagados y coordinados por parte de las organizaciones es una progresión lógica en la manipulación digital: aleja a quienes buscan manipular la opinión pública del artificio de los bots políticos. Los propagandistas ya no necesitan depender de los bots para intensificar sus esfuerzos de contacto y comunicación con usuarios humanos. De hecho, incluso los bots de hoy son bastante fáciles de detectar en las conversaciones en línea. Debido a esto, los bots más rudimentarios nunca han sido particularmente hábiles para cambiar corazones y mentes. A menudo, el objetivo de quienes despliegan ejércitos de bots es engañar a los algoritmos de tendencias y recomendaciones para que traten algo como popular debido a la gran cantidad de tráfico que genera. Los grupos de bots coordinados que difunden mensajes (incluso si son repetitivos) también pueden ser efectivos para atacar o trollear a usuarios/as específicos/as, lo que puede asustarles para que guarden silencio sobre un tema en particular o abandonen una plataforma de redes sociales por completo. Por el contrario, las y los influencers políticos pueden persuadir y atraer a audiencias específicas.

En definitiva, pagar a influencers políticos para que difundan un mensaje partidista o apoyen una candidatura ofrece a los propagandistas una nueva forma de blanquear sus esfuerzos de manipulación y evitar ser detectados: los mensajes difundidos por usuarios/as humanos/as y reales son increíblemente difíciles de analizar como orgánicos o inorgánicos. Las y los influencers pagados también ofrecen a las campañas políticas y a otros actores una alternativa a los paneles de anuncios tradicionales. Dado que los pagos a influencers políticos suelen producirse fuera de la plataforma de redes sociales donde se publica el contenido patrocinado, puede resultar muy difícil para las empresas de redes sociales hacer cumplir sus propios requisitos de que se etiqueten las publicaciones patrocinadas. También es probable que la falta de divulgación por parte de las y los influencers sobre las publicaciones políticas pagadas tenga implicaciones legales respecto al financiamiento de campañas.

Las y los nanoinfluencers son especialmente útiles para las organizaciones políticas porque ofrecen un alcance localizado y basado en la comunidad. Son más eficaces a la hora de permitir una organización política relacional, entre amistades que, ante las y los usuarios comunes, parece más genuina y confiable que la publicidad política tradicional en las redes sociales o la desinformación (obviamente) impulsada por bots. Una persona dedicada a la estrategia digital a quien entrevistamos explicó la potencia relacional de las y los nanoinfluencers para difundir mensajes sobre temas relacionados con el COVID:

En realidad, estamos reclutando a trabajadores de primera línea que sean creadores de contenido e influencers para que cuenten sus historias personales. Luego, tenemos subconjuntos de microinfluencers que comparten sus interacciones y experiencias personales con esos trabajadores de primera línea. Se puede pensar en ellos y ellas como anillos concéntricos. […] Te muestran la especificidad con la que se puede crear narrativas poderosas, emocionales, personales —y, a menudo, locales— para responder o programar con anticipación lo que ves en el horizonte.

En otros casos, se contrata a nanoinfluencers políticos para que impulsen candidaturas de políticos/as con opiniones extremas que, de otro modo, no recibirían atención. Un empleado de una empresa de influencers políticos atribuyó el ascenso de políticos/as de extrema derecha a personas expertas en redes socia- les en Estados Unidos y otras democracias a “influencers que les hacen crecer y les construyen un perfil en línea”. En esos casos, las y los candidatos no necesitaban ser ampliamente conocidos ni contar con el respaldo de entidades conocidas, pues podían confiar en la tracción que generaban en línea —impulsada por las y los influencers— para ganar las elecciones. Es más, estos influencers que alquilaban a estas y otras candidaturas y causas generaban más interacción y eran más baratos que otras estrategias de marketing en línea, como los anuncios tradicionales o los bots.

Hasta ahora, mi equipo y yo hemos catalogado cuatro formas principales en las que los grupos aprovechan a las y los influencers políticos: (i) para cooptar y redirigir debates políticos orgánicos; por ejemplo, azuzando y manipulando conversaciones grupales de Facebook o chats de WhatsApp; (ii) para respaldar movimientos sobre temas específicos, como el cambio climático; (iii) para promover posturas políticas específicas, incluidas las extremas; y (iv) para respaldar candidaturas de políticos/as particulares. Hemos identificado ejemplos de estos métodos en una variedad de países a nivel local, regional y nacional.

De manera resaltante, notamos algunas lagunas en la lógica detrás del despliegue de influencers políticos/as. Algunos de las y los estrategas y vendedores políticos reportaron que se enfrentaron a serios desafíos para medir la eficiencia o eficacia de las y los influencers —aunque las personas que entrevistamos estaban convencidas de que las y los influencers humanos eran más potentes en términos relacionales que los bots u otras herramientas—. Sin embargo, muchas de las empresas e individuos entrevistados reportaron dificultades para construir, mantener y administrar grandes redes de influencers. Sumado a esto, varias personas entrevistadas —incluido el director de la gran empresa de influencers con sede en EE. UU. mencionada anteriormente— afirmaron que estaban supervisando redes de influencers políticos con millones de miembros. En otros casos, observamos grupos de influencers políticos/as que difundían mensajes idénticos, de manera muy similar a los bots. Esto pudo deberse a que sus empleadores les enviaron un guion que se suponía que debían modificar, pero simplemente no lo hicieron. Cualquiera sea la razón, esa repetición debería ser fácil de detectar y controlar para las empresas de redes sociales. Muchos influencers políticos coordinados también usaron los mismos hashtags personalizados, tanto cuando revelaron patrocinio político como cuando no lo hicieron. Este podría ser otro medio para rastrear campañas pagas no reveladas y evitar el tráfico inorgánico.

5. Manipulación encriptada

Debido a la naturaleza encriptada de muchas aplicaciones de mensajería (y a la renuencia de las empresas de redes sociales a compartir datos con investigadores externos), aún estamos desarrollando nuestra comprensión sobre cómo se desarrolla la propaganda y la desinformación en Facebook y YouTube. Las aplicaciones de mensajería encriptada (EMA) y las aplicaciones de chat privado son aún más difíciles de estudiar. Si bien Twitter (ahora X) históricamente ha permitido a sus usuarios/as acceder a cantidades fijas de datos sobre un tema determinado y Facebook facilita el intercambio limitado de datos con académicos/as seleccionados/as, las plataformas encriptadas de extremo a extremo como WhatsApp y Viber no permiten ese acceso.⁸ Estas plataformas están diseñadas específica- mente para permitir que las y los usuarios se comuniquen de forma segura y privada. Por un lado, activistas de todo el mundo, particularmente en países con medios de comunicación limitados o reprimidos, dependen de estas aplicaciones para una comunicación segura. Por otro lado, las EMA y las aplicaciones de chat privado están surgiendo como vectores importantes para la manipulación polí- tica en todo el mundo (^{Martin et al. 2021} y ^{Gursky et al. 2020}).

En los doce países que estudiamos, estas aplicaciones desempeñan un papel importante en la comunicación diaria. En particular, en la India se utiliza mucho WhatsApp: en 2021, tenía casi 500 millones de usuarios/as activos en ese país. WhatsApp es indiscutiblemente el principal vector de las campañas de manipulación digital en la India, y es cada vez más importante en todos los países analizados en este ensayo. En Ucrania, Viber y Telegram son muy populares y albergan una gran cantidad de desinformación procedente de Rusia y de otras fuentes. En Egipto, México, Filipinas y Estados Unidos, los correos electrónicos y las aplicaciones de chat privado se utilizan mucho, aunque en una escala mucho menor comparado con países como Brasil e India. La popularidad de estas aplicaciones sigue creciendo: solo WhatsApp sumó más de mil millones de personas usuarias en todo el mundo entre 2016 y 2020 (Mehner 2022), y Messenger de Meta, WeChat, Kakaotalk, Signal y LINE se utilizan cada vez más para la manipulación política.

No obstante, la falta de acceso de las y los investigadores a los datos —en particular a los grandes conjuntos de datos útiles para los análisis cuantitativos y computacionales—, dificulta el estudio de esos espacios. Tomando esto en cuenta, mi equipo se centró en las entrevistas para comprender cómo se utilizan las EMA y las aplicaciones de chat privado para difundir contenido político falso y coercitivo. Como consecuencia, identificamos tres temas comparativos principales de los países estudiados.

En primer lugar —y de manera similar a las y los nanoinfluencers—, las EMA y las aplicaciones de chat privado son particularmente eficaces para difundir contenido manipulador mediante la organización relacional y las conexiones personales cercanas. En WhatsApp, por ejemplo, los chats grupales (que hasta hace poco estaban limitados a 256 participantes, pero ahora tienen un límite de 512 personas) suelen estar formados por amigos, familiares o personas que comparten un interés común. La intimidad de WhatsApp implica que la información difundida en la plataforma puede resultar especialmente atractiva para quienes la reciben.

A primera vista, puede parecer difícil para los propagandistas invadir espacios tan íntimos. Sin embargo, las personas entrevistadas en varios países, particularmente en Brasil y la India, nos explicaron que no es así. De hecho, muchos propagandistas han llegado a depender de la velocidad con la que la desinformación se convierte en misinformation en los grupos de WhatsApp. En otros casos, las organizaciones políticas poderosas afirman tener una ventaja sobre su competencia porque sus grupos han sido “protegidos” por plataformas como WhatsApp y, por lo tanto, no están sujetos a las reglas implementadas después de que se crearon los grupos (como las relacionadas con el reclutamiento y la creación y comunicación de grupos). Las y los entrevistados que difundieron propaganda en WhatsApp en nombre del partido de gobierno Bharatiya Janata Party (BJP) de la India expresaron que los grupos protegidos les han permitido evadir muchas de las nuevas reglas de la plataforma. Según un analista de datos del BJP, los partidos políticos indios que se unieron a WhatsApp a mediados de la década de 2010 han conservado “millones” de grupos protegidos. Sin embargo, los partidos que recién comienzan a utilizar la plataforma o que tienen cuentas más nuevas están sujetos a las nuevas reglas y carecen del mismo alcance. La plataforma, afirmó, “ha incorporado una ventaja competitiva al proceso político”.

En segundo lugar, en varios países existen bucles de retroalimentación entre las EMA, las aplicaciones de chat privado y las plataformas de redes sociales más públicas, como X, Facebook y YouTube. En India y Estados Unidos, por ejemplo, las y los funcionarios electos de más alto nivel han utilizado sus cargos y popularidad en estas plataformas para alentar la difusión de propaganda y desinformación a través de las EMA, incluso mencionando y celebrando conspiraciones populares transmitidas por las EMA en sus perfiles públicos. En otros casos, las EMA y las aplicaciones de chat privado sirven como espacios de incubación para grupos que esperan llevar sus campañas de manipulación a espacios digitales más públicos. Una de las personas entrevistadas recordó que después del tiroteo en la escuela en Parkland (Florida) en 2018, un pequeño grupo de supremacistas blancos usaron Discord y Telegram para preparar y luego blanquear desinformación a través de internet, e incluso en televisión y radio. Este grupo de odio logró que los principales medios de comunicación informaran sobre una mentira que cultivaron en estos espacios privados: que el tirador era miembro de su organización. Las personas entrevistadas en Brasil y Egipto describieron la naturaleza circular de la desinformación que se difunde desde WhatsApp a Facebook y hacia los medios de comunicación tradicionales. Las y los entrevistados ucranianos dijeron cosas similares sobre los flujos de propaganda de Telegram y Viber.

En tercer lugar, los grupos que utilizan las EMA para difundir propaganda y desinformación están cada vez más organizados y sus esfuerzos son cada vez más sofisticados. El BJP de la India ha venido trabajando durante casi una década para construir una infraestructura política digital centrada en WhatsApp y ahora tiene una red masiva de “células de TI” que operan en regiones específicas para sembrar activamente propaganda partidaria, odio organizado y desinformación. Estas células tienen una estructura de liderazgo de arriba hacia abajo y “es de conocimiento público que estas células a menudo comparten masivamente contenido preestablecido que ha sido aprobado por el jefe digital [del BJP]” (Gursky et al. 2020). En México, los cárteles utilizan WhatsApp para rastrear y atacar a sus víctimas, incluso a través de fronteras internacionales. En Estados Unidos, los grupos extremistas utilizan cada vez más Telegram y Signal para coordinar y organizar tanto la propaganda en línea como las acciones en la vida real. En Ucrania, tanto los grupos pro-Ucrania como los pro-Rusia utilizan Telegram, Viber y WhatsApp para ejecutar campañas de propaganda complejas y con una ferocidad creciente durante el conflicto actual.

6. Detener la propagación

Los propagandistas más eficaces son expertos en estar un paso adelante de los intentos de frenar sus operaciones de influencia. Constantemente idean nuevos mecanismos para manipular la opinión pública; además, siempre buscan expandirse a nuevos espacios de comunicación, en particular si son lugares donde las poblaciones vulnerables pasan tiempo. Durante la próxima década, los grupos de propaganda seguirán desarrollando y haciendo crecer sus programas tanto en las plataformas de redes sociales tradicionales (como Facebook, X y YouTube) como en espacios de comunicación digital cada vez más populares, como Telegram, Viber, TikTok, Clubhouse, Discord y Twitch. Es crucial que quienes combaten la desinformación vigilen múltiples canales de medios y estén especialmente atentos/as a los espacios informativos emergentes. Después de todo, los medios emergentes son más maleables —tanto para bien como para mal—, y pueden estar mejor protegidos de las formas más dañinas de propaganda antes de que se afiancen.

Cualquier solución que tenga como objetivo combatir la propaganda en línea está cargada de los juicios de valor de quienes la utilizan. Dicho de otro modo, es casi imposible ser neutral en cuanto a valores al implementar contra- medidas contra la desinformación política. Después de todo, la democracia en sí misma es una forma de gobierno idealmente construida en torno a los valores de la justicia, la libertad y la igualdad. Los gobiernos y otras instituciones que trabajan para contrarrestar la cascada de falsedades, mentiras y manipulación digital deben tener claros los valores que impulsan las campañas de manipulación, en particular cuando hay autócratas detrás de ellas.

Si bien es cierto que las EMA son ahora herramientas populares en todo el mundo para la propaganda organizada, también es verdad que siguen siendo herramientas cruciales para las y los activistas por la democracia y para quienes trabajan para derrocar regímenes autoritarios. Debido a esto, quienes defienden la democracia deben idear métodos para combatir la desinformación y los otros problemas informativos en estos espacios que no impliquen desmantelar el cifrado. Por ejemplo, ¿cómo podría WhatsApp crear nuevas políticas que desmantelen los innumerables grupos de propaganda protegidos en la India y, al mismo tiempo, preservar los millones de grupos que permiten todo tipo de otras formas de comunicación? Más aún, ¿cómo pueden las y los investigadores externos y los grupos de vigilancia trabajar con las empresas para crear formas novedosas y éticas de acceder a los datos necesarios para las operaciones de propaganda y desinformación en las EMA y las aplicaciones de chat privado? El análisis de los espacios cifrados se limita actualmente a estudios cualitativos como el de mi equipo; sin embargo, otras recopilaciones de datos requieren que las y los investigadores se unan y monitoreen manualmente los grupos. Necesitamos más métodos para comprender a gran escala la información dañina en esas aplicaciones de mensajería tan secretas.

Existe una necesidad evidente de mejorar las reglas para gestionar las operaciones de influencia semiorgánicas, así como el creciente uso de influencers políticos. Quienes rastrean la desinformación y otras formas de propaganda en línea podrían buscar puntos de transición donde se encuentren los bots y el trabajo humano, ya que estos suelen indicar el comienzo de las campañas de propaganda. Las plataformas de redes sociales también deben estar atentas y desarrollar medios más sofisticados para analizar los mensajes repetitivos (en particular, el intercambio de enlaces), detectar la sincronización de la actividad de las cuentas e identificar otras pruebas de coordinación ilícita en línea.

Una de las formas más rápidas de lograr un internet más democrático es que las empresas de redes sociales se comuniquen directamente con las y los influencers políticos, que están cada vez más a la vanguardia de las campañas de propaganda y del lavado de información en línea. Una gran cantidad de las y los influencers que entrevistamos —e incluso muchas de las empresas que coordinan y venden sus servicios— tienen una visión poco clara de actividades políticas permitidas en redes sociales. Las y los influencers se beneficiarían enormemente de normativas claras por parte de las plataformas de redes sociales y de los reguladores gubernamentales sobre los tipos de contenido que pueden compartir y sobre las sanciones por incumplir las reglas. A su vez, estas sanciones deben ser ejecutables y más contundentes. Las y los formuladores de políticas y las empresas de tecnología deben trabajar en conjunto para determinar medios eficaces de prevenir el uso coordinado y no revelado de influencers políticos pagados en todos los niveles. Las organizaciones políticas que hacen influencers pagados deben hacer públicas esas actividades y fácilmente rastreables para los grupos de control. Finalmente, se debe proporcionar capacitación en alfabetización mediática a cualquier usuario/a que participe en publicaciones patrocinadas.

La resiliencia de Ucrania frente a los bombardeos de propaganda puede brindar nuevas ideas sobre cómo utilizar las herramientas y tácticas en línea para resistir el autoritarismo y la violencia. El pueblo ucraniano aprovecha una gran cantidad de aplicaciones y tecnologías de redes sociales para luchar contra las campañas de propaganda del Kremlin y, al mismo tiempo, impulsar la resistencia en el país y en el extranjero. Plataformas relativamente nuevas como TikTok vienen desempeñando un papel crucial en la difusión de información (Brown 2022). Además, las y los ucranianos comunes están utilizando teléfonos inteligentes con capacidad de grabación de video y captura de imágenes de alta calidad para registrar las atrocidades junto con periodistas profesionales (Washington Post Staff 2022). Si bien es evidente que estos esfuerzos serios por poner el foco en las malas acciones de Rusia coexisten con una miríada de intentos de desinformación, dichos esfuerzos podrían brindar información sobre el aprovechamiento eficaz y honesto de la tecnología digital para servir a la democracia, los derechos humanos y el estado de derecho.