Comment la désinformation opère-t-elle son industrialisation ? De quelle manière le réseau social Twitter est-il devenu une “arène inclusive pour la liberté d’expression”, sous l’ère Elon Musk ? Pourquoi certaines figures politiques constituent-elles les cibles privilégiées des diffuseurs de fake news ? Tour des tendances qui agitent le monde des fake news.  

Par Alexandra Klinnik, Medialab de l’Information  

A l’heure où Twitter se retire du code européen contre la désinformation en ligne - un accord dédié entre autres à une meilleure coopération avec les fact-checkers et à la mise en place de sanctions de privation de publicité pour les sites diffusant des intox, une étude lancée par France Télévisions dans le cadre du projet “A European Prospective”, explore la mutation accélérée des fausses nouvelles, dans un paysage médiatique morcelé. Voici le cinquième article de notre série dédiée au rapport Trends and patterns on disinformation. 

1L’industrialisation de la désinformation

En 2016, les tactiques de désinformation pouvaient se résumer à de simples opérations individuelles, menées entre autres par des spammeurs macédoniens diffusant des fake news pro-Trump et des trolls russes. Aujourd’hui, la donne a changé. Une industrie mondiale d’entreprises de relations publiques d’un nouveau genre émerge. Des agences de marketing et de communication offrent de façon décomplexée et à grande échelle des services de diffusion de fake news. Ses clients ? Des politiciens, partis, gouvernements, heureux de profiter de ces entreprises à l’aura respectable en apparence, dont la promesse initiale est de “modifier la réalité” selon les souhaits de leurs clients. Pour soigner sa façade et attirer les clients, ces firmes emploient le jargon du secteur de la com’ afin de “neutraliser la stigmatisation du véritable travail de désinformation qu’elles effectuent”. Chez eux, on ne dit pas “troll rémunéré”, mais “travailleur de soutien numérique”. Il s’agit avant tout de s’éloigner de l’image de transactions louches, opérés clandestinement sur un marché noir.  

Par le biais de faux comptes, de récits tronqués, de pseudo-sites d’information, et à l’aide de l’intelligence artificielle et de l’automatisation, ces entreprises qui valent des millions de dollars proposent ainsi des campagnes sophistiquées à destination du grand public. Les équipes composées de hackers et d’hacktivistes créent des tendances sur Twitter, inondent le web d’informations contradictoires et de théories du complot, pratiquent le blanchiment narratif. Cette technique consiste à “faire passer un certain récit de ses origines étatiques à l’écosystème médiatique au sens large” développe l’Observatoire de l’internet de Stanford. En d’autres termes, l’objectif est de promouvoir des informations provenant de mandataires ou de sources non vérifiées sur les réseaux sociaux pour qu’elles se répandent ensuite dans les médias grand publics. Il s’agit avant tout de brouiller la source de l’info pour imprégner davantage les cerveaux.  

 Des campagnes de désinformation de plus en plus nombreuses

D’après les informations de BuzzFeed, qui a dévoilé l’existence de ce marché juteux début 2020, 27 campagnes de désinformation ont été menées depuis 2011 et leur nombre n’a cessé de croître. Parmi ces opérations, 19 se sont produites au cours de la seule année 2019. Ces méthodes aujourd’hui ont fait le tour de la planète et constituent une arme géopolitique redoutable. Une autre étude réalisée par l’Université d’Oxford en 2020 a comptabilisé plus de 60 millions de dollars de contrats.  Les tactiques de désinformation suivent le cours du marché et s’industrialisent. Pour Nathaniel Gleicher, responsable de la sécurité chez Méta, “la professionnalisation de la tromperie” incarne une menace croissante, qui avance à bas bruit. “Au cours des dernières années, nous avons vu se développer des entreprises qui construisent essentiellement leur modèle commercial autour de la tromperie”, alertait-il déjà en janvier 2020. 

L’un des acteurs les plus connus de cette industrie ? Vulkan, la “cyberamurerie des services russes”, d’après le Monde. Cette société privée, soit un cabinet de conseil en cybersécurité ordinaire à première vue, fournit des armes numériques aux services de sécurité russe et est à l’origine d’outils dédiés à des campagnes de désinformation menées en Ukraine ou en Arménie. Soit une puissante arme nocive pour la démocratie. Et elle avance masquée, empruntant les codes de la normalité. Son activité tranche ainsi avec sa vie de bureau. D’après un article du Guardian, la culture d’entreprise de Vulkan tient davantage de la Silicon Valley que de l’agence d’espionnage, avec l’existence d’une équipe de football au sein de l’entreprise, des célébrations d’anniversaire pour les employés…  

S’armer contre ces menaces 

Dans un monde où on ne sait plus qui sert quoi, les journalistes devaient déjà faire face aux éléments de langage des agences de com’ traditionnelles. Ils doivent aujourd’hui déjouer de nouveaux adversaires. Avec l’expansion rapide de l’IA générative et les nouvelles possibilités de créer des avatars réalistes, des images, des vidéos et des sons, cette nouvelle industrie de l’ombre gagnera certainement davantage de terrain. Il devient donc essentiel de favoriser la collaboration au sein de l’écosystème de vérification des faits pour remporter des batailles dans la lutte contre la désinformation. Il s’agit par exemple de s’allier à des entreprises de cybersécurité et des spécialistes dans des domaines spécifiques, de se former et sensibiliser à la cybersécurité en permanence, créer des normes communes.  

2Twitter : libre cours à la désinformation à l'ère d'Elon Musk ?

 

Twitter, une porte ouverte à la désinformation ? Dernièrement, le réseau social s’est retiré du code de pratique de l’UE en matière de désinformation, dans un contexte où l’entreprise doit être contrôlée par les régulateurs européens dans le courant du mois de juin.  Un signal qui a été précédé de plusieurs initiatives délétères. Elon Musk, ce “Citizen Kane du numérique”, dont l’objectif est d’avoir un Twitter qui fonctionne comme il l’utilise, c’est-à-dire sans retenue, a en effet désactivé le centre de presse et procédé à des licenciements massifs des modérateurs de contenus. 

Par ailleurs, Ella Irwin, responsable de la confiance et de la sécurité chez Twitter, considéré comme l’un des principaux lieutenants d’Elon Musk, a démissionné ce 2 juin. Son départ serait lié aux récentes critiques du patron de Tesla concernant la décision de l’entreprise de modérer le contenu du site d’information conservateur The Daily Wire.  

 

Depuis le rachat de Twitter, Elon Musk a également réactivé près de 12 000 comptes suspendus pour des propos antisémites, racistes, misogynes, transphobes (Donald Trump, Andrew Anglin, Patrick Casey, Andrew Tate, Kanye West…) donnant à Twitter “des petits airs de Gotham City”, d’après le Monde.  

Ces licenciements et autres changements ont été faits dans le but de “rationaliser” l’entreprise et la rendre plus attrayante aux yeux des annonceurs. Les critiques ont souligné que l’accent mis par Musk sur la monétisation de la plateforme pourrait conduire à donner la priorité à la publicité au détriment de la sécurité des utilisateurs.  

 Un “rédacteur en chef” qui tweete à tout va 

Outre ces changements majeurs, Elon Musk est devenu plus actif avec son compte personnel - 141 millions d’abonnés au compteur - et une source plus puissante de diffusion de désinformation. Ce phénomène devient un vrai sujet de préoccupation chez les journalistes. Depuis l’acquisition, son compte est devenu le profil le plus consulté. Un article de NPR a souligné que les tweets de Musk sont souvent très appréciés et peuvent influencer l’opinion publique. Il diffuse des théories de complot - il a notamment minimisé la sévérité du Covid-19 et soutenu la propagande de Vladimir Poutine - et discrédite ses opposants, traque des personnes et des organisations avec lesquelles il est en désaccord. 

Dernièrement, il a choisi comme cible Alexandria Ocasio-Cortez. Le propriétaire de Twitter a ainsi interagi avec un compte parodique usurpant l’identité de la représentante du Congrès américain. “Pour info, il y a un faux compte qui se fait passer pour moi et qui devient viral. Le PDG de Twitter a interagi, augmentant ainsi sa visibilité”, a déploré AOC. “Il publie de fausses déclarations politiques et se répand”.  

Partir ou rester ? 

Dans ce cadre, comment Twitter et l’information de qualité peuvent-ils avoir un avenir commun ? Faut-il quitter Twitter pour Mastodon et laisser des centaines de millions d’abonnés sous l’emprise de nombreux conspirationnistes ? Les plus optimistes choisiront de rester, pour continuer le travail d’information et d’enquête, en attendant une régulation forte de la part des autorités compétentes.  

3Des profils privilégiés par les diffuseurs de fake news

                                     

La diffusion de fausses nouvelles ciblant une personne est devenue une arme courante à l’ère numérique. Pour qu’une fake news fasse son chemin, il faut viser un visage connu et influent, qui permet à la fake news de se propager plus rapidement. Elle prend de l’ampleur parce que les médias la relaient également. En bref, avant d’être démentie, elle a fait suffisamment parler d’elle pour avoir fait le mal voulu. Certaines personnalités sont plus visées que d’autres, à l’image d’Angela Merkel, qui a ainsi subi plus de 2500 attaques différentes, enregistrées par la Task Force Strat pendant la saison électorale allemande de 2017.  

Bill Gates est également un morceau de choix : il est devenu une cible constante des fake news et des théories du complot. On l’a ainsi accusé de vouloir implanter des puces électroniques chez les patients par le biais d’un vaccin. Il a aussi été visé par une rumeur d'arrestation par l’armée américaine pour trafic sexuel d’enfants. “L’armée arrête Bill Gates”, lit-on dans un article publié le 1er août, par le site Real Raw News, qui compte plus de 12 000 interactions sur Facebook.  

4Dark web : la nourrice des fake news

Des services et outils, destinés à construire des campagnes de désinformation, se développent sur le dark web, partie de l’internet qui n’est pas indexée ou accessible par les moteurs de recherche type Google. Même s’il peut être utilisé à des fins légitimes, comme la protection de la vie privée, et la sécurité des journalistes, le dark web est aussi souvent associé à des activités illicites. On y retrouve différents services  qui permettent la diffusion rapide des fakes news, vendus pour une somme dérisoire sur des forum clandestins : fake news, faux sites web à moindre coût, faux comptes.  

                                         

Conclusion 

Les défis sont nombreux pour les journalistes qui doivent œuvrer pour lutter contre le fléau de la désinformation. Il convient avant tout de connaître le visage de ses adversaires, qui avancent de plus en plus masqués, pour les contrer efficacement. A une époque où les lecteurs sont méfiants face aux médias, cette bataille reste un sport de combat.  

➡️ Retrouvez l'étude complète (en anglais) ici