Gross modo "nous en sommes actuellement entre l'étape 1 et l'étape 2 !"du tableau ci dessus, a averti, cette semaine à Londres, Shuman Ghosemajumder, directeur de la technologie pour Shape Security et ancien responsable de la cyber fraude chez Google.
"Facebook a dit avoir éliminé 3 milliards de faux comptes ces six derniers mois, mais on estime qu'il en reste 40 millions non détectés !", a-t-il ajouté lors de la conférence CogX, dédiée à l'IA.
Des milliers de faux comptes Facebook, avec divers degrés de véracité ou d'ancienneté, ou d'autres réseaux sociaux, sont d'ailleurs en vente libre sur le web.
Le deep fake se démocratise, les outils sont dans les mains du public : 10 $ pour 50 mots d'un faux Trump
Coté deepfake, "le mois dernier, on comptait déjà 12.000 vidéos synthétiques en circulation, dont 95% de porno. (...) Des places de marchés sont en train de s'ouvrir où le deep fake est vendu comme un service. Il ne faut que quelques jours pour obtenir une vidéo de bonne qualité. Pareil pour la voix. Compter ainsi 10 $ pour 50 mots dits par un faux Trump", a complété Giogio Patrini, pdg de Deeptrace, qui s'exprimait dans la même conférence. "La qualité va encore progresser et les prix continuer de baisser".
Chacun va pouvoir installer bientôt des applis de deep fake sur son mobile. Comment croire désormais ce qu'on voit ?
Vit-on déjà dans un monde où on ne peut plus croire ni nos yeux ni nos oreilles ?
Oui, affirme, Giogio Patrini : "Nous allons devoir nous entraîner à ne plus croire ce qui est créé de manière numérique".
Et on commence à observer des conséquences politiques importantes, a-t-il ajouté en prenant l'exemple de vidéos virales qui ont semé le trouble au Gabon fin 2018 autour de la santé du Président. "Nous devons être prêts" à voir cela un jour chez nous.
Pour lui, la confiance ne reviendra que lorsque les plateformes et les gouvernements agiront vraiment.
"Ces deep fake ne viennent d'ailleurs pas de cyber-criminels classiques, mais essentiellement de groupe locaux de suprémacistes blancs d'extrême droite qui produisent beaucoup", a assuré de son côté, Philip Howard, directeur de l'Oxford Internet Institute.
"Seuls les pays dotés d'un audiovisuel public indépendant et assumant les valeurs du journalisme professionnel, estime ce chercheur, voient leurs citoyens mieux vaccinés contre ce nouveau fléau".
Ça ne va pas s'arranger. Derniers exemples spectaculaires à l'appui :
Le montage vidéo devient aussi simple que l'édition de texte:
Tout le monde a vu ces derniers jours la vidéo bidon faisant dire des énormités à Zuckerberg. Un nouvel algorithme de Stanford permet ainsi de modifier sur une vidéo les paroles d'une personne comme on copie, colle, ajoute ou supprime des mots. De même la start-up israélienne Canny, spécialisée dans le doublage de contenus vidéos avec IA, intervient dans le contenu pour modifier le mouvement des lèvres des personnes ou des personnages.
C'est encore plus facile pour la voix :
Après Lyrebird dès 2017, Facebook vient de créer une IA capable de copier la voix de n’importe qui.
Voire trop dangereux pour être montré :
On a aussi vu récemment une firme d'Elon Musk développer un générateur de textes par IA tellement dangereux que ses créateurs se sont empêchés de le montrer.
Depuis, en quelques heures et pour moins de 10 $, une IA est capable d'écrire un discours onusien !
Mais il suffit de simplement ralentir le débit de quelqu'un pour le faire apparaître saoul, comme l'a montré récemment la fausse vidéo virale de la présidente de la Chambre des Représentants, Nancy Pelosi, que Facebook n'a pas voulu retirer.
Ou bien encore plus drastique de créer de toutes pièces des personnes qui n'ont jamais existé:
Que faire dans l'immédiat ?
Pour la BBC :
- tout questionner
- demander les outils pour le faire
- parler aux enfants mais aussi aux adultes (éducation aux médias)
- plus d'introspection de la part des journalistes et demander des comptes aux médias
"Nous devons apprendre aux journalistes à aider les gens à accroitre leur sens critique et à tirer les bonnes conclusions des contenus qu'ils voient", a estimé Laura Ellis, responsable de la prospective technologique à la BBC. "Le problème c'est que les gens n'en veulent pas et préfèrent partager du b/s. C'est un vrai défi pour nous." (...) "On aurait du ainsi mieux montrer vite en quoi la vidéo de Nancy Pelosi était bidon, et ne pas hésiter à coopérer entre médias professionnels".
Pour l'Internet Institute d'Oxford :
- renforcer la boîte à outils des commissions électorales des grandes démocraties pour mieux lutter contre les manipulations
Pour Shape Security :
- s'armer du maximum de scepticisme et apprendre à détecter les faux
- assumer ses responsabilités (médias, gouvernement, plateformes)
- leur demander des comptes
Pour Deeptrace :
- réclamer une forte implication des gouvernements
- aider les écoles
- forcer la Big Tech à consacrer plus de sa R&D sur ces sujets
Beaucoup misent aussi sur l'IA pour contrer ce phénomène très inquiétant. Mais l'automatisation de cette lutte n'est pas pour demain.
"Et si ça nous prenait 50 ans ? Que faisons nous d'ici là ?", s'est interrogé Ghosemajumder, pessimiste. "Quand on pense qu'on ne sait toujours pas quoi mettre sur les paquets de cigarettes pour que les gens arrêtent de fumer...".
L'inquiétude grandit dans les grandes démocraties sous pression où chacun peut créer n'importe quoi. Downing Street vient de débloquer des fonds importants pour mieux lutter contre la désinformation, et à l'approche du scrutin présidentiel de 2020, le Congrès américain panique devant l'explosion de médias manipulés.
Car il ya encore plus pernicieux que le deepfake : le savant mélange de vrai et de faux
"Tout le monde croit qu'on partage des fake news. Mais en fait, expliquait récemment à Porto, Jamie Bartlett, auteur et journaliste britannique, devant des responsables des audiovisuels publics européens, le plus souvent on partage un savant mélange d'infos vraies et fausses, triées avec grand soin par des groupes activistes radicaux, qui reflètent leur vision du monde, cohérente mais mensongère".
Qui croire alors et à qui faire confiance ?
ES
