Liens vagabonds :’ Innovate or die’, Netflix a des problèmes de vieille télé

A RETENIR CETTE SEMAINE

Netflix se fait vieille – Cette semaine, Netflix a communiqué des résultats en demi-teinte. Certes, la plateforme de streaming aux 232,5M d’utilisateurs dans le monde a gagné au premier trimestre 1,75 M nouveaux abonnés (principalement en Asie). Oui, elle a enregistré un chiffre d’affaires de 8,16 MDS de dollars, conforme aux prévisions. Mais la page de l’hypercroissance semble bel et bien tournée. L’annonce le même jour de l’arrêt prochain de la location de DVDs par courrier (le service révolutionnaire à l’origine de la création de Netflix, en 1998, avant le lancement de la SVoD en 2007) appelle une comparaison avec la situation actuelle: Netflix a cessé d’innover. Alors Wall Street s’impatiente.

D’autant plus que dans un paysage de la vidéo à la demande de plus en plus compétitif et fragmenté, la société de Los Gatos fait actuellement face à d’autres vents mauvais : la menace d’une grève des scénaristes à Hollywood ; des débuts ratés dans le livestreaming ; le développement rapide de la FAST TV ; et surtout une concurrence accrue avec le second écran et les services de divertissement en général. Désormais, les adultes américains passeraient en effet plus de cinquante-huit minutes par jour en moyenne sur TikTok, juste derrière Netflix (62 minutes), et loin devant YouTube (48,7 minutes)!

En réaction, la plateforme a commencé à expérimenter des solutions pour diversifier ses revenus : une formule d’abonnement moins chère, supportée par la publicité ou la fin programmée (et retardée) de la possibilité de partager son mot de passe. Mais si elle veut conserver son avance, Netflix est condamnée à se réinventer et à imaginer le prochain “service de livraison de DVDs par courrier”. C’est-à-dire une innovation technologique et interne de rupture. Comme aimait le rappeler Steve Jobs, « innovation distinguishes between a leader, and a follower.«

BUZZFEED NEWS DISPARAIT

La fin de l’ère Buzzfeed dans l’info numérique : l’ancienne façon de la concevoir basée sur du texte distribué sur les réseaux sociaux est révolue. Ces derniers ne financent pas des rédactions. Et la valeur ajoutée de l’info comme le contact direct avec l’internaute se sont finalement avérés plus importants que la course au trafic.

Here’s the full memo to BuzzFeed staffers from @peretti. pic.twitter.com/nA0QAs1NhY

— Oliver Darcy (@oliverdarcy) April 20, 2023

CETTE SEMAINE EN FRANCE

3 CHIFFRES

787,5 millions de dollars – c’est le montant historique que Fox News a accepté de payer dans l’affaire de diffamation des machines à voter Dominion Voting Systems [CNN]

700 000 dollars par jour – coûterait le fonctionnement de ChatGPT à Microsoft [Business Insider]

Plus de 80 % des Français s’inquiètent des dérives de l’intelligence artificielle selon une étude publiée jeudi 20 avril par le groupe WPP [L’ADN]

LE GRAPHIQUE DE LA SEMAINE

Via Electronics Hub

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

“They Did It for the Clicks” : comment les médias numériques ont couru après le trafic viral à tout prix [New Republic]
The Hacker [CJR]
La fin des magazines informatiques en Amérique [Technologizer]
ChatGPT change déjà ma façon de faire mon travail [NYT]
Au coeur de la liste secrète des sites Web qui rendent les chatbots IA intelligents [WP]
L’information pour les puissants et les privilégiés : comment la fausse représentation et la sous-représentation des communautés défavorisées sapent leur confiance dans l’information [Reuters Institute]
Report sur l’usage des podcasts par les Américains [Pew Research Center] :
1. Les podcasts sont populaires : environ la moitié des Américains ont écouté un podcast au cours de l’année écoulée, et un auditeur sur cinq déclare écouter un podcast presque tous les jours.
2. Les auditeurs se tournent vers les podcasts pour se divertir, apprendre et simplement pour avoir quelque chose à écouter tout en faisant autre chose.
3. La comédie, le divertissement et la politique figurent en tête de liste des sujets que les auditeurs de podcasts disent écouter régulièrement.
4. La plupart des auditeurs de podcasts affirment s’informer via les podcasts – cependant, seulement un auditeur sur cinq dit écouter un podcast produit par un site d’information.

Snapchat a annoncé jeudi déployer #MyAI auprès de ses 750M d’utilisateurs .

Plus qu’un chatbot, un véritable « ami virtuel », basé sur #ChatGPT [Thread #IA 🔽]

#Snapchat a annoncé hier déployer #MyAI auprès de ses 750M d’utilisateurs .

Plus qu’un chatbot, un véritable « ami virtuel », basé sur #ChatGPT! [Thread #IA 🔽] https://t.co/s95vbNQcb3

— Méta-Media FranceTV (@metamedia) April 20, 2023

GAFA / BATX

Projet Magi: Google va apporter des modifications radicales à son moteur de recherche pour contrer ses rivaux dans l’IA [NYT]

DONNÉES, CONFIANCE, LIBERTÉ DE LA PRESSE, DÉSINFORMATION

Un nombre record de journalistes détenus dans le monde avant l’arrestation d’Evan Gershkovich [WSJ]

LÉGISLATION, RÉGLEMENTATION

Dans un tweet, Elon Musk a menacé de poursuivre Microsoft pour avoir prétendument utilisé les données de Twitter pour former ses modèles IA, sans l’autorisation de l’entreprise

They trained illegally using Twitter data. Lawsuit time.

— Elon Musk (@elonmusk) April 19, 2023

JOURNALISME

STORYTELLING, NOUVEAUX FORMATS

Expérience : et si on créait un réseau de sites d’information entièrement gérés par une IA?

C’est l’expérience qui me perturbe le plus depuis les débuts des critiques « ChatGPT va semer le chaos » et compagnie. Ce faux site tech français a tout d’un blog réel, de qualité moyenne, qui re-pompe des sites américains, comme on en connait plein. https://t.co/XmsKpD1QMZ

— Marie Turcan (@TurcanMarie) April 21, 2023

ENVIRONNEMENT

Fire and Ice : dans un format innovant, NPR explique comment la fonte des glaces à un endroit peut alimenter des incendies de forêt historiques à un autre

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

Twitter a supprimé les certifications bleues des profils de tous les utilisateurs qui ne paient pas 8$ par mois pour s’abonner au nouveau service Twitter Blue [The Guardian]

#UPDATE Twitter has dropped « state-affiliated » and « government-funded » labels from media accounts, according to a review by @AFP on Friday of many high-profile pages on the platform

Many major media outlets that had either of those tags no longer display them, according to AFP. pic.twitter.com/Yt2hk5qiBb

— AFP News Agency (@AFP) April 21, 2023

Elon Musk, de son côté, se réserve une double certification :

Et des abonnements payants…

AUDIO, PODCAST, BORNES

La première cartographie interactive qui répertorie les acteurs incontournables du podcast en France [Cosavostra]

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

ES avec Kati Bremme, Erwan Le Gal et Myriam Hammad

Intelligences Artificielles génératives et désinformation : bienvenue en post-vérité ?

La désinformation est aussi vieille que l’information. A mesure que l’ère numérique se développe, la désinformation et les fausses nouvelles trouvent de nouveaux canaux de distribution. On pourrait alors se contenter de dire que les récentes avancées technologiques en IA générative (rendues possibles grâce aux capacités exponentielles de calcul des machines et aux données que nous avons distribuées sur Internet sur les vingt dernières années) renforcent juste un problème qui était connu depuis longtemps. Mais cette fois-ci, les choses sont différentes.

Kati Bremme, Directrice de l’Innovation France Télévisions et Rédactrice en chef de Méta-Media

« Il y a en effet plus d’art nécessaire pour convaincre le peuple d’une vérité salutaire que d’un mensonge salutaire. »
Jonathan Swift, De l’Art du Mensonge Politique

Il y a dix ans, l’IA avait du mal à faire la différence entre un chat et un chien. Aujourd’hui, elle peut non seulement classifier, mais aussi générer des images détaillées de chats et de chiens à partir d’un simple texte. Les modèles s’améliorent rapidement et se démocratisent. Tout le monde peut accéder à des outils en ligne et fabriquer des ‘faux’. Des interfaces utilisateur anthropomorphiques admirablement ergonomiques cachent un formidable potentiel malveillant. A tel point que l’on se demandera bientôt ce que veut encore dire « faux » dans un océan de contenus générés (et distribués) par des IA, où la vérité est devenue depuis longtemps « un objet de discussion », pour résumer (très grossièrement) Hannah Arendt.

Face aux IA génératives et la massification de vrais et faux, nous sommes passés de l’exaltation à la peur. On joue désormais sur les émotions. Allons-nous passer directement de la bulle de filtre des réseaux sociaux au village virtuel généré par l’IA qui pollue encore un peu plus l’écosystème de l’information ? Sam Altman, le PDG d’OpenAI, reconnaît lui-même être “inquiet que ces modèles puissent être utilisés pour une désinformation à grande échelle« .

What we need is TruthGPT

— Elon Musk (@elonmusk) February 17, 2023

Des personnalités de la Silicon Valley, dont Elon Musk (qui veut nous vendre aujourd’hui un TruthGPT), Steve Wozniak, cofondateur d’Apple, et Andrew Yang, ancien candidat à la présidence, ont signé une pétition visant à mettre un terme au développement d’une Intelligence Artificielle plus puissante que GPT-4. La pétition compte plus de 30.000 signataires et cite les risques sociétaux à grande échelle comme son objectif fondateur. « Les systèmes dotés d’une intelligence compétitive avec celle des humains peuvent présenter des risques profonds pour la société et l’humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d’Intelligence Artificielle« . On ne pourra pas arrêter le progrès, mais qu’en est-il vraiment du potentiel dangereux de cette avancée technologique au service de la désinformation ?

*Article The Atlantic : AI Is Like … Nuclear Weapons? mars 2023*

D’où viennent les contenus générés ? A la recherche du sens perdu

On pourrait résumer de façon très réduite que ChatGPT et Midjourney sont de gigantesques moteurs d’autocomplétion de tout (ou presque) notre savoir et de notre créativité mis à disposition ces vingt dernières années sur l’espace de partage Internet, restitués dans un gigantesque puzzle utilisant les éléments les plus probables. Pour son apprentissage profond sur d’énormes corpus de texte, OpenAI se base sur les réseaux neuronaux, plus précisément un RNN, « Recursive Neural Network » (inventés dans les années 1940), qui peuvent être considérés comme des idéalisations de la manière dont nos cerveaux semblent fonctionner. On ajoute à cela la notion de ‘Transformer‘ – GPT signifiant Generative Pre-trained Transformer.

Transformer est une architecture de réseau neuronal qui facilite l’attention parallèle et permet d’apprendre (tout seul) les dépendances à long terme. Pour la compréhension de notre langage naturel, un paragraphe est découpé en morceaux, phrases, mots, en vecteurs de texte. Chaque morceau est passé, plusieurs fois si besoin, par la même fonction (recursive). Ainsi, chaque morceau est identifié, vis à vis de ses propres dépendances, mais aussi, vis à vis de l’information précédente, et donc de son contexte. Pour les images, le fonctionnement est approximativement le même, elles peuvent être découpées en séquences de vecteurs d’image, et reconstituées par contexte. On n’obtient pas une représentation directe du monde extérieur, mais on peut en capturer certains aspects.

ChatGPT doesn’t give you information. It gives you information-shaped sentences. https://t.co/X6YqgUHQU5

— Neil Gaiman (@neilhimself) March 25, 2023

En conséquence, le modèle est prédisposé à nous proposer une réponse basée sur des statistiques et des probabilités, plutôt que sur un prétendu raisonnement. L’auteur Neil Gaiman interprète ce mode de fonctionnement de la façon suivante : « ChatGPT ne vous donne pas d’informations. Il vous donne des phrases en forme d’information. » Ou comme le formule Gary Marcus : “Il n’y a aucune intention de créer de la désinformation – mais également aucune capacité à l’éviter, parce que fondamentalement, GPT est un modèle de la façon dont les mots se rapportent les uns aux autres, et non un modèle de la façon dont le langage pourrait se rapporter au monde perçu. »

L’adoption très rapide de ChatGPT repose sur une avancée extraordinaire dans l’UI et l’UX du traitement du langage naturel (y compris dans différentes langues, même si la maîtrise de ces langues varie en fonction de la quantité et de la qualité des données d’apprentissage disponibles pour chaque langue) et une utilité évidente. Le traitement du langage naturel et la restitution (grammaticalement parfaite) en langage naturel nous poussent à faire confiance au contenu fabriqué par l’IA parce que nous voyons qu’il a été créé pour nous à l’instant. On aurait envie de lui attribuer une intention, voire même la capacité de raisonner intelligemment. Il n’en est rien.

« Les affirmations selon lesquelles les outils d’IA générative produiront un contenu exact doivent être traitées avec une grande prudence. Il n’y a rien d’inhérent à la technologie qui garantisse l’exactitude des informations« , a déclaré Kate Wilkinson, chef de produit chez Full Fact, une organisation de fact-checking basée à Londres, qui met en œuvre l’IA. « À ce stade, il est trop tôt pour dire exactement comment cela évoluera, mais il s’agit clairement d’un changement significatif dans l’accessibilité générale d’un ensemble d’outils aussi puissants à un groupe d’utilisateurs aussi large« .

L’ubérisation de la création de contenus

Les larges modèles de langage, de GPT-4 d’OpenAI à LlaMa de Meta, en passant par LaMDA (Google), Jurrasic-2 (de la startup israëlienne AI21), Claude (Anthropic) ou encore ERNIE 3.0 de Baidu, sont alimentés autant par du vrai que du faux. L’ensemble de données utilisé pour former ces IA contiendrait des milliards d’images récupérées sur l’internet, des millions de livres électroniques piratés, l’intégralité des travaux de 16 années du Parlement européen et l’ensemble de Wikipédia anglais. OpenAI ne révèle pas les sources avec lesquelles ChatGPT a été entraîné (je cite ChatGPT “pour des raisons de propriété intellectuelle« ). Dans une récente étude, les chercheurs Jennifer Haase et Paul Hanel ont comparé les idées générées par les humains et celles générées par l’IA dans six chatbots, et ont indiqué que « nous n’avons trouvé aucune différence qualitative entre la créativité générée par l’IA et celle générée par l’homme. » Google donne d’ailleurs la même note pour du contenu généré par l’IA ou par des humains à partir du moment où le contenu est de qualité.

This viral photo of the pope was actually generated by Midjourney.

Going to very hard to tell what’s real and what’s fake moving forward. pic.twitter.com/f4vfNR4XcA

— Peter Yang (@petergyang) March 26, 2023

Les imperfections sont propres à l’homme, ce qui rend ces dispositifs presque attachants en les assimilant à une manière de penser humaine et imparfaite : tout le contraire de la rigueur des calculs mathématiques. Toutefois, il est crucial de prendre en compte les usages excessifs du modèle. Le principal écart entre les êtres humains et GPT-4 réside dans le fait que notre pensée s’appuie sur des références. ChatGPT, quant à lui, ne tient pas compte des références, il les oublie.

L’automatisation de la création de contenu risque d’inonder les médias sociaux de fausses informations. « Les modèles linguistiques sont un outil naturel pour les propagandistes« , a déclaré Josh Goldstein, chercheur au Centre pour la sécurité et les technologies émergentes de l’université de Georgetown. Il est coauteur d’un article qui examine comment ces outils alimentés par l’IA pourraient être utilisés à mauvais escient dans le cadre d’opérations d’influence. Aux USA, l’IA avancée comme ChatGPT, DALL-E, et la technologie de clonage vocal suscitent déjà des craintes pour les élections de 2024. Une ferme de trolls pourrait avoir besoin de moins de travailleurs et des campagnes de propagande à grande échelle pourraient être à la portée d’une plus grande variété d’acteurs malveillants, qui profiteront de l’effet Brandolini déjà bien connu des réseaux sociaux :

« la quantité d’énergie nécessaire pour réfuter des sottises […] est supérieure d’un ordre de grandeur à celle nécessaire pour les produire« …

Un écrivain polyglotte très efficace mais limité – la génération de texte

Contrairement à Midjourney et ses images du pape en doudoune, ChatGPT n’est pas seulement un outil qui aide des tiers à fabriquer des faux, il les génère lui-même. Les nouveaux outils d’IA générative tels que ChatGPT d’OpenAI, BingGPT de Microsoft et Bard de Google sont en effet capables de générer un vaste flot de fausses informations en ligne. Alphabet, la société mère de Google, s’était retrouvée dans l’embarras (et a vu son cours de bourse baisser de 100 milliards de dollars) après que son outil Bard a mal interprété un fait historique dans une vidéo de marketing destinée à vanter la sophistication de l’outil. Entre-temps, OpenAI, avec ChatGPT, est devenue la métonymie d’IA générative. L’entreprise, qui n’a plus d’Open Source que le nom, pourrait bientôt se retrouver en position de quasi monopole avec une technologie que certains comparent à l’invention de l’imprimerie, l’avènement de l’ordinateur personnel ou encore du smartphone.

ChatGPT peut converser sur plus ou moins tout, mais est beaucoup moins bavard quand il s’agit de révéler ses sources. L’outil le plus rapidement adopté du monde est une combinaison de plusieurs éléments : les LLM, un chatbot, et des filtres. Il ne remplacera cependant pas de sitôt les moteurs de recherche, ses données s’arrêtant à septembre 2021 (y compris dans la version payante), et le système ne continuant pas d’apprendre. Bing ajoute des références avec GPT-4, connecté à Internet, mais ces références n’existent pas toujours. Le chatbot, même s’il nous ressemble beaucoup, ne peut pas prendre de mesures indépendantes pour identifier et contrer les fausses nouvelles et la désinformation, ce qui signifie qu’il n’est pas en mesure d’empêcher la diffusion de ce type de contenu.

ChatGPT a généré un argument cohérent reliant sans fondement l’apparition d’une maladie liée au vapotage aux États-Unis aux origines du virus responsable du COVID-19, une affirmation qui semble provenir d’un porte-parole du ministère chinois des Affaires étrangères en août 2021. (Capture d’écran via NewsGuard)

Quand ChatGPT n’avait pas encore la capacité de naviguer sur Internet, il lui arrivait d’inventer des résumés lorsqu’on lui présentait des URLs d’articles. Il lisait l’URL, qui contient souvent le titre de l’article, et se lançait dans une dissertation sur le sujet.

NewsGuard a publié à peine une semaine après le lancement de GPT-4 un rapport qui décrit la nouvelle intelligence artificielle d’OpenAI comme “un désastre en puissance« , qui amalgame connaissance scientifique, opinions et infox sans aucune référence. Pour mesurer la capacité de l’algorithme d’intelligence artificielle à produire des infox, la startup américaine a administré à ChatGPT des questions s’appuyant sur de faux récits répandus sur le web. Le résultat est probant comme le souligne Chine Labbé, rédactrice en chef Europe :

“Dans 80% des cas, le robot a relayé avec éloquence des affirmations fausses et trompeuses sur des sujets importants de l’actualité, dont le COVID-19, l’Ukraine et les fusillades dans des écoles aux Etats-Unis […] Pour une personne qui ne connaît pas les questions ou sujets couverts par ce contenu, les résultats pourraient facilement passer pour légitimes, voire même faire autorité ».

NewsGuard a depuis présenté un outil pour former des services d’Intelligence Artificielle générative pour endiguer la diffusion de fausses informations. Microsoft, qui soutient NewsGuard, accorde déjà des licences aux données de NewsGuard et les utilise pour BingGPT.

Des créations hyperréalistes à cinq doigts – la génération d’images

Une image générée par l’IA n’est pas une fake news, à partir du moment où son caractère artificiel est déclaré. En revanche, quand elle est sortie de son contexte, la situation se complique. Le générateur d’images par IA Midjourney a déjà mis fin aux essais gratuits de son service. Submergé par les demandes, l’accès gratuit au logiciel a été suspendu depuis le 28 mars (qui coïncide avec l’image du pape en doudoune).

DALL-E, l’IA générative d’images d’Open AI, est capable de générer des images à partir de descriptions textuelles. L’outil de génération d’images (sorti au grand public avant ChatGPT) utilise également une architecture de type Transformer, similaire à celle des LLM, mais est spécifiquement entraîné pour transformer des entrées textuelles en images cohérentes (et créatives). La frontière entre la réalité et la fiction s’estompe donc aussi dans les images. L’un des exemples les plus perturbants est celui des utilisateurs de Reddit qui inventent des événements qui n’ont jamais eu lieu. Les images ci-dessous de Justine Moore semblent réelles et sont censées provenir du grand tremblement de terre de Cascadia qui a dévasté l’Oregon en 2001. Mais ce tremblement de terre n’a jamais eu lieu : cet événement n’existe pas. Il s’agit d’images générées par l’IA, utilisées en ligne pour diffuser l’histoire d’une catastrophe naturelle complètement fabriquée. Lorsque l’on connaît le fonctionnement des réseaux sociaux qui mettent en avant des contenus sensationnels, il est facile de saisir le potentiel de désinformation détenu par des individus désespérés en quête de notoriété.

Something wild is happening on the Midjourney subreddit.

People are telling stories and sharing photos of historic events – like the “Great Cascadia” earthquake that devastated Oregon in 2001.

The kicker? It never happened. The images are AI-generated. pic.twitter.com/2ziHJYsTDK

— Justine Moore (@venturetwins) March 26, 2023

En mars, une (fausse) image du pape François en doudoune blanche est devenue virale. Buzzfeed News l’a qualifiée de « premier cas de désinformation de masse par l’IA » et a retrouvé l’auteur de l’image, Pablo Xavier, de Chicago. Pablo Xavier a révélé qu’il était sous l’emprise de champignons hallucinogènes lorsqu’il a décidé qu’il serait amusant d’habiller le pape d’un manteau Balenciaga et de partager l’image sur le compte Reddit dédié à Midjourney. Dans ce contexte clairement défini, il n’y a pas de doute qu’il s’agissait d’un exercice divertissant. En revanche, l’image a ensuite été partagée sur d’autres réseaux sociaux hors contexte, et en a trompé plus d’un(e).

I thought the pope’s puffer jacket was real and didnt give it a second thought. no way am I surviving the future of technology

— chrissy teigen (@chrissyteigen) March 26, 2023

Mais il y a eu récemment des exemples plus troublants. Lorsque la nouvelle de l’arrestation possible de Donald Trump a été annoncée, des images d’IA représentant l’arrestation de Donald Trump sont devenues virales. De nombreuses personnes ont cru qu’il s’agissait de vraies images, confondant fabrication et information.

Making pictures of Trump getting arrested while waiting for Trump’s arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Avant, on pouvait facilement reconnaître une image fabriquée par l’IA à l’œil nu. Aujourd’hui l’exercice devient de plus en plus compliqué. Suite à la diffusion des images de la fausse arrestation de Donald Trump, Midjourney a tenté d’imposer des règles. La plateforme a exclu le journaliste britannique qui avait élaboré des photos de la pseudo-arrestation de Donald Trump.

Quelques limites existent cependant encore pour détecter un faux (mais celles-ci seront vite estompées avec l’avancée de l’entraînement, cf. l’image d’illustration de cet article). L’IA de génération des images a les mêmes limites de compréhension du monde que celle des textes : L’IA est formée pour synthétiser les fichiers qu’elle consulte. Elle excelle dans la génération d’images similaires à celles qu’elle trouve en ligne, mais elle ne comprend pas la structure sous-jacente des objets et des personnes. Cela se traduit par des corps adoptant des positions relativement étranges. Un peu moins accessible que la génération de faux textes “dans le style de », la génération d’images nécessite souvent encore une intervention à posteriori (via Photoshop) notamment sur la partie que l’IA ne sait pas gérer sur les images : le texte.

Le réalisme bluffant de ces scènes artificielles pourra à terme discréditer les vraies photos. Le niveau de réalisme des photos ainsi produit induit un effet collatéral préoccupant : leur extrême viralité sur les réseaux sociaux, canaux de diffusion de prédilection de l’infox. Les “coches bleues” de Twitter signalaient auparavant l’authenticité de l’auteur. Désormais, elles aident des colporteurs d’infox à paraître fiables. Les clichés inédits évoqués ci-dessus ont effectivement circulé à une vitesse fulgurante sur lesdits réseaux sociaux.

L’IA générative peut produire des images manipulées très réalistes, contribuant à la propagation de la désinformation, dénaturer les personnes, les événements ou les situations, entraînant une perception déformée de la réalité. Ces images peuvent être utilisées pour créer de faux profils à des fins malveillantes, telles que les escroqueries et les usurpations d’identité, et l’IA générative peut perpétuer les stéréotypes et les biais présents dans les données d’entraînement.

Une voix mensonge – la génération de la voix

La 12 avril 2023, Radio France a consacré une journée entière à l’Intelligence Artificielle sur son antenne France Inter. Entre interviews d’experts réels, on pouvait y entendre Martin Luther King ou encore Barack Obama dans des prises de parole sur l’actualité. Pourquoi alors encore s’embêter à chercher à obtenir de vrais commentaires par des personnalités publiques sur tel ou tel sujet si on peut les fabriquer en quelques secondes ?

Pour les créateurs de fausses vidéos et de faux sons, la technologie des GPT pourrait être utilisée pour créer des versions plus réalistes de personnalités politiques et culturelles connues, capables de parler d’une manière qui imite mieux ces personnes. Il peut également être utilisé pour créer plus rapidement et à moindre coût une armée de personnes qui n’existent pas, de faux acteurs capables de délivrer couramment des messages dans plusieurs langues. Autrefois basées sur une manipulation du replay d’une voix existante, la voix peut aujourd’hui être créé entièrement de façon synthétique. Le deepfake audio basé sur l’imitation est un moyen de transformer un discours original d’un locuteur – l’original – pour qu’il ressemble à celui d’un autre locuteur – la cible – sur la base de l’imitation.

Au début de l’année, Microsoft a dévoilé un nouveau système d’intelligence artificielle capable de recréer la voix d’une personne après l’avoir écoutée parler pendant seulement trois secondes, VALL-E. VALL-E est un modèle de langage à codage neuronal dans lequel l’intelligence artificielle identifie les mots et utilise ses algorithmes pour construire des formes d’ondes qui ressemblent à celles du locuteur, notamment en conservant son timbre et son ton émotionnel. Cette technologie permet également de créer des assistants numériques plus personnalisés et des services de synthèse vocale et de traduction vocale à la sonorité naturelle.

Emma Watson reading Mein Kampf pic.twitter.com/PQ8wDv7ZVJ

— Peers ET (@TintinsPuppy) January 31, 2023

Egalement en janvier, des internautes ont détourné le service de clonage de voix ElevenLabs pour créer de faux enregistrements audio imitant les voix de célébrités tenant des propos racistes, homophobes et violents. Dans l’un de ces montages, Emma Watson, actrice vedette de la saga Harry Potter, lit des extraits de Mein Kampf d’Adolph Hitler. Dans un autre Ben Shapiro, un célèbre animateur radio américain connu pour ses positions très conservatrices, fait des remarques racistes sur Alexandria Ocasio-Cortez, élue du parti démocrate. D’autres deepfake audio impliquant les réalisateurs Quentin Tarantino et George Lucas ou l’animateur américain Joe Rogan ont été repérés sur 4chan.

Our current ideas:
(1) Additional account verifications to enable Voice Cloning: such as payment info or even full ID verification
(2) Verifying copyright to the voice by submitting sample with prompted text
(3) Drop Voice Lab altogether and manually verify each Cloning Request

— ElevenLabs (@elevenlabsio) January 30, 2023

L’IA peut désormais reproduire la voix de n’importe qui. Le journaliste de Vice, Joseph Cox, a utilisé une technologie d’IA similaire à ElevenLabs pour accéder à un compte bancaire grâce à une version de sa propre voix reproduite par l’IA. L’audio généré par l’IA peut imiter des voix, ce qui peut entraîner des fraudes, des usurpations d’identité et de la désinformation, qui manipulent les auditeurs. Des escrocs utilisent déjà l’intelligence artificielle pour se faire passer pour des membres de la famille en détresse. Au-delà de la désinformation, le potentiel criminel de l’IA générative vocale est infini.

Bientôt des deepfakes industrialisés ? – la génération de vidéos

Grâce à l’IA générative, dans un futur proche, nous pourrons apprécier des films modernes mettant en scène Marilyn Monroe et assister à un concert des Beatles dans notre propre salon. L’IA permet à Andy Warhol et Anthony Bordain de parler d’outre-tombe, promet à Tom Hanks de rester jeune pour toujours et nous permet de regarder des imitations de Kim Kardashian, Jay Z et Greta Thunberg se disputer au sujet de l’entretien du jardin dans une comédie télévisée britannique absurde. Pour donner un exemple de ce qui est déjà possible, en septembre 2022, la société Metaphysics (à l’origine de @deeptomcruise) a utilisé un deepfake pour faire jouer Elvis dans l’émission America’s Got Talent. Une façon de refaire l’histoire et de brouiller les pistes entre faits et faux. Des dizaines de startups utilisent l’IA générative pour créer des personnes virtuelles rayonnantes et heureuses, à des fins ludiques et lucratives. Les grands modèles de langage comme GPT ajoutent une nouvelle dimension complexe.

Fin 2022, la société Graphika a observé des cas limités de Spamouflage, une opération d’influence (OI) pro-chinoise, promouvant un contenu qui comprenait des séquences vidéo de personnes fictives presque certainement créées à l’aide de techniques d’intelligence artificielle. Alors qu’une série d’acteurs des OI utilisent de plus en plus d’images générées par l’IA ou de médias manipulés dans leurs campagnes, c’est la première fois que l’on avait observé une opération menée par un État qui promeut des séquences vidéo de personnes fictives générées par l’IA. Lors d’un entretien avec Sequoia, Jensen Huang, PDG de NVIDIA, a déclaré :

« Chaque pixel sera bientôt généré. Pas rendu : généré« .

Des startups comme Runway, Hour One, Synthesia, Uneeq et D-ID avancent rapidement dans la génération de vidéos. Là encore, la technologie de création de faux qui était auparavent réservé à des spécialistes devient accessible à tout le monde. « Il suffit maintenant d’avoir une idée de contenu », explique Natalie Monbiot, responsable de la stratégie chez Hour One, startup basée à Tel-Aviv qui utilise la technologie deepfake pour les vidéos d’apprentissage en ligne, les présentations commerciales, les rapports d’actualité et les publicités. L’entreprise a ajouté une nouvelle fonctionnalité intégrant GPT. Désormais, les utilisateurs n’ont plus qu’à choisir parmi les dizaines d’avatars et de voix créés par des acteurs, et à taper un message pour obtenir une tête parlante plus vraie que nature.

Comme certains de ses concurrents, Hour One permet également aux utilisateurs de numériser leurs propres visages et voix. La société a acquis les droits d’utilisation de centaines d’acteurs, dont les têtes transformées par l’IA n’apparaissent que dans les vidéos qui respectent ses accords contractuels et les conditions d’utilisation du service : « Jamais de contenu illégal, contraire à l’éthique, conflictuel, religieux, politique ou sexuel« , peut-on lire en petits caractères. Pour les personnalités connues, l’utilisation est limitée à un « usage personnellement approuvé« . La société place aussi un filigrane « AV » au bas de ses vidéos, pour « Altered Visuals« .

L’IA générative, capable de créer des vidéos deepfakes convaincants, facilite la manipulation de personnalités publiques et d’événements. Ces vidéos produites artificiellement peuvent contribuer à des campagnes de désinformation, nuire à la confiance envers les sources fiables et influencer potentiellement l’opinion publique.

Et l’IA audiovisuelle « apprend » rapidement. La combinaison de modèles de langage, de logiciels de reconnaissance faciale et de synthèse vocale fera du contrôle de l’image une relique du passé, a averti le groupe américain Eurasia Group dans son récent rapport annuel sur les risques. Les analystes géopolitiques ont classé la désinformation par l’IA au troisième rang des risques mondiaux en 2023, juste derrière les menaces posées par la Chine et la Russie. La technologie des deepfakes vidéo et audio s’améliore de jour en jour. Combinée à un script convaincant généré par ChatGPT, ce n’est qu’une question de temps avant que les deepfakes ne passent pour des réalités.

Comment contenir les abus ? Modération, régulation ? Education !

Faudrait-il réserver ces outils à une élite éclairée pour éviter les abus ? Doit-on légiférer pour imposer à tous les outils de ChatGPT à Midjourney5 un filigrane “Créé par l’IA » ? Deux cent millions de personnes utilisent ChatGPT, moins de 1% d’entre eux comprennent son fonctionnement. Comme pour chaque rupture technologique, il est impossible d’appliquer une loi à l’échelle mondiale. La Chine était précurseure dans la réglementation des deepfakes, en Europe on essaie d’adapter l’AI Act à la disruption technologique de l’IA générative.

En attendant, chaque plateforme se lance dans sa propre gestion de ces problématiques. Entre-elles la Red Team, chez OpenAI et l’ARC, un organisme indépendant qui sont chargés d’évaluer les scénarios catastrophes qui impliqueraient le modèle GPT. Les entreprises technologiques qui lancent des outils d’IA s’efforcent de mettre en place des garde-fous pour éviter les abus, mais elles ne peuvent pas contrôler les versions Open Source. Au moins un puissant outil de langage d’IA, créé par Meta, la société mère de Facebook, a déjà fait l’objet d’une fuite en ligne et a été rapidement publié sur le forum de discussion anonyme 4chan.

Les limitations de contenu de Midjourney sont plus permissives que celles de certains services rivaux (tels que DALL-E d’OpenAI), mais plus sévères que d’autres (par exemple, Stable Diffusion). Midjourney met en œuvre une modération a priori et maintient une liste de termes proscrits (comme Xi Jinping) « en rapport avec des sujets dans divers pays, en se basant sur les réclamations d’utilisateurs de ces nations« , d’après un message de David Holz datant d’octobre 2022. Néanmoins, il ne divulgue pas l’intégralité de cette liste pour éviter les « querelles« . Comme Holz l’a mentionné : « Quasiment personne ne prend jamais connaissance de [la liste des prohibitions] à moins de chercher délibérément à provoquer un conflit, ce qui est contraire à nos règles stipulées dans les CGU [conditions générales d’utilisation]« . Toutefois, cela n’empêche pas l’usage de synonymes ou de périphrases pour esquiver les filtres.

Les réseaux sociaux, qui ont déjà échoué dans la détection de l’ancienne génération de fake news avant l’arrivée de l’IA générative tentent également de jouer un rôle d’avertissement (en laissant le travail de vérification aux utilisateurs) :

En attendant, les démiurges de l’IA générative créent le virus tout en proposant l’antidote : OpenAI a mis en ligne un outil gratuit conçu pour aider les éducateurs et d’autres personnes à déterminer si un morceau de texte particulier a été écrit par un humain ou une machine. La littératie IA et l’éducation médias à une bonne dose de critique semblent plus qu’importants.

Conclusion

Dans un village artificiel infini où la barrière entre le langage naturel et le langage informatique vient d’être abolie, comment encore faire la différence entre vrai et faux ? Que répondre à ceux qui prétendent que peu importe si c’est faux, tant que l’histoire racontée est engageante, les concerne et répond à leurs idées et valeurs, bien fondées dans leur petite bulle de filtre des réseaux sociaux, où, depuis longtemps, on met au même niveau les faits et les opinions ? Textes, images, sons – à partir du moment où l’on touche la créativité, on se pose la question de la véracité (et, des fois, de la propriété intellectuelle). On peut craindre un monde débordant d’informations erronées et dépourvu de confiance. La désinformation engendrée par des textes, images et sons générés par l’IA pourra représenter un danger croissant pour nos sociétés.

Et le vrai risque bientôt de passer pour du faux ou alors disparaître au profit de réalités apocryphes. L’une des conséquences pourrait être que tout le monde devienne (encore) plus sceptique et méfiant à l’égard des informations – vous ne pourrez littéralement pas en croire vos yeux. Ces contenus trompeurs menacent la stabilité démocratique, exacerbent les divisions et abîment encore un peu plus la confiance dans les institutions. L’éducation aux médias et la sensibilisation critique sont des éléments clés pour renforcer la résilience de la population face à ces menaces. En développant l’esprit critique, en apprenant à vérifier les sources et en comprenant le fonctionnement des technologies de l’IA, nous pourrons nous prémunir contre les dangers de la désinformation et construire une société plus informée et résiliente.

Il s’agit tout simplement de garder ses réflexes car le système peut diverger à n’importe quel moment. Nous n’en sommes qu’au début de la première évolution de l’IA générative, et il faudra une politique réfléchie, de la modération et de l’innovation pour éviter que la désinformation générée par l’IA ne fasse des ravages. L’IA est aujourd’hui capable de prendre en compte le contexte, faisons de même pour garder notre esprit critique. Face à l’Intelligence Artificielle de plus en plus sophistiquée il faudra définitivement une bonne dose de bon sens humain.

Illustration de l’article : Un résultat de génération d’image par l’outil Midjourney, mars 2022 versus mars 2023, © Parker Molloy/Midjourney

Liens vagabonds : Google accélère dans la (FAST) télé

A RETENIR CETTE SEMAINE

Cette semaine, Google a annoncé accélérer dans la FAST TV. Sa plateforme de streaming Google TV intègre désormais l’accès à plus de 800 chaînes gratuites, financées par la publicité. Tandis que les plateformes de streaming payantes augmentent leurs tarifs, la free ad-supported streaming television – FAST TV (télévision gratuite en streaming, financée par la publicité) se développe. Google TV, Roku Channel, Amazon Freevee ou encore PlutoTV sont accessibles depuis un téléviseur connecté et proposent des chaînes thématiques qui diffusent de façon linéaire des programmes de flux… comme la télévision traditionnelle. 14% des Français la regardent déjà. Depuis deux semaines, les abonnés Freebox peuvent accéder à 7 chaînes thématiques lancées par le Groupe M6 (Konbini, Vice, Nouvelle Star, Zone interdite, Enquêtes Criminelles, Téléfilms et Telenovelas) et TF1 développe son offre MyTF1 Stream.

YouTube mène également une expérimentation. Et Netflix est tenté. “Nous sommes ouverts à tous ces différents modèles qui existent actuellement et nous gardons un œil sur ce segment, bien sûr« , a déclaré Ted Sarandos. Un segment dans lequel les dépenses publicitaires devraient dépasser celles des services de câble, de diffusion ou de SVOD d’ici 2025. De façon générale, c’est tout le secteur de la diffusion, du streaming, et de la télévision qui se recompose. Aux USA, YouTube a ainsi conclu un accord avec la N.F.L. et obtenu les droits de retransmission exclusifs des matchs en direct, qui étaient historiquement diffusés chaque dimanche sur le câble. Un séisme.

CETTE SEMAINE EN FRANCE

3 CHIFFRES

650 000 : c’est le nombre exceptionnel de téléchargements, la semaine dernière, aux USA, de Lemon8, la nouvelle application lancée par ByteDance. Un mélange entre TikTok, Pinterest et Instagram
35 % des Français disent croire aux théories du complot, contre 55 % des Américains, selon une étude de l’IFOP
WhatsApp, TikTok et Doctolib constituent le top 3 des apps les plus téléchargées en France cette année, selon la nouvelle étude sur les usages numériques menée par l’Arcep et l’Arcom

LE GRAPHIQUE DE LA SEMAINE

Source : chartr

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

– Que se passerait-il si vous remplissiez une ville virtuelle d’agents intelligents? Il s’avère… qu’ils se brossent les dents et sont très gentils les uns envers les autres. Un résultat peut-être peu excitant pour vous, mais une très bonne nouvelle pour les chercheurs qui cherchaient à reproduire des « simulacres crédibles du comportement humain ».

– L’idée était de voir s’ils pouvaient appliquer les dernières avancées des modèles d’apprentissage automatique pour produire des « agents génératifs » qui prennent en compte leurs circonstances et produisent une action réaliste en réponse.

By 2025 Autonomous AI Agents will be in every aspect of life.

They’ve been out for a week – and already the possibilities are mind-blowing.

But what are they? How did we just figure them out and whats next for us?

I’ll try my best to explain. Buckle up, its gonna be a douzey pic.twitter.com/SV3GbEUAr4

— Sully (@SullyOmarr) April 11, 2023

DONNÉES, CONFIANCE, LIBERTÉ DE LA PRESSE, DÉSINFORMATION

LÉGISLATION, RÉGLEMENTATION

JOURNALISME

STORYTELLING, NOUVEAUX FORMATS

ENVIRONNEMENT

RÉSEAUX SOCIAUX, MESSAGERIES, APPS

STREAMING, OTT, SVOD

MÉTAVERS, IMMERSION, 360, VR, AR

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

Dans une longue note au personnel ce matin, le rédacteur en chef d’Insider, Nich Carlson, indique l’expérimentation prochaine de l’IA, en voici des extraits:

In a lengthy note to staff this morning, Insider EIC @nichcarlson says the publication will begin experimenting with how to use AI for reporting and editing. Here are parts of the memo: pic.twitter.com/DooqYWaWEc

— Max Tani (@maxwelltani) April 13, 2023

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

OUTILS

Les prompts de la semaine [@barsee]

ES avec Kati Bremme, Myriam Hammad et Erwan Le Gal

« Choisissez votre journaliste » – Doit-on avoir peur des médias synthétiques ?

Cette semaine, le média Kuwait News a fait le buzz en annonçant sa potentielle présentatrice générée par intelligence artificielle et qui pourrait tenir un bulletin quotidien sur Twitter. Même s’il ne s’agit bien sûr pas des premières expériences en la matière (en Asie, on met depuis longtemps des présentateurs virtuels à l’antenne), depuis l’avènement de ChatGPT et la multiplication des fonctionnalités offertes par l’IA générative, plusieurs médias synthétiques entièrement créés par des intelligences artificielles sont apparus dans le paysage de l’information. Voici un bilan au mois d’avril 2023.

Par Myriam Hammad, MediaLab de l’Information

« Ceci n’est pas une présentatrice »

Les présentatrices et présentateurs synthétiques : ton avatar en IA

Les présentateurs générés par des avatars en IA étaient déjà présents sur Instagram à travers des flashs d’information générés sous forme de réels. C’est par exemple un usage depuis quelques mois maintenant, répétés en particulier par le magazine Antidote :

La génération de ces avatars est permise par plusieurs technologies : du text-to-voice, du text-to-video, ou du text-to-audio. Mais parfois aussi, avec la combinaison des trois et la proposition du choix d’un avatar, comme ce que propose la startup synthesia.io.

Les vidéos générées sur synthesia peuvent être le fait de paramètres pré-remplis qu’il suffit de cocher, ou bien, être plus personnalisables. D’abord en opérant une sélection parmi plus de 125 avatars, ou en générant soi-même le sien. Pour le “construire”, il suffit de s’enregistrer sur un fond vert avec un script fourni par la société durant une quinzaine de minutes. Des conseils sous formats vidéos sont donnés pour pouvoir réaliser les enregistrements humains dans les meilleures conditions et pour que la version IA en soit la plus fidèle possible. L’on peut en retrouver toutes les astuces ici. Les voix peuvent également être choisies dans 125 langues disponibles mais sont tout aussi personnalisables. Concernant les abonnements, synthesia propose une première offre à 26 dollars/mois pour 10 vidéos. La création de son propre avatar IA revient à 1000 dollars par avatar.

Les sites internets et newsletters générés par IA : véritable information ?

Mais d’autres médias synthétiques ont également vu le jour. Ces derniers se présentent comme des médias libérés de tout biais existant, créés pour montrer l’information “réelle”. Ces discours peuvent paraître à première vue contre-intuitifs – l’intelligence artificielle et le contenu présent sur internet n’étant pas non plus dénué de biais humains. Chaque source étant par définition le produit d’une agence, d’un média, d’un journaliste – eux-mêmes marqués par leurs propres lignes éditoriales et contraintes.

Prenons l’exemple de NewsGPT. NewsGPT est un site internet et une newsletter qui rapportent des brèves d’information sur l’actualité américaine et mondiale. Le contenu se génère automatiquement selon des sources et des images rencontrées par l’algorithme au cours de la journée (bonjour la propriété intellectuelle). Les sources en question ne sont pas rendues transparentes. Le GPT d’OpenAI – le large modèle de langage (LLM) qui alimente le chatbot viral ChatGPT d’OpenAI – n’est d’ailleurs même pas capable de partager ses sources, n’étant pas construit avec cet objectif.

NewsGPT a été lancé au début de l’année 2023 et présente sur sa bannière la mention suivante :

Soit un pitch reposant sur une information « réelle et non biaisée ». Mais cette mention semble entrer quelque peu en contradiction avec les termes et conditions de NewsGPT :

Cet article (le numéro 5 donc) nous éclaire sur la façon dont le contenu n’est pas vérifié : il n’est pas revu régulièrement, il n’existe pas de vérification indépendante de ce qui est publié. Les créateurs ne supportent pas les opinions qui pourraient être émises et ne pourraient être tenus pour des défauts ou des inexactitudes présents dans les articles. L’on a donc ici, encore un peu de difficulté à savoir comment le contenu généré par IA pourrait permettre de lutter contre la désinformation, sans aucune intervention humaine. Les précautions prises témoignent par ailleurs d’un existant qui n’est pas tout à fait abouti. Mais la promesse affichée, partagée sur Twitter en faisant découvrir NewsGPT est celle-ci :

Cependant, force est de constater qu’il existe encore assez peu d’abonnés à cette initiative.

Un autre site a récemment attiré l’attention des commentateurs : celui de Generative Press. Le site d’information se présente également comme un site de brèves d’information, parfois plus originales car elles sont rédigées par quatre « personnalités » différentes (générées par IA) de journalistes.

Les informations sont produites à partir “d’informations populaires, de tweets des journalistes et de citoyens vérifiés”. Il n’existe ni équipe éditoriale, ni information humaine. Les derniers articles de Generative Press remontent à janvier 2023. Le site a été lancé par deux ingénieurs, qui reconnaissent eux-mêmes qu’il s’agit plus d’un site conçu à des fins de divertissement, qu’à un vrai site d’information :

Eto News est aussi un média synthétique qui a été crée pour s’orienter vers de l’actualité politique. Il est hébergé sur Substack et se présente comme “ un service sélectionnant trois à cinq organes d’information de l’ensemble du spectre politique et résumant leurs articles de manière impartiale et factuelle à l’aide du tableau de partialité des médias. Pour ce faire, nous utilisons eto, un outil développé par ChatGPT. Notre objectif est de fournir aux lecteurs des informations factuelles, afin qu’ils puissent se forger leur propre opinion, à l’abri de l’influence des programmes politiques ou des médias à sensation. Avez-vous remarqué des erreurs ou des biais dans notre travail ? N’hésitez pas à nous faire part de vos commentaires par courrier électronique !” On observe pour Eto News une différence avec ceux mentionnés précédemment : les articles mentionnent leurs sources directes, et il existe la possibilité de contacter une équipe humaine en cas d’erreur mentionnée dans les articles.

Enfin, Artifact, présenté au début du mois de mars 2023 par les créateurs d’Instagram, a ajouté cette semaine une nouvelle fonctionnalité : la possibilité pour les utilisateurs de se créer un profil et de pouvoir commenter les articles lus. Certains appellent d’ailleurs à des développements, qui peuvent laisser sceptiques sur le rapport à l’information de chaque citoyen. Les schémas parfois enfermant des algorithmes lorsqu’il s’agit de recommandations (musicales ou de streaming) semblent peu souhaitables au cadre de l’information – qui nécessite toujours une analyse critique propre à chacun.

L’humain dans la boucle est indispensable

La présentation de ces différents médias synthétiques interpelle a minima sur deux aspects avant de parler des droits d’auteur : la créativité et la neutralité journalistique. Sur ce dernier point, les expériences de rédaction ayant utilisé l’IA pour générer du contenu sans vérification humaine, ont vite montré leurs limites. C’est l’expérience notamment du CNET, qui avait dû mettre en pause les articles générés par de l’intelligence artificielle, après que de “flagrantes coquilles” et un manque de transparence aient été mis en lumière.

Buzzfeed continue de poster des articles dont le contenu a été généré par IA : un assistant créatif par IA a été lancé. Mais les articles concernent principalement des destinations de voyage. A se demander si utiliser l’IA ne mériterait pas autrement, une réflexion pour évoluer vers de nouveaux formats au lieu d’essayer de copier (mal) l’existant.

La neutralité est une notion depuis longtemps débattue. La façon dont chaque journaliste souhaite exercer son métier et le cadre dans lequel il le fait et auquel il est tenu s’éloignent de plus en plus l’un de l’autre.

Quant à la créativité, comme le soulignait récemment Sigal Samuel, journaliste chez Vox, les IA génératives “ utilisent le passé pour construire l’avenir “. Ne générer du contenu que par ce biais conduirait invariablement à une forme d’homogénéisation du monde – une intuition partagée par Raphaël Millière, expert en philosophie de l’IA à l’université de Columbia. D’autant que les articles les plus lus, seraient ceux qui pourraient être les plus mis en avant, selon les algorithmes établis par les géants et renforcer encore plus la bulle de filtre. Une perspective, qui ne peut qu’inviter les rédactions, les journalistes et les créateurs à se saisir de ces nouveaux outils, à en fixer les contours et leurs utilisations et à en tirer de nouveaux usages pour le futur.

Liens vagabonds : Twitter et les médias, je t’aime, moi non plus

A RETENIR CETTE SEMAINE :

Partir ou rester sur Twitter ? Cette semaine, les enfantillages de son propriétaire, Elon Musk, ravivent les craintes au sujet de l’avenir du réseau social et renforcent le dilemme des journalistes. Lundi dernier, Twitter a déployé son nouveau plan de certification, désormais accordée à tous les comptes qui paient pour l’obtenir. Le New York Times et plusieurs autres grands médias ont d’ores et déjà prévenu qu’ils ne souscriront pas à un abonnement “qui ne valide plus l’expérience ni l’expertise”. Dans la foulée, Elon Musk a fait retirer le badge doré du New York Times, comparant le media, dans un tweet, à un organe de “propagande”. Le même jour, le compte de NPR, radio américaine en partie financée par des fonds publics, mais totalement indépendante éditorialement, était, lui, labellisé… de “média affilié à l’État ».

Pire, les journalistes qui cherchent à contacter le service de presse de Twitter reçoivent désormais une réponse automatique : l’emoji 💩… Même Reporters sans Frontières s’en est ému. Pour beaucoup, ces décisions inacceptables devraient convaincre les journalistes d’abandonner le réseau social. Alex Kantrowitz y voit une opportunité pour eux de développer leur propre média. Mais Twitter reste un outil essentiel pour trouver des sujets et des sources (notamment sur l’actualité de l’IA générative), développer son réseau, engager son audience, légitimer son expertise, et construire sa propre “marque”.

I had hoped by now that the media would have begun to divorce Twitter. Instead, some journalists are doubling down.

Some thoughts on why:https://t.co/K6ho9SPZ8v pic.twitter.com/OMu5BRV11g

— Casey Newton (@CaseyNewton) April 5, 2023

Alors, “je pars où je reste ?” La solution consisterait peut-être à suivre le conseil que le NYT délivrait il y a déjà un an à ses équipes : “Tweet less, tweet more thoughtfully, and devote more time to reporting.”

Cette semaine en France

3 CHIFFRES

300 millions – c’est le nombre de postes qui seraient menacés par les IA

60% – C’est la baisse estimée des revenus des employés de Twitter en 2022

14,5 millions d’euros d’amende – c’est la sanction de TikTok au Royaume-Uni pour ne pas avoir assez protégé les données des enfants

LE GRAPHIQUE DE LA SEMAINE

Source: Statista

NOS MEILLEURES LECTURES / DIGNES DE VOTRE TEMPS / LONG READ

Le Stanford Institute for Human-Centered Artificial Intelligence (HAI) publie son rapport 2023 sur l’IA. Que faut-il en retenir?

Stanford just released a MASSIVE 386-page report on the state of AI.

Here are the 12 most interesting trends that you should know.

— Pete (@nonmayorpete) April 3, 2023

Le nombre total de publications consacrées à l’IA a plus que doublé depuis 2010.
Les nouveaux modèles d’IA sont aujourd’hui des millions de fois plus entraînés qu’il y a 10 ans.
En l’espace de seulement trois ans, les modèles linguistiques sont devenus beaucoup plus puissants [cf Transformers].
Le financement des startups d’IA a triplé au cours des 10 dernières années. 57 des 273 entreprises du dernier lot YC travaillent avec l’IA générative.
Les Chinois croient davantage en l’avenir de l’IA que les Américains.
Les entreprises ont aujourd’hui remplacé la recherche universitaire dans le développement de systèmes d’IA de pointe.

et aussi :

DONNÉES, CONFIANCE, LIBERTÉ DE LA PRESSE, DÉSINFORMATION

LÉGISLATION, RÉGLEMENTATION

JOURNALISME

STORYTELLING, NOUVEAUX FORMATS

ENVIRONNEMENT

RÉSEAUX SOCIAUX / MESSAGERIES

INTELLIGENCE ARTIFICIELLE, DATA, AUTOMATISATION

MONÉTISATION, MODÈLE ÉCONOMIQUE, PUBLICITÉ

OUTILS

IA génératives : quels sont les meilleurs modèles pour générer des images ? [L’ADN]

ES avec Kati Bremme, Myriam Hammad et Erwan Le Gal

Liens vagabonds : Doit-on tout arrêter ?

A RETENIR CETTE SEMAINE

Cette semaine, une lettre ouverte appelant à une « pause » de six mois dans les travaux sur l’intelligence artificielle avancée divise l’industrie tech, non seulement entre partisans et sceptiques de l’IA, mais aussi entre les différentes factions de ses critiques. Elon Musk, Steve Wozniak, cofondateur d’Apple, et plus de 1000 autres personnalités apellent à se poserr poser quelques questions avant de lancer la version 5 de GPT, notamment autour de la désinformation, du remplacement des travailleurs humains (y compris des cols blancs cette fois-ci), et de la finalité de ces IA. Voeu pieux, qui semble irréalisable face à la vitesse des développements (cf la liste ci-dessous) et aux enjeux économiques. Même s’il arrangerait bien ceux qui semblent en retard, comme la Chine, qui vient encore de repousser la sortie de sa réponse à ChatGPT. Sundar Pichai, PDG de Google, prévient à propos de ce momentum de l’IA : « Vous nous [Google] verrez faire preuve d’audace« .

🔴BREAKING🔴@UNESCO calls for countries to immediately implement its Recommendation on the Ethics of #ArtificialIntelligence.

This comes after over 1000 tech workers called this week for a pause in the training of the most powerful #AI systems.

📰 https://t.co/Pb7XMfY2ph pic.twitter.com/h4eLdKZafZ

— UNESCO 🏛️ #Education #Sciences #Culture 🇺🇳 (@UNESCO) March 30, 2023

Mais il s’agit aussi de revenir sur terre et de sortir des scénarios dystopiques d’une IA surpuissante, prête à éradiquer l’humanité (certains ont définitivement regardé trop de films de science-fiction). L’IA n’est ni artificielle ni intelligente. On peut même essayer de la réguler (le European AI Act est en train de trouver le bon curseur pour évaluer la dangerosité des derniers modèles de fondation). Le régulateur italien vient de bannir (temporairement) ChatGPT sur son territoire. Plutôt que d’arrêter le progrès (notamment rendu possible par la large diffusion de ces outils), il semble urgent de mieux comprendre les opportunités et risques des IA génératives. Les algorithmes sont définitivement en train de changer nos vies, à nous de faire en sorte que cela soit pour le mieux.

Mars 2023, le mois de l’IA :

March of 2023 will go down as one of the most revolutionary months in history.

AI developments released this month changed the world forever.

Here’s the rundown of the biggest events that happened 👇 pic.twitter.com/fAxzg4iUCi

— Rowan Cheung (@rowancheung) March 31, 2023

Les IA de la semaine (non exhaustif) : +de 360 outils fabriqués à partir de l’IA en 7 jours

Zoom étend son assistant avec OpenAI
ChatGPT4 pour créer de la musique et en éditer avec des changements de voix
Nouveaux outils text-to-video
Remplacer Siri par ChatGPT
GPT4All, un nouveau type d’assistant
ChatGPT pour créer des jeux d’arcade

…