Bienvenue dans l’ère post-industrielle des fausses nouvelles

Le stade industriel de la fausse nouvelle

L’avènement de l’ IA générative permet de créer de nouveaux contenus (du texte, des images, du code, de la musique…) sur demande et à coût presque nul. Vous avez surement vu ces exemples: des fausses images du pape François en doudoune ou d’une arrestation musclée de Donald Trump  dans la rue. Des  hyper-trucages (Deep fakes): des fausses vidéos de personnalité. 

L’IA a suivi le même processus de démocratisation que la micro-informatique et internet avant elle: autrefois réservée à des spécialistes, elle est devenue accessible à tous. L’IA est aujourd’hui bon marché, accessible et peu encadrée juridiquement.

Un exemple frappant nous est donné par Jean-Hugues Roy dans  Quebec Science: « Il est facile de créer une interface web pour quelqu’un qui maîtrise un peu l’informatique et la programmation avec GPT [le modèle d’intelligence artificielle utilisé par ChatGPT]. Il suffit de fournir des textes tirés d’un site web de désinformation et de demander de les traduire et de les adapter pour le Québec en ajoutant des superlatifs et du contenu sensationnaliste ».

De la presse jaune à chatGPT: bienvenue dans l'ère post-industrielle des fausses nouvelles.

À la fin du XIXe siècle est apparu ce que l’on a appelé la presse jaune aux États-Unis: un journalisme sensationnaliste qui faisait les  manchettes avec des titres trompeurs. On était déjà dans une forme d’industrialisation de la fausse nouvelle.On va aussi utiliser beaucoup de photos, éventuellement modifiées, ou des vues d’artistes….

L’inventeur de cette presse, est le fameux magnat de la presse William Randolph Hearst qui va inspirer le personnage de Citizen Kane qu’Orson Welles va incarner et diriger en 1941.

Mais ce qui est nouveau avec l’IA, c’est qu’on n’a presque plus besoin de main d’œuvre…  William Randolph Hearst avait besoin de journalistes pour écrire ses fausses nouvelles dans sa presse jaune. Ce n’est plus le cas aujourd’hui.

Et cela profite à ce qu’on appelle des fermes de contenu: des sites qui utilisent des petites mains pour produire des articles à la chaîne et qui maximisent leurs revenus publicitaires en amenant un maximum de trafic sur leur page. Ces fermes commencent à automatiser leur production et génèrent de façon automatique des articles sensationnalistes et des fausses nouvelles en masse grâce à l’IA. Selon NewsGuard, une jeune pousse qui évalue la crédibilité des sites web d’actualité, on recenserait  à ce jour 452 sites d’information et d’actualité générés par l’IA et gérés sans supervision humaine. Une de leur technique est de reprendre des articles existants et de les réécrire avec l’IA en lui demandant de dramatiser la situation pour les rendre plus cliquables.

L’IA est meilleure que l’humain pour faire croire à ces fausses informations

La désinformation générée par l’IA est non seulement moins chère, plus rapide, mais elle serait aussi un peu plus efficace. Dans une étude parue dans le magazine Science Advances, trois chercheurs de L’université de Zurich ont mis en évidence que les fausses informations rédigées par l’IA sont davantage crues que celles rédigées par les humains. Les résultats de l’étude montrent que les participants étaient 3% moins enclins à croire les faux tweets rédigés par des humains plutôt que ceux rédigés par GPT-3.  Les articles seraient plus concis et plus simplement écrits.

D’autre part, les articles générés par l’IA deviennent si réalistes que même les médias d’information s’y trompent. L’Irish Times, un quotidien irlandais, s’est fait prendre en relayant  un article intitulé « Pourquoi l’obsession des Irlandaises pour le faux bronzage est-il problématique ». L’article d’opinion, écrit par une certaine Acosta Cortez accusait les Irlandaises utilisant des produits de bronzage de faire de l’appropriation culturelle et de fétichiser les personnes à la peau foncée.

Problème, cette Acosta-Cortez, comme l’humoriste Sonia Bélanger (du bistro Le Troquet, à Gatineau), n’existe pas: son profil a été généré par une IA. La personne derrière ce canular affirme avoir voulu faire rire ses amis en se moquant des dérives du Wokisme (du libéralisme culturel). Fait surprenant ici : c’est la capacité de l’IA à identifier des sujets clivants comme l’appropriation culturelle et être capable de générer du contenu sur ces sujets en utilisant fort bien cette boîte à outil théorique.

Comment se prémunir contre ses fausses nouvelles?

Plusieurs pistes de solutions ont été explorées.  On parle beaucoup de la formation du public, notamment dans les écoles. Des organismes comme le Centre québécois d’éducation aux médias et à l’information et l’Agence Science-Presse misent notamment sur la formation du public pour que celui-ci puisse détecter les fausses nouvelles. Reporter sans frontière a proposé l’idée d’un système de certification qui garantirait que les sites diffusent de l’information crédible.  

L’Europe a mis l’accent sur la régulation politique des plateformes technologiques. Les plateformes comme Google essaient aussi de dé-lister ces sites. 

Mais beaucoup de spécialistes recommandent de travailler en amont dans l’entraînement de ces IA, c’est-à-dire en les entrainant uniquement avec des informations vraies et pertinentes, ce qui oblige les entreprises d’AI à travailler avec des médias reconnus pour la qualité de leur contenu informationnel.

Mais cette collecte de données risque d’être le prochain champs de bataille entre les médias d’information et les entreprises de technologie. Des grands groupes comme le « New York Times », CNN, Reuters, Le Monde, ont d’ors et déjà bloqué l’accès des robots de collecte de données des entreprises d’IA.

Vous connaissez le diction: “Chat échaudé craint l’eau froide”, D’une mésaventure naît un excès de prudence. Ces médias se rappellent très bien qu’il y a bientôt 25 ans, ils ont donné gratuitement l’accès de leur contenu à Google news avec les conséquences que l’on connaît. Ils se sont fait piller leurs pages et n’ont pas eu grand chose en retour. Ces contenus vérifiés sont la richesse de ces médias et ils entendent bien aujourd’hui  la vendre à son juste prix.