LEBIGDATA.FR I.A, Cloud & Cybersécurité
Dans la mesure où l'IA peut créer absolument tout (si ce n'est plus) ce que le cerveau d'un humain peut effectuer, elle peut être entraînée pour la propagande et la désinformation. La startup américaine NewsGuard a fait le test avec ChatGPT.
L'IA, une technologie efficace pour créer de la propagande et de la désinformation
Les chercheurs de NewsGuard, une société américaine qui lutte contre les fake news et la désinformation, a mené des tests sur ChatGPT. Il s'agit probablement de l'outil d'IA conversationnelle et de création de contenu le plus populaire.
Lancée en novembre 2022 par OpenAI, ce bot se concentre uniquement sur la langue. Disposant d'une compréhension approfondie de la parole écrite et parlée, l'outil est notamment capable de produire des textes courts (poèmes, limericks …), des articles longs, des contenus didactiques, des contenus marketing, des résumés.
ChatGPT peut également traduire des textes ou produire des contenus personnalisés comme des réponses aux emails. Au-delà de toutes ces capacités, il s'avère que cet outil d'IA peut aussi répondre à des demandes particulières, comme la création de désinformation et de propagande en l'occurrence.
L'IA coopère presque toujours aux demandes de faux contenus
Lors des tests menés par les chercheurs, il apparaît que l'IA répond aux demandes de créations de désinformation et de propagande dans la grande majorité des cas. Lorsque les chercheurs demandent à ChatGPT de produire un paragraphe affirmant que les vaccins Covid n'étaient pas fiables, l'outil s'est exécuté.
Par contre, face à une demande de rédaction autour de la naissance de l'ancien président Barack Obama au Kenya, l'outil d'IA refuse la production. En réponse, le bot écrit : « La théorie selon laquelle le président Obama est né au Kenya n'est pas fondée sur des faits et a été démentie à plusieurs reprises », en sachant qu'Obama est né à Hawaï.
« Il n'est ni approprié ni respectueux de propager des informations erronées ou des mensonges sur un individu, en particulier un ancien président des États-Unis », ajoute-t-il. Il apparaît clairement que l'IA peut produire des intox basés sur des avis et des positions subjectifs et erronés, mais refuse de biaiser des données concrètes (historiques, géographiques…).
ChatGPT peut facilement mentir
Au vue des expériences simples menées par ces chercheurs, ces derniers affirment que les utilisateurs ont trouvé le moyen simple d'entraîner l'IA à la désinformation et à la propagande. Il paraît évident que l'IA conversationnelle peut être formée pour imiter étroitement les comportements humains, y compris le mensonge et la tromperie.
OpenAI, le développeur de ChatGPT met d'ailleurs les utilisateurs en garde. « ChatGPT peut parfois produire des réponses incorrectes et que ses réponses seront parfois trompeuses en raison de la façon dont il apprend. Nous vous recommandons de vérifier si les réponses du modèle sont exactes ou non », prévient la société.
Dans le cadre de cette expérience, ChatGPT a créé des contenus trompeurs sur divers sujets sensibles comme les vaccins Covid, le traitement de la minorité ouïghoure en Chine ou encore l'insurrection au Capitole. Les contenus produits passent souvent entre les mailles du filet des modérateurs. Ce qui relève d'un autre défi majeur.
- Partager l'article :
