LEBIGDATA.FR I.A, Cloud & Cybersécurité
Alors que l'IA est à présent utilisée dans le monde dans le domaine du numérique, l'Unesco lance un message d'alerte. Il peut s'avérer que l'usage de cet outil puisse être détourné afin de diffuser des idéologies négationnistes. L'IA peut-elle alors dire des mensonges antisémites ?
Ce n'est pas à exclure, car selon l'Unesco, les outils d'intelligence artificielle sont parfois utilisés par des groupes extrémistes pour diffuser des messages. Le racisme antisémite peut en faire partie.
Notre capacité collective à reconnaître les faits et à distinguer le vrai du faux, menacée par l'IA ?
Comme toute forme de production d'information et de savoir, l'intelligence artificielle va assembler des informations afin de produire un texte, une image ou n'importe quelle forme de message. Puis, cette production peut être détournée par la suite. Sans le vouloir, l'IA peut donc fabriquer des mensonges.
C'est une véritable menace, car la teneur, l'exactitude et la complexité d'une histoire peuvent être changés. Comme l'image montrant Emma Watson lisant Mein Kampf, l'IA peut donc illustrer un contenu extrémiste, antisémite, raciste, négationniste. De plus, les sources dont elle s'inspire ne sont pas forcément fiables. Ce qui engendre la prise en compte d'un savoir limité et déjà manipulé.
Comment l'IA s'approvisionne en contenu mensonger ?
Après la parution du rapport à l'Unesco de ce mardi, on ne sait pas comment ça fonctionne mais l'IA peut se baser sur du contenu négatif. Il y a quand même des garde-fous qui sont mis en place pour éviter que l'IA ne tienne compte de parfaits mensonges ou de contenus offensants et dangereux. Mais ceux-ci peuvent être contournés par les hackers.
Il suffit de nourrir ces sources négationnistes dans lesquelles vont puiser les modèles d'intelligence artificielle. Ce qui crée une chaîne que les groupes extrémistes utilisent. Ils emploient des stratégies de jail breaking simples. Il suffit de poser des questions offensantes et extrémistes en continu à l'IA qui va être obligés d'aller chercher des réponses pour créer un nouveau contenu extrémiste et antisémite.
Le grand public doit être sensibilisé sur le sujet
Il est véritablement important que le public qui voit ces créations artificielles puisse les distinguer. Il est primordial de garder un esprit critique. Même si actuellement, il est difficile de faire la différence entre une photo deep fake et une photo d'archive, il faut s'efforcer.
Pour ce faire, cela commence sur les bancs de l'école. Les systèmes éducatifs actuels doivent informer les jeunes sur l'utilisation de l'IA et ces détournements. De cette manière, les élèves peuvent être protégés contre les discours de haine et la désinformation. Les mensonges de l'IA sur les théories du complot ne pourront donc pas véhiculer des idées racistes ou antisémites.
Voici comment l'IA a créé l'hallucination de la Shoah par noyade
Lorsque vous faites des recherches, les réponses dépendent aussi des espaces linguistiques. Par exemple, si vous faites une recherche en anglais ou en français sur la Shoah ou l'holocauste, vous allez avoir beaucoup plus de sources que si vous faites une recherche en chinois ou en russe.
Mais lorsqu'une IA manque de sources, elle comble ses lacunes. Et cela, en produisant par lui-même un contenu basé sur de fausses informations. Ce phénomène s'appel hallucination.
Sauf que là, c'est spécialement grave. Les mensonges de l'IA peuvent réécrire l'histoire d'un génocide. Elle est manipulée aujourd'hui par des groupes extrémistes pour diffuser de fausses informations.
Quelles solutions adoptées pour contrecarrer les mensonges de l'IA ?
Alors que les messages mensongers créés par l'IA concernant les événements de la Shoah sont monnaie courante sur les réseaux sociaux, des solutions existent. Dans le cadre d'un partenariat entre l'Unesco, Meta, Storyfile, le Congrès juif mondial et la Claims Conference, des outils pédagogiques ont été développés.
Ils sont mis à disposition des utilisateurs. Cette fois l'IA est vraiment utilisée à des fins éducatives, et de manière à produire un contenu interactif qui soit attractif pour les plus jeunes.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
