LEBIGDATA.FR I.A, Cloud & Cybersécurité
Alerte ! Des chercheurs attirent l'attention sur un danger potentiel que peut représenter l'IA en cas de guerre. La secrétaire adjointe Jennifer Swanson informe sur la possibilité d'empoisonnement des puits de données dont l'IA boit pendant la conférence du Potomac. Cela risque ainsi de saboter les algorithmes utilisés en cas de guerre.
Depuis sa création, l'IA est utilisée dans plusieurs secteurs. Récemment, de plus en plus de pays l'utilisent comme arme de guerre considérée comme hyper puissante. Toutefois, des chercheurs pensent que l'utilisation de l'IA en cas de guerre est limitée. En effet, les adversaires risquent d'empoisonner les puits de données, causant le sabotage des algorithmes.
L'empoisonnement de données de l'IA, un frein pour la prise de décision sur le champ de bataille
D'après Jennifer Swanson « Tout LLM commercial qui existe, qui apprend sur Internet, est aujourd'hui empoisonné ». « Mais notre principale préoccupation [est] ces algorithmes qui vont éclairer les décisions sur le champ de bataille », déclare-t-elle.
Depuis un certain temps, le Pentagone compte énormément sur l'Intelligence Artificielle et le big data pour gagner les batailles. En revanche, le chef des acquisitions de logiciels de l'armée annonce la possibilité d'empoisonnement des puits de données utilisés par l'IA par les adversaires, gâchant astucieusement les algorithmes dont se servent les États-Unis dans le futur.
« Je ne pense pas que nos données soient empoisonnées maintenant », a annoncé la secrétaire adjointe adjointe Jennifer Swanson, mercredi pendant la conférence du Potomac Officers Club. « Mais lorsque nous combattons un adversaire quasi-égal, nous devons savoir exactement quels sont ces vecteurs de menace. »
Le principal problème réside sur le fait que tous les algorithmes d'apprentissage automatique sont basés sur une multitude de données. Le pentagone fait beaucoup d'efforts pour réunir, conserver ou encore nettoyer ses données de manière à ce que les algorithmes analytiques ainsi que les jeunes IA puissent en tirer quelque chose. En général, une équipe chargée de préparer les données doit enlever chaque point de données fictives avant que l'algorithme puisse définir la mauvaise chose.
Vers une meilleure solution pour se protéger contre l'empoisonnement des données
Les derniers modèles de chatbots commerciaux de Microsoft Tay conçus à partir de 2016 jusqu'à 2023 sont programmés pour sentir le racisme et la désinformation, mais surtout tout type de contenus Internet qu'ils consomment. Selon Swanson, le plus alarmant « c'est que les propres données d'entraînement de l'armée pourraient être délibérément ciblées par un adversaire ». Il s'agit d'une technique assez courante appelée « empoisonnement des données ».
Elle a soutenu que le Pentagone a mieux à faire que de générer de meilleurs chatbots. « Je pense que [l'IA générative] est réparable » a-t-elle informé. « Tout est vraiment une question de données. » Il n'est plus nécessaire de former un LLM sur Internet ouvert, à l'instar d'OpenAI et al. Elle conseille l'armée de créer des données militaires à la fois fiables et évaluées dans un milieu sécurisé et soutenu par un pare-feu. Elle recommande formellement un système au niveau d'impact DoD 5 ou 6.« J'espère que d'ici cet été, nous disposerons d'une capacité IL-5 LLM que nous pourrons utiliser », a-t-elle souligné. « Cela peut aider avec toutes sortes de fonctions de back-office, résumant des quantités d'informations pour rendre les processus bureaucratiques plus efficaces, a-t-elle déclaré. » « Mais notre principale préoccupation [est] les algorithmes qui vont éclairer les décisions sur le champ de bataille. »
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
