LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une récente enquête de 404 Media a révélé une tendance inquiétante sur Google Images. La plateforme du géant de la recherche regorge désormais d'images générées par IA de célébrités féminines en tenues révélatrices.
Des résultats de recherche troublants
L'investigation a mis en lumière une faille inquiétante dans l'algorithme de Google Images. Des recherches anodines sur des célébrités féminines aboutissent fréquemment à des images générées par IA, qui sont souvent représentées dans des poses suggestives.
Plus inquiétant encore, certaines recherches montrent des images de ces célébrités en tant que mineures, dans des situations inappropriées, même si l'utilisateur n'a pas explicitement recherché ce type de contenu.
L'enquête a également permis de découvrir un véritable labyrinthe de contenus encore plus problématiques, à la limite de l'illégalité. En suivant les liens qui accompagnaient ces images générées par l'IA, les journalistes ont en effet découvert des sites au contenu encore plus explicite. Certaines images faisaient même référence à l'île tristement célèbre de Jeffrey Epstein, ce qui laisse planer le spectre d'un trafic sexuel sur mineurs.
Google face à un défi titanesque
Un porte-parole de Google a reconnu l'existence de cas où leur système de classement peut mettre en avant du contenu qui ne répond pas à leurs standards de qualité. L'entreprise assure toutefois travailler à l'amélioration continue de ses algorithmes pour prévenir l'apparition de contenu de faible qualité, notamment celui généré par IA.
En d'autres termes, la prolifération des deepfakes et l'utilisation abusive de contenus synthétiques menacent de submerger les systèmes de modération actuels. Les experts s'accordent en outre à dire que nous n'en sommes qu'au début de ce problème.
La capacité de Google et des autres acteurs du monde numérique à s'adapter rapidement à cette nouvelle réalité déterminera en grande partie la sécurité et la fiabilité de notre environnement en ligne dans les années à venir.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
