LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’idée de concevoir un détecteur de ChatGPT paraît innovante. Le concept est clair : catégoriser les textes générés par l’IA. Pourtant, l’approche ne plaît pas à tout le monde. OpenAI hésite toujours au lancement de cette technologie.
L’IA est un incontournable dans la vie quotidienne. Certes, elle reste un outil pour la majorité des utilisateurs. Mais certains abusent de la performance de cette technologie. Il existe désormais plusieurs articles rédigés par l’IA sur le web. Pour OpenAI, la meilleure solution pour résoudre ce problème est de concevoir un détecteur de ChatGPT. Mais l’approche ne fait pas l’unanimité auprès de tous.
Détecteur de ChatGPT : une technologie efficace à 99,9 %
Des sources anonymes ont récemment divulgué des données importantes concernant ce détecteur de ChatGPT. OpenAI n’avait plus le choix, et devait confirmer l’existence de cette technologie. Selon cet article, l’outil est capable d’identifier presque tous les contenus IA. Il est efficace à 99,9 %.
La technologie d’OpenAI est alors la plus performante à l’heure actuelle. Turnitin, un outil similaire, montre un taux d’échec de 15 %. Les autres innovations arrivent à peine à dépasser ce seuil.
“La méthode de tatouage de texte que nous développons est techniquement prometteuse, mais elle comporte des risques importants que nous évaluons pendant que nous recherchons des alternatives, notamment la vulnérabilité au contournement par des acteurs malveillants et le potentiel d’impact disproportionné sur des groupes tels que les non-anglophones. Nous pensons que l’approche délibérée que nous avons adoptée est nécessaire compte tenu des complexités impliquées et de son impact probable sur l’écosystème plus large au-delà d’OpenAI.”explique les spécialistes d’OpenAI dans sa publication.
Toutefois, cette technologie n’est pas infaillible. OpenAI a même donné quelques astuces à ceux qui veulent la contourner. Il suffit de reformuler les textes sur des logiciels spécifiques et le tour est joué. Il existe aussi une autre technique assez maligne. L’utilisateur n’a qu’à insérer des caractères spéciaux entre les mots pour duper le détecteur de ChatGPT.
Dites adieu aux rédactions entièrement faites par l’IA
C’est une évidence, le détecteur de ChatGPT sera un grand atout pour l’éducation. Souvenez-vous de ces étudiants qui ont rédigé leur mémoire par l’intermédiaire de cette IA d’OpenAI. Ce n’est plus qu’un mauvais souvenir. Les enseignants n’ont qu’à utiliser cette technologie pour vérifier l’authenticité des textes.
Pourtant, OpenAI craint encore que son outil soit décrypté par des spécialistes de la tech. Cette situation est inévitable, surtout si l’entreprise prévoit un lancement à grande échelle. Il faut alors consolider le système de sécurité de cette innovation avant de l’étendre au grand public.
OpenAI n’est pas une pionnière dans ce secteur
Non, Sam Altman et ses équipes n’ont pas inventé la technologie de détection de contenus IA. Toutefois, ils ont l’outil le plus performant à l’heure actuelle. Google a déjà annoncé une stratégie similaire, avec SynthID. L’entreprise reconnaît ouvertement l’existence de cet outil.
Par contre, OpenAI n’a pas toujours été clair concernant le détecteur de ChatGPT. Actuellement, elle évalue encore les risques à propos des impacts de cette innovation. À quand le lancement officiel ?
Restez à la pointe de l’information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d’avance.
- Partager l'article :
