De nos jours, il est quasiment impossible de distinguer ce qui a été écrit par un être humain de ce qui a été craché par un chatbot IA. Les gens se sont penchés sur ce problème depuis les débuts de l'IA. Eh bien, l'une des entreprises d'IA les plus populaires dispose d'un outil qui pourrait lui permettre de réduire ce problème, mais elle ne l'utilise pas. OpenAI dispose d'un outil d'identification par empreinte digitale qui permet aux gens d'identifier quand un texte a été généré avec ChatGPT.
OpenAI dispose d'un outil d'empreintes digitales pour ChatGPT
Nous connaissons tous les problèmes majeurs liés à la génération d'IA. Pourquoi perdre du temps à rédiger votre rapport universitaire alors que vous pouvez simplement demander au professeur ChatGPT ? D'innombrables étudiants ont pu tricher dans leurs cours grâce à l'IA, et personne n'a trouvé de moyen fiable de le détecter.
Les choses allaient mal au début, et elles n’ont fait qu’empirer près de deux ans après la création de ChatGPT. Eh bien, la société à l’origine de ChatGPT, OpenAI, dispose en fait d’un outil puissant qui pourrait contribuer à réduire considérablement ce type de pratique. Il s’agit d’un outil d’empreinte digitale. En gros, lorsque quelqu’un génère du texte à l’aide de ChatGPT, l’outil applique une « empreinte digitale » au résultat.
Cette empreinte digitale est un modèle détectable appliqué au résultat qui est impossible à détecter par les humains. Cependant, les gens peuvent développer des outils capables de détecter ce modèle. Apparemment, ils n'auront qu'à exécuter la génération via leur outil de détection et identifier si elle a été générée.
La méthode de prise d'empreintes digitales présente un taux de détection exceptionnel de 99,9 %. C'est quelque chose qui devrait être sur le marché. Alors, pourquoi n'y en a-t-il pas ?!
D'après le rapport, l'entreprise ne lance pas cet outil en raison de conflits internes. C'est comme si l'entreprise n'arrivait pas à se décider. Une enquête récente a révélé qu'environ 1/3 des clients d'OpenAI ont déclaré qu'ils ne voulaient pas que l'empreinte digitale soit appliquée à leurs générations, entre autres raisons.
OpenAI est donc assis sur un œuf d'or, mais hésite à le partager avec le monde. Si OpenAI ne le fait pas, espérons qu'une autre entreprise le fera.
