Chatgpt devient pour les chatbots d'IA ce que Google est devenu pour la recherche en ligne. Le service est le plus populaire dans son segment, conduisant constamment les meilleures applications gratuites dans l'App Store d'Apple, par exemple. Cependant, il n'a pas été sans controverse tout au long de son existence. En raison d'une grave erreur dans une production, un homme a déposé une plainte contre Chatgpt, car le chatbot a affirmé que l'homme avait assassiné ses enfants.
Vous ne vous souvenez peut-être pas, mais il fut un temps où Chatgpt n'avait pas accès à Internet. Chaque mise à jour de la plate-forme comprenait également une base de données plus moderne. Donc, si vous posiez des questions sur les choses après la limite de date de la base de données du service, vous obtiendrez probablement la mauvaise réponse – ou un message d'erreur.
L'homme dépose une action en justice contre Chatgpt pour avoir affirmé qu'il avait assassiné ses enfants
Pendant ce temps, Arve Hjalmar Holmen a demandé au chatbot tout ce qu'il savait de lui. L'homme a eu une surprise désagréable lorsque Chatgpt a affirmé qu'il avait été reconnu coupable d'avoir assassiné ses enfants, en plus d'avoir tenté d'en tuer un troisième. La plate-forme a également mentionné que Holmen purgeait une peine de 21 ans en Norvège.
Apparemment, Chatgpt a subi des «hallucinations» tout en générant la sortie. Les hallucinations dans les plates-formes d'IA se produisent lorsqu'elles «inventent» de fausses informations et la transmettent comme réelles, affectant la fiabilité de la sortie. Le chatbot aurait mélangé les faux détails avec des détails réels sur la vie de l'homme. Par exemple, la réponse a correctement montré la ville natale de Holmen, combien d'enfants il a eu et le sexe de ses enfants.
Il est possible que le manque d'accès Internet à l'époque ait empêché Chatgpt de effectuer d'autres chèques avant d'envoyer la sortie. La plate-forme aurait également pu prendre des informations sur une autre personne avec un nom similaire et l'a mélangée. Quoi qu'il en soit, il est clair que la réponse n'a pas rendu Holmen heureux du tout.
Noyb, un groupe de plaidoyer autrichien, a déposé le procès auprès du norvégien Datatilsynet contre Chatgpt au nom de l'homme pour l'avoir décrit comme un meurtrier condamné. Le procès affirme que le service d'Openai a violé les exigences de confidentialité des données de l'UE.
La sortie de Chatgpt aurait violé les exigences de confidentialité des données de l'UE
« Le RGPD est clair. Les données personnelles doivent être exactes. Et si ce n'est pas le cas, les utilisateurs ont le droit de le faire changer pour refléter la vérité», A déclaré Joakim Söderberg, avocat à Noyb.»Affichant les utilisateurs de Chatgpt un minuscule avis de non-responsabilité que le chatbot peut faire des erreurs ne suffit clairement pas. Vous ne pouvez pas simplement diffuser de fausses informations et, en fin de compte, ajouter un petit avertissement disant que tout ce que vous avez dit peut ne pas être vrai.«
Le groupe NOYB cherche une amende à Openai et la suppression des informations diffamatoires sur Holmen. Il demande également des améliorations à Chatgpt pour éviter des problèmes similaires. Cela dit, il est possible qu'Openai ait résolu cette dernière exigence il y a longtemps. Actuellement, les résultats de Chatgpt pour la même invite qui ont énuméré Holmen en tant que meurtrier d'enfants ne montrent désormais que des nouvelles du procès.
