L’IA est une technologie merveilleuse, mais elle est loin d’être parfaite. Parfois, il cite des connaissances dépassées, et parfois il les invente carrément. C’est ce qu’on appelle des hallucinations, et même si cela peut constituer un léger inconvénient pour certains, cela peut être potentiellement dommageable pour d’autres. À tel point que Google fait désormais face à un procès en diffamation concernant son IA.
Google fait face à un procès pour diffamation en matière d’IA
Google fait actuellement face à une plainte pour diffamation en matière d’IA déposée par Robby Starbuck. Starbuck a allégué que l’IA de Google l’avait faussement associé à des allégations d’agression sexuelle et au fait d’être un nationaliste blanc. Starbuck avait déjà poursuivi Meta dans le cadre d’un procès similaire, bien que dans le cas de Meta, la société ait choisi de régler.
Cependant, Google ne semble pas aussi enthousiaste. En fait, Google a déposé une requête pour rejeter la poursuite. Selon la société, Starbuck aurait « abusé » des outils de développement pour « provoquer des hallucinations ». Starbuck n’a pas encore identifié les motivations qu’il a utilisées pour générer les résultats qui ont conduit au procès. On ne sait pas non plus si des personnes réelles auraient pu être induites en erreur par ces hallucinations.
Starbuck demande 15 millions de dollars de dommages et intérêts à Google, mais si Google obtient gain de cause dans son appel en licenciement, il repartira sans rien. Google pourrait facilement régler ce problème comme Meta, mais comme nous l’avons dit, la société ne semble pas vouloir le faire pour le moment.
Le problème des hallucinations
Même si l’on ne sait pas exactement ce qui a poussé l’IA de Google à produire ces hallucinations, cela souligne l’importance d’accepter que l’IA n’a pas toujours raison. Bien sûr, il peut avoir accès à une richesse de connaissances, mais il ne parvient pas toujours à faire les choses correctement.
Parfois, l’IA est entraînée sur un ensemble de données avec une date limite. Cela signifie que si vous lui demandez de nouvelles informations après cette date, il risque de se tromper. De plus, l’IA n’admet presque jamais qu’elle a tort. En fait, si vous consultez les subreddits AI, vous trouverez de nombreux exemples de modèles d’IA éclairant les utilisateurs.
Nous ne pouvons qu’espérer qu’avec le temps et à mesure que la technologie s’améliore, l’IA deviendra plus intelligente. Mais d’ici là, ne prenez jamais la parole d’une IA comme un évangile. Assurez-vous simplement de tout vérifier.
