Google a une fois de plus tenté d’empêcher les fausses images générées par l’IA d’apparaître en haut des résultats de recherche. Il a récemment fait apparaître un faux selfie comme résultat de recherche pour le terme « tank man ». L’entreprise a depuis corrigé l’erreur, mais pas avant qu’Internet ne se rende compte de son incapacité à mettre fin à de tels événements.
Google n’a pas réussi à détecter un faux « Tank Man » généré par l’IA
Tank Man est associé au tristement célèbre massacre de la place Tiananmen en Chine qui a eu lieu en juin 1989. C’est le surnom donné à un Chinois non identifié qui s’est courageusement tenu devant une colonne de type 59 pour protester contre le massacre. La photographie reste l’une des images les plus emblématiques du conflit à Pékin. Les internautes s’en souviennent souvent.
Cependant, 404media a récemment remarqué que la recherche de « tank man » sur Google montrait une photo inédite comme premier résultat. Il s’agissait d’un selfie d’un homme debout devant un char Type 59 au même endroit. De toute évidence, il s’agissait d’une fausse photo générée par l’IA qui imitait l’événement historique. L’intention du créateur n’était probablement pas de diffuser de la désinformation, mais Google le plaçant en haut des résultats de recherche met en évidence un problème totalement différent.
Les outils modernes d’IA générative sont si puissants qu’ils peuvent réécrire l’histoire avec de fausses images, vidéos, textes, audio et autres formes de contenu, et les personnes sans méfiance ne s’en rendront jamais compte. Les réseaux sociaux regorgent déjà de contenus manipulateurs. Les plateformes en ligne doivent intensifier leur jeu et éloigner les gens des contenus générés par l’IA potentiellement dangereux ou trompeurs, ou au moins aider les gens à faire la différence entre les contenus réels et faux.
Cependant, la recherche Google a échoué ici. Ce qui est plus déroutant, c’est que cette image de Tank Man générée par l’IA est apparue pour la première fois sur Internet il y a six mois. Un utilisateur l’a publié sur le subreddit Midjourney, du nom de l’outil d’IA de synthèse texte-image. L’utilisateur souhaitait probablement montrer sa création à l’aide de l’outil. Mais Google l’a récupéré et l’a transmis aux utilisateurs comme une véritable photo d’un événement historique vieux de 30 ans.
Google a besoin de contre-mesures pour lutter contre les prouesses de l’IA
Bien que Google n’interdise pas les images générées par l’IA pour diverses raisons, ceci est un autre exemple montrant qu’il doit faire quelque chose à propos de ces images. L’entreprise a commis ce genre d’erreurs à plusieurs reprises dans le passé. Il y a quelques mois, il montrait une interprétation produite par l’IA du tableau classique du peintre hollandais Johannes Vermeer « La Fille à la perle » comme meilleur résultat lors d’une simple recherche avec son nom.
Google a ensuite supprimé ces images des résultats de recherche suite à la couverture médiatique. Cette fois encore, il l’a fait, affirmant qu’il n’est pas toujours possible de détecter de fausses images. Espérons que l’entreprise sera en mesure de s’attaquer efficacement à l’IA le plus tôt possible. Il faut certainement des contre-mesures pour lutter contre les prouesses de l’IA et cesser de montrer aux gens du contenu potentiellement trompeur sur la recherche.
« Compte tenu de l’ampleur du Web ouvert… il est possible que nos systèmes ne sélectionnent pas toujours les meilleures images, quelle que soit la manière dont ces images sont produites, générées par l’IA ou non. Dans ce cas, nous avons pris des mesures pour supprimer l’image de la fonction de recherche, car nos politiques pour cette fonctionnalité n’autorisent pas de contenu inexact sur des sujets d’intérêt public comme celui-ci », indique une partie du communiqué officiel.
