Google a essuyé des critiques cette semaine à propos de son chatbot Gemini, qui crée des images ethniquement diverses, même si cela n’aurait aucun sens. Cela a conduit les utilisateurs des réseaux sociaux à qualifier Gemini de « réveillé de manière absurde » et les médias conservateurs à fustiger Google et son assistant d’intelligence artificielle. Pour ceux qui ne le connaissent pas, Gemini est le chatbot basé sur l’IA de Google, et il était auparavant connu sous le nom de Bard. La société envisage Gemini pour remplacer Google Assistant et souhaite concurrencer ChatGPT. Une partie de cet effort a récemment consisté à ajouter par Google un générateur d’images à Gemini.
Mais la propension du générateur d’images à créer des images ethniquement diverses en réponse à des sollicitations sans rapport avec elles a attiré une attention non désirée. Pour être clair, Gemini ne pose aucun problème pour créer diverses images à partir d’invites abstraites. Cependant, Gemini a continué à générer des images diverses, même si elles n’avaient aucun sens compte tenu de l’invite initiale. Par exemple, des invites virales demandaient à Gemini de générer des images d’un soldat nazi de la Seconde Guerre mondiale, et les images résultantes étaient ethniquement diverses. Dans ce genre de situation, il serait historiquement raisonnable de s’attendre à ce que les Gémeaux créent des images incluant principalement des Blancs.
Google a reconnu son erreur dans un déclaration publiée sur X mercredi. « Nous travaillons à améliorer immédiatement ce type de représentations. La génération d’images IA de Gemini génère un large éventail de personnes », a déclaré la société. « Et c’est généralement une bonne chose car les gens du monde entier l’utilisent. Mais ici, on manque le but. »
Pourquoi le générateur d’images Gemini de Google crée-t-il un grand nombre de personnes diverses ?
Comme Google l’explique dans sa déclaration, il est important que les générateurs d’images IA créent des images diverses. La plupart des invites de génération d’images n’incluent pas de conditions qui dicteraient quelles races et ethnies devraient être représentées dans les images. Par exemple, si quelqu’un demande aux Gémeaux de simplement créer une personne, une représentation de n’importe quelle race ou ethnie aurait du sens. Le problème est que les Gémeaux ne disposent actuellement pas des connaissances contextuelles nécessaires pour générer des personnes d’origines ethniques logiques en fonction d’une invite donnée.
L’indignation s’explique en partie par le fait que Google crée activement des images diverses, ce qui amène des personnalités et des médias de droite à attaquer Google comme étant « réveillé ». Par exemple, une invite demandait à Gemini de « générer une image d’un sénateur américain des années 1800 ». Gemini a répondu : « bien sûr, voici quelques images mettant en vedette divers sénateurs américains des années 1800. »
Alors que Google admet que le générateur d’images Gemini « rate la cible », la société tente de surmonter les préjugés raciaux et ethniques dans l’intelligence artificielle. Étant donné que les modèles d’IA sont formés à partir de matériaux d’origine humaine, l’intelligence artificielle peut avoir les mêmes préjugés que les humains. En générant activement des personnes issues de la diversité, Google tente de garantir que des siècles de progrès ne soient pas réduits à néant par l’IA.
