Au cours de la semaine dernière, Google a subi des réactions négatives à propos de son outil d’IA Gemini. Il a la capacité de générer des images de personnes, mais il génère des représentations racialement inexactes de personnages historiques. Aujourd’hui, Sundar Pichai, PDG de Google, a enfin dénoncé les images inexactes de Gemini.
Il est bon de voir le PDG de Google aborder publiquement ces questions. Il s’est montré particulièrement silencieux lors de la précédente série de licenciements dans l’entreprise. Un grand nombre de personnes ont été licenciées et les gens se demandaient ce que l’entreprise avait à dire à ce sujet.
Sundar Pichai aborde les images inexactes des Gémeaux
Ainsi, pour vous rattraper, les utilisateurs de la fonction de génération d’images de Gemini ont découvert que l’outil créait des représentations inexactes de personnages historiques. En générant des images de personnes qui seraient historiquement blanches, les Gémeaux « rateraient le but » et les dépeindraient comme une race non blanche. En outre, l’outil représenterait les personnes qui seraient des hommes comme des femmes.
Nous verrions des images d’Allemands représentés comme ayant la peau foncée. Il y avait un autre exemple où une personne lui avait demandé de générer une image des pères fondateurs, et il montrait des images de personnes d’origine asiatique. Il existe de nombreux autres exemples de cela, et cela a conduit certaines personnes à appeler l’outil « réveillé ». Il semble que Google cherchait à faire de Gemini une plate-forme très inclusive, mais il l’a un peu dépassé. Quoi qu’il en soit, nous devons lui donner des points pour ses efforts.
C’est en tout cas un sujet sur lequel l’entreprise travaille actuellement. Pour certaines régions du monde, les Gémeaux ne génèrent pas d’images de personnes. L’entreprise a interrompu la génération d’images d’êtres humains jusqu’à ce qu’elle puisse résoudre le problème.
Le PDG de Google, Sundar Pichai, a finalement abordé le problème et publié une déclaration. Il a déclaré : « Je sais que certaines de ses réponses ont offensé nos utilisateurs et fait preuve de partialité – pour être clair, c’est complètement inacceptable et nous nous sommes trompés ». Parallèlement à cette déclaration, il a également donné de bonnes nouvelles aux personnes souhaitant le retour de la fonctionnalité. « Nos équipes ont travaillé 24 heures sur 24 pour résoudre ces problèmes. Nous constatons déjà une amélioration substantielle sur un large éventail d’invites.
L’entreprise apporte donc des améliorations à son outil. Quant au calendrier, nous sommes encore dans le flou. Le problème avec Gemini semble être une faille profondément enracinée dans le système. On ne sait donc pas combien de temps il faudra à Google pour résoudre ce problème. Nous allons tous devoir rester à l’écoute.
