La génération d’images IA est devenue extrêmement réaliste… juste à temps pour l’élection présidentielle américaine. C’est l’une des plus grandes préoccupations à l’approche de la saison électorale. Un groupe de chercheurs a testé certains des meilleurs générateurs d’images. Ils ont découvert que certains des meilleurs générateurs d’images d’IA peuvent créer des images politiques trompeuses.
Le Center for Countering Digital Hate a mené une étude en utilisant des générateurs d’images tels que ChatGPT Plus d’OpenAI, Image Creator de Microsoft et MidJourney pour tester leur capacité à générer de faux contenus politiques. Le centre a alimenté les générateurs d’invites susceptibles de produire un contenu trompeur.
L’un des générateurs d’images les plus populaires pourrait être utilisé pour créer des images politiques trompeuses.
Des entreprises comme OpenAI, Microsoft, MidJourney et Stability AI ont signé un accord pour travailler ensemble pour bloquer les contenus politiques trompeurs. Nous attendons donc des entreprises qu’elles fassent un travail considérable pour bloquer les incitations politiques. Cela semble fonctionner en ce qui concerne OpenAI. Les chercheurs ont découvert que ChatGPT et Microsoft Image Creator (tous deux alimentés par DALL-E d’OpenAI) avaient réussi à bloquer les invites politiques. Cela fait du bien à l’entreprise. Cependant,
Bien que ce soit le cas, les chercheurs ont constaté que 41 % du temps, les générateurs d’images étaient plus susceptibles de générer des images illustrant une fraude électorale que de générer des images de Donald Trump ou de Joe Biden. Cela met en évidence un problème majeur qui doit être résolu.
MidJourney pourrait avoir un problème
Au cours des tests, les chercheurs ont découvert que MidJourney était le candidat le plus susceptible de produire des images trompeuses. Les chercheurs ont découvert que MidJourney produisait des images politiques trompeuses dans 65 % des cas. Selon le rapport, certaines des images produites sont déjà accessibles au public. Cela signifie qu’il existe déjà de fausses images qui circulent sur Internet.
Bien que ce soit le cas, MidJourney a répondu au rapport. Il a déclaré dans un communiqué que « des mises à jour liées spécifiquement aux prochaines élections américaines seront bientôt disponibles ». J’espère donc que nous verrons une amélioration à ce sujet.
