Une faille a été détectée dans Google Gemini, un défaut qui permet aux attaquants de détourner des résumés de courriels à des fins de phishing. Ce défaut a été repéré dans Google Gemini pour l'espace de travail.
Gemini Flaw permet aux attaquants de phish les utilisateurs via l'IA de Google
Alors, que se passe-t-il exactement ici? Google Gemini peut être exploité pour générer des résumés de messagerie qui semblent légitimes, mais ils ne le sont pas. Ils comprennent des instructions ou des avertissements malveillants selon lesquels les utilisateurs dirigés vers les sites de phishing.
Certains d'entre vous se souviennent peut-être que des attaques similaires ont été signalées l'année dernière. Des garanties ont été mises en place par Google, mais il semble que la même technique fonctionne toujours.
Cela a été divulgué via Odin, le programme Boug Bounty de Mozilla pour les outils génératifs de l'IA. Un chercheur du nom de Marco Figueroa l'a divulgué, qui est le gestionnaire de programmes de Bunty Genai Bugy chez Mozilla.
Comment ça marche? Eh bien, l'attaquant crée un e-mail avec une directive invisible pour Gemini. L'attaquant peut masquer l'instruction malveillante dans le texte du corps à la fin du message. Il peut le faire en utilisant HTML et CSS qui définit la taille de la police à zéro, ainsi que sa couleur en blanc.
Cette instruction ne sera pas rendue dans Gmail en raison de ce fait. Étant donné qu'il n'y a pas de pièces jointes ou de liens présents, les modifications sont assez élevées que le message atteindra la boîte de réception de la cible potentielle et ne se terminera pas par le spam ou sera bloqué à plat.
Si la personne qui a reçu l'e-mail demande à Gemini de générer un résumé de l'e-mail, les outils d'IA de Google analyseront la directive invisible et y obéiront.
Google dit qu'il n'a vu aucune preuve que les Gémeaux soient manipulés de cette manière
BleepingComputer a contacté Google pour un commentaire, et un porte-parole a souligné un article de blog Google sur les mesures de sécurité contre les attaques d'injection rapides. Il a également déclaré ce qui suit: « Nous durons constamment nos défenses déjà robustes à travers des exercices d'équipe rouge qui entraînent nos modèles à se défendre contre ces types d'attaques contradictoires. »
Il a également déclaré que Google n'avait vu aucune preuve d'incidents manipulant les Gémeaux dans la façon dont Figueroa l'a démontré.
