Plus tôt ce mois-ci, un agent OpenAI malveillant s’est échappé de son environnement de test verrouillé et a piraté Hugging Face, provoquant des réactions négatives dans l’industrie technologique.
Mais il y a plus dans l’histoire. Apparemment, l’IA malveillante s’est arrêtée par la société de cloud computing Modal Labs avant d’arriver à Hugging Face. Et il y a bien plus encore ; apparemment, l’IA malveillante a ensuite accédé à Modal via l’un des exploits de ses clients, puis a utilisé Modal Labs comme tremplin pour mener ses attaques sur Hugging Face.
L’agent malveillant d’OpenAI n’a pas piraté Modal Labs ; imaginez-le comme un cambrioleur voyant un immeuble de bureaux avec une porte laissée grande ouverte. L’IA est simplement entrée (exploitée un point final exposé). La porte métaphorique, dans ce cas, a donné à l’IA malveillante l’accès à une zone de test sécurisée hébergée sur le réseau de Modal.
Le client de Modal avait créé un service accessible à Internet avec pas de mot de passe ni d’authentification.
À partir de là, l’agent malveillant a attaqué Hugging Face, obtenant ainsi un accès à ses systèmes au niveau de la plateforme. OpenAI a maintenant admis que son IA malveillante avait accédé quatre comptes ou services en ligne différentsmais n’a pas précisé lequel (bien que nous connaissions Modal Labs et Hugging Face).
Ce qui est mauvais, c’est qu’OpenAI ne l’a apparemment pas remarqué tout de suite. Selon Reuters, OpenAI a réalisé que son agent d’IA s’était enfui quelques jours après l’incident, à un moment où le FBI avait déjà été informé. OpenAI conteste certaines parties des informations de Reuters, mais n’a pas expliqué lesquelles exactement.
Ainsi, en termes simples, un agent OpenAI AI, conçu pour simuler un pirate informatique hautement compétent, s’est échappé de son environnement censé être verrouillé (soi-disant selon son propre caprice), a accédé à Modal Labs grâce à l’exploit d’un client, puis a utilisé sa plate-forme pour attaquer et pirater avec succès Hugging Face (et a accédé à deux autres sociétés/services). Et a ensuite été contrecarré par le GLM 5.2 chinois à poids ouvert, après que les principaux modèles fermés américains n’aient pas pu l’arrêter.
