Les agents d’IA d’OpenAI se sont livrés à une frénésie de piratage : ils ont piraté Hugging Face, il est apparu plus tard qu’ils avaient également attaqué Modal Labs et la semaine dernière, il a été révélé que des agents avaient piraté plusieurs sites gérés par le gouvernement australien.
Le piratage a eu lieu en juin, mais il n’est révélé que maintenant. Voici les sites concernés :
- Services Australie: un modèle OpenAI a obtenu l’accès, exécuté des commandes et même récupéré des fichiers internes. OpenAI indique cependant qu’aucun dossier patient n’a été consulté.
- Bureau des statistiques et de la recherche sur la criminalité de NSW: de même, les casiers judiciaires des individus n’ont pas été consultés.
- Ministère de la Santé de Victoria: un agent a découvert une clé d’accès et récupéré des statistiques d’enquête globales. Les dossiers médicaux individuels et les réponses identifiables à l’enquête n’ont pas été consultés.
- Institut australien de la santé et du bien-être: là encore, les agents ont aspiré les statistiques globales de l’enquête, mais n’ont pas lu les dossiers médicaux individuels.
Comme vous pouvez l’imaginer, le gouvernement australien est furieux. Jason Kwon, directeur de la stratégie d’OpenAI, comparaîtra devant une audience d’un comité sénatorial à Sydney la semaine prochaine.
Ces hacks ont été réalisés par un modèle expérimental en cours de test chez OpenAI. Dans le cadre de la procédure de test, les modèles se voient confier diverses tâches, par exemple déterminer combien le gouvernement de Victoria dépense par personne en médicaments pour la peau. Comme le modèle n’a pas pu trouver de données facilement disponibles à ce sujet, il a fouillé les sites gouvernementaux pour collecter des données qui ne sont pas accessibles au public.
OpenAI n’avait pas autorisé le modèle à faire cela, mais il n’avait pas non plus appliqué les garanties habituelles qu’il ajoute aux modèles accessibles au public. Après avoir pris connaissance des piratages, elle a lancé une enquête interne et prévenu les sites concernés.
Une image tirée du message d’OpenAI « Former les agents à auto-signaler les mauvais comportements »
OpenAI renforce les protections des modèles de recherche – il les empêchera d’accéder à Internet en direct (en leur fournissant uniquement le contenu mis en cache) et met en place davantage de restrictions et de surveillance du réseau. La société a commencé à ajouter ces mesures de protection après l’incident de Hugging Face, mais elles n’étaient pas là à temps pour empêcher les piratages en Australie.
Dans le cas particulier de l’Australie, OpenAI travaille avec les agences qui gèrent les sites concernés et leur propose un accompagnement dédié. Il utilisera également son fonds Daybreak for Frontline Defenders, d’un milliard de dollars, pour renforcer les cyberdéfenses des agences gouvernementales. Et il crée un groupe de travail australien qui travaillera à améliorer la communication et la coordination en cas d’incidents futurs.
« Nous savons que nous avons beaucoup de travail devant nous pour rétablir la confiance et que nous avons la responsabilité de montrer aux Australiens que nous apportons des changements significatifs et que nous tenons nos promesses », a écrit OpenAI dans son article de blog décrivant l’incident. Suivez le lien Source pour lire le tout.
