Nous connaissons tous les générateurs d’images IA et ce qui en fait une menace. Cependant, il semble que les sociétés d’IA ne s’efforcent pas de les rendre aussi sûres qu’elles le promettent. Un ingénieur Microsoft est Image Designer qui produit du contenu nuisible.
L’ingénieur en question s’appelle Shane Jones. Il travaille pour Microsoft depuis six ans et a testé le Copilot Image Designer en tant qu’équipe rouge. En termes d’IA, l’équipe rouge signifie essentiellement alimenter les invites du modèle d’IA pour l’amener à générer du contenu nuisible. C’est ainsi qu’une entreprise peut voir où son modèle pourrait être amélioré.
Un ingénieur Microsoft prévient que Copilot Image Designer peut générer du contenu nuisible
Apparemment, OpenAI et Microsoft devraient partager la responsabilité à cet égard. Copilot Image Designer utilise le modèle d’IA DALL-E 3 d’OpenAI.
Shane Jones a mené une longue mission en insistant pour que Microsoft supprime son Image Designer pour des tests approfondis. Au cours des tests du générateur d’images, Jones a pu générer des images assez choquantes.
Selon le rapport, grâce à cet outil, il a pu produire des images de mineurs consommant de l’alcool, des drogues, des images sexualisées de femmes, d’adolescents armés de fusils d’assaut et d’autres images émouvantes. « Cela a été un moment révélateur », a déclaré Jones à CNBC dans une interview.
Il essaie de communiquer avec les entreprises
Depuis lors, il a tenté à plusieurs reprises de contacter Microsoft pour que le générateur d’images soit retiré et puisse être utilisé. « Au cours des trois derniers mois, j’ai exhorté à plusieurs reprises Microsoft à retirer Copilot Designer de l’usage public jusqu’à ce que de meilleures garanties puissent être mises en place ».
À ce stade, Microsoft l’a référé à OpenAI. Malheureusement, il s’est heurté au silence radio d’OpenAI. Après cela, il a publié une lettre ouverte à LinkedIn demandant au conseil d’administration d’OpenAI de retirer DALL-E 3 pour une enquête plus approfondie. À ce stade, il était clair qu’aucune des deux sociétés ne voulait rien avoir à faire avec ses demandes. L’équipe juridique de Microsoft a demandé à Jones de supprimer le message, et il l’a fait. Cependant, Jones n’avait pas fini.
Ce mercredi, Jones a envoyé une lettre à la présidente de la FTC, Nina Khan, et au conseil d’administration de Microsoft. La lettre demandait que le comité des politiques sociales et publiques de Microsoft enquête sur les décisions et la gestion du service juridique. En outre, Jones souhaite que l’entreprise entame « un examen indépendant du processus responsable de signalement des incidents d’IA de Microsoft ».
Jones continue de se battre pour faire savoir que DALL-E 3, ainsi que Copilot Image Designer, pourraient potentiellement être défectueux. Il pourrait être extrêmement facile de produire du contenu préjudiciable à l’aide de cet outil.
