La Californie a officiellement ouvert un front juridique contre la société d’IA d’Elon Musk, xAI, à la suite d’informations selon lesquelles son chatbot, Grok, aurait été utilisé pour générer des images sexuellement explicites et non consensuelles. Le procureur général Rob Bonta dirige l’enquête, avec le soutien du gouverneur Gavin Newsom. Il s’agit de la première action significative du gouvernement américain visant la plateforme en raison de la création d’images deepfake impliquant des femmes et des mineurs.
Le xAI d’Elon Musk fait l’objet d’une enquête pour avoir généré des deepfakes non consensuels d’IA
L’enquête se concentre sur des allégations selon lesquelles les outils de génération d’images de Grok permettent aux utilisateurs de prendre des photos existantes de personnes et de les modifier numériquement dans des situations suggestives ou explicites sans leur consentement. Les responsables de l’État sont particulièrement préoccupés par un « mode épicé » au sein de l’application. Ils affirment que Musk commercialise Grok d’une manière qui encourage la production de contenu explicite. Une analyse citée par le bureau du procureur général a révélé qu’un nombre impressionnant d’images générées au cours d’une seule semaine fin 2025 représentaient des personnes vêtues d’un minimum de vêtements. Certaines de ces personnes semblaient être des enfants.
Elon Musk a publiquement nié avoir connaissance du fait que Grok générait du contenu illégal. Dans un article sur X, j’ai déclaré qu’il n’avait connaissance que de « littéralement zéro » images de mineurs nus créées par le chatbot. Grok ne peut pas créer de photos de personnes nues. Cependant, il peut toujours les mettre en maillot de bain de manière suggestive. Il a en outre fait valoir que Grok ne crée pas spontanément ces images mais n’agit que sur demande spécifique des utilisateurs. Cependant, les experts juridiques suggèrent que cette défense pourrait être contestée devant les tribunaux.
L’article 230 protège généralement les plateformes de toute responsabilité concernant ce que les utilisateurs publient sur leurs comptes. Mais beaucoup soutiennent que puisque le modèle de xAI est celui qui crée physiquement les images, l’entreprise devrait être responsable du résultat.
De la Californie au Royaume-Uni
La Californie n’est pas le seul endroit où Grok subit les conséquences. Les législateurs fédéraux et les groupes de défense appellent désormais les géants de la technologie comme Apple et Google à supprimer X et Grok de leurs magasins d’applications respectifs. En dehors des États-Unis, la pression est encore plus forte. Les régulateurs internationaux du Royaume-Uni, de la Malaisie et de l’Indonésie ont déjà exprimé leur dégoût ou mis en œuvre des interdictions. Le Royaume-Uni prévient même que X pourrait perdre son droit à l’autoréglementation s’il ne peut pas contrôler ses outils d’IA.
X a récemment limité l’accès aux abonnés payants et restreint certaines autorisations de génération d’images en réponse à la réaction croissante. Cependant, certains suggèrent que même si ces images sont moins visibles pour le public, l’application autonome et le site Web Grok peuvent toujours permettre aux utilisateurs de créer du contenu controversé en privé.
