Après des mois de controverse et de surveillance mondiale, Grok a finalement interdit la génération illégale de porno sur la plateforme. X a confirmé qu’il avait désormais interdit à Grok de produire du matériel pédopornographique et des images explicites non consensuelles. Cette décision fait suite à des critiques mondiales, à des ordonnances juridiques du gouvernement et à des interdictions internationales sur la manière dont l’outil d’IA a été utilisé.
Grok interdit enfin la pornographie illégale et la génération d’images explicites
La société de médias sociaux X d’Elon Musk confirme que Grok ne peut plus générer d’images explicites non consensuelles. L’entreprise qualifie cette décision de « mesure de sécurité », mais sa portée limitée a soulevé des questions sur la responsabilité, l’application et l’avenir de la génération d’images IA.
Le problème a commencé à s’aggraver lorsque certains utilisateurs ont commencé à utiliser Grok pour générer des images pornographiques à partir de photographies réelles, y compris du contenu impliquant des enfants. Cela a suscité des avertissements de la part des gouvernements de plusieurs pays et des critiques de la part des utilisateurs. Mais malgré cela, la fonctionnalité restait accessible. Elon Musk a même initialement écarté ces inquiétudes. Il a en outre qualifié le système de « humoristique », avant de nier plus tard toute utilisation abusive.
Une fois que les images illégales sont devenues de plus en plus populaires, plusieurs gouvernements sont intervenus pour réglementer cet outil. L’Indonésie et la Malaisie ont adopté des interdictions Grok. Le Royaume-Uni a exploré des options réglementaires pour contrôler cette pratique, et les législateurs américains se sont en outre demandés si les entreprises permettaient la pornographie illégale par inaction.
Dans une tentative de contrôler les choses, X a annoncé plus tard qu’il avait désormais restreint Grok pour empêcher la création d’images explicites impliquant de vraies personnes. La société a déclaré que les changements s’appliquent à tous les utilisateurs, y compris les abonnés payants. Il a en outre souligné qu’il suivait une politique de tolérance zéro. Cependant, le changement était fortement axé sur la conformité plutôt que sur la responsabilité. Il souligne que des restrictions pourraient s’appliquer uniquement dans les juridictions où une telle activité de production est illégale. On ne sait toujours pas si l’interdiction est universelle ou basée sur la géographie. La société n’a pas non plus fait de différence entre le contenu autorisé et restreint.
