My AI de Snap est sous surveillance de la part des gouvernements du monde entier depuis un certain temps. Récemment, l’Information Commissioner’s Office (ICO), l’organisme de réglementation chargé de superviser la confidentialité au Royaume-Uni, a émis un avertissement contre le chatbot AI de Snap et a soulevé des questions sur ses risques potentiels pour la vie privée des enfants.
Selon le rapport, les inquiétudes de l’ICO découlent de l’incapacité de Snap à évaluer les risques de confidentialité associés à My AI avant son lancement. Bien que cet avis n’implique pas une violation, l’ICO est préoccupée par les données personnelles des enfants âgés de 13 à 17 ans qui relèvent du Children’s Design Code, un ensemble de règles de protection des données mises en œuvre en 2021. Par conséquent, si Snap ne parvient pas à répondre Face à ces problèmes, l’ICO peut prendre des mesures pour bloquer le chatbot au Royaume-Uni.
Pourquoi My AI de Snap constitue-t-il un gros problème de confidentialité pour le régulateur britannique ?
Snap a présenté pour la première fois son « Mon IA » en février pour les abonnés Premium, leur offrant un ami virtuel, qui leur donnait des conseils et répondait à leurs questions. Cependant, après avoir initialement testé la fonctionnalité sur les utilisateurs premium, la société l’a déployée pour tout le monde, y compris les enfants mineurs.
Malgré les affirmations de l’entreprise selon lesquelles le chatbot dispose de fonctionnalités de modération et de protection strictes, de nombreux cas d’IA ont fourni des conseils inappropriés. Par exemple, le chatbot a déjà conseillé un utilisateur de 15 ans sur la façon de cacher l’odeur de l’alcool, et dans un autre cas, il a fourni des conseils sur les expériences sexuelles à un utilisateur de 13 ans.
La réponse de Snap
En réponse à ces allégations, Snap a souligné son engagement envers la confidentialité des utilisateurs et a déclaré : « Nous examinons de près la décision provisoire de l’ICO. Mon IA a fait l’objet d’un processus approfondi d’examen juridique et de confidentialité avant d’être rendue publique, conformément à notre approche standard de développement de produits. Nous continuerons à collaborer avec l’ICO pour nous assurer qu’ils sont à l’aise avec nos procédures d’évaluation des risques.
