Depuis son introduction, le chatbot Snapchat My AI a suscité des réponses mitigées, en partie grâce au manque de précautions de sécurité de l’entreprise et à son emplacement de premier plan dans le fil de discussion. Maintenant, dans une récente révélation troublante, le chatbot AI a commencé à enregistrer des vidéos de l’environnement de nombreux utilisateurs, y compris les murs et les plafonds, puis à partager ces vidéos sous forme d’histoires en direct avec l’ensemble de leur public.
En conséquence, de nombreux utilisateurs se sont tournés vers X pour exprimer leurs préoccupations. Par exemple, @RyanJKrul ont exprimé leur inquiétude en déclarant : « Mon IA Snapchat a publié une histoire aléatoire d’une seconde et ne me répond pas, ET JE SUIS EFFRAYÉ. » Entre-temps, @repmiIas avec humour a établi des parallèles avec une intrigue de film, et @Zander0009 a spéculé de manière ludique que l’IA avait gagné en sensibilité. De plus, le fait que le chatbot ait même cessé de répondre aux requêtes des utilisateurs a encore alimenté les inquiétudes des utilisateurs.
La réponse de Snapchat
Bien que loin d’être sensible, Snapchat s’est rapidement attaqué à la situation en attribuant l’anomalie « Mon IA » à un problème technique qui a perturbé les opérations régulières du chatbot. De plus, la plate-forme a également expliqué qu’elle avait résolu le problème et précisé que l’IA n’avait pas capturé secrètement des instantanés de l’environnement des utilisateurs.
Néanmoins, cet incident souligne une fois de plus la hâte de l’entreprise à intégrer l’IA dans son service. De plus, le fait que la page d’assistance de Snapchat conseille explicitement aux utilisateurs de ne pas confier à l’IA des informations sensibles ou d’anticiper des réponses tout à fait précises souligne les défis auxquels les entreprises sont confrontées pour réglementer ces systèmes d’IA.
Cependant, Snap n’est pas le seul à relever ces défis. Zoom, par exemple, a récemment fait face à un contrecoup généralisé pour avoir révisé sa politique de confidentialité afin de permettre l’utilisation des données des clients pour la formation à l’IA, revenant finalement sur sa décision en raison des critiques. De plus, même les géants de la technologie comme Google ont rencontré des obstacles importants au cours des premiers jours, certains Googleurs exprimant leur déception face à la sortie prématurée du chatbot Bard AI.
