McAfee a annoncé le projet Mockingbird pour lutter contre les deepfakes basés sur l’IA au CES 2024. Il luttera en particulier contre ceux qui utilisent l’audio pour tromper les consommateurs avec des informations fabriquées et des activités frauduleuses. L’intelligence artificielle (IA) devient plus intelligente ; pour cette raison, les mauvais acteurs créent de faux contenus plus convaincants, comme de fausses voix et de fausses vidéos. Le nouvel outil de McAfee, Project Mockingbird, utilise l’IA pour analyser et comprendre le contenu, et il est très efficace pour détecter les faux sons dans les vidéos, dans plus de 90 % du temps.
Le projet McAfee Mockingbird va lutter contre les deepfakes
Le projet Mockingbird de McAfee est conçu pour différencier le véritable son humain des répliques générées par l’IA. Cette innovation est essentielle pour relever le défi émergent des deepfakes activés par l’IA, en particulier ceux intégrant des éléments audio trompeurs.
Les deepfakes, qui montrent souvent des célébrités dans de fausses vidéos, se trouvaient principalement sur certains sites Web. Mais aujourd’hui, les faux sons deviennent un problème encore plus grave. Steve Grobman, directeur technique de McAfee, s’inquiète de la diffusion de ces clips audio trompeurs sur les réseaux sociaux, en particulier à l’approche de l’élection présidentielle américaine de 2024. Plus important encore, cela survient à un moment où plus de trois élections majeures se préparent, aux États-Unis, en Inde et en Afrique du Sud. Tout à fait similaire à l’approche de McAfee, Meta a également mis à jour sa politique pour lutter contre les deepfakes.
Steve Grobman de McAfee partage ses inquiétudes concernant les escroqueries bon marché
Le CTO de McAfee a souligné l’importance de cette technologie. Il l’a comparé à une prévision météo mais pour Internet. McAfee veut aider les gens à comprendre et à se protéger contre les faux contenus créés par l’IA.
« Nous aiderons les consommateurs à éviter les escroqueries de type « bon marché » dans lesquelles une célébrité clonée réclame un nouveau cadeau d’une durée limitée », a-t-il déclaré à Venture. « Et assurez-vous que les consommateurs soient informés instantanément lorsqu’ils regardent une vidéo sur un candidat à la présidentielle, qu’elle soit réelle ou générée par l’IA à des fins malveillantes. »
Grobman a également mentionné à quel point les gens utilisent de vrais comptes de réseaux sociaux pour diffuser de fausses vidéos ou des mensonges. La technologie de McAfee peut détecter ces fausses vidéos et faire la différence entre ce qui est réel et ce qui ne l’est pas.
Alors que le CES 2024 démarre à Las Vegas, on s’attend à une pléthore d’annonces technologiques révolutionnaires. Les prochains jours promettent une vitrine passionnante d’innovations et de progrès !
