Apple fait face à des critiques après qu'une nouvelle fonctionnalité de l'iPhone ait fait la une des journaux trompeurs. Selon BBC News, une notification de la nouvelle fonctionnalité basée sur l'IA d'Apple indiquait que Luigi Mangione s'était suicidé. Cela s'est produit plus tôt cette semaine sur les iPhones. La notification faisait partie d'Apple Intelligence, une nouvelle fonctionnalité qui utilise l'intelligence artificielle pour résumer les actualités pour vous.
La fonctionnalité basée sur l'IA d'Apple envoie des notifications groupées
La nouvelle fonctionnalité Apple Intelligence de l'iPhone avait un problème avec un résumé de BBC News AI. Le résumé basé sur l'IA montre que BBC News avait publié un article affirmant que Luigi Mangione, l'homme arrêté à la suite du meurtre du PDG de l'assurance maladie Brian Thompson à New York, s'était suicidé. Il ne l'avait pas fait. Il n’y a eu aucun rapport selon lequel il l’aurait fait. La BBC a contacté Apple pour soulever le problème et leur a demandé de le résoudre.
Apple Intelligence est destiné à résumer et regrouper les notifications. Apple affirme qu'il réduit le nombre d'interruptions dues aux notifications en cours afin que vous puissiez vous concentrer sur les mises à jour importantes. Mais cette nouvelle fonctionnalité n’est pas sans problèmes et les utilisateurs signalent déjà des notifications incorrectes.
La BBC a réagi rapidement. « BBC News est le média d'information le plus fiable au monde », a déclaré un porte-parole. « Il est essentiel pour nous que notre public puisse faire confiance à toute information ou journalisme publié en notre nom, y compris les notifications. » Apple n'a pas commenté le problème spécifique ni pourquoi la notification était erronée.
Pourquoi l'IA d'Apple s'est-elle trompée ?
Le nouveau système de notification d'Apple utilise l'IA pour combiner plusieurs actualités en une seule notification. Ceci a pour but de vous tenir informé sans être interrompu par trop de mises à jour. Mais l’IA se trompe parfois. Dans ce cas-ci, il a mélangé les nouvelles et a déclaré que Luigi Mangione s'était suicidé.
Ce n'est pas la première fois que le système de notification d'Apple, alimenté par l'IA, commet une erreur. Le 21 novembre, le New York Times a également publié à tort une information affirmant que le Premier ministre israélien Benjamin Netanyahu avait été arrêté, selon un article publié sur Bluesky par Ken Schwencke. Comme pour la question de la BBC, ce n’était pas vrai et cela a semé la confusion.
Les experts mettent en garde contre les risques liés au résumé de l’actualité sur l’IA
Les experts s’inquiètent de l’essor de l’IA pour les résumés d’actualité. Le professeur Petros Iosifidis, professeur de politique des médias à la City University de Londres, a déclaré que c'était embarrassant pour Apple. Il a également averti qu’il existe un réel danger de propagation de la désinformation. Ces problèmes montrent que nous devons vérifier les informations avant de leur faire confiance, surtout lorsque l’IA est impliquée.
