Mis à jour le 12 janvier à 14h57: Un représentant de Google nous a contacté pour faire la lumière sur la situation. Ils affirment n’avoir supprimé qu’un seul résultat de recherche spécifique, affirmant que les aperçus IA fournissent également des informations précises sur des sujets liés à la santé. Le problème avec le résultat supprimé semble provenir du fait qu’il était initialement pris en charge par des sites Web de haute qualité.
Voici le communiqué officiel :
« Nous investissons considérablement dans la qualité des aperçus de l’IA, en particulier sur des sujets tels que la santé, et la grande majorité d’entre eux fournissent des informations précises. Notre équipe interne de cliniciens a examiné ce qui a été partagé avec nous et a constaté que dans de nombreux cas, les informations n’étaient pas inexactes et étaient également étayées par des sites Web de haute qualité. Dans les cas où les aperçus de l’IA manquent de contexte, nous nous efforçons d’apporter de vastes améliorations et nous prenons également des mesures dans le cadre de nos politiques, le cas échéant. »
L’histoire originale (12 janvier, 10h59) suit ci-dessous.
La plupart des gens souhaitent des réponses rapides et claires lorsqu’ils recherchent un avis médical en ligne. Mais une étude récente a montré que s’appuyer sur l’intelligence artificielle pour obtenir ces réponses peut être dangereux. Dans un développement récent, Google a supprimé ses « aperçus IA » de certaines requêtes de recherche liées à la santé, car l’outil fournissait des informations médicales fausses ou incomplètes.
Votre recherche médicale est-elle sécuritaire ? Pourquoi Google réduit les conseils de santé de l’IA
Le changement intervient après une recherche menée par The Guardian. L’étude a révélé de gros problèmes dans la façon dont l’IA de Google traitait les données de santé complexes. Par exemple, l’IA indique ce qu’est une « plage normale » pour les analyses de sang du foie, mais elle ne prend pas en compte des éléments tels que l’âge, le sexe ou la race de la personne. Dans un autre cas, le système a déclaré à tort qu’un test Pap pouvait détecter le cancer du vagin alors qu’il ne détectait en réalité que le cancer du col de l’utérus.
Les experts de la santé sont très inquiets de ces résumés. Des personnes appartenant à des groupes comme Pancreatic Cancer UK et British Liver Trust ont déclaré que les conseils médicaux nécessitent souvent plus de contexte qu’un bref résultat d’IA ne peut en donner. Les patients atteints de maladies graves ne doivent pas se contenter de suivre des conseils simples ou erronés ; cela pourrait les empêcher de recevoir le bon traitement.
Réponse et ajustements de Google
En réponse aux résultats, Google a pris des mesures sur des termes de recherche spécifiques. Les requêtes concernant les plages de tests sanguins hépatiques, qui déclenchaient auparavant un résumé de l’IA, renvoient désormais souvent des résultats de recherche traditionnels. Toutefois, la mise en œuvre de ces suppressions apparaît sélective. Certains utilisateurs ont constaté qu’une question spécifique pouvait ne plus afficher un aperçu de l’IA. Cependant, une version légèrement reformulée de la même requête pourrait toujours en déclencher une.
Google a défendu la qualité générale de son outil. La société déclare qu’une équipe interne de cliniciens a examiné les exemples signalés. Selon l’entreprise, de nombreuses réponses générées par l’IA étaient étayées par des sites Web réputés et de haute qualité. Google a maintenu qu’il ne commentait pas les suppressions individuelles, mais a souligné qu’il travaillait constamment sur de vastes améliorations dans la façon dont le système gère le contexte sensible.
Un exercice d’équilibre pour la recherche
La situation montre à quel point les tensions montent dans le monde de la technologie. Les entreprises souhaitent utiliser l’IA pour rendre les informations plus faciles à trouver et plus accessibles. Mais dans le domaine de la santé, il n’y a pas beaucoup de place à l’erreur. Oui, un résumé de l’intrigue d’un film ou d’une recette n’est pas très important. D’un autre côté, les données médicales nécessitent un niveau de précision que certains modèles d’IA actuels ont du mal à suivre.
Pour l’instant, il semble que Google adopte une approche plus prudente. Rappel « tranquillement » de la fonctionnalité pour certains sujets à haut risque pour un mouvement immédiat et intelligent. Pour les utilisateurs, cela rappelle que l’IA ne remplace pas les conseils cliniques professionnels.
