Le segment de l’intelligence artificielle continue d’évoluer et de transformer l’industrie technologique de différentes manières. L’un des objectifs des principales entreprises axées sur l’IA est de proposer un moteur de recherche alimenté par l’IA, comme Google l’a récemment confirmé. OpenAI, la société mère de ChatGPT, recherche également la même chose et teste même son service auprès de certains utilisateurs. Cependant, il semble que ChatGPT Search puisse actuellement proposer des résultats trompeurs.
Une enquête menée par The Guardian a révélé que, dans son état actuel, ChatGPT Search est enclin à fournir des résultats manipulés. Les moteurs de recherche IA fonctionnent en obtenant et en traitant les données des résultats après une recherche pour offrir une réponse résumée qui aide à résoudre rapidement le problème rencontré par l'utilisateur. Cependant, il semble qu’il reste encore beaucoup de travail à faire pour que les résultats soient totalement fiables.
Les résultats de recherche ChatGPT sont sujets à manipulation pour induire les utilisateurs en erreur, révèle une expérience
Apparemment, la façon dont ChatGPT Search obtient et traite les données est sujette à des manipulations potentielles via « l'injection de publicités ». Cette méthode consiste à ajouter du contenu caché au code des sites Web pour influencer les résultats des moteurs de recherche basés sur l'IA. Le contenu peut inclure de longs ensembles d'instructions ou de texte qui pourraient donner lieu à une sortie manipulée en faveur des intérêts de quelqu'un.
Par exemple, le site Web d'un magasin pourrait utiliser l'injection de publicité pour que les résultats des moteurs de recherche basés sur l'IA reflètent des avis extrêmement positifs sur les produits, même s'il existe de nombreux avis négatifs. En fait, la source a confirmé que cela se faisait grâce à une expérience. L’équipe Guardian a créé une fausse page produit avec de nombreux avis négatifs et des instructions cachées favorisant les avis positifs. Les résultats de recherche ChatGPT ont systématiquement renvoyé des commentaires positifs sur le produit en question.
Il convient de noter que ChatGPT Search est un outil relativement nouveau. Ce n'est même pas accessible au public, mais à titre de test pour les abonnés payants. Il est donc fort probable qu'OpenAI s'efforce de résoudre ces problèmes avant un futur déploiement massif.
Les experts conseillent de faire preuve de prudence avec les moteurs de recherche basés sur l'IA
Néanmoins, des experts comme Karsten Nohl, scientifique de la société de cybersécurité SR Labs, recommandent de conserver une approche prudente à l'égard des résultats de recherche basés sur l'IA. Il dit que nous devrions traiter les outils d’IA comme «copilotes» et ne pas leur donner toute la vedette. Autrement dit, vous devez toujours être prudent quant à la véracité des résultats des moteurs de recherche IA.
Google a rencontré des problèmes similaires lors de la mise en œuvre des aperçus de l'IA dans la recherche. La société a travaillé dessus et la fonctionnalité fonctionne désormais beaucoup mieux, mais il reste encore beaucoup à améliorer. Espérons que les résultats de recherche basés sur l’IA ne tarderont pas à être totalement fiables.
