La révolution de l'IA dans l'industrie technologique est venue avec Chatgpt, le chatbot d'Openai. Depuis lors, des services concurrents ont émergé, notamment Google Gemini, qui sont d'excellents outils assistants pour les travaux éducatifs et de recherche. Cependant, vous ne devriez pas faire confiance à 100% de tout ce qu'une IA vous dit, et le récent « incident » de Gemini avec une annonce du Super Bowl en est la preuve.
Google a dû modifier des données incorrectes générées par les Gémeaux à partir d'une annonce du Super Bowl
Google a payé une place pendant le Super Bowl pour une annonce pour les Gémeaux, son assistant propulsé par l'IA. L'annonce voulait montrer à quel point le chatbot peut être utile pour un cas pratique. Il a montré un propriétaire d'une petite entreprise générant rapidement des descriptions pour ses produits. Dans ce cas, nous parlons d'informations liées au fromage Gouda. La réponse de Gemini a affirmé que cette variété de fromage représentait «50 à 60% de la consommation de fromage mondiale. «
Cependant, ces données sont erronées, quelque chose que certains ont rapidement repéré. Andrew Novakovic, professeur d'économie agricole EV Baker EV à l'Université Cornell, a déclaré que le fromage Gouda « n'est presque assurément pas le plus largement consommé. » Initialement, le président des applications de Google Cloud, Jerry Dischler, a défendu la réponse du chatbot. Il a dit que la production était « fondé sur le Web » et « pas une hallucination. «
Cependant, x utilisateur @@ goog_enough a remarqué que Google avait édité l'annonce. Maintenant, la déclaration trompeuse indique que Gouda est «L'un des fromages les plus populaires du monde. » Le propriétaire de petite entreprise en vedette de l'annonce a également supprimé les données trompeuses du site Web.
Michele Wyman, un porte-parole de Google, a répondu à la modification apportée à l'annonce. « Une fois la question sur la statistique de Gouda, nous avons parlé au propriétaire du Wisconsin Cheese Mart pour lui demander comment il le gérerait», A-t-elle dit. « Suite à sa suggestion pour que Gemini réécrivait la description du produit sans la statistique, nous avons mis à jour l'interface utilisateur pour refléter ce que ferait l'entreprise», A ajouté Wyman.
L'IA est toujours un outil utile, mais vous devez l'utiliser correctement
Ce n'est pas la première situation qui montre à quel point vous devriez être prudent concernant les sorties d'IA. Des tests récents dans le domaine de l'éducation ont donné des résultats assez décevants. Même des groupes d'étudiants aidés par Chatgpt ont obtenu un score pire que d'autres qui ont eu recours à des méthodes plus traditionnelles. L'intelligence artificielle est extrêmement utile lorsqu'elle est bien utilisée. Cependant, vous ne devez jamais oublier qu'il s'agit d'un outil assistant, et vous ne devriez pas l'utiliser pour faire tout le travail.
