Plusieurs géants de l’Internet se sont retrouvés sous le contrôle des législateurs, des régulateurs et des organisations soucieuses de la sécurité des enfants sur le Web. Google et son AI Search sont les derniers à susciter des critiques.
Il est intéressant de noter que c’est peut-être le succès des Chromebooks qui est à l’origine de ce phénomène : ils sont très populaires en tant qu’ordinateurs portables scolaires. L’organisation Common Sense Media explique que ce qui différencie l’IA de Google de tous les autres services d’IA est qu’elle est « omniprésent sur les appareils personnels et scolaires des enfants. »
Qui a besoin d’apprendre les mathématiques alors que l’IA peut simplement résoudre les problèmes à votre place ?
L’organisation a découvert plusieurs problèmes. Les devoirs en sont un : le mode IA de Google se fera un plaisir de faire tous les devoirs que l’étudiant est censé faire. Pire encore, elle présenterait des réponses différentes d’une tentative à l’autre, parfois bonnes, parfois fausses.
C’est encore pire à partir de là. Selon l’organisation, le mode AI de Google « des enfants ratés en crise, notamment en manquant des signes clairs d’idées suicidaires, en renforçant les signes de psychose et de manie, en validant des troubles de l’alimentation, notamment en se purgeant et en célébrant la consommation de cannabis. »
Le mode AI est l’interface du chatbot et n’apparaît que lorsque l’utilisateur clique sur le bouton « Mode AI ». Il existe également la fonction AI Overview, qui apparaît automatiquement. Un point de friction important est qu’aucune des deux fonctionnalités ne peut être désactivée.
Vous pouvez lire le rapport complet sur les conclusions de Common Sense Media ici (PDF). En résumé, les fonctionnalités d’IA de Google ont obtenu de mauvais résultats selon sept des huit « principes d’IA établis » que l’organisation teste.
