La sécurité des enfants et la vie privée sont l'une des principales préoccupations d'un chatbot d'IA. Meta a même été exposée récemment pour avoir fait utiliser son chatbot un langage explicite aux mineurs. Maintenant, dans une nouvelle revue des risques, les Gémeaux de Google ont été étiquetés avec une balise «à haut risque» pour la sécurité des enfants. L'évaluation suggère qu'elle représente un danger important pour les enfants et les adolescents.
Les Gémeaux de Google sont confrontés à une étiquette à «risque élevé» pour la sécurité des enfants
Common Sense Media, une organisation à but non lucratif qui examine les médias et la technologie pour les enfants, a publié son évaluation des Gémeaux. Selon le rapport, les modes «Under 13» et «Teen Experience» de Gemini ressemblent en grande partie à la version adulte ou à part entière. Ces deux modes sont censés être «adaptés aux enfants», tandis qu'en réalité, ils ne sont que la version originale avec des filtres supplémentaires superposés.
Le rapport, cependant, ajoute que Gemini mentionne aux mineurs qu'il s'agit d'un «ordinateur» et non d'un «ami». Mais les experts soutiennent que cette approche est encore inadéquate. La sécurité des enfants doit être intégrée à partir de zéro, non traitée comme une réflexion après coup.
Gemini est accusé de partager des matériaux inappropriés et dangereux avec des enfants
L'évaluation souligne qu'en dépit d'avoir un mode dédié pour les mineurs, les Gémeaux pourraient toujours partager du contenu inapproprié et dangereux. Il n'a aucune restriction plus large sur la livraison de contenu. Il peut toujours fournir des informations auxquelles les enfants ne sont pas prêts, comme les drogues, le sexe ou l'alcool.
Tout en mettant en évidence les défauts de Gemini, le média de bon sens note que Google a négligé les piliers fondamentaux nécessaires pour concevoir un outil pour les enfants et les adolescents. La version mineure de Gemini ne tient pas compte du fait qu'un public plus jeune a besoin de conseils et de traitements différents de ceux des adultes. Le rapport rapporte finalement les Gémeaux de Google avec une balise «à haut risque» en termes de sécurité des enfants.
Si une IA doit jouer un rôle dans la vie quotidienne des enfants, elle doit être conçue en tenant compte de leurs besoins de développement, plutôt que des versions modernisées de produits pour adultes, suggèrent les experts. Jusque-là, les parents devront peut-être rester prudents sur la façon dont ces outils sont utilisés à la maison.
