Pour la plupart, les contrôles d’âge sont actuellement plutôt inutiles. Il vous demande simplement si vous avez plus d’un certain âge et il est facile de truquer votre date de naissance. Mais tout au long de l’année 2025, nous voyons des entreprises comme Google prendre des mesures actives pour vérifier l’âge d’un utilisateur. Désormais, OpenAI et Anthropic font leur part en annonçant de nouvelles façons de prédire les utilisateurs mineurs.
OpenAI et Anthropic annoncent des moyens de prédire les utilisateurs mineurs
OpenAI a annoncé que les spécifications du modèle ChatGPT incluront quatre nouveaux principes pour les utilisateurs de moins de 18 ans. La liste inclut la priorité accordée à la sécurité des adolescents, qui, selon OpenAI, sera prioritaire même si elle entre en conflit avec d’autres objectifs. Cela favorisera également le soutien dans le monde réel en encourageant les relations hors ligne.
Les adolescents seront également traités avec «chaleur et respect » Ainsi, au lieu de réponses condescendantes, les adolescents seront traités comme des jeunes et non comme des adultes. Il s’agit de changements importants, en particulier à la suite de rapports faisant état de quelques incidents au cours desquels des personnes se sont suicidées à la suite d’une interaction avec des modèles d’IA qui étaient constamment d’accord avec eux.
Du côté d’Anthropic, l’entreprise n’autorise déjà pas les utilisateurs de moins de 18 ans à utiliser son modèle Claude. Il déploie également des modifications permettant de détecter et de désactiver les comptes appartenant à des utilisateurs mineurs. Ceci est réalisé en détectant certains signaux conversationnels qui suggèrent que l’utilisateur est mineur.
Qu’est-ce qui pourrait mal se passer ?
Oui, il est indéniable que l’IA est intelligente et sait beaucoup de choses, mais elle n’est pas parfaite. Nous avons vu des cas où l’IA a été exploitée pour générer des logiciels malveillants. Il y a aussi le problème courant des hallucinations, un phénomène d’IA dans lequel le modèle génère à partir de rien des réponses complètement inventées et fausses.
Cela signifie que même si nous apprécions ce que font OpenAI et Anthropic en matière de prédiction des utilisateurs mineurs, il est difficile de ne pas être sceptique quant à son efficacité. De plus, comme nous l’avons dit, Google a déployé des outils similaires de vérification de l’âge plus tôt cette année. Malheureusement, c’était loin d’être parfait non plus.
De nombreux utilisateurs ont signalé que même s’ils avaient dépassé un certain âge, les systèmes de Google les avaient mal identifiés. Les utilisateurs peuvent résoudre ce problème en soumettant des documents prouvant leur âge, mais cela constitue un obstacle inutile lorsque tout ce que les utilisateurs veulent faire est de rechercher ou de regarder une vidéo en ligne. OpenAI et Anthropic auront-ils plus de chance ? Nous devrons attendre et voir.
