Suite à des informations inquiétantes faisant état de suicides de personnes après avoir interagi avec ChatGPT, OpenAI a décidé de mettre en œuvre des mesures de sécurité dans l’espoir d’éviter que cela ne se reproduise. Cela inclut des garanties pour protéger les jeunes utilisateurs, comme les adolescents. Mais comment l’IA saura-t-elle qu’un utilisateur est mineur ? Selon OpenAI, ils utilisent désormais la prédiction de l’âge avec ChatGPT pour le déterminer.
ChatGPT utilisera la prédiction de l’âge
L’annonce d’OpenAI indique que la société déploie des prévisions d’âge pour ChatGPT. Désormais, lorsque vous créez un compte, il vous demande votre âge. Évidemment, vous pouvez mentir et prétendre être plus âgé que vous ne l’êtes. C’est un problème contre lequel de nombreux services en ligne sont confrontés depuis des années.
Cependant, avec la prédiction de l’âge, cela rend les choses plus délicates. OpenAI déclare : « Le modèle examine une combinaison de signaux comportementaux et au niveau du compte, notamment la durée d’existence d’un compte, les heures typiques de la journée où une personne est active, les modèles d’utilisation au fil du temps et l’âge déclaré d’un utilisateur. »
Alors, que se passe-t-il si un utilisateur prétend avoir plus de 18 ans alors que la prédiction de l’âge pense que ce n’est pas le cas ? OpenAI affirme qu’ils peuvent se vérifier avec un selfie via Persona, un service de vérification d’identité. Le système de prédiction de l’âge appliquera également automatiquement des protections supplémentaires jusqu’à ce que l’utilisateur se vérifie.
Cela inclut la protection contre la violence graphique ou le contenu sanglant, les défis viraux considérés comme risqués ou nuisibles, les jeux de rôle sexuels, romantiques ou violents, et bien plus encore. Étant donné qu’OpenAI prévoit d’introduire un « mode adulte » dans ChatGPT, cela pourrait s’avérer utile. Mais la grande question est : sera-t-il efficace ?
Nous l’avons déjà vu échouer
Les modèles de prédiction de l’âge ne sont pas vraiment nouveaux. En fait, en 2025, Google a tenté d’utiliser l’IA pour prédire l’âge de l’utilisateur. C’était bien intentionné, même si les rapports des utilisateurs affirment que ce n’était pas si précis. Les utilisateurs considérés comme des adultes se retrouvaient exclus de leur compte.
Même si Google propose également aux utilisateurs un moyen de prouver leur âge, le fait est qu’il s’agit d’un processus perturbateur. Imaginez que vous essayiez de travailler et que vous soyez bloqué parce que l’IA a fait un mauvais travail pour prédire votre âge. OpenAI surpassera-t-il Google dans son succès ? Cela reste à voir, mais j’espère que l’entreprise a appris des erreurs de Google.
