Cette année, les sociétés de médias sociaux ont été sous le feu des projecteurs des autorités. Des poursuites ont frappé de grands noms comme Meta et TikTok pour leur incapacité à protéger adéquatement les utilisateurs mineurs. Sous toute la pression, certains, comme Instagram, ont mis en œuvre des mesures strictes de confidentialité sur les comptes des adolescents. Maintenant, Meta a offert un aperçu de son nouveau classificateur pour adultes alimenté par l'IA.
Depuis des mois, les comptes mineurs (utilisateurs de moins de 16 ans) sur Instagram reçoivent le label « compte ado ». Les profils étiquetés comme tels ont par défaut les restrictions de confidentialité les plus restrictives. Cela devrait empêcher les enfants ou les adolescents de contacter directement de mauvais acteurs ou prédateurs potentiels. Étant donné que ces restrictions peuvent limiter les fonctionnalités, certains adolescents peuvent tenter de les contourner.
Meta offre plus de détails sur le classificateur pour adultes alimenté par l'IA qu'Instagram obtiendra
Une façon pour les mineurs d’essayer de contourner les restrictions relatives aux comptes adolescents consiste à créer un nouveau profil avec une fausse date de naissance. Dans cet esprit, Meta a annoncé en septembre qu’elle lancerait un outil de classification pour adultes alimenté par l’IA pour détecter automatiquement de tels cas. Allison Hartnett, directrice de la gestion des produits pour la jeunesse et l'impact social chez Meta, a révélé plus de détails sur la manière dont cela fonctionnera.
Selon Hartnett, l'outil analysera plusieurs paramètres pour prendre une décision. Il s'agit notamment des comptes qu'un utilisateur suit en particulier et du type de contenu avec lequel il a tendance à interagir. Les systèmes de Meta seront également à l'affût de comportements potentiellement suspects lors de la création d'un nouveau compte Instagram, par exemple en utilisant un e-mail associé à un profil existant ou même en obtenant l'identifiant de l'appareil. De cette façon, ils peuvent prendre une décision plus précise quant à savoir qui crée un nouveau profil.
Le classificateur IA pour adultes de Meta sera capable de qualifier les comptes suspectés d'appartenir à des mineurs de « adolescents », en appliquant automatiquement toutes les restrictions. Les comptes soumis à ces restrictions ne peuvent pas être supprimés sans l'autorisation préalable d'un parent. La société promet de fournir un outil de recours si elle qualifie à tort un compte de « adolescent ». Cependant, il n’y a pas encore de date quant à la disponibilité de l’outil de recours.
Instagram demandera des pièces d'identité valides ou une analyse faciale basée sur l'IA lorsque vous tenterez de changer d'âge
Il peut également y avoir des cas où des adolescents tentent de supprimer les restrictions en modifiant leur date de naissance. Ici, Instagram demandera une pièce d’identité valide émise par le gouvernement. Les utilisateurs auront également la possibilité de télécharger une vidéo selfie grâce à la technologie de Yoti. Ce dernier propose des services avancés de reconnaissance basés sur l'IA qui peuvent même déterminer l'âge d'une personne. Meta s'est déjà tourné vers Yoti pour vérifier l'âge des utilisateurs de l'option de rencontres de Facebook.
