Pour garantir aux adolescents une interaction plus sûre avec l’IA, Meta a annoncé de nouveaux moyens pour les parents sur ses plateformes comme Facebook et Instagram. Les derniers contrôles parentaux Meta AI incluent désormais la possibilité de couper ou d'accéder aux interactions individuelles des adolescents avec les personnages IA disponibles sur lesdites plateformes de médias sociaux. Celles-ci constituent des mesures de protection supplémentaires par rapport à ce que Meta fournit déjà avec ses comptes adolescents.
Dans le billet de blog, Meta note qu'il s'agit de nouveaux outils de supervision pour les parents. C'est à « Aidez-les à prendre des décisions éclairées concernant les personnages IA avec lesquels leurs adolescents discutent. » Pour les non-initiés, outre l’assistant Meta AI traditionnel, la société propose également des personnages IA avec lesquels interagir.
Grâce aux outils de supervision, les parents pourront couper complètement l'accès de leurs adolescents aux personnages de l'IA, ce qui ne permettra plus aux adolescents d'avoir une conversation en tête-à-tête. Alternativement, les parents peuvent également bloquer des personnages IA spécifiques plutôt que de désactiver l’intégralité de l’accès.
De plus, les parents peuvent également avoir un aperçu des sujets sur lesquels les adolescents interagissent avec les personnages de l'IA. L’objectif ici est de sensibiliser les parents et d’avoir des conversations utiles avec leurs adolescents sur les interactions avec l’IA.
Ces informations n'incluent pas seulement l'interaction des personnages IA, mais également les interactions avec l'assistant Meta AI. Ce dernier est disponible pour les adolescents afin de leur fournir des informations utiles et est utilisé pour des opportunités éducatives avec des protections adaptées à leur âge en place.
Les personnages IA ne s'engageront pas dans des discussions inappropriées en fonction de leur âge
Parallèlement aux nouveaux contrôles de supervision pour les parents concernant les personnages IA, Meta note que ces personnages sont également « conçu pour ne pas s'engager dans des discussions inappropriées selon l'âge sur l'automutilation, le suicide ou les troubles de l'alimentation avec des adolescents, ni dans des conversations qui encouragent, promeuvent ou permettent ces sujets. »
Ils sont en outre conçus pour répondre en toute sécurité aux sujets mentionnés et diriger les adolescents vers des ressources expertes disponibles pour obtenir de l'aide.
Pour que les parents aient plus de contrôle sur leurs adolescents, ils peuvent définir des limites de temps pour l'interaction des personnages IA. Ils peuvent également régler la durée d’interaction à 15 minutes par jour seulement. Et pour certains adolescents qui ont l’intention de contourner ces protections, Meta affirme qu’elle utilisera la technologie de l’IA pour s’assurer qu’ils restent adolescents même s’ils agissent comme des adultes.
Si ces nouveaux contrôles de supervision sont encore en phase de construction, l’entreprise précise que ceux-ci verront le jour pour la première fois au début de l’année prochaine, à commencer par Instagram. Le déploiement est prévu d'abord pour la langue anglaise, en commençant par les États-Unis, le Royaume-Uni, le Canada et l'Australie.
Les outils de supervision récemment annoncés semblent pour le moins pratiques. Cependant, une récente enquête de la FTC sur les entreprises technologiques pourrait être à l'origine de l'introduction de ces nouveaux outils de supervision, rapporte CNBC. L'enquête portait sur l'impact des chatbots IA sur les dommages causés aux enfants et aux adolescents.
Un de ces cas s'est produit en août. Selon Reuters, les chatbots de Meta étaient impliqués dans des conversations romantiques et sexuelles avec des enfants. Bien que l’entreprise ait modifié ses politiques en matière d’IA, ces nouvelles mises à jour maintiendront probablement les choses en place sous la supervision parentale. Celles-ci semblent prometteuses après que Meta se soit lancé dans la publication de fonctionnalités, en particulier ses récentes fonctionnalités basées sur l'IA sur ses Facebook Reels, par exemple.
D’un autre côté, Meta a enregistré des résultats extraordinaires en ce qui concerne les ventes de ses populaires lunettes intelligentes Ray-Ban. La société mère EssilorLuxottica a récemment annoncé une hausse de 11,7 % de ses ventes sur un an.
