Google a annoncé une nouvelle politique de contenu IA pour mieux réglementer les applications Android avec IA générative intégrée. La nouvelle mise à jour de la politique récemment annoncée obligera les applications d’IA à se conformer à des directives strictes visant à protéger les utilisateurs contre le contenu offensant généré par l’IA. Google sévit également contre les notifications de spam provenant des applications.
Signaler le contenu offensant de l’IA
À partir de 2024, les développeurs devront inclure des fonctionnalités permettant de signaler tout contenu offensant provenant de leur application d’IA générative. « Conformément à l’engagement de Google en faveur de pratiques responsables en matière d’IA, nous voulons contribuer à garantir que le contenu généré par l’IA est sûr pour les gens et que leurs commentaires sont pris en compte », explique Google dans un article de blog. Les développeurs utiliseront ensuite les commentaires pour améliorer leurs filtres de contenu.
La nouvelle politique relative au contenu de l’IA fonctionne selon un principe similaire aux directives du système de reporting de Google pour le contenu généré par les utilisateurs. Les utilisateurs doivent pouvoir signaler ou signaler du contenu sans quitter l’application.
Cela s’applique à trois types d’applications gen AI. Premièrement, les chatbots IA qui produisent principalement du contenu textuel. Deuxièmement, les applications qui génèrent des images IA à partir de texte, de voix ou d’autres invites d’image. Troisièmement, les applications qui simulent des voix ou des vidéos de vraies personnes à l’aide de l’IA. Il couvre toutes les combinaisons possibles de texte, de voix et d’image.
Google a également présenté les applications exemptées de ces réglementations. Par exemple, les applications qui présentent ou présentent simplement du contenu généré par l’IA mais qui ne disposent pas de fonctionnalités génératives intégrées n’y sont pas soumises. La politique ne s’applique pas non plus aux applications qui résument du contenu humain. De plus, les applications de productivité qui utilisent l’IA pour améliorer l’expérience utilisateur n’ont pas non plus besoin de rapports ou de filtrage dédiés.
La prochaine mise à jour devrait aider les développeurs à lutter contre le matériel restreint, leur donnant ainsi plus de contrôle sur cet espace en évolution. Google a publié quelques exemples de contenus générés par l’IA qui enfreignent ses directives. Ils incluent les générations de deepfake sexuelles, les fausses voix pour organiser des escroqueries, les contenus trompeurs liés aux élections, les contenus qui favorisent l’intimidation ou la gratification sexuelle et les codes malveillants.
Moins de notifications de spam provenant des applications
La même mise à jour de politique comprend une section sur les notifications d’intention en plein écran. Ces notifications sont censées être des alertes hautement prioritaires qui nécessitent votre attention urgente. Pensez aux notifications qui réveillent l’écran en cas d’appels téléphoniques ou d’alarmes.
Mais de nombreuses applications utilisent ces notifications en plein écran pour les promotions et les rappels en douceur. Google introduit donc désormais une autorisation spéciale pour les notifications hautement prioritaires. Par défaut, seules les applications essentielles nécessitant cette fonctionnalité la verront activée. D’autres devront demander à l’utilisateur.
La mise à jour de la politique devrait rendre l’IA générative sur Android plus sûre et limiter les notifications de spam qui nuisent à votre bien-être numérique et à votre expérience utilisateur.
