Google prend des mesures pour répondre à l’une des principales préoccupations de l’ère de l’IA. L’utilisation d’images manipulées à des fins malveillantes est dans la ligne de mire des entreprises depuis un certain temps déjà. Google franchit aujourd’hui une nouvelle étape vers la transparence dans l’utilisation de l’IA générative.
Certains hésitent encore à utiliser l’intelligence artificielle pour générer des images. Certains artistes pensent par exemple que les services basés sur l’IA volent leurs œuvres sur Internet sans leur consentement, tandis que d’autres s’inquiètent de l’utilisation abusive potentielle d’images manipulées. Les grands noms du secteur ont donc du mal à convaincre le public.
Google a amélioré la fonctionnalité « À propos de cette image » pour apporter plus de transparence sur les images générées par l'IA
Dans cette optique, Google met en place des outils pour une plus grande transparence sur l'origine des images, y compris celles générées par des services d'IA. Plus tôt cette année, l'entreprise a rejoint le comité de la Coalition pour la provenance et l'authenticité des contenus (C2PA). Depuis, elle contribue au développement de technologies permettant d'identifier la « piste » des images sur Internet. Un nouveau billet de blog de l'entreprise fournit désormais des mises à jour.
Dans les prochains mois, les résultats de recherche Google bénéficieront d'une fonctionnalité améliorée « À propos de cette image ». L'entreprise va mettre en œuvre des métadonnées C2PA pour rendre cette fonctionnalité plus puissante. Les métadonnées C2PA peuvent indiquer si une image provient de l'IA, a subi une modification ou provient directement d'un appareil photo. La fonctionnalité « À propos de cette image » était déjà capable d'afficher les étiquettes d'image générées par l'IA. Cependant, l'intégration avec les métadonnées C2PA lui permettra d'afficher plus d'informations sur l'origine de l'image.
Améliorations apportées par la norme C2PA
Si vous ne le saviez pas, la norme C2PA inclut une série de données techniques qui permettent de tracer l'origine d'une image. De grands noms comme Google, Amazon, OpenAI, Microsoft, Adobe, Intel et Arm ont tous approuvé la norme. Cependant, la mise en œuvre dans leurs principaux outils a été un peu lente. La décision de Google pourrait inspirer d'autres entreprises à prendre des mesures à cet égard.
Il existe encore quelques limitations techniques à l'implémentation massive des métadonnées C2PA. Du côté du matériel photo, seuls quelques modèles Leica et Sony le prennent actuellement en charge. Les appareils photo Nikon et Canon devraient également être compatibles à l'avenir. De plus, il n'y a toujours pas de nouvelles concernant la prise en charge sur les appareils Android et iOS. Du côté logiciel, d'importants outils d'édition ne sont toujours pas pris en charge. Par exemple, Photoshop et Lightroom d'Adobe prennent en charge les normes C2PA, tandis que d'autres comme Affinity Photo ou Gimp ne le font pas encore. De plus, toutes les plateformes sociales ne peuvent pas encore afficher les étiquettes générées par l'IA.
Dans l’ensemble, ce n’est qu’une question de temps avant que l’adoption massive de normes et de lois sur l’IA ne se produise. Les LLM ont pris d’assaut le monde, se développant à un rythme plus rapide que celui des législateurs et des développeurs de normes. En effet, début août 2024 a vu l’élaboration du premier acte législatif européen sur l’IA.
