Qu’est-ce qui différencie Apple et Google ? L’un d’eux essaie au moins de garder vos données privées… et l’autre est Google. Autre initiative controversée : Gemini scanne automatiquement des documents sans autorisation. Le cas évoqué dans ce rapport est isolé, mais il met en évidence un problème potentiel dont les gens devraient s’inquiéter.
C'est une histoire assez triste à lire après qu'Apple ait dévoilé Apple Intelligence. Grâce à l'IA d'Apple, toutes les fonctions d'IA de base se déroulent sur l'appareil, mais lorsque cela est nécessaire, votre téléphone contactera GPT-4o. Eh bien, le système vous demandera la permission de le faire. Ainsi, votre demande ne touche pas un centre de données tant que vous n'avez pas donné votre consentement au téléphone.
Alors, quoi de neuf ? Apple est « l'entreprise de la confidentialité » et elle surpasse toutes les autres entreprises à cet égard.
Google Gemini pourrait scanner des documents sans autorisation
C'est une histoire un peu confuse si l'on regarde les détails. Nous avons reçu le premier rapport de Kevin Bankston, un militant de la vie privée et actuel directeur de la politique de confidentialité de Facebook. Il a publié un message sur X pointant vers Gemini qui scanne automatiquement l'un de ses documents PDF.
«Je viens de télécharger ma déclaration de revenus dans @Google Docs et, sans que je m'y attende, Gemini l'a résumée. Donc… Gemini ingère automatiquement même les documents privés que j'ouvre dans Google Docs ? WTF, les gars. Je n'ai pas demandé ça. Maintenant, je dois aller chercher de nouveaux paramètres dont on ne m'a jamais parlé pour désactiver cette merde.”
Ainsi, non seulement Gemini numérise soi-disant des documents, mais il n'hésite pas à numériser des documents sensibles comme les déclarations d'impôts. C'est un peu effrayant. Peu de temps après, un porte-parole de Google a donné une réponse :
«Nos fonctionnalités d'IA générative sont conçues pour offrir aux utilisateurs le choix et leur permettre de garder le contrôle de leurs données. Pour utiliser Gemini dans Google Workspace, l'utilisateur doit l'activer de manière proactive. Lorsqu'il le fait, son contenu est utilisé de manière à préserver la confidentialité pour générer des réponses utiles à ses invites, mais n'est pas stocké sans autorisation.«
Histoire déroutante
Selon Google, vous devrez donc activer les paramètres. Lorsque vous vous inscrivez au programme Gemini for Workspace Labs, vous devez accepter certaines conditions de service, mais la numérisation de documents est le type d'autorisation que vous devez activer séparément.
Bankston a utilisé Gemini pour retrouver les paramètres permettant de désactiver cette fonctionnalité, et c'est là que les choses deviennent confuses. Apparemment, Gemini lui a suggéré plusieurs pages, mais aucune d'entre elles ne lui a montré le bon paramètre. Il cherchait ces paramètres de confidentialité alors qu'il n'aurait pas dû le faire. Les paramètres de confidentialité des outils d'IA devraient être au premier plan. Pourquoi lui a-t-on suggéré différentes pages pour un seul paramètre ?
Eh bien, il a finalement trouvé les paramètres qui désactiveraient la fonction de numérisation, et c'est là que l'histoire devient encore plus tordue. Le bouton qui lui permettrait de numériser des documents dans Drive a été désactivé. Il semble donc que la désactivation de la fonction ne vous protège pas de la numérisation de documents.
Bankston a découvert que, si vous ouvrez Gemini dans un type de document, Gemini analysera automatiquement les autres fichiers du même type. Ainsi, si vous ouvrez Gemini dans un PDF, il peut analyser automatiquement tous les fichiers PDF que vous ouvrez. C'est un mécanisme étrange, et quelque chose que Google devrait nous dire.
Il se demande également si c'est parce qu'il s'est inscrit au Google Workspace Lab l'année dernière. On ne sait pas si cela a un effet sur les autorisations dont dispose Gemini.
Cela met en évidence un problème assez important
D'accord, nous n'avons pas besoin que les entreprises fassent cela maintenant. Nous n'avons pas besoin qu'elles soient sournoises en matière d'autorisations et qu'elles envoient les gens dans des chasses au trésor à la recherche de simples boutons. À ce stade, la navigation dans les services de Google devrait être assez intuitive. Il devrait être facile de trouver des paramètres simples qui activent et désactivent des fonctionnalités.
Alors, question : pourquoi diable une personne a-t-elle besoin de demander à Gemini de trouver des paramètres pour elle ? Question suivante : pourquoi Gemini lui a-t-il donné plusieurs réponses pour trouver un paramètre ? Dernière question : pourquoi AUCUNE de ces pages n'était-elle correcte ? Une personne ne devrait pas avoir besoin de passer par là simplement pour trouver et désactiver un paramètre qui permettrait à Google de scanner des documents sans le lui dire. Encore une fois, si Apple Intelligence veut exploiter un centre de données, le logiciel vous en informera de temps en temps. Vous savez quand vos données sont envoyées à OpenAI.
Pendant ce temps, Google scanne des documents sans prévenir personne et cache des paramètres. Google est la principale entreprise à parler de développement de l'IA « de manière responsable ». Eh bien, Google, si vous voulez que les gens croient cela, vous devez les faire confiance, et vous avez fait du mauvais travail pour gagner notre confiance.
La bascule ?
Un autre problème est le fait que les boutons étaient désactivés pour Bankston, et Gemini continuait à scanner les documents. Comment peut-on dire à quel point c'est une erreur ? Bankston a émis l'hypothèse que c'était peut-être parce qu'il s'était inscrit au laboratoire, mais cela ne devrait pas être un problème.
Cela ne fait qu'aggraver la situation de Google. Cela signifie que s'assurer que Gemini ne scanne pas vos documents n'est pas du tout clair. Il y a une confusion autour de ce problème, et il ne devrait pas y en avoir. On ne devrait pas avoir à se demander pourquoi les boutons de Google ne fonctionnent pas.
La réponse de Google
Enfin, la réponse de Google était un peu décalée. Encore une fois, elle n'est pas claire. Le porte-parole a déclaré que le contenu des utilisateurs « est utilisé de manière à préserver la confidentialité ». Qu'est-ce que cela signifie ? Le commentaire n'entre pas dans les détails sur la manière dont il préserve la confidentialité. Il ne mentionne pas les mesures de sécurité mises en œuvre par Google, donc pour autant que nous le sachions, tout aurait pu lui arriver.
Le problème principal
Cela met en lumière l'un des plus gros problèmes des entreprises d'IA : la transparence. Les organismes gouvernementaux se battent bec et ongles pour que les entreprises nous disent simplement ce qui se passe. Les entreprises font de leur mieux pour cacher tout ce qui se passe au public, et c'est la pire chose qui puisse arriver à la technologie de l'IA.
Les gens sont déjà sceptiques à l’égard de la technologie de l’IA. Nous n’avons pas besoin d’histoires de Gemini qui scanne des documents sans en informer les utilisateurs. Nous n’avons pas non plus besoin de réponses à moitié faites expliquant aux utilisateurs que cela préserve leur vie privée sans expliquer comment. Nous avons besoin que l’entreprise fasse mieux en nous informant simplement de ce qui se passe.
