Aperçus de l'IA ; Rappel Windows. Ce sont quelques-unes des plus grandes fonctionnalités d’IA annoncées par Google et Microsoft cette année, et les deux sociétés fondent de grands espoirs sur elles. Eh bien, QUELQU’UN doit le faire, car la majorité du monde de la technologie méprise ces outils. Ils sont tous deux synonymes de mauvaises nouvelles, mais les entreprises qui les fabriquent ne prennent pas nos plaintes à cœur. Au lieu de cela, Google et Microsoft ignorent le tollé suscité par leurs outils d’IA controversés.
Tout d’abord, les aperçus de l’IA
On se retrouve : lors de Google I/O 2024, Google a présenté au public les aperçus de l'IA. Il s'agit de l'outil qui fournit des aperçus générés par l'IA des éléments que vous recherchez sur Google. Plutôt que de faire apparaître des pages Web pertinentes, l'outil résumera simplement ce que vous recherchez.
Pourquoi est-ce mauvais?
Eh bien, il s'agit d'un outil qui peut réduire considérablement le trafic généré par de nombreux sites Web, tuant ainsi leurs revenus publicitaires. Sans revenus publicitaires suffisants, de nombreux sites Web et sociétés associées devront fermer leurs portes. Les sites d’information dépendent de ces revenus publicitaires pour survivre, mais Google s’en fiche.
Ce qui aggrave les choses, c'est le fait que Google a commencé à diffuser des publicités sur les aperçus de l'IA. C’est une énorme gifle pour les entreprises qui partagent les revenus publicitaires. Chaque fois que des internautes se rendent sur un site et cliquent sur une annonce, le site Web et Google reçoivent une part des revenus publicitaires. Désormais, Google pourra renoncer à afficher ces sites Web et conserver les revenus publicitaires pour lui-même.
Ce n'est pas tout, mais cet outil affiche des réponses aux requêtes très étranges et potentiellement dangereuses. Il est célèbre qu'on conseille à quelqu'un de mettre de la colle sur la pizza pour aider le fromage à coller. Bien sûr, ce n’est pas la réponse la plus dangereuse, mais si cela gâche quelque chose d’aussi simple que cela, cela pourrait certainement gâcher quelque chose qui n’est pas si visiblement dangereux.
Un rapport récent indique que les aperçus de l'IA apparaissent moins fréquemment. C'est bien, au moins.
Ensuite, le rappel Windows
Ce prochain outil est du camp de Microsoft. Windows Recall est un outil intéressant qui permettra au système de prendre continuellement des captures d'écran de tout ce que vous faites sur votre ordinateur. Il stockera ensuite ces données localement. Ainsi, si vous avez besoin de vous rappeler quelque chose que vous faisiez à un moment donné, vous pouvez demander à Copilot de rechercher dans ces captures d'écran.
Supposons que si vous avez enregistré un fichier dans un dossier il y a quelques jours et que vous avez oublié où vous l'avez mis, vous pouvez demander à Copilot « Où ai-je mis [File name]». Apparemment, il pourra parcourir les captures d'écran, identifier le fichier et vous le dire.
Pourquoi est-ce mauvais?
Bien sûr, cela pourrait être un outil utile pour vous aider à rappeler certaines actions. Cependant, cela ne convient pas à la communauté pour plusieurs raisons. Premièrement, peu de gens sont enthousiastes à l’idée que TOUT ce que vous faites sur votre ordinateur soit surveillé et documenté. On peut toujours plaisanter en disant que « Microsoft verra tous les sites Web pornographiques que vous visitez [dopey laughter]». Mais, très sérieusement, vous manipulez des documents sensibles, saisissez des mots de passe, stockez des informations bancaires, communiquez avec des clients, etc. sur votre ordinateur. Tout cela pourrait potentiellement être documenté.
En plus du fait que c'est effrayant, il y a un autre problème ; un autre problème MAJEUR. Comme l'a découvert l'éditeur de cybersécurité Kevin Beaumont, la fonctionnalité enregistre tout ce que vous faites sur votre ordinateur sous forme de base de données SQLite en texte brut sur votre ordinateur. Les utilisateurs peuvent en fait localiser le fichier sur leur ordinateur simplement en accédant au dossier AppData. Ainsi, même s'il est stocké localement, un enfant de cinq ans peut y accéder.
Google et Microsoft ignorent le tollé suscité par leurs outils d'IA controversés
Cela nous montre vraiment comment les entreprises peuvent développer et proposer des fonctionnalités dont elles savent qu’elles ne plairont pas à la communauté. Les dirigeants de Google savent que les aperçus de l'IA pourraient renverser l'industrie de l'information ; notre enfant de cinq ans susmentionné peut comprendre la logique derrière cela. De toute évidence, de nombreux organes de presse, déjà mécontents de l’avancée de l’IA, ont un problème majeur avec celle-ci. Cependant, lors d'entretiens, Sundar Pichai, PDG de Google/Alphabet, a déclaré que les gens utiliseraient les aperçus comme point de départ. À quoi sert un point de départ si vous obtenez tout ce dont vous avez besoin en un instant ?
Sérieusement, combien de personnes liront les aperçus et penseront à creuser plus profondément ? Bien sûr, certaines personnes le feront, mais pas suffisamment pour maintenir correctement les revenus publicitaires des sites d’information.
Dans le cas de Microsoft, qui aurait pensé qu’à l’ère du zéro confidentialité, introduire une fonctionnalité qui enregistre littéralement tout ce que vous faites sur votre ordinateur serait un succès ? L'entreprise a introduit un cauchemar en matière de confidentialité et de sécurité en stockant les données derrière une porte d'un pied de haut. Ce sont ici des professionnels de l’industrie ; ils sont tous hautement qualifiés et très intelligents. Cependant, ils réalisent des cascades comme celles-ci. Les gens piratent cette fonctionnalité et découvrent des failles de sécurité majeures qui ne devraient pas exister.
Le tollé est inaudible
La communauté est mécontente de disposer de ces outils d’IA manifestement destructeurs, et tout ce que les entreprises peuvent faire, c’est les défendre. Malgré tant de réactions négatives du public, Google continue de travailler sur les aperçus de l'IA. Corriger les réponses étranges ne résout pas le problème principal ; le problème est que les gens n’en veulent pas parce que cela peut coûter leur emploi à des tonnes de personnes. C'est pourquoi des guides sur la façon de désactiver les aperçus de l'IA sont apparus UN JOUR après son lancement.
Microsoft a précisé que Windows Recall est uniquement opt-in. En toute honnêteté, c’est une bonne chose (avec ça, c’est déjà une longueur d’avance sur les aperçus de l’IA). Cela nécessitera également une authentification Windows Hello. Cependant, ce n’est pas là le problème central. Le problème est que cette fonctionnalité est extrêmement intrusive et aussi sécurisée qu’un cadenas en papier mâché.
La communauté technologique en a assez d’être ignorée par les grandes entreprises technologiques qui font ces conneries. Ils lancent des outils d’IA qui sont des signaux d’alarme majeurs et ignorent les réactions négatives. Ils se contentent de déclarer qu’ils vont régler le problème et espèrent que les gens oublient. Cependant, il y a des choses qu’un commentaire scénarisé d’un porte-parole ne peut dissimuler.
La communauté demande aux entreprises de cesser de proposer ces fonctionnalités et d’entendre seulement le silence. Nous sommes à un point où l’IA pourrait causer des dégâts majeurs, et ces grandes marques technologiques doivent comprendre que, si elles continuent sur cette voie, elles finiront par causer des dégâts irréparables.
