Dans son pari à long terme sur le segment de l'IA, Google a racheté DeepMind en 2014. Aujourd'hui, cette dernière est profondément intégrée à l'organigramme de l'entreprise, perdant ainsi son autonomie. Il existe toutefois quelques dissensions internes concernant la gestion de certains dossiers. Notamment, une partie des employés de Google chez DeepMind sont opposés aux contrats militaires.
L’inquiétude vient du projet Nimbus, un contrat de 1,2 milliard de dollars dans le cadre duquel Google fournirait à l’armée israélienne des services et des outils basés sur l’intelligence artificielle, dérivés du travail de DeepMind. Google n’est pas le seul à s’y intéresser, car Amazon est également impliqué. À la mi-mai, 200 employés de DeepMind ont signé une lettre dans laquelle ils se disaient « préoccupés par les récents rapports sur les contrats de Google avec des organisations militaires ».
200 employés de Google DeepMind ont signé une lettre contre les contrats militaires
Si le projet Nimbus a fait son apparition en 2023, les protestations des employés contre lui ont augmenté cette année. Des rapports datant d’avril affirmaient que Google avait licencié 28 employés qui avaient participé aux manifestations. Les tensions semblent s’être intensifiées depuis lors, même si certains développements ont été gardés secrets. Par exemple, un récent rapport du TIME a révélé l’existence de la lettre mentionnée ci-dessus. Bien que trois mois se soient écoulés, les personnes impliquées dans l’affaire affirment n’avoir « reçu aucune réponse significative de la part de la direction ».
La principale inquiétude des employés de DeepMind est que leur technologie soit utilisée à des fins militaires. « Toute implication dans la fabrication d’armes et d’armes a un impact sur notre position de leader en matière d’IA éthique et responsable, et va à l’encontre de notre déclaration de mission et des principes énoncés en matière d’IA », peut-on lire dans la lettre. Les employés estiment que Google est « imprécis » ou vague lorsqu’il fait référence à Nimbus. Ils estiment même qu’il existe des clauses qui permettraient à l’entreprise de fournir sa technologie à des fins militaires.
DeepMind a perdu beaucoup d'indépendance
Actuellement, DeepMind et Google Brain forment une seule et même équipe axée sur l’IA. La fusion a eu lieu en 2023 après que DeepMind ait tenté d’obtenir une gestion plus indépendante, ce qu’elle avait au début. Cependant, DeepMind suit désormais la politique éthique générale de Google. Une partie de cette politique stipule que l’entreprise peut développer des technologies susceptibles de causer du tort si « les avantages l’emportent largement sur les risques ». Mais on ne sait pas clairement qui ou comment Google détermine s’il faut ou non franchir la ligne.
Un porte-parole de Google a déclaré que Nimbus n’était pas ce que les gens pensaient. Un communiqué officiel a déclaré que le projet « n’est pas destiné à des charges de travail hautement sensibles, classifiées ou militaires liées aux armes ou aux services de renseignement ». Les employés de DeepMind estiment quant à eux qu’ils ne peuvent pas y faire grand-chose. « Bien que DeepMind ait pu être mécontent de travailler sur des contrats d’IA militaire ou de défense dans le passé, je pense que ce n’est plus vraiment notre décision », a déclaré l’un d’eux à TIME.
Le personnel doute de la manière dont la technologie DeepMind est réellement utilisée
Pour l’heure, il est certain qu’Israël et son ministère de la Défense ont accès au logiciel Cloud de Google. Le géant de Mountain View a intégré des technologies basées sur l’intelligence artificielle dans ce dernier, comme dans nombre de ses services. Les États-Unis obligeraient également Israël à acheter des technologies d’intelligence artificielle à Google et Amazon. Cependant, la position de Google est que le logiciel n’est pas utilisé à des fins militaires ou de fabrication d’armes. Malheureusement, les employés de l’entreprise n’ont aucun moyen de vérifier si c’est vrai.
