La mise en œuvre de l'intelligence artificielle a apporté de grandes avancées à l'industrie technologique. Cependant, ces dernières années, certains noms importants du segment ont partagé leurs opinions concernant le développement «agressif» de la technologie. Conformément à cela, Eric Schmidt, ancien PDG de Google, avertit, avec d'autres experts, sur les risques de poursuivre un «projet Manhattan» pour Agis.
L'ancien PDG de Google et d'autres experts partagent leur vision sur un projet américain de Manhattan pour AGI
Eric Schmidt, Alexandr Wang – PDG de l'AI à l'échelle – et Dan Hendrycks – Centre pour le directeur de la sécurité de l'IA – ont signé un document de politique où ils mettent en garde contre les représailles potentielles contre les États-Unis dans un scénario où ils tentent de diriger la technologie d'Agis (agents de l'IA). Selon le journal « Stratégie de superintelligence», Des pays technologiquement puissants comme la Chine pourraient répondre aux États-Unis sous la forme de cyberattaques potentielles. Ces situations conduiraient à la déstabilisation des relations internationales et des escalades dans les conflits.
« [A] Projet de Manhattan [for AGI] suppose que les rivaux acquierteront un déséquilibre ou un omnicide durable plutôt que de se déplacer pour l'empêcher», Lit le papier. « Ce qui commence comme une poussée pour une super-arme et le contrôle mondial risque de provoquer des contre-mesures hostiles et une escalade des tensions, sapant ainsi la stabilité même de la stratégie censée sécuriser.«
Le document semble se référer à une initiative américaine qui suggérait une sorte de «projet de Manhattan» pour le développement d'Agis. Le programme serait similaire à celui qui a conduit à la création de la bombe atomique il y a des décennies. Energy Chris Wright, secrétaire américain de l'énergie, a récemment exprimé l'idée avec Greg Brockman, co-fondateur d'Openai, sur un site de supercalculateur.
Ce n'est pas la première fois qu'Eric Schmidt a mis en garde contre les risques de l'IA dans le monde d'aujourd'hui. L'ancien PDG de Google a exprimé ses préoccupations à la mi-février concernant l'utilisation potentielle des plateformes d'IA pour les attaques terroristes biologiques basées sur des armes.
Le document suggère une position défensive en désactivant «menaçant les projets d'IA»Grâce aux cyberattaques
Le document suggère que les États-Unis devraient adopter une position défensive concernant Agis. Autrement dit, gardez un œil sur le développement de la technologie par les pays rivaux. Les co-signataires suggèrent que les États-Unis devraient désactiver «Menaçant des projets d'IA» si détecté. Ils disent que le pays devrait «développer [its] arsenal de cyberattaques«Préparer de telles situations. Ils sont également favorables aux États-Unis limitant l'accès aux puces AI avancées et à ses modèles d'IA open-source.
La vue est un peu fataliste mais conforme à ce que Schmidt a exprimé récemment. Cependant, le journal contredit certains des conseils de l'ancien PDG de Google. Auparavant, il a plaidé pour que les États-Unis rivalisent activement pour la domination dans le domaine de l'IA. Mais en parlant d'Agis, Eric Schmidt semble préconiser une position plus défensive que agressive.
