Sans aucun doute, l’IA est incroyable. Les choses qu'il peut faire, les automatisations et la façon dont nous interagissons avec lui ont vraiment changé nos vies. Mais comme on dit, trop de bonnes choses sont mauvaises. C’est pourquoi plus de 800 personnalités publiques, dont Steve Wozniak et le prince Harry, ont appelé à l’interdiction de la superintelligence artificielle.
Des personnalités publiques appellent à l’interdiction de la superintelligence artificielle
Selon un rapport du Financial Times, plus de 800 personnalités publiques, parmi lesquelles des scientifiques de l’IA, d’anciens chefs militaires et des PDG, ont signé une déclaration appelant à l’interdiction des travaux susceptibles de conduire à la superintelligence de l’IA.
La déclaration se lit en partie : «Nous appelons à une interdiction du développement de la superintelligence, qui ne soit pas levée avant qu'il n'y ait un large consensus scientifique sur le fait que cela se fera de manière sûre et contrôlable, et une forte adhésion du public..»
S'adressant à NBC News, le directeur exécutif du Future of Life Institute, Anthony Aguirre, a déclaré : «À un certain niveau, cette voie a été choisie pour nous par les sociétés d'IA, leurs fondateurs et le système économique qui les anime, mais personne n'a vraiment demandé à presque personne d'autre : « Est-ce ce que nous voulons ?«
Des préoccupations compréhensibles
Aussi merveilleuse que soit la technologie de l’IA, de nombreuses préoccupations ont été soulevées. Certaines des préoccupations exprimées dans la récente déclaration citent des problèmes tels que «l'obsolescence économique humaine et la perte de pouvoir, la perte de liberté, de libertés civiles, de dignité et de contrôle, jusqu'aux risques pour la sécurité nationale et même à l'extinction potentielle de l'humanité.»
Mais ils n’ont pas tort. Une étude récente du MIT suggère qu’une dépendance excessive à l’égard de l’IA peut conduire à ce que les chercheurs appellent une « dette cognitive ». Cela signifie essentiellement que plus nous comptons sur elle, plus notre esprit devient ennuyeux.
N'oublions pas l'impact social de l'IA, où des technologies comme les deepfakes peuvent causer toutes sortes de ravages et de méfaits. Enfin, il est difficile d’ignorer l’impact environnemental de l’IA. La quantité d’énergie requise pour traiter toutes ces commandes est énorme.
Avant de devenir PDG d’OpenAI, Sam Altman nous avait déjà mis en garde contre la superintelligence. Dans son article de blog, il a écrit que «le développement de l’intelligence artificielle surhumaine (SMI) est probablement la plus grande menace pour la pérennité de l’humanité.» Ironique, n'est-ce pas ?
