Nous ne sommes qu’à un mois de l’élection présidentielle américaine, et l’anticipation est à son plus haut niveau (tout comme la désinformation). Plusieurs hommes politiques tentent d’atténuer la désinformation à la lumière du contenu généré et manipulé par l’IA, et l’un d’eux est le gouverneur de Californie, Gavin Newsom. Il a proposé une loi qui lutterait contre les deepfakes de l’IA, mais un juge californien l’a bloquée.
Newsom a récemment fait la une des journaux pour avoir abattu le SB 1047, le projet de loi qui aurait apporté une réglementation majeure aux grandes entreprises d'IA. Il n'a pas adopté le projet de loi pour plusieurs raisons, notamment un manque de spécificité concernant les applications de l'IA et une concentration disproportionnée sur les grandes entreprises. On ne sait pas si un projet de loi similaire sera présenté à l’avenir, mais j’espère que ce sera le cas. Si Newsom a raison, alors la majorité des grandes sociétés d’IA résident en Californie. Nous serions donc favorables à une loi californienne.
Un juge californien a bloqué une loi contre les deepfakes d’IA
Le fait que Newsome ait rejeté le projet de loi ne signifie pas qu’il ne se préoccupe pas des effets négatifs de l’IA. Auparavant, il avait signé la loi AB 2839. Cette loi ciblait les personnes qui falsifiaient profondément les candidats politiques. Si quelqu'un fait sciemment un deepfake d'un candidat dans les 120 jours suivant une élection dans un État électoral, il est passible de poursuites civiles. Le distributeur pourrait faire face à une poursuite civile de la part de quiconque le verrait. La loi pourrait les obliger à supprimer leur poste sous peine de sanctions pécuniaires.
Cette loi semble ferme mais juste, à l'approche des élections. La propagande anti-gauche et anti-droite est omniprésente sur Internet et sur les réseaux sociaux, et nous pouvons parier que l’IA y a contribué en partie. Quoi qu’il en soit, le juge John Mendez ne semble pas penser que les deepfakes de l’IA posent vraiment un problème.
Il y a quelque temps, il y a eu un drame impliquant une personne nommée Christopher Kohls. Il a distribué une vidéo truquée de la vice-présidente Kamala Harris qui la présente comme une candidate incompétente. Il a attiré l’attention d’Internet après un retweet d’Elon Musk, ce qui a incité Newsom à signer le projet de loi.
Cependant, Kohls a intenté une action en justice pour empêcher la loi de devenir officielle, affirmant que la vidéo était une satire et que la loi violait sa liberté d'expression. Eh bien, le juge Mendez s'est rangé du côté de Kohls et a signé une injonction pour bloquer temporairement la loi. Le juge a fait une longue déclaration expliquant pourquoi il avait pris cette décision. Dans le communiqué, il a déclaré : «[W]Même si la crainte fondée d’un paysage médiatique manipulé numériquement peut être justifiée, cette crainte ne donne pas aux législateurs le droit de détruire au bulldozer la longue tradition de critique, de parodie et de satire protégée par le premier amendement..»
Trop tard ?
Le juge s'est donc rangé du côté de Kohls sur cette question, mais il ne s'agit que d'une injonction préliminaire. Nous ne savons pas pour le moment combien de temps le blocage restera en vigueur. Comme les élections n’ont lieu que dans un mois, il n’y a pas vraiment de raisons d’espérer qu’elles reviennent. Cette loi californienne pourrait avoir un effet sur le nombre de deepfakes d’IA susceptibles de se propager.
À l’heure actuelle, une grande partie de la population américaine est déterminée à savoir pour qui elle va voter. Toutefois, la loi ne visait pas uniquement les élections présidentielles quadriennales. Il semble cibler à peu près toutes les élections, à condition que vous soyez en état d'élection et dans les 120 jours suivant le grand jour. Il pourrait donc s’agir de n’importe quelle élection plus petite, qui devrait toujours être à l’abri de la désinformation de l’IA.
En tant que tel, nous devrions toujours espérer que cette loi ou une loi similaire verra le jour. Nous sommes encore au tout début de cette ère de l’IA. Bien que les deepfakes existent depuis des années, la vague actuelle d’outils d’IA rend la création de deepfakes beaucoup plus facile et les outils sont beaucoup plus accessibles. C’est le genre de lois qui doivent être mises en place.
Et maintenant ?
Cette loi aurait été une victoire majeure pour les personnes opposées à la désinformation. Tandis que Méndez mentionne que «La Californie a tout intérêt à préserver l’intégrité des élections,» cela ne ressort pas dans sa décision. La loi aurait établi une loi solide qui contribuerait au moins à réduire la désinformation circulant sur Internet. La quantité de fausses informations diffusées augmente chaque année. L’IA ne fait que faciliter la tromperie des masses.
Le juge dit que la loi est «un outil contondant qui gêne expression humoristique et étouffe de manière inconstitutionnelle la liberté et échange d'idées sans entraves qui est si vital pour les États-Unis débat démocratique.» Mais nous parlons ici de deepfakes, pas de caricatures politiques ou de sketches comiques. Si quelqu’un relie un sketch de SNL décrivant un candidat sous un mauvais jour, c’est évidemment de la satire. Cependant, les deepfakes sont complètement différents. L’objectif principal d’un deepfake est de donner l’impression qu’une personne fait ou dit quelque chose qu’elle ne fait pas. Bien sûr, il existe des deepfakes censés être comiques, mais la frontière est mince entre la satire politique et la désinformation.
Les Deepfakes ne devraient pas être traités avec le même ensemble de règles, car il s’agit d’une bête totalement différente. Ils ont le potentiel de causer des dégâts majeurs.
Ce n'est pas trop large
Mendez affirme également que la loi vise à étouffer la satire et l'expression humoristique, mais ce n'est pas le cas. La loi ne cible pas les personnes qui créent des deepfakes. Il cible les personnes qui créent des deepfakes de candidats dans les 120 jours suivant une élection dans un État électoral. Ainsi, si une personne se contente de falsifier une célébrité en citant un personnage de jeu vidéo, cela ne sera pas écrasé par la loi.
Cependant, si quelqu'un fait une vidéo d'un des candidats disant qu'il va bombarder un pays quelques semaines après une élection, et qu'elle n'est pas marquée pour montrer que c'est faux, alors c'est une autre histoire. Ce n’est pas de la satire, c’est un média conçu pour induire les gens en erreur. La loi ciblerait cela, ce qui est tout à fait justifié.
Et maintenant ?
Maintenant, avec un élément solide de la législature californienne au purgatoire, qu'est-ce qui peut empêcher les personnes ayant des intentions malveillantes de publier des deepfakes d'IA à la 11e heure de l'élection ? La décision du juge Mendez met fortement l'accent sur le 1er amendement, mais elle ne prend pas en compte l'éléphant dans la pièce. Cette loi étant bloquée, quelle est la prochaine étape ? Laissez simplement la désinformation continuer à se propager. Quel est le plan de bataille ?
Ce tout nouveau boom de l’IA a commencé il y a environ deux ans, et à mesure que la technologie progressait, nous savions tous que cette année serait délicate. Avec l’IA capable de généraliser les deepfakes, nous savions que les gens en profiteraient et diffuseraient du contenu trompeur. Pourtant, à ce stade avancé du jeu, nous continuons à prendre des mesures comme celles-ci. Nous avons bien dépassé le point où nous devrions avoir des lois de bon sens contre la propagation de la désinformation générée par l’IA. Maintenant qu’il n’y a plus rien pour combler le vide, qui peut dire quel genre de deepfakes sauvages se produiront à mesure que nous nous rapprochons des élections ?
