La FCC est préoccupée par les dangers sociaux des appels automatisés d’IA politique. Jessica Rosenworcel, présidente de l'agence, a envoyé des lettres à neuf grandes entreprises de télécommunications. L'agence veut savoir si les entreprises ont un plan pour s'attaquer à ce type d'appels.
Un appel automatisé d’IA politique est une méthode de tromperie qui cherche à influencer les actions de certains secteurs de la population pour des raisons politiques. Les mauvais acteurs derrière ces appels se tournent vers les services d’IA pour imiter les voix de personnalités politiques. Ensuite, ils les mettent en œuvre dans des appels téléphoniques automatisés avec audio préenregistré pour transmettre un faux message. Cette méthode peut influencer les processus électoraux actuels et futurs.
Les appels automatisés d’IA politique ont déjà influencé les processus électoraux et la FCC s’inquiète
En fait, il y a déjà eu au moins un cas de ce style. Plusieurs électeurs ont sauté la primaire démocrate du New Hampshire en raison d'un canular lié aux appels automatisés politiques de l'IA. Il s’agit donc d’une situation préoccupante qui nécessite une action immédiate. Cependant, il semble que la FCC ne soit pas convaincue que les entreprises de télécommunications en font assez.
Dans une lettre, Rosenworcel déclare : « Nous savons que les technologies d’IA permettront d’inonder nos réseaux de deepfakes à moindre coût et de manière simple pour tromper et trahir la confiance. Il est particulièrement effrayant de voir le clonage vocal par IA utilisé pour usurper l’identité de candidats lors des élections. Alors que les outils d’IA deviennent plus accessibles aux acteurs malveillants et aux escrocs, nous devons faire tout ce que nous pouvons pour empêcher ces déchets d’entrer dans nos réseaux. »
Jusqu'à neuf grandes entreprises de télécommunications, dont AT&T et Comcast, ont reçu la lettre. L'agence veut savoir ce qu'elles font pour mettre fin aux appels automatisés à caractère politique. Il convient de noter que le gouvernement américain a interdit tous les appels automatisés à caractère politique en février. Cela comprend les appels automatisés à caractère politique ou non. Il existe même une autorisation de poursuivre les personnes impliquées dans ce type d'appels. La FCC veut donc connaître les stratégies mises en œuvre par les entreprises de télécommunications.
Rosenworcel souhaite également obliger les entreprises à mettre en garde contre l’utilisation de l’IA dans les publicités télévisées ou radiophoniques. Cependant, Sean Cooksey, président de la Commission électorale fédérale (FEC), s'oppose à cette initiative. Cooksey estime qu'une telle décision outrepasserait l'autorité de la FEC sur les processus électoraux.
