Les chatbots ne sont pas nouveaux. En fait, on pourrait presque considérer les premiers chatbots comme un précurseur de l’IA que nous connaissons aujourd’hui. Cependant, alors que de plus en plus d’entreprises se tournent vers l’IA pour donner à leurs chatbots un coup de pouce cérébral indispensable, cela comporte également des dangers. C’est pourquoi la Californie est le premier État des États-Unis à introduire de nouvelles lois destinées à réglementer les chatbots IA.
La Californie veut réglementer les chatbots IA
Le gouverneur Gavin Newsom a récemment signé le projet de loi 243 du Sénat (SB 243), faisant de la Californie le premier État à mettre en œuvre des protocoles de sécurité complets pour les chatbots IA. Cette législation historique cible les principaux opérateurs de chatbots, notamment OpenAI et Meta. Elle impose désormais à ces entreprises de mettre en place des protections spécifiques pour les mineurs utilisant leurs plateformes.
En vertu de la nouvelle loi, les sociétés de chatbots doivent informer les mineurs qu'ils interagissent avec l'IA et non avec un humain. La législation impose également des pauses régulières lors des conversations. Cela répondra aux préoccupations concernant le temps d’écran excessif et l’attachement malsain aux compagnons IA. Ces exigences visent à maintenir la sensibilisation et à éviter que les jeunes utilisateurs développent des relations irréalistes avec l'intelligence artificielle.
Le projet de loi oblige également les entreprises à empêcher leurs chatbots californiens d’IA de générer du contenu préjudiciable lié au suicide, à l’automutilation ou à du matériel sexuellement explicite. Il permettra également aux victimes de deepfake pornographie de demander une réparation civile pouvant aller jusqu'à 250 000 dollars.
Selon Newsom, « Les technologies émergentes telles que les chatbots et les médias sociaux peuvent inspirer, éduquer et connecter – mais sans véritables garde-fous, la technologie peut également exploiter, tromper et mettre en danger nos enfants. Nous avons vu des exemples vraiment horribles et tragiques de jeunes lésés par une technologie non réglementée, et nous ne resterons pas les bras croisés pendant que les entreprises continuent sans limites et sans responsabilité nécessaires. «
La régulation de l’IA
La capacité de la Californie à mettre en œuvre ces protections a failli se heurter à un obstacle de taille. Le « One Big Beautiful Bill » du président Trump, signé en juillet 2025, comprenait initialement une disposition qui aurait interdit aux États d'adopter leurs propres réglementations en matière d'IA pendant 10 ans. Cependant, l’interdiction de 10 ans de la réglementation étatique de l’IA s’est heurtée à l’opposition des législateurs des deux partis qui plaidaient en faveur du maintien de l’autorité réglementaire de l’État.
Certains pensent que la réglementation ralentira les progrès de l’IA. Cependant, affirme Newsom, « Nous pouvons continuer à être leader en matière d'IA et de technologie, mais nous devons le faire de manière responsable, en protégeant nos enfants à chaque étape du processus. La sécurité de nos enfants n'est pas à vendre. »
