Un juge de Californie a récemment pris une position ferme contre l'utilisation non divulguée des plateformes d'IA par des avocats dans les dépôts juridiques. Le juge Michael Wilner a découvert un bref bref a été criblé de citations et de citations légales fabriquées. Sa réponse? Des sanctions de 31 000 $ ont été prélevées contre les deux cabinets d'avocats impliqués.
Le juge Wilner a exprimé sa préoccupation concernant de telles pratiques. Il a déclaré que s'appuyer sur l'IA pour la recherche juridique et l'écriture sans surveillance appropriée est une erreur importante pour tout avocat compétent. Les experts juridiques Eric Goldman et Blake Reid ont également souligné le problème sur Bluesky.
Les avocats sanctionnés pour l'utilisation non divulguée de l'IA dans la recherche juridique
Le juge a raconté son expérience, notant que les affaires citées semblaient initialement persuasives, l'emmenant à enquêter davantage. C'est alors qu'il a pris ces décisions n'existait tout simplement pas. Il a souligné le danger potentiel, expliquant la facilité avec laquelle ces fausses informations auraient pu se retrouver dans un ordre judiciaire.
Fondamentalement, c'est un autre cas où les «hallucinations AI» révèlent l'utilisation de chatbots. Une situation similaire s'est produite à la fin de 2024 dans un cas – ironiquement – Anti AI.
La situation s'est déroulée lorsqu'une équipe juridique d'un demandeur a utilisé l'IA pour rédiger un aperçu d'un mémoire contre State Farm. Ce plan, contenant ce que le juge a appelé «Bogus Research généré par l'AI-AI», A ensuite été transmis à une autre entreprise, K&L Gates, qui l'a incorporée dans le dernier brief. Classablement, aucune des entreprises n'a apparemment vérifié les informations générées par l'IA avant de les soumettre au tribunal.
Le juge a identifié les hallucinations de l'IA grâce à son expérience
Lors de l'examen, le juge Wilner a identifié au moins deux autorités juridiques entièrement inexistantes. Lorsqu'il a demandé des éclaircissements à K&L Gates, le mémoire révisé qu'ils ont soumis contenait des citations et des citations encore plus fabriquées. Cela a incité le juge à rendre une ordonnance obligeant les avocats à expliquer leurs actions sous serment. Cela a finalement confirmé l'utilisation de l'IA. L'avocat qui a créé le plan initial a admis avoir utilisé Google Gemini et les outils de recherche juridique de l'IA dans Westlaw Precision avec Coconsel.
Le juge Wilner a conclu que l'utilisation initiale et non divulguée de l'IA pour rédiger le mémoire était fondamentalement erronée. Il a en outre souligné le risque lié à la transmission des matériaux générés par l'IA sans révéler son origine, potentiellement trompeur d'autres professionnels du droit.
