Les avocats présentent des excuses après l'apparition de fausses citations générées par Claude dans l'affaire des licenciements de Trump

En résumé

• Des avocats dans une affaire de licenciements fédéraux se sont excusés après que des « citations fantômes » générées par IA sont apparues dans un dossier judiciaire.
• L’avocat Jason Greaves a déclaré avoir utilisé Anthropic’s Claude Console sous « contraintes de temps strictes ».
• Le dossier découle d’un litige lié à une assignation à comparaître concernant des licenciements chez FEMA contestés devant un tribunal fédéral.

Un combat judiciaire fédéral concernant les licenciements de l’administration Donald Trump est devenu le dernier exemple d’hallucinations de l’IA entrant dans la salle d’audience après que des avocats ont admis avoir soumis des citations fabriquées générées par intelligence artificielle. Dans une déclaration déposée vendredi, l’avocat Jason Greaves a admis que le dossier comprenait de fausses citations générées après qu’il a utilisé Anthropic’s Claude Console pour préparer la requête. « Étant donné les contraintes de temps, j’ai utilisé une plateforme d’IA d’entreprise, isolée des données, Claude Console, pour créer un brouillon initial de la requête. C’était une erreur », a écrit Greaves. « Le matin du 6 mai, j’ai envoyé le brouillon à un avocat associé, avec des instructions orales explicites indiquant que le brouillon provenait de l’IA, et que je voulais que les citations soient vérifiées attentivement. Cet après-midi-là, l’associée m’a informé qu’elle avait examiné et vérifié chaque citation. »

Selon Greaves, l’associée a noté que deux affaires citées étaient incorrectes, mais qu’elle avait trouvé une autre affaire à citer.  « En tant que partenaire superviseur, et signataire de la requête, la responsabilité d’avoir des citations exactes me revient entièrement », a ajouté Greaves. « J’en prends l’entière responsabilité et présente mes excuses sincères au tribunal et à tous les avocats dans cette affaire, pour les citations fantômes qui sont apparues dans la requête. J’ai également présenté personnellement mes excuses aux avocats des plaignants. » Lancé en mars 2023 sous le nom de Anthropic Developer Console, Claude Console est la plateforme d’entreprise d’Anthropic pour interagir avec ses modèles d’IA Claude, que les entreprises et professionnels utilisent pour rédiger, résumer des documents, coder et faire de la recherche.

L’affaire s’ajoute à une liste croissante de litiges en salle d’audience liés à l’IA. En avril, des avocats du cabinet Sullivan & Cromwell ont été sanctionnés après avoir soumis de fausses citations juridiques générées par intelligence artificielle. Ce dernier scandale d’hallucinations de l’IA découle de poursuites intentées contre l’administration Trump pour des licenciements massifs fédéraux et des changements proposés aux protections de la fonction publique. Le litige inclut des différends liés aux réductions de personnel chez FEMA et au témoignage de l’ancien responsable de la Homeland Security Joseph Guy, dont les avocats ont déposé la requête. « Bien que les affaires citées aient généralement soutenu notre position, je reconnais l’erreur inexcusable d’avoir permis l’inclusion de citations fantômes », a écrit Greaves.