Abogados se disculpan después de que aparecieran citas falsas generadas por Claude en el caso de despidos de Trump

En resumen

• Abogados en un caso federal de despidos se disculparon después de que aparecieran “citas fantasma” generadas por IA en un documento judicial.
• El abogado Jason Greaves dijo que utilizó Anthropic’s Claude Console bajo “estrictas restricciones de tiempo.”
• El documento surgió de una disputa por una citación relacionada con despidos en FEMA desafiados en un tribunal federal.

Una pelea en un tribunal federal por despidos en la administración de Donald Trump se ha convertido en el último ejemplo de alucinaciones de IA que ingresan en la sala de audiencias después de que los abogados admitieran haber presentado citas fabricadas generadas por inteligencia artificial. En una declaración presentada el viernes, el abogado Jason Greaves admitió que el documento incluía citas falsas generadas después de que utilizara Anthropic’s Claude Console para ayudar a preparar la moción. “Dado el tiempo limitado, utilicé una plataforma de IA a nivel empresarial, aislada de datos, Claude Console, para crear un borrador inicial de la moción. Eso fue un error,” escribió Greaves. “La mañana del 6 de mayo, envié el borrador a un abogado asociado, junto con instrucciones explícitas y orales de que el borrador había sido generado por IA, y que necesitaba que las citas fueran revisadas cuidadosamente. Esa tarde, la asociada me informó que había revisado y verificado cada cita.”

Según Greaves, la asociada señaló que dos casos citados eran incorrectos, pero que había encontrado un caso diferente para citar.  “Como socio supervisor y firmante de la moción, la responsabilidad de tener citas precisas recae completamente en mí,” agregó Greaves. “Asumo toda la responsabilidad por ello y me disculpo plenamente ante el tribunal y ante todos los abogados en este caso, por las citas fantasma que aparecieron en la moción. También me he disculpado personalmente con los abogados de los demandantes.” Lanzado en marzo de 2023 como la Consola de Desarrolladores de Anthropic, Claude Console es la plataforma empresarial de Anthropic para interactuar con sus modelos de IA Claude, que utilizan empresas y profesionales para redactar, resumir documentos, programar y realizar investigaciones.

El caso se suma a una lista creciente de disputas en tribunales relacionadas con IA. En abril, abogados del bufete Sullivan & Cromwell fueron sancionados después de presentar citas legales falsas generadas por inteligencia artificial. Esta última controversia por alucinaciones de IA surge de demandas presentadas contra la administración Trump por despidos masivos en el gobierno federal y cambios propuestos en las protecciones del servicio civil. La litigación incluye disputas relacionadas con recortes de personal en FEMA y el testimonio del exfuncionario de Seguridad Nacional Joseph Guy, cuyos abogados presentaron la moción. “Si bien los casos citados pueden haber respaldado en general nuestra posición, reconozco el error imperdonable de permitir la inclusión de citas fantasma,” escribió Greaves.