Advogados Pedem Desculpa Após Citações Falsas Geradas pelo Claude Aparecerem no Caso de Despedimentos de Trump

Resumo

• Advogados num caso federal de despedimentos pediram desculpa após aparecerem citações “fantasma” geradas por IA num documento judicial.
• O advogado Jason Greaves afirmou que usou o Claude Console da Anthropic sob “restrições de tempo apertadas”.
• O documento resultou de uma disputa por uma intimação relacionada a despedimentos na FEMA contestados num tribunal federal.

Uma luta num tribunal federal sobre despedimentos na administração Donald Trump tornou-se o mais recente exemplo de alucinações de IA a entrarem na sala de audiências, após advogados admitirem ter submetido citações fabricadas geradas por inteligência artificial. Numa declaração apresentada na sexta-feira, o advogado Jason Greaves admitiu que o documento incluía citações falsas geradas após ele ter usado o Claude Console da Anthropic para ajudar a preparar o pedido. “Dadas as restrições de tempo, usei uma plataforma de IA de nível empresarial, isolada de dados, o Claude Console, para criar um rascunho inicial do pedido. Isso foi um erro,” escreveu Greaves. “Na manhã de 6 de maio, enviei o rascunho a um advogado associado, juntamente com instruções explícitas e orais de que o rascunho tinha vindo de IA, e que precisava de as citações serem cuidadosamente verificadas. Na tarde desse dia, a associada informou-me que tinha revisto e verificado cada citação.”

Segundo Greaves, a associada notou que duas citações de casos estavam incorretas, mas que tinha encontrado um caso diferente para citar.  “Como sócio supervisor, e signatário do documento, a responsabilidade por ter citações precisas é inteiramente minha,” acrescentou Greaves. “Assumo total responsabilidade por isso e peço desculpa plenamente ao tribunal e a todos os advogados neste caso, pelas citações ‘fantasma’ que apareceram no pedido. Também me desculpei pessoalmente com os advogados dos Demandantes.” Lançado em março de 2023 como o Anthropic Developer Console, o Claude Console é a plataforma empresarial da Anthropic para interagir com os seus modelos de IA Claude, que empresas e profissionais usam para redigir, resumir documentos, programar e pesquisar.

O caso soma-se a uma lista crescente de disputas judiciais relacionadas com IA. Em abril, advogados do escritório Sullivan & Cromwell foram sancionados após submeter citações legais falsas geradas por inteligência artificial. Esta última controvérsia de alucinações de IA decorre de processos movidos contra a administração Trump por despedimentos em massa a nível federal e alterações propostas às proteções do serviço civil. A litigação inclui disputas relacionadas com cortes de pessoal na FEMA e depoimentos do antigo funcionário do Homeland Security, Joseph Guy, cujos advogados apresentaram o pedido. “Embora as citações citadas possam ter apoiado, de forma geral, a nossa posição, reconheço o erro inaceitável de permitir a inclusão de citações ‘fantasma’,” escreveu Greaves.