Uma nação, sob inteligência artificial | Opinião

O lançamento público da inteligência artificial está em pleno andamento, uma vez que as agências federais dos EUA já começaram a implantar IA para otimizar suas operações, apesar da escassez de discussão pública sobre a mudança significativa e suas implicações para os direitos humanos.

Resumo

• A adoção da inteligência artificial está a crescer no governo: os casos de uso de IA federal quase duplicaram, passando de 571 em 2023 para mais de 1.100 em 2024, com agências como o HHS, DHS e VA a liderar a iniciativa.
• As aplicações práticas estão em todo o lado: Desde o rastreamento de surtos alimentares a sinalizar benefícios fraudulentos para veteranos e melhorar a segurança nas fronteiras, a IA está a transformar operações e a entrega de serviços.
• Crescimento estável em todas as funções: Quase metade dos casos de uso reportados foca em tarefas "que possibilitam a missão", como finanças, recursos humanos e cibersegurança, enquanto outros visam a saúde, serviços públicos e exploração espacial.
• Preocupações com direitos e supervisão permanecem: Cerca de 13% dos usos da IA podem impactar direitos ou segurança pública, levando a novas salvaguardas, auditorias e legislação a nível estatal---embora a adoção ultrapasse a conscientização pública.

Num relatório, o Escritório de Responsabilidade do Governo descobriu um aumento de nove vezes no uso de IA generativa de 2023 a 2024 dentro do governo federal. O GAO analisou 11 agências e o uso de IA, descobrindo que o número de usos reportados quase duplicou de 571 em 2023 para 1.110 em 2024.

Além disso, o Conselho do Chief Information Officer divulgou um relatório, intitulado AI in Action: 2024 Federal AI Use Case Inventory Findings, no qual demonstram que o uso de IA mais do que dobrou nas agências federais desde 2023, com mais de 1.700 casos de uso reportados em áreas como suporte interno e serviços públicos. As agências relataram eficiência operacional melhorada e execução de missões como razões pelas quais aumentaram o uso de IA.

Algumas das agências que lideram a implementação da IA

O Departamento de Saúde e Serviços Humanos, o Departamento de Assuntos dos Veteranos, o Departamento de Segurança Interna e o Departamento do Interior reportadamente representam 50% dos usos de IA publicamente relatados.

O Departamento de Segurança Interna é outro líder na integração de IA nas suas operações. O DHS desenvolveu vários softwares de IA e aprendizagem de máquinas (ML) para melhorar a sua cibersegurança, segurança das fronteiras, resposta a desastres e serviços de imigração. O DHS utilizou GenAI para melhorar as pistas de investigação, ajudar os governos locais com planos de mitigação de riscos e para formação. Publica uma lista do seu inventário de IA.

Os Centros de Controle e Prevenção de Doenças utilizaram IA para acelerar investigações sobre surtos de doenças transmitidas por alimentos em vários estados. A Administração de Benefícios dos Veteranos protege os pagamentos de benefícios dos veteranos com IA, que ajuda a sinalizar alterações fraudulentas em depósitos diretos. O Departamento de Saúde e Serviços Humanos usou IA para extrair informações de publicações e identificar surtos em áreas consideradas livres de pólio. A Administração da Segurança Social utiliza IA para auxiliar os adjudicadores do Programa de Deficiências.

Além disso, a Administração Geral de Serviços dos EUA anunciou a adição dos produtos das principais empresas americanas de IA ao seu inventário de IA.

O GAO publicou Inteligência Artificial: As Agências Começaram a Implementação, que detalha o uso de IA para analisar fotos e conjuntos de dados de drones por agências federais. Vinte das 23 agências detalhadas no relatório têm cerca de 1.200 casos de uso de inteligência artificial atuais e planejados. O uso de IA inclui a análise de dados de câmeras, incluindo de drones e radar, para identificar atividades na fronteira, bem como a detecção de espécimes científicos para rovers planetários. A NASA e o Departamento de Comércio tiveram o maior número de casos de uso de IA.

A Conferência Administrativa dos Estados Unidos publicou recomendações para o uso de IA no governo. Elas incluem o uso de ferramentas na aplicação de regulamentos, adjudicação, orientação legal automatizada e mais.

Casos de uso para IA no governo federal

Agências relatam que estão se beneficiando de detecção de anomalias aprimorada, processos simplificados e tomada de decisões melhorada. A tecnologia está sendo utilizada principalmente em funções administrativas e de TI, seguidas por casos de uso em aplicações de saúde e medicina.

Cerca de 13 por cento dos casos de uso são categorizados como saúde e medicina. Aproximadamente 9 por cento dos casos de uso ajudam na prestação de serviços governamentais ou no processamento de benefícios, o que implica processar e facilitar o acesso a benefícios governamentais, incluindo Medicare e Medicaid, Segurança Social e desemprego.

Aproximadamente 46 por cento dos casos de uso do governo federal são considerados "habilitadores de missões" e são necessários para melhorar a gestão financeira, recursos humanos e instalações e propriedades, cibersegurança, TI, aquisição e outras funções administrativas dentro das agências.

Claramente, o governo federal já está a aplicar IA na lei e na justiça, na educação e na força de trabalho, nos transportes, na ciência e no espaço, na energia e no ambiente, e em outros setores. Ao fazê-lo, estão a aproveitar tanto especialistas internos como parcerias corporativas.

De acordo com o CIO, as agências desenvolveram casos de uso de IA internamente em 50 por cento das instâncias. Em mais de 40 por cento dos casos de uso, as agências utilizaram código desenvolvido sob medida, que está disponível publicamente. Mais de 35 por cento da IA pública é implementada em plataformas de dados e análises empresariais existentes dentro de uma agência ou reutiliza código e/ou dados de nível de produção de um caso de uso diferente.

Os governos estaduais e locais estão a implementar IA

Os governos estaduais e locais também estão a experimentar com IA na governação. Como aponta um relatório da Deloitte, os estados e os governos locais estão provavelmente a recorrer à IA para aliviar a pressão sobre os seus orçamentos. A legislação na Geórgia propôs um "Ato de Responsabilidade da IA", que criaria uma Junta da Geórgia para a Inteligência Artificial, a qual exigiria que as entidades governamentais desenvolvessem um plano de utilização de IA para detalhar objetivos específicos, medidas de privacidade de dados e delinear o papel da supervisão humana.

Um projeto de lei em Montana, assinado pelo governador, reduziria o uso de IA no governo estadual e local, exigiria transparência sobre onde a IA é utilizada e garantiria que certas decisões e recomendações sejam revistas por um humano que ocupa uma "posição responsável". Em Nevada, um projeto de lei exigiria que o Departamento de Tributação notificasse o contribuinte quando este estivesse a comunicar com sistemas de IA. Tanto os projetos de lei da Geórgia quanto de Nevada falharam na comissão.

Implicações de direitos

De acordo com o CIO, aproximadamente 13 por cento dos casos de uso de IA federal poderiam comprometer os direitos ou a segurança do público, utilizando a definição do Memorando OMB M-24-10.

Em tais casos de uso, as agências devem empregar salvaguardas concretas antes do uso, incluindo formas de avaliar, testar e monitorar os impactos da IA no público e mitigar os riscos de discriminação algorítmica.

Em dezembro de 2024, as agências tinham realizado Avaliações de Impacto de IA para mais de 80 por cento dos casos de uso de IA que impactam direitos ou segurança, e tinham conduzido avaliações independentes para mais de 70 por cento desses casos. Quase metade dos casos de uso de IA que impactam direitos no governo envolvem processos para apelar ou contestar um resultado de sistema de IA ou optar por não participar da funcionalidade de IA.

O governo federal está a implementar a IA enquanto o público é deixado no escuro sobre as implicações para as suas vidas diárias. Como esta tecnologia está a ser utilizada na governança deveria ser um ponto de discussão mais comum para aqueles interessados na discussão sobre a ética da tecnologia.