Una nación, bajo la inteligencia artificial | Opinión

El despliegue público de la inteligencia artificial está en marcha, ya que las agencias federales de EE. UU. ya han comenzado a implementar la IA para optimizar sus operaciones, a pesar de la escasez de discusión pública sobre el cambio importante y sus implicaciones para los derechos humanos.

Resumen

• La adopción de la inteligencia artificial está en auge en el gobierno: los casos de uso de IA federal casi se duplicaron de 571 en 2023 a más de 1,100 en 2024, con agencias como HHS, DHS y VA liderando la carga.
• Las aplicaciones prácticas están en todas partes: Desde el seguimiento de brotes de enfermedades transmitidas por alimentos hasta la detección de beneficios fraudulentos para veteranos y la mejora de la seguridad fronteriza, la IA está transformando las operaciones y la entrega de servicios.
• Crecimiento estable en todas las funciones: Casi la mitad de los casos de uso reportados se centran en tareas "que permiten la misión" como finanzas, recursos humanos y ciberseguridad, mientras que otros apuntan a la salud, los servicios públicos y la exploración espacial.
• Los derechos y las preocupaciones de supervisión siguen siendo: Alrededor del 13% de los usos de la IA podrían afectar los derechos o la seguridad pública, lo que lleva a nuevas salvaguardias, auditorías y legislación a nivel estatal---aunque la adopción supera la concienciación pública.

En un informe, la Oficina de Responsabilidad del Gobierno encontró un aumento de nueve veces en el uso de IA generativa de 2023 a 2024 dentro del gobierno federal. La GAO revisó 11 agencias y su uso de IA, descubriendo que el número de usos reportados casi se había duplicado, pasando de 571 en 2023 a 1,110 en 2024.

Además, el Consejo de Directores de Información del Gobierno publicó un informe, llamado AI in Action: Hallazgos del Inventario de Casos de Uso de IA Federal 2024, en el que demuestran que el uso de IA se ha más que duplicado en las agencias federales desde 2023, con más de 1,700 casos de uso reportados en áreas como el apoyo interno y los servicios públicos. Las agencias informaron que la mejora en la eficiencia operativa y la ejecución de la misión son las razones por las que han incrementado el uso de IA.

Algunas de las agencias que lideran la implementación de la IA

El Departamento de Salud y Servicios Humanos, el Departamento de Asuntos de Veteranos, el Departamento de Seguridad Nacional y el Departamento del Interior representan, según informes, el 50% de los usos de IA reportados públicamente.

El Departamento de Seguridad Nacional es otro líder en la integración de la IA en sus operaciones. El DHS desarrolló varios software de IA y aprendizaje automático (ML) para mejorar su ciberseguridad, seguridad fronteriza, respuesta a desastres y servicios de inmigración. El DHS utilizó GenAI para mejorar las pistas de investigación, ayudar a los gobiernos locales con los planes de mitigación de riesgos y para capacitación. Publica una lista de su inventario de IA.

Los Centros para el Control y la Prevención de Enfermedades han aprovechado la IA para acelerar las investigaciones sobre brotes de enfermedades transmitidas por alimentos en varios estados. La Administración de Beneficios para Veteranos protege los pagos de beneficios de los veteranos con IA, que ayuda a señalar cambios fraudulentos en depósitos directos. El Departamento de Salud y Servicios Humanos utilizó IA para obtener información de publicaciones y localizar brotes en áreas que se pensaba estaban libres de polio. La Administración del Seguro Social utiliza IA para asistir a los adjudicadores del Programa de Discapacidad.

Además, la Administración de Servicios Generales de EE. UU. anunció la adición de productos de las principales empresas estadounidenses de IA a su inventario de IA.

La GAO publicó Inteligencia Artificial: Las agencias han comenzado la implementación, que detalla el uso de IA para analizar fotos y conjuntos de datos de drones por agencias federales. Veinte de las 23 agencias detalladas en el informe tienen alrededor de 1,200 casos de uso de inteligencia artificial actuales y planificados. El uso de IA incluye el análisis de datos de cámaras, incluyendo los de drones y radares, para identificar actividades en la frontera, así como la detección de especímenes científicos para rovers planetarios. NASA y el Departamento de Comercio tenían el mayor número de casos de uso para IA.

La Conferencia Administrativa de los Estados Unidos publicó recomendaciones para el uso de la IA en el gobierno. Incluyen el uso de herramientas en la aplicación regulatoria, la adjudicación, la orientación legal automatizada y más.

Casos de uso de la IA en el gobierno federal

Las agencias informan que se están beneficiando de una detección de anomalías mejorada, procesos más eficientes y una mejor toma de decisiones. La tecnología se utiliza principalmente en funciones administrativas y de TI, seguidas de casos de uso en aplicaciones de salud y medicina.

Aproximadamente el 13 por ciento de los casos de uso se clasifican como salud y médica. Alrededor del 9 por ciento de los casos de uso ayudan a los servicios gubernamentales o al procesamiento de beneficios, lo que implica procesar y facilitar el acceso a los beneficios gubernamentales, incluidos Medicare y Medicaid, Seguridad Social y desempleo.

Aproximadamente el 46 por ciento de los casos de uso del gobierno federal se consideran "habilitadores de misión" y son necesarios para mejorar la gestión financiera, los recursos humanos, las instalaciones y propiedades, la ciberseguridad, la TI, la contratación y otras funciones administrativas dentro de las agencias.

Claramente, el gobierno federal ya está aplicando la IA en la ley y la justicia, la educación y la mano de obra, el transporte, la ciencia y el espacio, la energía y el medio ambiente, y otros sectores. Al hacerlo, están aprovechando tanto a expertos internos como a asociaciones corporativas.

Según el CIO, las agencias desarrollaron casos de uso de IA internos en el 50 por ciento de los casos. En más del 40 por ciento de los casos de uso, las agencias utilizaron código desarrollado a medida, que está disponible públicamente. Más del 35 por ciento de la IA pública se despliega en plataformas de datos y análisis empresariales existentes dentro de una agencia o reutiliza código y/o datos de nivel de producción de un caso de uso diferente.

Los gobiernos estatales y locales están implementando IA

Los gobiernos estatales y locales también están experimentando con la IA en la gobernanza. Como señala un informe de Deloitte, es probable que los estados y los gobiernos locales estén recurriendo a la IA para aliviar la presión sobre sus presupuestos. La legislación en Georgia propuso un "Acta de Responsabilidad de la IA" que crearía una Junta de Inteligencia Artificial de Georgia, la cual requeriría que las entidades gubernamentales desarrollen un plan de uso de IA para detallar objetivos específicos, medidas de privacidad de datos y delinear el papel de la supervisión humana.

Un proyecto de ley de Montana, firmado por el gobernador, limitaría el uso de IA en el gobierno estatal y local, exigiría transparencia sobre dónde se utiliza la IA y aseguraría que ciertas decisiones y recomendaciones sean revisadas por un humano que ocupe una "posición responsable". En Nevada, un proyecto de ley requeriría que el Departamento de Tributación notifique al contribuyente cuando se esté comunicando con sistemas de IA. Ambos proyectos de ley de Georgia y Nevada fracasaron en el comité.

Implicaciones de derechos

Según el CIO, aproximadamente el 13 por ciento de los casos de uso de IA federal podrían socavar los derechos o la seguridad del público, utilizando la definición en el Memorando OMB M-24-10.

En tales casos de uso, las agencias deben emplear salvaguardias concretas antes de su uso, incluyendo formas de evaluar, probar y monitorear los impactos de la IA en el público y mitigar los riesgos de discriminación algorítmica.

En diciembre de 2024, las agencias habían realizado Evaluaciones de Impacto de IA para más del 80 por ciento de los casos de uso de IA que impactan en derechos o seguridad, y habían llevado a cabo evaluaciones independientes para más del 70 por ciento de esos casos. Casi la mitad de los casos de uso de IA que impactan en derechos en el gobierno implican procesos para apelar o impugnar un resultado del sistema de IA o optar por no participar en la funcionalidad de IA.

El gobierno federal está implementando la IA mientras el público queda en la oscuridad sobre las implicaciones para su vida diaria. Cómo se está utilizando esta tecnología en la gobernanza debería ser un punto de discusión más común para aquellos interesados en el debate sobre la ética de la tecnología.