Một quốc gia, dưới trí tuệ nhân tạo | Ý kiến

Việc triển khai trí tuệ nhân tạo công cộng đang diễn ra tốt đẹp, khi các cơ quan liên bang Hoa Kỳ đã bắt đầu triển khai AI để cải thiện hoạt động của họ, mặc dù có rất ít cuộc thảo luận công khai về sự thay đổi lớn này và những tác động đến nhân quyền.

Tóm tắt

• Sự áp dụng trí tuệ nhân tạo đang bùng nổ trong chính phủ: Các trường hợp sử dụng AI của liên bang gần như đã tăng gấp đôi từ 571 vào năm 2023 lên hơn 1,100 vào năm 2024, với các cơ quan như HHS, DHS và VA dẫn đầu.
• Ứng dụng thực tiễn có mặt khắp nơi: Từ việc theo dõi bùng phát dịch bệnh do thực phẩm đến việc phát hiện các lợi ích giả mạo cho cựu chiến binh và nâng cao an ninh biên giới, AI đang chuyển đổi hoạt động và dịch vụ.
• Tăng trưởng ổn định trên các chức năng: Gần một nửa số trường hợp sử dụng được báo cáo tập trung vào các nhiệm vụ "hỗ trợ sứ mệnh" như tài chính, nhân sự và an ninh mạng, trong khi các trường hợp khác nhắm đến sức khỏe, dịch vụ công và khám phá không gian.
• Vấn đề quyền lợi và giám sát vẫn còn: Khoảng 13% các ứng dụng AI có thể ảnh hưởng đến quyền lợi hoặc an toàn của công chúng, dẫn đến việc cần thiết phải có các biện pháp bảo vệ mới, kiểm toán và lập pháp ở cấp tiểu bang---mặc dù sự chấp nhận vượt xa nhận thức của công chúng.

Trong một báo cáo, Văn phòng Tổng thanh tra Chính phủ phát hiện ra sự gia tăng gấp chín lần trong việc sử dụng AI sinh ra từ năm 2023 đến 2024 trong chính phủ liên bang. GAO đã xem xét 11 cơ quan và việc sử dụng AI của họ, phát hiện rằng số lượng báo cáo sử dụng gần như đã gấp đôi từ 571 vào năm 2023 lên 1.110 vào năm 2024.

Hơn nữa, Hội đồng Giám đốc Thông tin đã phát hành một báo cáo có tên AI in Action: 2024 Federal AI Use Case Inventory Findings, trong đó họ chỉ ra rằng việc sử dụng AI đã tăng gấp đôi trong các cơ quan liên bang kể từ năm 2023, với hơn 1.700 trường hợp sử dụng được báo cáo trong các lĩnh vực như hỗ trợ nội bộ và dịch vụ công. Các cơ quan báo cáo rằng họ đã cải thiện hiệu quả hoạt động và thực hiện nhiệm vụ là những lý do tại sao họ đã tăng cường việc sử dụng AI.

Một số cơ quan dẫn đầu việc triển khai AI

Bộ Y tế và Dịch vụ Nhân sinh, Bộ Cựu chiến binh, Bộ An ninh Nội địa và Bộ Nội vụ được cho là chiếm 50% số lượng ứng dụng AI được công khai báo cáo.

Bộ An ninh Nội địa là một trong những đơn vị tiên phong trong việc tích hợp AI vào các hoạt động của mình. DHS đã phát triển một số phần mềm AI và học máy (ML) để cải thiện an ninh mạng, an ninh biên giới, phản ứng với thảm họa và dịch vụ nhập cư. DHS đã sử dụng GenAI để nâng cao các đầu mối điều tra, hỗ trợ các chính quyền địa phương trong việc lập kế hoạch giảm thiểu rủi ro, và cho đào tạo. Họ công bố danh sách tài sản AI của mình.

Các Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh đã tận dụng AI để tăng tốc các cuộc điều tra về các vụ bùng phát bệnh tật do thực phẩm gây ra ở nhiều tiểu bang. Cơ quan Quản lý Lợi ích Cựu chiến binh bảo vệ các khoản thanh toán lợi ích của cựu chiến binh bằng AI, giúp phát hiện các thay đổi gửi tiền trực tiếp gian lận. Bộ Y tế và Dịch vụ Nhân sinh đã sử dụng AI để thu thập thông tin từ các ấn phẩm và xác định các vụ bùng phát ở những khu vực được cho là không có bại liệt. Cơ quan An sinh Xã hội sử dụng AI để hỗ trợ các trọng tài chương trình Khuyết tật.

Ngoài ra, Cục Quản lý Dịch vụ Tổng hợp Hoa Kỳ đã thông báo bổ sung các sản phẩm của các công ty AI hàng đầu của Mỹ vào danh mục AI của mình.

GAO đã phát hành Trí Tuệ Nhân Tạo: Các Cơ Quan Đã Bắt Đầu Triển Khai, trong đó chi tiết việc sử dụng AI để phân tích ảnh drone và dữ liệu bởi các cơ quan liên bang. Hai mươi trong số 23 cơ quan được nêu trong báo cáo có khoảng 1.200 trường hợp sử dụng trí tuệ nhân tạo hiện tại và được lên kế hoạch. Việc sử dụng AI bao gồm phân tích dữ liệu từ camera, bao gồm cả từ drone và radar, để xác định các hoạt động biên giới, cũng như phát hiện các mẫu khoa học cho các rover hành tinh. NASA và Bộ Thương mại có số lượng trường hợp sử dụng AI cao nhất.

Hội nghị Hành chính của Hoa Kỳ đã công bố các khuyến nghị về việc sử dụng AI trong chính phủ. Chúng bao gồm việc sử dụng các công cụ trong việc thực thi quy định, phân xử, hướng dẫn pháp lý tự động và nhiều hơn nữa.

Các trường hợp sử dụng AI trong chính phủ liên bang

Các cơ quan báo cáo rằng họ đang hưởng lợi từ việc phát hiện bất thường được cải thiện, quy trình được tinh giản và quyết định được cải tiến. Công nghệ này chủ yếu được sử dụng trong các chức năng hành chính và CNTT, tiếp theo là các trường hợp ứng dụng y tế và sức khỏe.

Khoảng 13 phần trăm các trường hợp sử dụng được phân loại là sức khỏe và y tế. Khoảng 9 phần trăm các trường hợp sử dụng hỗ trợ dịch vụ chính phủ hoặc quy trình lợi ích, bao gồm việc xử lý và tạo điều kiện tiếp cận các lợi ích của chính phủ, bao gồm Medicare và Medicaid, An sinh xã hội và trợ cấp thất nghiệp.

Khoảng 46 phần trăm các trường hợp sử dụng của chính phủ liên bang được coi là "có khả năng thực hiện nhiệm vụ", và là cần thiết để cải thiện quản lý tài chính, nguồn nhân lực, và cơ sở vật chất và tài sản, an ninh mạng, CNTT, mua sắm, và các chức năng hành chính khác trong các cơ quan.

Rõ ràng, chính phủ liên bang đã đang áp dụng AI vào luật pháp và công lý, giáo dục và lực lượng lao động, giao thông vận tải, khoa học và không gian, năng lượng và môi trường, cùng các lĩnh vực khác. Trong quá trình này, họ đang tận dụng cả các chuyên gia nội bộ và các đối tác doanh nghiệp.

Theo CIO, các cơ quan đã phát triển các trường hợp sử dụng AI nội bộ trong 50% trường hợp. Trong hơn 40% các trường hợp sử dụng, các cơ quan đã sử dụng mã phát triển tùy chỉnh, mã này được cung cấp công khai. Hơn 35% AI công cộng được triển khai trên các nền tảng dữ liệu và phân tích doanh nghiệp hiện có trong một cơ quan hoặc tái sử dụng mã và/hoặc dữ liệu ở cấp sản xuất từ một trường hợp sử dụng khác.

Các chính phủ tiểu bang và địa phương đang triển khai AI

Các chính phủ tiểu bang và địa phương cũng đang thử nghiệm với AI trong quản trị. Như một báo cáo của Deloitte chỉ ra, các tiểu bang và chính phủ địa phương có khả năng chuyển sang AI để giảm bớt áp lực lên ngân sách của họ. Luật pháp ở Georgia đã đề xuất một "Đạo luật Trách nhiệm về AI" mà sẽ tạo ra một Hội đồng về Trí tuệ Nhân tạo của Georgia, yêu cầu các cơ quan chính phủ phát triển một kế hoạch sử dụng AI để chi tiết các mục tiêu cụ thể, các biện pháp bảo mật dữ liệu, và phác thảo vai trò của việc giám sát con người.

Một dự luật ở Montana, đã được thống đốc ký, sẽ hạn chế việc sử dụng AI trong chính quyền tiểu bang và địa phương, yêu cầu minh bạch về nơi AI được sử dụng, và đảm bảo rằng một số quyết định và khuyến nghị sẽ được xem xét bởi một con người nắm giữ "vị trí trách nhiệm." Tại Nevada, một dự luật sẽ yêu cầu Bộ Thuế thông báo cho người nộp thuế khi họ đang giao tiếp với các hệ thống AI. Cả hai dự luật ở Georgia và Nevada đều đã thất bại trong Ủy ban.

Ý nghĩa của quyền

Theo CIO, khoảng 13 phần trăm các trường hợp sử dụng AI của Liên bang có thể làm suy yếu quyền lợi hoặc sự an toàn của công chúng, theo định nghĩa trong Bản ghi nhớ OMB M-24-10.

Trong những trường hợp sử dụng như vậy, các cơ quan phải áp dụng các biện pháp bảo vệ cụ thể trước khi sử dụng, bao gồm các cách đánh giá, thử nghiệm và giám sát tác động của AI đối với công chúng và giảm thiểu rủi ro phân biệt đối xử do thuật toán.

Vào tháng 12 năm 2024, các cơ quan đã tiến hành Đánh giá Tác động AI cho hơn 80 phần trăm các trường hợp sử dụng AI ảnh hưởng đến quyền hoặc an toàn, và đã thực hiện các đánh giá độc lập cho hơn 70 phần trăm trong số các trường hợp đó. Gần một nửa các trường hợp sử dụng AI ảnh hưởng đến quyền trong chính phủ liên quan đến các quy trình để kháng cáo hoặc phản đối kết quả của hệ thống AI hoặc từ chối chức năng AI.

Chính phủ liên bang đang triển khai AI trong khi công chúng bị bỏ lại trong bóng tối về những tác động đối với cuộc sống hàng ngày của họ. Cách mà công nghệ này đang được sử dụng trong quản trị nên là một điểm thảo luận phổ biến hơn cho những người quan tâm đến cuộc thảo luận xung quanh đạo đức của công nghệ.