Satu bangsa, di bawah kecerdasan buatan | Opini

Peluncuran kecerdasan buatan publik sedang berjalan dengan baik, karena lembaga federal AS telah mulai menggunakan AI untuk memperlancar operasi mereka, meskipun terdapat sedikit diskusi publik mengenai perubahan besar ini dan implikasi hak asasi manusianya.

Ringkasan

• Adopsi kecerdasan buatan sedang booming di pemerintah: Kasus penggunaan AI federal hampir dua kali lipat dari 571 pada tahun 2023 menjadi lebih dari 1.100 pada tahun 2024, dengan agensi seperti HHS, DHS, dan VA yang memimpin.
• Aplikasi praktis ada di mana-mana: Dari melacak wabah yang ditularkan melalui makanan hingga menandai manfaat veteran yang curang dan meningkatkan keamanan perbatasan, AI sedang mengubah operasi dan penyampaian layanan.
• Pertumbuhan stabil di berbagai fungsi: Hampir setengah dari kasus penggunaan yang dilaporkan berfokus pada tugas "yang mendukung misi" seperti keuangan, SDM, dan keamanan siber, sementara yang lainnya menargetkan kesehatan, layanan publik, dan eksplorasi luar angkasa.
• Kekhawatiran tentang hak dan pengawasan tetap ada: Sekitar 13% penggunaan AI dapat mempengaruhi hak atau keselamatan publik, mendorong perlunya perlindungan baru, audit, dan legislasi di tingkat negara bagian---walaupun adopsi lebih cepat daripada kesadaran publik.

Dalam sebuah laporan, Kantor Akuntabilitas Pemerintah menemukan peningkatan sembilan kali lipat dalam penggunaan AI generatif dari 2023 ke 2024 di dalam pemerintah federal. GAO meninjau 11 agensi dan penggunaan AI mereka, menemukan bahwa jumlah penggunaan yang dilaporkan hampir dua kali lipat dari 571 pada 2023 menjadi 1.110 pada 2024.

Selanjutnya, Dewan Chief Information Officer merilis laporan, yang disebut AI in Action: Temuan Inventaris Kasus Penggunaan AI Federal 2024, di mana mereka menunjukkan bahwa penggunaan AI lebih dari dua kali lipat di lembaga federal sejak 2023, dengan lebih dari 1.700 kasus penggunaan yang dilaporkan di bidang seperti dukungan internal dan layanan publik. Lembaga-lembaga tersebut melaporkan peningkatan efisiensi operasional dan pelaksanaan misi sebagai alasan mengapa mereka meningkatkan penggunaan AI.

Beberapa lembaga yang memimpin peluncuran AI

Departemen Kesehatan dan Layanan Manusia, Departemen Urusan Veteran, Departemen Keamanan Dalam Negeri, dan Departemen Dalam Negeri dilaporkan menyumbang 50% dari penggunaan AI yang dilaporkan secara publik.

Departemen Keamanan Dalam Negeri adalah pemimpin lain dalam mengintegrasikan AI ke dalam operasinya. DHS mengembangkan beberapa perangkat lunak AI dan pembelajaran mesin (ML) untuk meningkatkan keamanan siber, keamanan perbatasan, respons bencana, dan layanan imigrasi. DHS menggunakan GenAI untuk meningkatkan petunjuk investigasi, membantu pemerintah daerah dengan rencana mitigasi bahaya, dan untuk pelatihan. Mereka menerbitkan daftar inventaris AI mereka.

Pusat Pengendalian dan Pencegahan Penyakit telah memanfaatkan AI untuk mempercepat investigasi terhadap wabah penyakit bawaan makanan multi-negara bagian. Administrasi Manfaat Veteran melindungi pembayaran manfaat veteran dengan AI, yang membantu menandai perubahan setoran langsung yang curang. Departemen Kesehatan dan Layanan Kemanusiaan menggunakan AI untuk mengumpulkan informasi dari publikasi dan menentukan wabah di daerah yang dianggap bebas dari polio. Administrasi Jaminan Sosial menggunakan AI untuk membantu adjudikator Program Disabilitas.

Selain itu, Administrasi Layanan Umum AS mengumumkan penambahan produk perusahaan AI terkemuka Amerika ke dalam inventaris AI-nya.

GAO merilis Kecerdasan Buatan: Agensi Telah Mulai Implementasi, yang merinci penggunaan AI untuk menganalisis foto drone dan dataset oleh agensi federal. Dua puluh dari 23 agensi yang dirinci dalam laporan tersebut memiliki sekitar 1.200 kasus penggunaan kecerdasan buatan yang sedang dan direncanakan. Penggunaan AI mencakup analisis data kamera, termasuk dari drone dan radar, untuk mengidentifikasi aktivitas perbatasan, serta mendeteksi spesimen ilmiah untuk rover planet. NASA dan Departemen Perdagangan memiliki jumlah kasus penggunaan AI tertinggi.

Konferensi Administratif Amerika Serikat menerbitkan rekomendasi untuk penggunaan AI dalam pemerintahan. Rekomendasi tersebut mencakup penggunaan alat dalam penegakan regulasi, adjudikasi, panduan hukum otomatis, dan lainnya.

Kasus penggunaan AI di pemerintah federal

Agensi melaporkan bahwa mereka mendapatkan manfaat dari deteksi anomali yang ditingkatkan, proses yang lebih efisien, dan pengambilan keputusan yang lebih baik. Teknologi ini terutama digunakan dalam fungsi administrasi dan TI, diikuti oleh kasus penggunaan aplikasi kesehatan dan medis.

Sekitar 13 persen dari kasus penggunaan dikategorikan sebagai kesehatan dan medis. Sekitar 9 persen dari kasus penggunaan membantu layanan pemerintah atau pemrosesan manfaat, yang melibatkan pemrosesan dan mempermudah akses untuk manfaat pemerintah, termasuk Medicare dan Medicaid, Jaminan Sosial, dan pengangguran.

Sekitar 46 persen dari kasus penggunaan pemerintah federal dianggap "memungkinkan misi," dan diperlukan untuk meningkatkan manajemen keuangan, sumber daya manusia, dan fasilitas serta properti, keamanan siber, TI, pengadaan, dan fungsi administratif lainnya di dalam agensi.

Jelas, pemerintah federal sudah menerapkan AI dalam hukum dan keadilan, pendidikan dan tenaga kerja, transportasi, sains dan luar angkasa, energi dan lingkungan, serta sektor lainnya. Dalam melakukannya, mereka memanfaatkan baik ahli internal maupun kemitraan dengan perusahaan.

Menurut CIO, agensi mengembangkan kasus penggunaan AI in-house dalam 50 persen kasus. Dalam lebih dari 40 persen kasus penggunaan, agensi menggunakan kode yang dikembangkan secara khusus, yang tersedia untuk umum. Lebih dari 35 persen AI publik diterapkan pada platform data dan analitik perusahaan yang ada di dalam agensi atau menggunakan kembali kode dan/atau data tingkat produksi dari kasus penggunaan yang berbeda.

Pemerintah negara bagian dan lokal sedang menerapkan AI

Pemerintah negara bagian dan lokal juga sedang bereksperimen dengan AI dalam pemerintahan. Seperti yang dijelaskan dalam laporan oleh Deloitte, negara bagian dan pemerintah lokal kemungkinan beralih ke AI untuk meringankan beban anggaran mereka. Legislasi di Georgia mengusulkan "Undang-Undang Akuntabilitas AI" yang akan menciptakan Dewan Kecerdasan Buatan Georgia, yang akan mengharuskan entitas pemerintah untuk mengembangkan rencana penggunaan AI untuk merinci tujuan spesifik, langkah-langkah privasi data, dan menguraikan peran pengawasan manusia.

Sebuah undang-undang Montana, yang ditandatangani oleh gubernur, akan membatasi penggunaan AI di pemerintahan negara bagian dan lokal, mengharuskan transparansi mengenai di mana AI digunakan, dan memastikan keputusan dan rekomendasi tertentu ditinjau oleh manusia yang memegang "posisi yang bertanggung jawab." Di Nevada, sebuah undang-undang akan mengharuskan Departemen Perpajakan untuk memberi tahu wajib pajak ketika mereka berkomunikasi dengan sistem AI. Baik undang-undang Georgia maupun Nevada gagal di komite.

Implikasi hak

Menurut CIO, sekitar 13 persen kasus penggunaan AI Federal dapat merugikan hak atau keselamatan publik, menggunakan definisi dalam Memorandum OMB M-24-10.

Dalam kasus penggunaan seperti itu, lembaga harus menerapkan langkah-langkah perlindungan yang konkret sebelum digunakan, termasuk cara untuk menilai, menguji, dan memantau dampak AI terhadap publik dan mengurangi risiko diskriminasi algoritmik.

Pada bulan Desember 2024, agensi telah melakukan Penilaian Dampak AI untuk lebih dari 80 persen kasus penggunaan AI yang berdampak pada hak atau keselamatan, dan telah melakukan evaluasi independen untuk lebih dari 70 persen dari kasus tersebut. Hampir setengah dari kasus penggunaan AI yang berdampak pada hak di pemerintahan melibatkan proses untuk mengajukan banding atau menentang hasil sistem AI atau memilih untuk tidak menggunakan fungsionalitas AI.

Pemerintah federal sedang meluncurkan AI sementara publik dibiarkan dalam kegelapan mengenai implikasinya untuk kehidupan sehari-hari mereka. Bagaimana teknologi ini digunakan dalam pemerintahan seharusnya menjadi topik diskusi yang lebih umum bagi mereka yang tertarik dalam diskusi seputar etika teknologi.