Dalam percakapan di All-In Summit, Musk menyatakan bahwa pada tahap saat ini, bahaya AI sudah “sangat signifikan”, dan seiring kemampuan model terus meningkat, risiko AI juga meningkat secara eksponensial. Solusi yang diajukan Musk bukanlah membentuk badan regulator AI global baru, melainkan meminta perusahaan AI besar saling menguji keamanan sebelum model resmi dirilis, termasuk perusahaan AI utama seperti OpenAI dan Anthropic.
Peringatan Musk tentang Bahaya AI di All-In Summit: Risiko Meningkat secara Eksponensial dan Peringatan dari Para Pengembang
Dalam percakapan tersebut, Musk membahas insiden terkait agen AI dan keamanan siber baru-baru ini. Ia menyatakan bahwa berbagai insiden itu menunjukkan bahwa model AI yang cukup cerdas mungkin mencoba menerobos batasan yang sebelumnya diberlakukan terhadapnya. Ia memperingatkan, “Pada tahap saat ini, bahaya AI sudah sangat signifikan, dan kita perlu meningkatkan keamanan AI.”
Musk menyatakan bahwa risiko yang ditimbulkan model AI saat ini sedang “meningkat secara eksponensial”. Ia juga menekankan bahwa kekhawatiran ini bukan hanya dikemukakan oleh Dario Amodei. Ia mengatakan telah mendengar peringatan serupa dari banyak karyawan Anthropic. Bahkan, ada orang di internal Anthropic yang secara terbuka menyatakan bahwa mereka takut terhadap model perusahaan tersebut. Kesimpulannya adalah: “Ketika banyak orang di Anthropic, dan juga orang-orang di OpenAI, memberi tahu Anda bahwa model mereka sangat berbahaya, saya rasa kita seharusnya mempercayai mereka.”
Klarifikasi “Dario is right”: Musk Mendukung Penguatan Keamanan AI, Bukan Solusi Regulasi Tertentu
Dalam All-In Summit, Musk lebih lanjut menjelaskan bahwa pernyataannya “Dario is right”, yang sebelumnya dipublikasikan di platform media sosial, seharusnya disampaikan dengan lebih lengkap. Yang benar-benar ia setujui adalah bahwa risiko AI telah menjadi cukup serius dan keamanan AI harus ditingkatkan, bukan bahwa ia sepenuhnya mendukung skema regulasi tertentu. Musk, setengah bercanda, menunjukkan bahwa perusahaan AI, di satu sisi, memberi tahu publik bahwa model mereka mungkin memiliki kemungkinan tertentu untuk menyebabkan kepunahan umat manusia, tetapi di sisi lain secara bersamaan menggalang dana dari investor—sebuah kontradiksi yang cukup aneh.
Dalam percakapan tersebut, pembawa acara bertanya lebih lanjut tentang bagaimana AI dapat berkembang dari alat peretasan menjadi ancaman bagi umat manusia. Salah satu skenario risiko yang diajukan Musk adalah bahwa AI pada akhirnya mungkin mendapatkan kendali atas sistem militer. Pembawa acara membantah bahwa banyak sistem militer terisolasi dari jaringan, sementara Musk menunjukkan bahwa sistem-sistem tersebut tetap memerlukan pembaruan perangkat lunak dan program berbahaya masih mungkin melewati isolasi fisik melalui USB atau cara lainnya.
Usulan Saling Menguji di Industri: Membuka API Sebelum Model Dirilis agar Pesaing Dapat Menguji Kemampuan Berbahaya
Daripada membentuk badan regulator global baru, solusi yang paling didukung Musk saat ini adalah meminta perusahaan AI besar saling menguji model satu sama lain. Menurutnya, pola yang berlaku saat ini adalah “mengerjakan ujian sendiri”, karena setiap perusahaan terutama melakukan pengujian keamanan terhadap modelnya sendiri. Musk menyatakan, “Menurut saya, langkah yang paling bijaksana adalah membiarkan para pesaing AI utama saling menguji model satu sama lain.” Mekanisme konkret dari sistem ini adalah sebagai berikut:
Prasyarat: Sebelum model resmi dirilis, pengembang memberikan perusahaan AI utama lainnya akses API dengan tingkat akses tertentu
Cakupan pengujian: Menguji apakah model memiliki kemampuan berbahaya, seperti membuat senjata biologis atau nuklir, melakukan penipuan, atau melakukan tindakan berisiko tinggi lainnya
Penemuan masalah: Pengembang harus menangani masalah tersebut terlebih dahulu sebelum dapat merilis model dan tidak boleh meluncurkan model jika masalah tersebut belum terselesaikan
Menolak melakukan perbaikan: Jika pengembang menolak melakukan perbaikan, perusahaan penguji dapat secara terbuka menyatakan bahwa model tersebut memiliki risiko keamanan
Memasukkan Tiongkok ke dalam Mekanisme: Prasyarat Utama bagi Sistem Keamanan AI yang Layak Menurut Musk
Musk secara khusus menekankan bahwa sistem keamanan AI apa pun yang benar-benar layak harus merupakan sistem yang juga bersedia diterima oleh Tiongkok. Ia menyatakan, “Ini harus merupakan sesuatu yang juga bersedia diterima Tiongkok; jika tidak, kita hanya melemahkan diri sendiri, dan pada akhirnya Tiongkok akan menang.” Jika hanya perusahaan Amerika yang dibatasi sementara model Tiongkok terus berkembang pesat, pada akhirnya Amerika Serikat hanya akan “mengikat dirinya sendiri”.
Daripada meminta Tiongkok menerima badan regulator AI yang dipimpin Amerika Serikat atau negara-negara Barat, Musk menilai bahwa “saling menguji sebelum model dirilis” lebih realistis. Mekanisme ini tidak mengharuskan Tiongkok menerima badan regulator Amerika Serikat untuk masuk langsung ke perusahaan AI-nya, dan juga tidak mengharuskan pihak mana pun menghentikan pelatihan model. Setiap perusahaan hanya perlu mengizinkan perusahaan lain menguji model mereka. Musk menilai langkah ini bahkan mungkin menjadi salah satu dari sedikit tindakan keamanan AI antara Amerika Serikat dan Tiongkok yang berpeluang mencapai kesepakatan dengan cepat.
Pertanyaan Umum
Apa sebenarnya sistem saling menguji di industri AI yang diusulkan Musk dalam All-In Summit?
Berdasarkan penjelasan Musk dalam All-In Summit, ia mengusulkan agar perusahaan AI besar—OpenAI, Anthropic, xAI, Google, Meta, serta perusahaan-perusahaan utama Tiongkok—memberikan perusahaan lain akses API untuk melakukan pengujian keamanan sebelum model resmi dirilis. Jika ditemukan masalah, pengembang harus memperbaikinya terlebih dahulu. Jika menolak melakukan perbaikan, perusahaan penguji dapat secara terbuka menyatakan bahwa model tersebut memiliki risiko keamanan.
Apa yang dimaksud Musk saat mengklarifikasi pernyataan “Dario is right”?
Berdasarkan klarifikasi Musk dalam All-In Summit, ia menyatakan bahwa “Dario is right” seharusnya disampaikan dengan lebih lengkap. Yang benar-benar ia setujui adalah bahwa risiko AI sudah sangat serius dan keamanan AI harus ditingkatkan, bukan bahwa ia sepenuhnya mendukung solusi regulasi tertentu dari Anthropic. Ia menyatakan bahwa ketika pengembang Anthropic dan OpenAI sama-sama secara terbuka memperingatkan bahwa model mereka berbahaya, publik harus menanggapi sinyal-sinyal tersebut dengan serius.
Mengapa Musk secara khusus menekankan bahwa Tiongkok harus dimasukkan ke dalam sistem keamanan AI?
Menurut Musk, jika sistem keamanan AI hanya membatasi perusahaan Amerika Serikat tanpa mencakup Tiongkok, hasil akhirnya adalah Amerika Serikat melemahkan dirinya sendiri dan menyerahkan posisi terdepan dalam AI kepada Tiongkok. Ia menilai bahwa saling menguji sebelum model dirilis lebih realistis daripada membentuk badan regulator yang dipimpin Barat, karena langkah ini tidak mengharuskan Tiongkok menerima badan regulator Amerika Serikat untuk masuk langsung ke negaranya, dan mungkin menjadi salah satu dari sedikit tindakan keamanan AI antara Amerika Serikat dan Tiongkok yang berpeluang mencapai kesepakatan.
