Vitalik Mendukung AI yang Meningkatkan Manusia Daripada Mengejar Otonomi Penuh

Pembuat Ethereum Vitalik telah membuat argumen yang meyakinkan tentang mengapa pengembangan kecerdasan buatan harus memprioritaskan peningkatan manusia daripada mencapai otonomi penuh. Menurut pernyataan terbaru yang dilaporkan pada akhir Desember, dia berpendapat bahwa setiap inisiatif riset AI baru seharusnya menetapkan “peningkatan kemanusiaan” sebagai tujuan utamanya. Perspektif ini menantang tren yang sedang berkembang di industri AI, di mana banyak organisasi berlomba menuju sistem yang sepenuhnya otonom meskipun kekhawatiran keamanan yang belum terselesaikan.

Masalah dengan Sistem Otonom Tanpa Batas

Peringatan Vitalik menyentuh inti dari masalah kritis dalam pengembangan AI modern. Dia menunjukkan bahwa organisasi yang mengejar Advanced Super Intelligence (ASI) yang sepenuhnya otonom menjadi semakin umum, namun perlombaan menuju kemandirian penuh ini menimbulkan pertanyaan mendasar tentang kontrol dan keamanan. Sikapnya sangat mencolok karena dia mempertahankan posisi ini terlepas dari perdebatan teoretis seputar keamanan AI—menunjukkan bahwa bahkan jika semua kekhawatiran keamanan dapat diselesaikan, pengejaran sistem yang sepenuhnya otonom tetap bermasalah dari sudut pandang strategis dan filosofis.

Kekhawatiran utama berkisar pada risiko sistem yang mampu membuat keputusan secara mandiri dalam jangka waktu yang lama tanpa pengawasan manusia. Vitalik secara eksplisit menyerukan agar sistem AI dibatasi dari beroperasi secara independen lebih dari satu menit, menetapkan batas keras antara peningkatan yang berguna dan otonomi yang berpotensi berbahaya.

AI yang Ditingkatkan: Alternatif yang Kurang Dikembangkan

Berbeda secara tajam dengan proliferasi proyek ASI otonom, Vitalik mengamati bahwa AI yang ditingkatkan—teknologi yang dirancang khusus untuk “membangun mech untuk otak manusia”—masih sangat kurang didanai dan kurang berkembang. Jenis AI ini berfungsi sebagai ekstensi dari kemampuan manusia, meningkatkan kognisi dan pengambilan keputusan daripada menggantikan penilaian manusia. Meski memiliki potensi, pendekatan ini menarik jauh lebih sedikit investasi dan perhatian dibandingkan sistem otonom.

Kesenjangan antara kedua jalur pengembangan ini menunjukkan kegagalan pasar dalam inovasi AI. Perusahaan dan investor sebagian besar mengabaikan potensi besar dalam menciptakan sistem AI yang benar-benar meningkatkan agen manusia daripada menguranginya.

Transparansi Melalui Pengembangan Open-Source

Untuk memajukan pengembangan AI yang bertanggung jawab, Vitalik sangat mendukung maksimalisasi transparansi dalam proyek AI yang ditingkatkan melalui praktik open-source. Membuat kode dan model tersedia secara publik memungkinkan komunitas riset yang lebih luas untuk memeriksa langkah-langkah keamanan, mengidentifikasi kerentanan, dan berkontribusi terhadap perbaikan. Pendekatan kolaboratif ini sangat kontras dengan lingkungan pengembangan tertutup yang umum di ruang ASI otonom.

Dengan menekankan prinsip open-source, Vitalik menegaskan pentingnya pengawasan komunitas dalam memastikan bahwa pengembangan AI melayani kepentingan umat manusia. Seruan ini untuk transparansi mencerminkan keyakinan dasar bahwa teknologi transformatif membutuhkan akuntabilitas publik dan tata kelola kolektif.