*Setelah ledakan penerapan model bahasa alami yang besar, banyak petinggi di lingkaran teknologi telah mengungkapkan pandangan mereka tentang AI dari sudut yang berbeda. Baru-baru ini, Yuval Harari, seorang sejarawan terkenal, filsuf dan penulis "A Brief History of Humanity", ditugaskan oleh The Economist untuk membagikan pemikirannya tentang AI. *
*Melanjutkan pandangannya dalam A Brief History of Mankind, Harari menekankan bahwa bahasa adalah unsur penyusun hampir semua kebudayaan manusia. AI dengan kemampuan menghasilkan bahasa akan memengaruhi persepsi manusia terhadap dunia melalui bahasa, "AI Meretas sistem operasi peradaban manusia". Dia membandingkan AI dengan "senjata nuklir" dan meminta orang-orang untuk mengambil tindakan segera untuk mengambil lebih banyak tindakan pengamanan. Salah satu sarannya adalah "mewajibkan AI untuk mengungkapkan bahwa itu adalah AI." *
*Kami telah melihat pidato berbagai perwakilan "mahasiswa sains" tentang AI, dan pakar humaniora menjelaskan secara lebih spesifik bagaimana AI dapat memengaruhi politik, agama, dan bisnis melalui bahasa. Dia dengan berani berasumsi bahwa manusia mungkin hidup dalam ilusi yang diciptakan oleh AI di masa depan. "Metaverse Explosion" menyusun teks lengkap artikelnya. *
从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) Kemampuan luar biasa dari peradaban manusia telah menembus sistem operasi. **
Bahasa adalah blok bangunan dari hampir semua budaya manusia. Misalnya, hak asasi manusia tidak tertulis dalam DNA manusia, tetapi artefak budaya yang kita buat melalui bercerita dan membuat hukum; tuhan tidak ada secara fisik, tetapi artefak budaya yang kita ciptakan melalui penciptaan mitos dan tulisan suci.
Mata uang juga merupakan artefak budaya. Uang kertas tidak lebih dari selembar kertas berwarna, dan lebih dari 90% uang saat ini bahkan bukan uang kertas, tetapi informasi digital di komputer. Apa yang memberi mata uang nilainya adalah kisah yang diceritakan oleh para bankir, menteri keuangan, dan pakar kripto tentangnya: pendiri FTX Sam Bankman-Fried, "tes darah untuk kanker" palsu Elizabeth Holmes, pengusaha wanita terkemuka dunia, dan Bernie Madoff, dalang dari skema Ponzi terbesar dalam sejarah, keduanya tidak pandai menciptakan nilai nyata, tetapi keduanya sangat pandai berbicara cerita.
Bagaimana jika agen non-manusia lebih baik daripada manusia biasa dalam bercerita, membuat melodi, menggambar, dan menulis hukum dan kitab suci?
Saat orang berpikir tentang ChatGPT dan alat AI baru lainnya, mereka sering berfokus pada contoh siswa sekolah dasar dan menengah yang menggunakan AI untuk menulis esai. Apa yang akan terjadi pada sistem sekolah jika anak-anak melakukan ini? Tapi pertanyaan semacam ini tidak tepat sasaran. Lupakan esai sekolah, pikirkan tentang pemilihan presiden AS berikutnya pada tahun 2024, dan coba bayangkan bagaimana alat AI dapat digunakan untuk membuat konten politik dan berita palsu dalam jumlah besar.
Dalam beberapa tahun terakhir, penganut "Anonymous Q" telah berkumpul di sekitar wahyu anonim yang diposting di Internet (Catatan Editor: "Anonymous Q" adalah tempat berkumpulnya berbagai teori konspirasi secara online. Inti teori konspirasi adalah bahwa ada konspirasi di dalam AS pemerintahan dalam negara). Orang percaya mengumpulkan dan mempromosikan teori konspirasi semacam itu, dan menganggapnya sebagai kitab suci. Di masa lalu, semua postingan berita terkini ditulis oleh manusia, dan mesin hanya membantu menyebarkannya. Tapi di masa depan, kita mungkin melihat agama pagan pertama dalam sejarah yang kitab sucinya ditulis oleh agen non-manusia. Sepanjang sejarah, agama-agama mengklaim bahwa kitab suci mereka bukan berasal dari manusia. Ini mungkin segera menjadi kenyataan.
Pada tingkat yang lebih sehari-hari, kita mungkin akan segera menemukan bahwa kita mengira kita sedang berbicara secara online dengan orang-orang nyata tentang aborsi, perubahan iklim, atau konflik Rusia-Ukraina, tetapi pihak lain sebenarnya adalah AI. Masalahnya adalah tidak ada gunanya menghabiskan waktu kita untuk mencoba mengubah persepsi AI yang dapat menyaring informasi dengan presisi sedemikian rupa sehingga kemungkinan besar akan memengaruhi persepsi kita. **
**Dengan menguasai bahasa manusia, AI bahkan mungkin mengembangkan hubungan intim dengan manusia dan menggunakan kekuatan hubungan itu untuk mengubah persepsi dan pandangan dunia kita. **Meskipun tidak ada indikasi bahwa AI memiliki kesadaran atau perasaannya sendiri, agar AI dapat menumbuhkan keintiman palsu dengan manusia, yang dibutuhkan manusia hanyalah terikat secara emosional dengannya.
Pada Juni 2022, insinyur Google Blake Lemoine secara terbuka mengklaim bahwa AI chatbot LaMDA yang dia kerjakan sudah memiliki perasaan. Klaim kontroversial itu membuatnya kehilangan pekerjaannya. Yang paling menarik dari hal ini bukanlah pernyataan Lemoyne (yang mungkin tidak benar), melainkan kesediaannya mengambil risiko kehilangan pekerjaan bergaji tinggi demi membenarkan nama AI chatbot tersebut. Jika AI dapat membuat orang mempertaruhkan pekerjaan mereka untuk itu, apakah mungkin mendorong orang untuk melakukan hal lain?
Dalam perjuangan politik merebut hati dan pikiran rakyat, kedekatan adalah senjata yang paling ampuh. Dan AI baru saja mendapatkan kemampuan untuk menjalin hubungan intim dengan jutaan orang.
Kita semua tahu bahwa selama dekade terakhir, media sosial telah menjadi medan pertempuran untuk menarik perhatian orang. Dengan munculnya generasi baru AI, garis pertempuran bergeser dari perhatian ke keintiman. *Jika ada persaingan antara AI dan AI yang dapat memiliki hubungan lebih dekat dengan manusia, dan kemudian menggunakan hubungan ini untuk membujuk kita memilih politisi tertentu atau membeli produk tertentu, bagaimana masyarakat manusia dan psikologi manusia akan berubah? *
Bahkan tanpa menciptakan "keintiman palsu", alat AI baru dapat berdampak besar pada persepsi dan pandangan dunia kita. Orang-orang mungkin menganggap penasihat AI sebagai dewa serba bisa, jadi tidak heran Google panik. Jika Anda memiliki pertanyaan, Anda dapat bertanya kepada para dewa, mengapa repot-repot mencari? Industri berita dan periklanan secara alami takut, karena Anda bisa mendapatkan berita terbaru hanya dengan bertanya kepada para dewa, mengapa Anda perlu membaca koran? untuk apa?
Dan bahkan jika skenario ini disusun, masih gagal untuk benar-benar memahami keseluruhan situasi. Ketika kita membahas kemungkinan akhir dari sejarah manusia, kita tidak berbicara tentang akhir dari sejarah, tetapi akhir dari bagian sejarah yang didominasi oleh manusia. Sejarah adalah produk interaksi antara biologi dan budaya, kebutuhan dan keinginan biologis kita (seperti makanan dan seks) dan kreasi budaya (seperti agama dan hukum). Sejarah adalah proses bertahap di mana hukum dan agama memengaruhi pola makan dan seks.
Apa yang terjadi pada perjalanan sejarah ketika AI mengambil alih budaya dan mulai membuat cerita, melodi, hukum, dan agama? Sebelumnya, alat seperti mesin cetak dan radio memfasilitasi penyebaran gagasan budaya manusia, tetapi mereka tidak pernah menciptakan dirinya sendiri konsep budaya baru. AI pada dasarnya berbeda dari mereka. **AI dapat menciptakan ide baru, budaya baru. **
Pada awalnya, AI yang baru jadi mungkin meniru manusia yang melatihnya. Namun seiring waktu, budaya AI akan dengan berani pergi ke tempat yang belum pernah dikunjungi manusia sebelumnya. Selama ribuan tahun, manusia telah hidup dalam mimpi manusia lain. **Dalam beberapa dekade mendatang, kita mungkin menemukan diri kita hidup dalam mimpi agen cerdas non-manusia. **
Ketakutan akan AI hanya menjangkiti umat manusia selama beberapa dekade terakhir. Tapi ketakutan yang jauh lebih dalam menghantui umat manusia selama ribuan tahun. Kami selalu memahami kekuatan cerita dan gambar untuk memanipulasi pikiran dan menciptakan ilusi. Karena itu, manusia takut terjebak dalam dunia ilusi sejak zaman kuno.
Pada abad ke-17, Descartes khawatir bahwa dia mungkin terjebak dalam dunia ilusi oleh setan, dan semua yang dia lihat dan dengar diatur oleh setan ini. Plato di Yunani kuno menceritakan alegori gua yang terkenal: sekelompok orang telah dirantai di dalam gua seumur hidup, dan hanya ada dinding gua kosong di depan mereka, seperti layar. Para tahanan dapat melihat berbagai bayangan yang dilemparkan ke dinding gua oleh dunia luar gua, jadi mereka menganggap ilusi ini sebagai kenyataan.
Di India kuno, orang bijak Buddha dan Hindu menunjukkan bahwa manusia hidup dalam maya (dunia ilusi). Apa yang biasanya kita anggap sebagai kenyataan seringkali hanyalah ilusi dalam pikiran kita sendiri. Manusia dapat berperang, membunuh orang lain, dan rela dibunuh karena mereka percaya pada satu visi atau lainnya.
**AI Revolution menghadirkan Iblis Descartes, Gua Plato, dan Maya langsung kepada kita. **Jika kita tidak hati-hati, kita bisa terperangkap di balik selubung ilusi, tidak mampu merobek atau bahkan menyadarinya.
Tentu saja, kekuatan baru AI juga dapat dimanfaatkan dengan baik. Saya tidak akan menjelaskan terlalu detail tentang ini, karena orang yang mengembangkan AI sudah cukup banyak bicara. Tugas sejarawan dan filsuf seperti saya adalah menunjukkan di mana letak bahaya AI. Namun tidak diragukan lagi bahwa AI dapat membantu manusia dalam berbagai cara, mulai dari menemukan pengobatan baru untuk mengatasi kanker, hingga menemukan solusi untuk krisis ekologi, dan banyak lagi. Pertanyaan di hadapan kita adalah bagaimana memastikan bahwa alat AI baru digunakan untuk kebaikan daripada kejahatan. Untuk melakukan ini, pertama-tama kita perlu mengenali kemampuan sebenarnya dari alat ini.
Kita sudah tahu sejak 1945 bahwa teknologi nuklir bisa menghasilkan energi murah untuk kepentingan umat manusia, tapi juga bisa menghancurkan peradaban manusia secara fisik. Jadi kami membentuk kembali seluruh tatanan internasional untuk melindungi umat manusia dan memastikan bahwa teknologi nuklir terutama digunakan untuk kepentingan umat manusia. **Sekarang kita harus berurusan dengan WMD jenis baru yang dapat menghancurkan dunia spiritual dan sosial kita. **
Kami masih dapat mengelola alat AI baru, tetapi kami harus bertindak cepat. **Senjata nuklir tidak dapat menciptakan senjata nuklir yang lebih kuat, tetapi AI dapat membuat AI yang lebih kuat secara eksponensial. **
**Langkah penting pertama adalah membuat alat AI yang kuat menjalani pemeriksaan keamanan yang ketat sebelum dirilis ke domain publik. ** Sama seperti perusahaan farmasi tidak dapat merilis obat baru tanpa menguji efek samping jangka pendek dan jangka panjang, perusahaan teknologi tidak boleh merilis alat AI baru sebelum memastikan keamanannya. Kami membutuhkan lembaga seperti Badan Pengawas Obat dan Makanan AS (FDA) untuk mengatur teknologi baru. Hal-hal ini seharusnya sudah dilakukan sejak lama.
Bukankah memperlambat penerapan AI di ruang publik akan menyebabkan demokrasi tertinggal dari rezim otoriter yang lebih sembrono? Penyebaran AI yang tidak diatur akan menciptakan kekacauan sosial yang akan menguntungkan para diktator untuk melemahkan demokrasi. **Demokrasi adalah sebuah dialog, dan dialog bergantung pada bahasa. Begitu AI menguraikan bahasa, itu bisa merusak kemampuan kita untuk melakukan percakapan yang bermakna, dan dengan demikian demokrasi. **
Kami baru saja menemukan kecerdasan non-manusia di Bumi, dan hanya tahu sedikit tentangnya, kecuali bahwa itu dapat menghancurkan peradaban manusia. Kita harus menghentikan penerapan alat AI yang tidak bertanggung jawab di domain publik dan mengontrol AI sebelum itu mengontrol kita. Dan **proposal peraturan pertama saya adalah mewajibkan AI untuk mengungkapkan bahwa itu adalah AI. Jika saya tidak tahu apakah saya sedang berbicara dengan manusia atau AI, itulah akhir dari demokrasi. **
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Penulis "Sejarah Singkat Kemanusiaan": AI telah meretas sistem operasi peradaban manusia
*Melanjutkan pandangannya dalam A Brief History of Mankind, Harari menekankan bahwa bahasa adalah unsur penyusun hampir semua kebudayaan manusia. AI dengan kemampuan menghasilkan bahasa akan memengaruhi persepsi manusia terhadap dunia melalui bahasa, "AI Meretas sistem operasi peradaban manusia". Dia membandingkan AI dengan "senjata nuklir" dan meminta orang-orang untuk mengambil tindakan segera untuk mengambil lebih banyak tindakan pengamanan. Salah satu sarannya adalah "mewajibkan AI untuk mengungkapkan bahwa itu adalah AI." *
*Kami telah melihat pidato berbagai perwakilan "mahasiswa sains" tentang AI, dan pakar humaniora menjelaskan secara lebih spesifik bagaimana AI dapat memengaruhi politik, agama, dan bisnis melalui bahasa. Dia dengan berani berasumsi bahwa manusia mungkin hidup dalam ilusi yang diciptakan oleh AI di masa depan. "Metaverse Explosion" menyusun teks lengkap artikelnya. *
Bahasa adalah blok bangunan dari hampir semua budaya manusia. Misalnya, hak asasi manusia tidak tertulis dalam DNA manusia, tetapi artefak budaya yang kita buat melalui bercerita dan membuat hukum; tuhan tidak ada secara fisik, tetapi artefak budaya yang kita ciptakan melalui penciptaan mitos dan tulisan suci.
Mata uang juga merupakan artefak budaya. Uang kertas tidak lebih dari selembar kertas berwarna, dan lebih dari 90% uang saat ini bahkan bukan uang kertas, tetapi informasi digital di komputer. Apa yang memberi mata uang nilainya adalah kisah yang diceritakan oleh para bankir, menteri keuangan, dan pakar kripto tentangnya: pendiri FTX Sam Bankman-Fried, "tes darah untuk kanker" palsu Elizabeth Holmes, pengusaha wanita terkemuka dunia, dan Bernie Madoff, dalang dari skema Ponzi terbesar dalam sejarah, keduanya tidak pandai menciptakan nilai nyata, tetapi keduanya sangat pandai berbicara cerita.
Bagaimana jika agen non-manusia lebih baik daripada manusia biasa dalam bercerita, membuat melodi, menggambar, dan menulis hukum dan kitab suci?
Saat orang berpikir tentang ChatGPT dan alat AI baru lainnya, mereka sering berfokus pada contoh siswa sekolah dasar dan menengah yang menggunakan AI untuk menulis esai. Apa yang akan terjadi pada sistem sekolah jika anak-anak melakukan ini? Tapi pertanyaan semacam ini tidak tepat sasaran. Lupakan esai sekolah, pikirkan tentang pemilihan presiden AS berikutnya pada tahun 2024, dan coba bayangkan bagaimana alat AI dapat digunakan untuk membuat konten politik dan berita palsu dalam jumlah besar.
Dalam beberapa tahun terakhir, penganut "Anonymous Q" telah berkumpul di sekitar wahyu anonim yang diposting di Internet (Catatan Editor: "Anonymous Q" adalah tempat berkumpulnya berbagai teori konspirasi secara online. Inti teori konspirasi adalah bahwa ada konspirasi di dalam AS pemerintahan dalam negara). Orang percaya mengumpulkan dan mempromosikan teori konspirasi semacam itu, dan menganggapnya sebagai kitab suci. Di masa lalu, semua postingan berita terkini ditulis oleh manusia, dan mesin hanya membantu menyebarkannya. Tapi di masa depan, kita mungkin melihat agama pagan pertama dalam sejarah yang kitab sucinya ditulis oleh agen non-manusia. Sepanjang sejarah, agama-agama mengklaim bahwa kitab suci mereka bukan berasal dari manusia. Ini mungkin segera menjadi kenyataan.
Pada tingkat yang lebih sehari-hari, kita mungkin akan segera menemukan bahwa kita mengira kita sedang berbicara secara online dengan orang-orang nyata tentang aborsi, perubahan iklim, atau konflik Rusia-Ukraina, tetapi pihak lain sebenarnya adalah AI. Masalahnya adalah tidak ada gunanya menghabiskan waktu kita untuk mencoba mengubah persepsi AI yang dapat menyaring informasi dengan presisi sedemikian rupa sehingga kemungkinan besar akan memengaruhi persepsi kita. **
**Dengan menguasai bahasa manusia, AI bahkan mungkin mengembangkan hubungan intim dengan manusia dan menggunakan kekuatan hubungan itu untuk mengubah persepsi dan pandangan dunia kita. **Meskipun tidak ada indikasi bahwa AI memiliki kesadaran atau perasaannya sendiri, agar AI dapat menumbuhkan keintiman palsu dengan manusia, yang dibutuhkan manusia hanyalah terikat secara emosional dengannya.
Pada Juni 2022, insinyur Google Blake Lemoine secara terbuka mengklaim bahwa AI chatbot LaMDA yang dia kerjakan sudah memiliki perasaan. Klaim kontroversial itu membuatnya kehilangan pekerjaannya. Yang paling menarik dari hal ini bukanlah pernyataan Lemoyne (yang mungkin tidak benar), melainkan kesediaannya mengambil risiko kehilangan pekerjaan bergaji tinggi demi membenarkan nama AI chatbot tersebut. Jika AI dapat membuat orang mempertaruhkan pekerjaan mereka untuk itu, apakah mungkin mendorong orang untuk melakukan hal lain?
Dalam perjuangan politik merebut hati dan pikiran rakyat, kedekatan adalah senjata yang paling ampuh. Dan AI baru saja mendapatkan kemampuan untuk menjalin hubungan intim dengan jutaan orang.
Kita semua tahu bahwa selama dekade terakhir, media sosial telah menjadi medan pertempuran untuk menarik perhatian orang. Dengan munculnya generasi baru AI, garis pertempuran bergeser dari perhatian ke keintiman. *Jika ada persaingan antara AI dan AI yang dapat memiliki hubungan lebih dekat dengan manusia, dan kemudian menggunakan hubungan ini untuk membujuk kita memilih politisi tertentu atau membeli produk tertentu, bagaimana masyarakat manusia dan psikologi manusia akan berubah? *
Bahkan tanpa menciptakan "keintiman palsu", alat AI baru dapat berdampak besar pada persepsi dan pandangan dunia kita. Orang-orang mungkin menganggap penasihat AI sebagai dewa serba bisa, jadi tidak heran Google panik. Jika Anda memiliki pertanyaan, Anda dapat bertanya kepada para dewa, mengapa repot-repot mencari? Industri berita dan periklanan secara alami takut, karena Anda bisa mendapatkan berita terbaru hanya dengan bertanya kepada para dewa, mengapa Anda perlu membaca koran? untuk apa?
Dan bahkan jika skenario ini disusun, masih gagal untuk benar-benar memahami keseluruhan situasi. Ketika kita membahas kemungkinan akhir dari sejarah manusia, kita tidak berbicara tentang akhir dari sejarah, tetapi akhir dari bagian sejarah yang didominasi oleh manusia. Sejarah adalah produk interaksi antara biologi dan budaya, kebutuhan dan keinginan biologis kita (seperti makanan dan seks) dan kreasi budaya (seperti agama dan hukum). Sejarah adalah proses bertahap di mana hukum dan agama memengaruhi pola makan dan seks.
Apa yang terjadi pada perjalanan sejarah ketika AI mengambil alih budaya dan mulai membuat cerita, melodi, hukum, dan agama? Sebelumnya, alat seperti mesin cetak dan radio memfasilitasi penyebaran gagasan budaya manusia, tetapi mereka tidak pernah menciptakan dirinya sendiri konsep budaya baru. AI pada dasarnya berbeda dari mereka. **AI dapat menciptakan ide baru, budaya baru. **
Pada awalnya, AI yang baru jadi mungkin meniru manusia yang melatihnya. Namun seiring waktu, budaya AI akan dengan berani pergi ke tempat yang belum pernah dikunjungi manusia sebelumnya. Selama ribuan tahun, manusia telah hidup dalam mimpi manusia lain. **Dalam beberapa dekade mendatang, kita mungkin menemukan diri kita hidup dalam mimpi agen cerdas non-manusia. **
Ketakutan akan AI hanya menjangkiti umat manusia selama beberapa dekade terakhir. Tapi ketakutan yang jauh lebih dalam menghantui umat manusia selama ribuan tahun. Kami selalu memahami kekuatan cerita dan gambar untuk memanipulasi pikiran dan menciptakan ilusi. Karena itu, manusia takut terjebak dalam dunia ilusi sejak zaman kuno.
Pada abad ke-17, Descartes khawatir bahwa dia mungkin terjebak dalam dunia ilusi oleh setan, dan semua yang dia lihat dan dengar diatur oleh setan ini. Plato di Yunani kuno menceritakan alegori gua yang terkenal: sekelompok orang telah dirantai di dalam gua seumur hidup, dan hanya ada dinding gua kosong di depan mereka, seperti layar. Para tahanan dapat melihat berbagai bayangan yang dilemparkan ke dinding gua oleh dunia luar gua, jadi mereka menganggap ilusi ini sebagai kenyataan.
Di India kuno, orang bijak Buddha dan Hindu menunjukkan bahwa manusia hidup dalam maya (dunia ilusi). Apa yang biasanya kita anggap sebagai kenyataan seringkali hanyalah ilusi dalam pikiran kita sendiri. Manusia dapat berperang, membunuh orang lain, dan rela dibunuh karena mereka percaya pada satu visi atau lainnya.
**AI Revolution menghadirkan Iblis Descartes, Gua Plato, dan Maya langsung kepada kita. **Jika kita tidak hati-hati, kita bisa terperangkap di balik selubung ilusi, tidak mampu merobek atau bahkan menyadarinya.
Tentu saja, kekuatan baru AI juga dapat dimanfaatkan dengan baik. Saya tidak akan menjelaskan terlalu detail tentang ini, karena orang yang mengembangkan AI sudah cukup banyak bicara. Tugas sejarawan dan filsuf seperti saya adalah menunjukkan di mana letak bahaya AI. Namun tidak diragukan lagi bahwa AI dapat membantu manusia dalam berbagai cara, mulai dari menemukan pengobatan baru untuk mengatasi kanker, hingga menemukan solusi untuk krisis ekologi, dan banyak lagi. Pertanyaan di hadapan kita adalah bagaimana memastikan bahwa alat AI baru digunakan untuk kebaikan daripada kejahatan. Untuk melakukan ini, pertama-tama kita perlu mengenali kemampuan sebenarnya dari alat ini.
Kita sudah tahu sejak 1945 bahwa teknologi nuklir bisa menghasilkan energi murah untuk kepentingan umat manusia, tapi juga bisa menghancurkan peradaban manusia secara fisik. Jadi kami membentuk kembali seluruh tatanan internasional untuk melindungi umat manusia dan memastikan bahwa teknologi nuklir terutama digunakan untuk kepentingan umat manusia. **Sekarang kita harus berurusan dengan WMD jenis baru yang dapat menghancurkan dunia spiritual dan sosial kita. **
Kami masih dapat mengelola alat AI baru, tetapi kami harus bertindak cepat. **Senjata nuklir tidak dapat menciptakan senjata nuklir yang lebih kuat, tetapi AI dapat membuat AI yang lebih kuat secara eksponensial. **
**Langkah penting pertama adalah membuat alat AI yang kuat menjalani pemeriksaan keamanan yang ketat sebelum dirilis ke domain publik. ** Sama seperti perusahaan farmasi tidak dapat merilis obat baru tanpa menguji efek samping jangka pendek dan jangka panjang, perusahaan teknologi tidak boleh merilis alat AI baru sebelum memastikan keamanannya. Kami membutuhkan lembaga seperti Badan Pengawas Obat dan Makanan AS (FDA) untuk mengatur teknologi baru. Hal-hal ini seharusnya sudah dilakukan sejak lama.
Bukankah memperlambat penerapan AI di ruang publik akan menyebabkan demokrasi tertinggal dari rezim otoriter yang lebih sembrono? Penyebaran AI yang tidak diatur akan menciptakan kekacauan sosial yang akan menguntungkan para diktator untuk melemahkan demokrasi. **Demokrasi adalah sebuah dialog, dan dialog bergantung pada bahasa. Begitu AI menguraikan bahasa, itu bisa merusak kemampuan kita untuk melakukan percakapan yang bermakna, dan dengan demikian demokrasi. **
Kami baru saja menemukan kecerdasan non-manusia di Bumi, dan hanya tahu sedikit tentangnya, kecuali bahwa itu dapat menghancurkan peradaban manusia. Kita harus menghentikan penerapan alat AI yang tidak bertanggung jawab di domain publik dan mengontrol AI sebelum itu mengontrol kita. Dan **proposal peraturan pertama saya adalah mewajibkan AI untuk mengungkapkan bahwa itu adalah AI. Jika saya tidak tahu apakah saya sedang berbicara dengan manusia atau AI, itulah akhir dari demokrasi. **