Wawancara terbaru CEO OpenAI Altman: Semakin banyak orang yang terlibat dalam AI, kontrol AI yang lebih baik

Sumber asli: GenAI New World

Sumber gambar: Dihasilkan oleh Unbounded AI

Menurut berita media asing, di dunia perkembangan pesat kecerdasan buatan, diskusi tentang masa depan sering berfokus pada apa yang disebut "kecerdasan umum buatan". Pada tahap ini, AI akan memiliki kemampuan untuk melakukan apa pun yang dapat dilakukan manusia, dan hanya lebih baik.

Percakapan baru-baru ini dengan CEO OpenAI Sam Altman dan CTO Mira Murati menyentuh topik "potensi manfaat dan risiko AGI."

Berikut adalah kutipan dari percakapan mereka:

AGI akan menjadi alat terbaik yang pernah dibuat umat manusia

Q: Mengapa AGI menjadi target? **

Sam Altman: Dua hal yang paling penting untuk memperbaiki kondisi manusia dalam dekade atau dekade berikutnya adalah kecerdasan yang melimpah dan murah: semakin kuat, semakin serbaguna, semakin pintar semakin baik. Saya pikir itu AG. Kemudian yang kedua adalah energi yang melimpah dan murah. Jika kita dapat mencapai dua hal ini di dunia, hampir sulit membayangkan berapa banyak lagi yang dapat kita lakukan. Kami sangat yakin bahwa jika Anda memberi orang alat yang lebih baik, mereka akan melakukan hal-hal yang mengejutkan Anda. Saya pikir AGI akan menjadi alat terbaik yang pernah dibuat umat manusia.

Dengan itu, kita bisa menyelesaikan semua jenis masalah. Kita akan dapat mengekspresikan diri dengan cara baru dan kreatif. Kami akan menciptakan hal-hal luar biasa untuk satu sama lain, untuk diri kami sendiri, untuk dunia, untuk kisah manusia yang sedang berlangsung ini. Ini baru, dan apa pun yang baru datang dengan perubahan, dan perubahan tidak selalu mulus.

T: Kapan itu akan muncul dan bagaimana kita tahu itu akan muncul? **

Mira Murati: Mungkin dalam dekade berikutnya, tapi itu agak rumit. Kita sering berbicara tentang kecerdasan, tentang seberapa cerdas itu, tentang apakah itu sadar, hidup, dan sebagainya, tetapi pernyataan ini tidak sepenuhnya benar. Karena mereka mendefinisikan kecerdasan kita sendiri, dan apa yang kita bangun sedikit berbeda.

Mira Murati, Direktur Teknologi OpenAI

T: Beberapa orang tidak puas dengan beberapa data yang Anda gunakan untuk melatih model tertentu. Misalnya: Hollywood, penerbit. Apa yang Anda lakukan di sekitar data saat Anda mengerjakan model? **

Sam Altman: Pertama-tama, kami jelas hanya menggunakan data yang diizinkan orang lain. Salah satu tantangannya adalah bahwa berbagai jenis data memiliki pemilik yang sangat berbeda. Jadi kami mencoba banyak hal. Kami membangun kemitraan yang beragam, dan kami pikir, seperti bidang baru lainnya, kami akan menemukan sesuatu yang menjadi standar baru.

Selain itu, karena model-model ini menjadi lebih pintar dan lebih mampu, kita akan membutuhkan semakin sedikit data pelatihan. Saya pikir karena kemajuan teknologi yang kita buat, percakapan tentang data dan bentuk semua itu akan bergeser.

T: Penayang ingin membayar data. Akankah masa depan perlombaan ini adalah siapa yang akan membayar paling banyak untuk data terbaik? **

Sam Altman: Tidak, itulah yang ingin saya katakan. Apa yang benar-benar disukai orang tentang model GPT, pada dasarnya, bukanlah bahwa ia mengetahui pengetahuan khusus. Ada cara yang lebih baik untuk menemukan pengetahuan ini. Itu karena ia memiliki kemampuan penalaran remaja ini, dan itu akan menjadi lebih baik dan lebih baik. Itulah yang sebenarnya terjadi.

Altman: Saya tidak ingin AI menjadi intim dengan manusia **

T: Apakah kita akan membangun hubungan yang mendalam dengan robot semacam itu di masa depan? **

Mira Murati: Ini akan menjadi hubungan yang penting. Karena sistem yang kami bangun akan ada di mana-mana: di rumah Anda, di lingkungan pendidikan Anda, di lingkungan kerja Anda, dan bahkan saat Anda sedang menghibur.

Itulah mengapa sebenarnya sangat penting untuk melakukannya dengan benar. Kita harus hati-hati merancang interaksi ini sehingga pada akhirnya meningkatkan pengalaman, membuatnya menyenangkan, meningkatkan produktivitas, dan meningkatkan kreativitas.

Kami juga ingin memastikan bahwa, di sisi produk, kami memiliki rasa kontrol atas sistem ini sehingga kami dapat mengarahkan mereka untuk melakukan apa yang kami ingin mereka lakukan, dan bahwa hasilnya dapat diandalkan. Ketika belajar lebih banyak tentang preferensi Anda, apa yang Anda sukai, apa yang Anda lakukan, dan kemampuan model meningkat, itu akan menjadi lebih personal.

Dan itu bukan hanya sebuah sistem. Anda dapat memiliki banyak sistem yang dipersonalisasi untuk area dan tugas tertentu.

T: Tanggung jawab besar. Anda akan mengontrol teman orang dan mungkin menjadi kekasih orang. Apa pendapat Anda tentang kontrol ini? **

Sam Altman: Kami tidak akan menjadi satu-satunya pemain di sini. Akan ada banyak orang yang terlibat. Oleh karena itu, kita dapat "mendorong gelombang" pada lintasan perkembangan teknologi. Tapi:

a) Kami benar-benar percaya bahwa keputusan itu milik kemanusiaan, masyarakat secara keseluruhan;

b) Kami akan menjadi salah satu dari banyak pemain dalam membangun sistem yang kompleks di sini. Akan ada produk pesaing yang menawarkan layanan berbeda, akan ada berbagai jenis pendukung dan lawan sosial, dan akan ada masalah peraturan.

Saya pribadi sangat prihatin dengan visi masa depan ini, karena di masa depan, semua orang akan lebih dekat dengan teman AI mereka, bahkan lebih dekat daripada teman manusia. Saya pribadi tidak menginginkan itu. Saya pikir orang lain akan menginginkan itu, dan beberapa orang akan membangun sesuatu seperti itu. Jika itu yang diinginkan dunia, dan kami pikir itu masuk akal, kami akan melakukannya.

AI Aman tidak lahir di lab

T: Kami sekarang memiliki chatbot sederhana. Apakah kita menghilangkan rasa takut akan kecerdasan buatan yang sekarang meresap? **

Sam Altman: Tidak perlu banyak imajinasi untuk memikirkan situasi yang memerlukan kewaspadaan tinggi. Sekali lagi, kami melakukan ini karena kami sangat senang dengan prospek hebat dan dampak yang sangat positif. Ini akan menjadi kegagalan moral untuk tidak mengejar ini untuk kemanusiaan. Tetapi kita harus menghadapi - dan ini terjadi dengan banyak teknologi lain - kelemahan yang menyertainya.

Ini berarti Anda harus mempertimbangkan risikonya. Anda akan mencoba mengukur kemampuan Anda dan mencoba menyusun teknologi Anda dengan cara yang mengurangi risiko. Kemudian, ketika Anda mengatakan "Hei, ini adalah teknologi keamanan baru," Anda memberikannya kepada orang lain.

Q: Yang mana yang ada? **

Mira Murati: Ini bukan solusi tunggal. Dari data ke model, ke alat dalam produk, dan tentu saja, kebijakan. Dan kemudian pikirkan tentang seluruh infrastruktur peraturan dan sosial untuk mengikuti teknologi yang sedang kami bangun ini.

Oleh karena itu, ketika Anda berpikir tentang langkah-langkah keamanan spesifik apa yang ada di sepanjang jalan, hal pertama adalah meluncurkan teknologi terlebih dahulu dan perlahan-lahan berhubungan dengan kenyataan; Pahami bagaimana hal itu berdampak pada beberapa kasus penggunaan dan industri dunia nyata, dan benar-benar mengatasi dampaknya. Baik itu regulasi atau hak cipta, apa pun dampaknya, Anda sebenarnya harus menyerap dampak tersebut, menghadapinya, dan kemudian terus mengembangkan lebih banyak kemampuan. Saya tidak berpikir membangun teknologi di laboratorium, membangunnya dalam ruang hampa-—— tidak berhubungan dengan dunia nyata, tidak berhubungan dengan gesekan dunia nyata - adalah cara yang baik untuk benar-benar menyebarkan teknologi dengan aman.

Sam Altman: Poin yang dibuat oleh Mila sangat penting. Sangat sulit untuk membuat teknologi "aman" di laboratorium. Masyarakat menggunakan berbagai hal secara berbeda dan beradaptasi secara berbeda. Saya pikir semakin banyak AI yang kita gunakan, semakin banyak AI yang digunakan dunia, semakin aman AI-nya, dan semakin kita dapat memutuskan secara kolektif: "Hei, ini satu hal yang merupakan toleransi risiko yang tidak dapat diterima, dan hal lain yang dikhawatirkan orang, itu baik-baik saja. " "

Menambahkan "tanda air" ke konten AI bukanlah hal hitam-putih

Saat ini, setidaknya dari OpenAI, tidak ada alat yang memungkinkan saya mengetik gambar atau teks dan bertanya, "Apakah ini dihasilkan AI?" Apakah itu benar? **

Mira Murati: Teknologi kami hampir 99% dapat diandalkan dalam hal gambar. Tapi kami masih menguji, ini masih awal.

T: Apakah ini sesuatu yang Anda rencanakan untuk dirilis? **

Mira Murati: Iya.

P: Apakah gambar dan teks OK? **

Mila Murati: Dengan kata-kata, kita perlu mencari tahu apa yang masuk akal. Untuk gambar, pertanyaannya sedikit lebih mudah. Kami sering melakukan eksperimen, meluncurkan sesuatu, dan mendapatkan umpan balik. Terkadang kita mengambilnya kembali, melakukannya dengan lebih baik, dan meluncurkannya lagi.

Sam Altman: Tidak semua orang memiliki pendapat yang sama tentang konsep konten "tanda air." Ada banyak orang yang benar-benar tidak ingin konten yang mereka hasilkan memiliki tanda air. Plus, itu tidak super mudah beradaptasi dengan semuanya. Misalnya, mungkin Anda bisa memberi tanda air pada gambar, mungkin Anda bisa memberi tanda air pada teks yang lebih panjang, mungkin Anda tidak bisa memberi tanda air pada teks yang lebih pendek.

Itulah sebabnya kami ingin menjadi bagian dari dialog. Pada titik ini, kami bersedia mengikuti kehendak kolektif masyarakat. Saya tidak berpikir itu masalah hitam-putih.

AI Dapat Memperburuk Ketimpangan

T: Kami akan mengubah sifat pekerjaan kami. Ada sebagian besar masyarakat yang bahkan tidak berpartisipasi dalam diskusi ini. Bagaimana kita bisa mengembangkan kerangka kerja seperti ini dan secara sukarela melakukan sesuatu yang benar-benar mengarah ke dunia yang lebih baik tanpa meninggalkan orang lain?

Mira Murati: Saya sepenuhnya setuju dengan Anda bahwa ini adalah teknologi pamungkas yang benar-benar dapat memperburuk ketidaksetaraan dan memperburuk keadaan bagi kita sebagai manusia dan peradaban. Ini juga bisa luar biasa, dapat menyebabkan banyak kreativitas dan produktivitas, dan meningkatkan standar hidup kita. Mungkin banyak orang tidak ingin bekerja 8 jam atau 100 jam seminggu. Mungkin mereka ingin bekerja empat jam sehari dan kemudian melakukan banyak hal lain.

Ini pasti akan menyebabkan banyak gangguan pada tenaga kerja.

Sam Altman: Ini adalah pertanyaan yang sangat penting. Setiap revolusi teknologi mempengaruhi pasar kerja. Saya tidak takut sama sekali. Bahkan, saya pikir itu hal yang baik, saya pikir itu cara untuk maju. Kami akan menemukan pekerjaan baru dan lebih baik.

Saya pikir apa yang perlu kita hadapi sebagai masyarakat adalah kecepatan di mana ini terjadi. Kita harus melakukan sesuatu tentang pergeseran ini. Tidaklah cukup untuk memberi orang penghasilan dasar universal. Orang perlu memiliki otonomi dan kemampuan untuk mempengaruhi semuanya, dan kita perlu menjadi perancang masa depan bersama.

Seperti yang Anda katakan, tidak semua orang berpartisipasi dalam diskusi ini, tetapi setiap tahun lebih banyak yang melakukannya. Mendapatkan alat ini ke tangan orang-orang dan membawa ChatGPT ke miliaran orang tidak hanya memberi orang kesempatan untuk memikirkan apa yang akan terjadi dan terlibat dalam percakapan, tetapi juga memungkinkan orang menggunakan alat ini untuk mendorong masa depan. Ini sangat penting bagi kami.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
0/400
Tidak ada komentar
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)