Baru-baru ini, sekelompok petinggi, termasuk LeCun, mulai menembaki LLM lagi. Terobosan terbaru adalah bahwa LLM tidak memiliki kemampuan penalaran sama sekali!
Dalam pandangan LeCun, kekurangan kemampuan penalaran hampir merupakan "lubang mati" LLM, tidak peduli seberapa kuat daya komputasi dan seberapa luas dan kumpulan data berkualitas tinggi digunakan untuk melatih LLM di masa depan, itu tidak akan dapat menyelesaikan masalah ini.
Pandangan yang dilontarkan oleh LeCun telah memicu banyak netizen dan petinggi AI untuk membahas masalah ini, termasuk Christian Szegedy, salah satu pendiri xAI.
Ilmuwan AI Christian Szegedy menjawab LeCun:
jaringan konvolusional memiliki kemampuan inferensi yang lebih terbatas, tetapi ini tidak mempengaruhi kemampuan AlphaZero.
Dari diskusi lebih lanjut antara dua orang besar, kita bahkan bisa melihat sekilas arah teknis xAI di masa depan - bagaimana menggunakan kemampuan model besar untuk menembus batas atas kemampuan penalaran AI.
Di bawah masalah ini, netizen toleran terhadap kemampuan penalaran LLM, dan juga menunjukkan pemikiran lain tentang hubungan antara AI dan kecerdasan manusia:
Tidak semua manusia pandai bernalar, jadi apakah karena beberapa orang tidak pandai bernalar, apakah mereka harus menyangkal objektivitas kecerdasan manusia?
Mungkin manusia, seperti LLM, hanyalah bentuk lain dari "burung beo acak"!
** Dialog pria besar mengungkapkan arah teknis xAI **
Setelah makalah diterbitkan di arXiv, itu terutama diteruskan oleh LeCun, yang menyebabkan diskusi luas di kalangan netizen dan sarjana.
Ilmuwan AI Christian Szegedy, salah satu pendiri xAI, yang dipimpin oleh Boss Ma, menjawab:
jaringan konvolusional memiliki kemampuan inferensi yang lebih terbatas, tetapi ini tidak mempengaruhi kemampuan AlphaZero.
Kuncinya terletak pada proses penalaran dan loop umpan balik (RL) yang ditetapkan. Dia percaya bahwa kemampuan model dapat melakukan penalaran yang sangat dalam. (misalnya melakukan penelitian matematika)
LeCun juga menjawab langsung:
AlphaZero "melakukan" melaksanakan perencanaan. Tetapi dilakukan dengan MCTS, jaringan konvolusional digunakan untuk menghasilkan perilaku yang baik, dan jaringan konvolusional lain digunakan untuk mengevaluasi lokasi.
Namun, waktu yang dihabiskan untuk menjelajahi pohon mungkin tidak terbatas. Ini adalah penalaran dan perencanaan. Pembelajaran penguatan digunakan untuk melatih jaringan ini.
Christian Szegedy melanjutkan dengan menjawab:
saya setuju. Jadi saya pikir pendekatannya adalah:
memaksa sistem untuk mengeksplorasi banyak ruang penalaran yang relevan bagi kita.
Buat dapat diverifikasi untuk dijelajahi.
Memahami selera manusia untuk hal-hal menarik.
Tampaknya bagi saya bahwa semua ini dengan cepat menjadi layak.
Dan poin yang keluar dari mulut xAI Lianchuang, ditambah dengan kalimat terakhir: "Menurut pendapat saya, semua ini akan segera menjadi layak", mau tidak mau membuat orang berpikir.
Lagi pula, alasan paling langsung untuk mengatakan "layak" dengan kepastian seperti itu mungkin adalah "kami telah berhasil."
Mungkin dalam waktu dekat, kita akan dapat melihat xAI merebut "titik sakit" dari kemampuan penalaran LLM yang lemah, mengejarnya, dan membuat model besar dengan "penalaran kuat", menebus cacat terbesar dari produk model besar di pasar seperti ChatGPT.
LeCun: Berapa kali saya mengatakan bahwa LLM tidak berfungsi! **
Bantahan LeCun baru-baru ini tentang kemampuan penalaran LLM didasarkan pada makalah terbaru oleh profesor Universitas Subbarao Kambampati.
Perkenalan pribadi:
Dalam pandangannya, LLM, yang mengklaim mencapai dan melampaui tingkat manusia dalam banyak kemampuan, memiliki kekurangan besar dalam kemampuan penalaran dan perencanaan.
Alamat kertas:
Alamat kertas:
Alamat kertas:
Dalam menghadapi masalah penalaran perencanaan ahli manusia, GPT-4 hanya 12% benar.
Selain itu, dalam tugas inferensi, jika LLM diizinkan untuk mengoreksi sendiri jawabannya sendiri, kualitas output tidak akan meningkat tetapi menurun.
Artinya, LLM sama sekali tidak memiliki kemampuan untuk alasan jawaban yang benar, semuanya hanya bisa ditebak.
Setelah makalah diterbitkan, profesor juga mengirim tweet panjang untuk lebih menguraikan pandangannya tentang diskusi makalah oleh netizen dan cendekiawan.
Profesor menganggap LLM sebagai "generator ide" yang sangat baik, tetapi baik dalam bahasa maupun kode, tetapi mereka tidak dapat merencanakan atau bernalar sendiri.
Profesor menunjukkan bahwa ada banyak kesalahpahaman tentang kemampuan mengoreksi diri LLM.
Para penulis beberapa makalah menyamar sebagai LLM, secara keliru percaya bahwa mereka menghasilkan kesalahan dan memperbaiki diri seperti manusia.
Dia mengkritik penggunaan kumpulan data Tanya Jawab yang dikuratori secara serampangan untuk mengembangkan dan mengevaluasi pernyataan penilaian diri, dengan alasan bahwa hal itu menciptakan kebingungan di masyarakat.
Profesor itu juga mencatat pentingnya validasi eksternal dan keterlibatan manusia. Meskipun GPT-4 tidak dapat memverifikasi konfigurasi warna, GPT-4 dapat membantu menghasilkan kode Python yang perlu diperbaiki oleh manusia dan dapat digunakan sebagai validator eksternal.
Pada saat yang sama, model yang bekerja sama dengan manusia dan penalar profesional juga akan membantu meningkatkan kemampuan penalaran model.
Profesor tersebut mencantumkan makalah yang menunjukkan cara mengekstrak model domain perencanaan dari LLM, mengoptimalkannya dengan bantuan manusia dan penalar khusus, dan menggunakannya dalam validator rencana atau perencana domain independen.
Penting juga untuk lebih mengoptimalkan kemampuan validasi LLM. Meningkatkan kemampuan validasi LLM dengan fine-tuning tertentu, dan sementara ini tidak tiba-tiba membuat LLM tampil lebih baik dalam penalaran atau verifikasi, memungkinkan untuk peningkatan kecil dalam kemampuan koreksi diri.
** Katakan bahwa LLM adalah "burung beo acak", bukan manusia? **
Seorang netizen juga menunjukkan di bawah Twitter LeCun bahwa sebenarnya, perencanaan dan penalaran bukanlah poin kuat bagi banyak manusia, dan implikasinya adalah bahwa tingkat kecerdasan model bahasa besar tidak boleh disangkal.
Goutham Kurra, seorang pengusaha serial yang mendirikan dua platform sosial yang berfungsi, Glint dan Whip, juga baru-baru ini menerbitkan sebuah blog panjang, "Kita semua burung beo acak," dengan alasan bahwa tidak ada perbedaan mendasar antara kemampuan dan kecerdasan manusia di balik LLM.
Link Artikel:
Jika manusia duduk dan bermeditasi, mereka tidak menyadari bagaimana mekanisme yang mereka gunakan untuk menghasilkan ide bekerja, dan manusia tidak memiliki kendali sadar atas sifat pikiran mereka.
Misalkan seseorang berjalan-jalan di hari yang panas dan berkeringat. Ini membuatnya berpikir tentang perubahan iklim, yang akan menyebabkan kebingungan dalam pikirannya.
Dia memutuskan untuk mengalihkan pikirannya ke topik yang lebih menyenangkan, sebuah proses yang terasa seperti kontrol sadar, tetapi topik mana yang harus dipilih untuk dipikirkan?
Mungkin otak manusia akan dengan patuh memunculkan beberapa opsi untuk dia pertimbangkan: mungkin mempertimbangkan permainan untuk dimainkan nanti malam, atau konser untuk dihadiri akhir pekan ini.
Tapi dari mana opsi baru ini berasal? Bagaimana otak Anda memutuskan untuk meletuskan ini dan tidak ada yang lain? Apakah manusia secara sadar menyadari semua opsi yang mungkin untuk proses pencacahan?
Ketika dia melanjutkan perjalanannya dan memikirkan hal-hal ini, dia melihat seekor tupai berlari menaiki pohon dari sudut matanya dan terkejut dengan ekornya yang lebat.
Pada saat ini, "pemikiran cerdas" manusia menghilang lagi dan mulai berpikir secara otomatis seperti burung beo acak?
Ketika kita menyadari bahwa kita hanya tahu sedikit tentang bagaimana pikiran kita sebenarnya muncul, pertanyaannya adalah: Seberapa acak asal usul ide yang tidak disadari?
Bukankah itu juga sejenis "burung beo acak"? Seberapa mirip mekanisme pembuatan narasi kita dengan LLM?
Ambil contoh penulis Italia Elena Ferrante, yang, menurut The Economist, adalah "mungkin novelis kontemporer terbaik yang belum pernah Anda dengar."
Serial My Genius Girlfriend-nya telah terjual lebih dari 11 juta kopi di 40 negara, dan para kritikus mengatakan, "Persahabatan wanita tidak pernah disajikan dengan begitu jelas."
Memoarnya, "In the Margins," menggambarkan asuhannya di Italia setelah Perang Dunia II.
Seperti penulis wanita lainnya pada masanya, ia dilahirkan dalam tradisi sastra laki-laki dan kebanyakan membaca karya-karya penulis laki-laki, jadi ia mulai meniru penulis laki-laki untuk menulis.
Dalam otobiografinya, dia menulis:
Bahkan ketika aku berumur sekitar tiga belas tahun ... Saya merasa tingkat tulisan saya tidak buruk, dan saya selalu merasa seperti suara laki-laki yang memberi tahu saya apa yang harus ditulis dan bagaimana menulisnya.
saya bahkan tidak tahu apakah suara itu seusia saya atau lebih tua dari saya, mungkin sudah tua. ...... Saya membayangkan diri saya menjadi laki-laki, tetapi masih perempuan pada saat yang sama.
Dalam otobiografinya, seorang penulis kontemporer besar dalam kemanusiaan, dengan suara unik dan energik sastra Italia modern, dengan jujur menggambarkan perjuangan dan perjuangannya untuk melarikan diri dari keadaan "burung beo acak".
Karena bahasa dan ide-idenya yang unik tanpa disadari dibentuk oleh kanon sastra yang didominasi laki-laki yang terbentuk selama ratusan tahun.
Jika kita benar-benar melihat diri kita sendiri, sebagian besar pikiran yang muncul di kepala kita adalah suara orang lain: suara orang tua dan guru kita.
Buku-buku yang kita baca, TV yang kita tonton, dan pikiran kita dibangun di atas budaya yang sangat dalam dan lengket.
Kemampuan kita untuk berbicara, berpikir, dan mengekspresikan adalah fungsi dari apa yang kita baca, dan kata-kata dari masa lalu mempengaruhi masa depan.
Kita pada dasarnya menjalani kehidupan yang sama dengan nenek moyang kita, mengulangi sebagian besar pemikiran yang sama kemarin, menulis kata-kata yang sama seperti orang lain, dengan sedikit perbedaan.
Jika Anda melihat film-film Hollywood dan membaca beberapa buku, Anda akan menemukan bahwa banyak cerita yang hampir sama, tetapi latar belakangnya berbeda.
Sesekali, manusia tampaknya bisa menyingkirkan belenggu burung beo, katakanlah sedikit ide orisinal, pikirkan sedikit ide orisinal.
Dengan sedikit konten asli ini, budaya kita telah mengambil lompatan besar.
Sumber daya:
_source=profil&utm_medium=pembaca2
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
LeCun dan xAI co-creation choke, kelemahan penalaran utama GPT-4 tidak punya solusi? Netizen: Manusia juga "burung beo acak"
Sumber asli: Shin Ji Yuan
Baru-baru ini, sekelompok petinggi, termasuk LeCun, mulai menembaki LLM lagi. Terobosan terbaru adalah bahwa LLM tidak memiliki kemampuan penalaran sama sekali!
Dari diskusi lebih lanjut antara dua orang besar, kita bahkan bisa melihat sekilas arah teknis xAI di masa depan - bagaimana menggunakan kemampuan model besar untuk menembus batas atas kemampuan penalaran AI.
Di bawah masalah ini, netizen toleran terhadap kemampuan penalaran LLM, dan juga menunjukkan pemikiran lain tentang hubungan antara AI dan kecerdasan manusia:
Tidak semua manusia pandai bernalar, jadi apakah karena beberapa orang tidak pandai bernalar, apakah mereka harus menyangkal objektivitas kecerdasan manusia?
Mungkin manusia, seperti LLM, hanyalah bentuk lain dari "burung beo acak"!
** Dialog pria besar mengungkapkan arah teknis xAI **
Setelah makalah diterbitkan di arXiv, itu terutama diteruskan oleh LeCun, yang menyebabkan diskusi luas di kalangan netizen dan sarjana.
Ilmuwan AI Christian Szegedy, salah satu pendiri xAI, yang dipimpin oleh Boss Ma, menjawab:
Dan poin yang keluar dari mulut xAI Lianchuang, ditambah dengan kalimat terakhir: "Menurut pendapat saya, semua ini akan segera menjadi layak", mau tidak mau membuat orang berpikir.
Lagi pula, alasan paling langsung untuk mengatakan "layak" dengan kepastian seperti itu mungkin adalah "kami telah berhasil."
LeCun: Berapa kali saya mengatakan bahwa LLM tidak berfungsi! **
Bantahan LeCun baru-baru ini tentang kemampuan penalaran LLM didasarkan pada makalah terbaru oleh profesor Universitas Subbarao Kambampati.
Dalam pandangannya, LLM, yang mengklaim mencapai dan melampaui tingkat manusia dalam banyak kemampuan, memiliki kekurangan besar dalam kemampuan penalaran dan perencanaan.
Dalam menghadapi masalah penalaran perencanaan ahli manusia, GPT-4 hanya 12% benar.
Selain itu, dalam tugas inferensi, jika LLM diizinkan untuk mengoreksi sendiri jawabannya sendiri, kualitas output tidak akan meningkat tetapi menurun.
Artinya, LLM sama sekali tidak memiliki kemampuan untuk alasan jawaban yang benar, semuanya hanya bisa ditebak.
Setelah makalah diterbitkan, profesor juga mengirim tweet panjang untuk lebih menguraikan pandangannya tentang diskusi makalah oleh netizen dan cendekiawan.
Profesor menunjukkan bahwa ada banyak kesalahpahaman tentang kemampuan mengoreksi diri LLM.
Para penulis beberapa makalah menyamar sebagai LLM, secara keliru percaya bahwa mereka menghasilkan kesalahan dan memperbaiki diri seperti manusia.
Dia mengkritik penggunaan kumpulan data Tanya Jawab yang dikuratori secara serampangan untuk mengembangkan dan mengevaluasi pernyataan penilaian diri, dengan alasan bahwa hal itu menciptakan kebingungan di masyarakat.
Profesor itu juga mencatat pentingnya validasi eksternal dan keterlibatan manusia. Meskipun GPT-4 tidak dapat memverifikasi konfigurasi warna, GPT-4 dapat membantu menghasilkan kode Python yang perlu diperbaiki oleh manusia dan dapat digunakan sebagai validator eksternal.
Pada saat yang sama, model yang bekerja sama dengan manusia dan penalar profesional juga akan membantu meningkatkan kemampuan penalaran model.
Profesor tersebut mencantumkan makalah yang menunjukkan cara mengekstrak model domain perencanaan dari LLM, mengoptimalkannya dengan bantuan manusia dan penalar khusus, dan menggunakannya dalam validator rencana atau perencana domain independen.
Penting juga untuk lebih mengoptimalkan kemampuan validasi LLM. Meningkatkan kemampuan validasi LLM dengan fine-tuning tertentu, dan sementara ini tidak tiba-tiba membuat LLM tampil lebih baik dalam penalaran atau verifikasi, memungkinkan untuk peningkatan kecil dalam kemampuan koreksi diri.
** Katakan bahwa LLM adalah "burung beo acak", bukan manusia? **
Seorang netizen juga menunjukkan di bawah Twitter LeCun bahwa sebenarnya, perencanaan dan penalaran bukanlah poin kuat bagi banyak manusia, dan implikasinya adalah bahwa tingkat kecerdasan model bahasa besar tidak boleh disangkal.
Jika manusia duduk dan bermeditasi, mereka tidak menyadari bagaimana mekanisme yang mereka gunakan untuk menghasilkan ide bekerja, dan manusia tidak memiliki kendali sadar atas sifat pikiran mereka.
Misalkan seseorang berjalan-jalan di hari yang panas dan berkeringat. Ini membuatnya berpikir tentang perubahan iklim, yang akan menyebabkan kebingungan dalam pikirannya.
Dia memutuskan untuk mengalihkan pikirannya ke topik yang lebih menyenangkan, sebuah proses yang terasa seperti kontrol sadar, tetapi topik mana yang harus dipilih untuk dipikirkan?
Mungkin otak manusia akan dengan patuh memunculkan beberapa opsi untuk dia pertimbangkan: mungkin mempertimbangkan permainan untuk dimainkan nanti malam, atau konser untuk dihadiri akhir pekan ini.
Ketika dia melanjutkan perjalanannya dan memikirkan hal-hal ini, dia melihat seekor tupai berlari menaiki pohon dari sudut matanya dan terkejut dengan ekornya yang lebat.
Pada saat ini, "pemikiran cerdas" manusia menghilang lagi dan mulai berpikir secara otomatis seperti burung beo acak?
Ketika kita menyadari bahwa kita hanya tahu sedikit tentang bagaimana pikiran kita sebenarnya muncul, pertanyaannya adalah: Seberapa acak asal usul ide yang tidak disadari?
Bukankah itu juga sejenis "burung beo acak"? Seberapa mirip mekanisme pembuatan narasi kita dengan LLM?
Ambil contoh penulis Italia Elena Ferrante, yang, menurut The Economist, adalah "mungkin novelis kontemporer terbaik yang belum pernah Anda dengar."
Memoarnya, "In the Margins," menggambarkan asuhannya di Italia setelah Perang Dunia II.
Seperti penulis wanita lainnya pada masanya, ia dilahirkan dalam tradisi sastra laki-laki dan kebanyakan membaca karya-karya penulis laki-laki, jadi ia mulai meniru penulis laki-laki untuk menulis.
Dalam otobiografinya, dia menulis:
Dalam otobiografinya, seorang penulis kontemporer besar dalam kemanusiaan, dengan suara unik dan energik sastra Italia modern, dengan jujur menggambarkan perjuangan dan perjuangannya untuk melarikan diri dari keadaan "burung beo acak".
Karena bahasa dan ide-idenya yang unik tanpa disadari dibentuk oleh kanon sastra yang didominasi laki-laki yang terbentuk selama ratusan tahun.
Jika kita benar-benar melihat diri kita sendiri, sebagian besar pikiran yang muncul di kepala kita adalah suara orang lain: suara orang tua dan guru kita.
Buku-buku yang kita baca, TV yang kita tonton, dan pikiran kita dibangun di atas budaya yang sangat dalam dan lengket.
Kemampuan kita untuk berbicara, berpikir, dan mengekspresikan adalah fungsi dari apa yang kita baca, dan kata-kata dari masa lalu mempengaruhi masa depan.
Kita pada dasarnya menjalani kehidupan yang sama dengan nenek moyang kita, mengulangi sebagian besar pemikiran yang sama kemarin, menulis kata-kata yang sama seperti orang lain, dengan sedikit perbedaan.
Jika Anda melihat film-film Hollywood dan membaca beberapa buku, Anda akan menemukan bahwa banyak cerita yang hampir sama, tetapi latar belakangnya berbeda.
Sesekali, manusia tampaknya bisa menyingkirkan belenggu burung beo, katakanlah sedikit ide orisinal, pikirkan sedikit ide orisinal.
Dengan sedikit konten asli ini, budaya kita telah mengambil lompatan besar.
Sumber daya:
_source=profil&utm_medium=pembaca2