Berinteraksi dengan model bahasa besar (LLM), kita selalu memiliki perasaan samar bahwa mereka mungkin benar-benar sadar. Namun, dari perspektif ahli saraf, pandangan ini tampaknya sulit untuk dipegang.
Dalam sebuah makalah baru-baru ini yang diterbitkan dalam Trends in Neurosciences, sebuah sub-jurnal Cell, tiga sarjana dari ilmu komputer, biologi dan ilmu saraf menyelidiki pertanyaan "Dapatkah kecerdasan buatan menghasilkan kesadaran?"
Kesimpulannya, mereka setuju bahwa LLM tidak dapat disadari dalam bentuknya saat ini. Bagaimana pandangan kategoris seperti itu muncul?
▷Sumber: Sel
**LLM &; Kesadaran **
Sudah lama dipertanyakan hewan mana yang sadar, dan entitas mana yang sadar selain hewan. Munculnya LLM baru-baru ini telah membawa perspektif baru untuk masalah ini. Ini menunjukkan kepada kita kemampuan kita untuk berkomunikasi (manifestasi kesadaran manusia) dan membuat kita mendefinisikan kembali dan memikirkan kembali tiga konsep "pemahaman", "kecerdasan" dan "kesadaran".
LLM adalah jaringan saraf tiruan yang kompleks dan berlapis-lapis dengan miliaran bobot koneksi yang dilatih pada puluhan miliar kata data teks, termasuk percakapan bahasa alami antara manusia. Dengan mengajukan pertanyaan melalui teks, pengguna ditarik ke dalam konteks simulasi yang menarik. Jika Anda bersedia meluangkan waktu untuk menggunakan sistem ini, sulit untuk tidak terpesona oleh kedalaman dan kualitas jaringan. Ajukan pertanyaan, dan responsnya seringkali secara halus mirip dengan yang dapat dihasilkan oleh individu yang sadar. Oleh karena itu, sebagai individu yang berwawasan luas dan sadar, mudah untuk menyimpulkan bahwa jawaban yang saya terima dihasilkan oleh individu yang juga "sadar" dan mampu berpikir, merasakan, bernalar, dan mengalami. **
Berdasarkan hasil "tes Turing" seperti itu, kita tidak bisa tidak bertanya-tanya apakah LLM sudah sadar, atau akankah mereka segera sadar? Namun, pertanyaan ini, pada gilirannya, akan mengarah pada serangkaian dilema etika, seperti apakah etis untuk terus mengembangkan LLM yang berulang kali di ambang kebangkitan "kesadaran"? Gagasan bahwa LLM "sadar" tidak diterima secara universal di komunitas ilmu saraf saat ini, tetapi karena kemampuan sistem AI terus meningkat, diskusi tentang ide ini pasti kembali ke permukaan. Selain itu, media berita utama juga banyak membahas masalah ini, mendorong ahli saraf untuk menafsirkan masalah ini secara objektif dari perspektif profesional mereka sendiri.
Gagasan bahwa LLM berpotensi sadar sering didukung oleh argumen penting bahwa arsitektur LLM sebagian besar terinspirasi oleh karakteristik otak (Gambar 1), dan bahwa otak adalah satu-satunya objek yang dapat kita kaitkan dengan percaya diri sebagai "sadar" saat ini. Sementara jaringan saraf tiruan awal dirancang berdasarkan versi sederhana dari korteks serebral, LLM modern sangat direkayasa dan disesuaikan untuk tujuan tertentu dan tidak lagi mempertahankan homologi mendalam untuk struktur otak yang diketahui. Bahkan, banyak fitur jalur yang membuat LLM kuat secara komputasi (Gambar 1) memiliki arsitektur yang sangat berbeda dari sistem yang saat ini kita pikir memiliki kekuatan kausal dalam generasi dan pembentukan kesadaran pada mamalia. Sebagai contoh, banyak teori ilmu saraf yang berkaitan dengan generasi kesadaran menunjukkan bahwa sistem thalamic-cortical dan sistem gairah memainkan peran sentral dalam pemrosesan kesadaran, yang tidak tersedia di LLM modern.
Gambar 1: Perbedaan topologi makroskopik antara otak mamalia dan model bahasa besar Sumber: Tren dalam Ilmu Saraf
Pada titik ini, orang mungkin bertanya, apakah begitu penting bahwa arsitektur LLM meniru karakteristik otak?
Menurut pendapat kami, alasan utamanya adalah bahwa kami hanya dapat memastikan keberadaan satu kesadaran saat ini, yang berasal dari otak yang tertanam dalam tubuh yang kompleks. Orang mungkin berpendapat bahwa, sebenarnya, argumen ini mungkin lebih dipersempit menjadi hanya manusia, meskipun banyak sifat tingkat sistem yang dianggap memainkan peran penting dalam kesadaran subjektif lazim di seluruh spektrum biologis, meluas sampai ke mamalia, bahkan invertebrata.
Dengan itu, mari kita mulai dengan arti yang tepat dari "kesadaran" terlebih dahulu. Kami kemudian akan menyajikan tiga argumen menentang gagasan bahwa sistem AI saat ini memiliki, atau akan segera memiliki kesadaran di masa depan, yaitu:
**1. Kesadaran dikaitkan dengan aliran sensasi yang berarti bagi organisme; **
**2. Di otak mamalia, kesadaran didukung oleh sistem thalamic-cortical yang sangat saling berhubungan; **
**3. Kesadaran mungkin tidak dapat dipisahkan dari organisasi biologis yang kompleks dari sistem biologis. **
Apa itu kesadaran?
Kesadaran adalah konsep yang kompleks, dan definisinya telah diperdebatkan. Dalam konteks kemampuan manusia untuk berkomunikasi dan berinteraksi satu sama lain, kemampuan berkomunikasi dan berdialog merupakan unsur naluriah untuk menilai apakah seseorang memiliki kesadaran.
Percakapan interaktif berbasis bahasa dengan LLM sering mengembangkan perasaan intuitif, yang merupakan titik awal untuk menilai apakah LLM cenderung sadar. Namun, sementara LLM sangat baik dalam percakapan interaktif, ini tidak memenuhi ukuran kesadaran obyektif formal, tetapi hanya bukti awal kecerdasan. **
Munculnya LLM telah membawa kita untuk mengevaluasi kembali apakah seseorang mampu menghasilkan kesadaran langsung dari interaksi verbal dengan orang lain. Oleh karena itu, pandangan baru adalah bahwa kita perlu merumuskan kembali kriteria untuk menilai kemampuan seperti manusia dan karakteristik seperti manusia.
Kata "kesadaran" sering memiliki arti yang berbeda. Sebagai contoh, ahli saraf sering merujuk pada "tingkat kesadaran", yang merupakan penilaian pertama apakah seseorang sadar dan kemudian tingkat atau keadaan kesadaran tertentu dengan cara yang lebih terperinci. Psikolog, di sisi lain, lebih peduli dengan isi kesadaran: pengalaman, ingatan, dan pemikiran spesifik dari dunia batin seseorang. Selain itu, ada perbedaan antara isi kesadaran yang berbeda. Pengalaman kami dapat digambarkan sebagai fenomenal atau pengalaman (misalnya, melihat atau mencium apel, atau menyentuh lengan Anda) atau dalam bentuk yang lebih abstrak (misalnya, bagaimana kita membayangkan, membayangkan, atau memanipulasi memori konseptual).
Pertanyaan apakah sistem AI sadar dapat dijawab dengan beberapa cara: ia dapat fokus pada beberapa makna kesadaran, atau dapat fokus pada semua makna kesadaran pada saat yang bersamaan. Berikut ini, kami fokus terutama pada kesadaran fenomenal dan mengeksplorasi apakah mesin mampu mengalami dunia secara fenomenal.
Tentang Lingkungan
Bagian dari suatu organisme yang dapat digunakan dalam proses memahami dunia luar disebut lingkungannya. Misalnya, retina manusia merespons cahaya dengan panjang gelombang 380 nm – 740 nm, yaitu, retina mampu melihat spektrum dari biru ke merah. Tanpa bantuan teknologi eksternal, manusia tidak dapat mendeteksi cahaya inframerah (>740 nm) atau sinar ultraviolet (< 380 nm) di luar rentang panjang gelombang ini. Kami juga memiliki lingkungan yang serupa dalam hal pendengaran, somatosensori, dan indera vestibular, yaitu domain pendengaran yang sesuai (telinga manusia dapat mendengar suara dari 20 Hz - 20.000 Hz), domain somatosensori (manusia dapat membedakan rangsangan dalam jarak sekitar 1 mm dari bagian-bagian tertentu dari tubuh), dan domain vestibular (struktur 3D yang saling berhubungan dari kanal setengah lingkaran manusia memberi kita rasa keseimbangan batin). Pada saat yang sama, spesies lain di alam mampu mendeteksi sinyal di pita lain dari spektrum elektromagnetik. Misalnya, lebah dapat melihat cahaya dalam kisaran ultraviolet, dan ular dapat mendeteksi sinyal radiasi inframerah selain sinyal visual yang lebih tradisional.
Artinya, hewan yang berbeda memiliki kepekaan yang berbeda dengan mana tubuh dan otak mereka dapat melihat lingkungan mereka. Gibson, seorang psikolog Amerika, mengacu pada kemungkinan suatu organisme bertindak dalam lingkungan tertentu sebagai "keterjangkauan" (dengan penetrasi teknologi Internet, keterjangkauan mulai digunakan untuk menjelaskan penggunaan teknologi digital dalam praktik media dan interaksi manusia sehari-hari). **
Menurut sifat desain algoritmanya, LLM hanya memiliki pola pengkodean biner, hanya dapat menerima input informasi biner, dan selanjutnya mengeksekusi algoritma jaringan yang melekat pada struktur transformator kompleks, yang merupakan arsitektur kerja LLM saat ini. Sementara paku saraf juga mampu menyandikan sinyal analog yang masuk ke sinyal digital (yaitu, sinyal biner), aliran informasi yang dikirim ke LLM sangat abstrak dan tidak memiliki koneksi yang kuat ke dunia luar itu sendiri. Teks dan ucapan yang dikodekan sebagai serangkaian huruf tidak dapat menandingi kompleksitas dinamis dunia alami, yaitu, lingkungan LLM (informasi biner yang diberikan kepadanya) pada dasarnya berbeda dari informasi yang masuk ke otak kita ketika kita membuka mata atau mengkomunikasikan percakapan, dan pengalaman yang menyertainya. Wacana filosofis tradisional menekankan keunikan aliran informasi antara spesies yang berbeda (misalnya, perbedaan antara manusia dan kelelawar) dan karakteristik fenomenologis dari pengalaman ini. Kami percaya bahwa input informasi yang diperoleh oleh LLM dapat menunjukkan perbedaan yang lebih signifikan, meskipun tidak ada cara pasti untuk mengukur perbedaan ini untuk saat ini.
Karena itu, input sistem AI akan menjadi lebih kaya di masa depan. LLM masa depan dapat dilengkapi dengan berbagai jenis input yang dapat lebih cocok dengan jenis sinyal yang dapat diakses oleh agen sadar setiap hari (yaitu, statistik dari alam). Jadi, apakah lingkungan sistem AI yang tersedia di masa depan akan lebih luas daripada lingkungan manusia?
Dalam menjawab pertanyaan ini, kita harus mengakui bahwa pengalaman bawah sadar dan sadar manusia tidak semata-mata ditentukan oleh input sensorik. Sebagai contoh, bayangkan bahwa ketika kita berbaring di ponton, kita masih sadar meskipun kita tidak memiliki pengalaman sensorik yang normal. Konsep di sini disoroti bahwa lingkungan mengandaikan perspektif subjektif yang melekat, yaitu memulai dari subjek. Demikian pula, afforfority tergantung pada sifat internal subjek, khususnya motivasi dan tujuan subjek. Ini berarti bahwa kesadaran tidak dapat dihasilkan oleh lingkungan saja (data input LLM). Oleh karena itu, hanya memberi makan aliran data yang besar ke dalam sistem AI tidak membuat sistem AI itu sendiri sadar. **
Perspektif ini dapat mendorong kita untuk memikirkan kembali beberapa asumsi dasar dalam ilmu kesadaran. Secara khusus, karena sistem AI secara bertahap menunjukkan kemampuan yang semakin canggih, para peneliti harus mengevaluasi kembali perlunya proses terkait diri dan agen yang lebih mendasar yang diusulkan oleh teori-teori kesadaran tertentu untuk munculnya kesadaran.
**"Integrasi" Kesadaran **
Saat ini, ada banyak penelitian tentang korelasi saraf kesadaran, di antaranya ada banyak teori berbeda tentang sirkuit saraf pemrosesan kesadaran. Beberapa menekankan bahwa kesadaran didukung oleh jaringan talamus-kortikal yang padat dan sangat terhubung. **Jaringan talamus-kortikal meliputi daerah kortikal, persimpangan kortikal-kortikal, dan proyeksi divergen inti talamus yang lebih tinggi ke daerah kortikal. Struktur spesifik dari sistem thalamic-cortical ini mendukung pemrosesan pemikiran peredaran darah dan kompleks yang mendukung kesadaran dan integrasi sadar (yaitu, kesadaran disatukan terlepas dari kenyataan bahwa kesadaran muncul dari daerah otak yang berbeda). Namun, teori yang berbeda memiliki pandangan yang berbeda tentang cara untuk mencapai integrasi kesadaran.
Menurut teori ruang kerja neuronal global (GNW), kesadaran bergantung pada ruang kerja pusat yang terdiri dari sistem korteks frontoparietal terdistribusi. Ruang kerja ini mengintegrasikan informasi dari prosesor kortikal lokal dan kemudian mengirimkannya ke semua prosesor lokal kortikal dalam skala global, dengan pengiriman global memisahkan proses sadar dan tidak sadar. Teori kesadaran lainnya berpendapat bahwa integrasi sadar dicapai oleh proses saraf lainnya. Sebagai contoh, teori integrasi dendritik neuronal (DIT) menunjukkan bahwa integrasi sadar terjadi melalui fenomena sinkronisasi frekuensi tinggi antara daerah kortikal yang berbeda, yang mungkin melibatkan fungsi yang berbeda termasuk persepsi, kognisi, atau perencanaan motorik, tergantung pada daerah kortikal yang terlibat.
Gambar 2: Struktur saraf integrasi kesadaran berdasarkan teori integrasi dendritik neuron (DIT) Sumber: Tren dalam Ilmu Saraf
Dalam teori DIT (Gambar 2), para peneliti percaya bahwa integrasi sadar global juga tergantung pada integrasi lokal neuron piramidal di lapisan kelima korteks, neuron rangsang besar yang merupakan pusat di sirkuit thalamic-cortical dan cortical. Ada dua struktur utama dalam jenis neuron ini (Gambar 2, silinder oranye dan merah) yang memproses berbagai jenis informasi: struktur basal (merah) memproses informasi dasar eksternal, sedangkan struktur apikal (oranye) memproses informasi yang dihasilkan secara internal. Menurut teori DIT, dalam keadaan kesadaran, kedua struktur ini digabungkan satu sama lain, memungkinkan informasi mengalir melalui sirkuit thalamic-cortical dan cortico-cortical, sehingga memungkinkan integrasi informasi dan generasi kesadaran di seluruh sistem. *
Penting untuk dicatat bahwa arsitektur LLM saat ini dan sistem AI lainnya tidak memiliki fitur yang ditekankan oleh teori-teori ini: LLM yang ada tidak memiliki neuron piramidal bistruktural yang setara, atau arsitektur talamus terpusat, ruang kerja global, atau beberapa fitur sistem gairah naik. Dengan kata lain, sistem AI yang ada tidak memiliki fitur otak yang saat ini diyakini oleh komunitas ilmu saraf untuk mendukung generasi kesadaran. Meskipun otak mamalia bukan satu-satunya struktur yang mampu mendukung produksi kesadaran, bukti dari neurobiologi menunjukkan bahwa pembentukan kesadaran mamalia ditentukan oleh prinsip-prinsip struktural yang sangat spesifik (yaitu, koneksi sederhana antara neuron terintegrasi dan bersemangat). Secara topologis, struktur sistem AI yang ada sangat sederhana, yang merupakan salah satu alasan mengapa kami tidak menganggap sistem AI yang ada sebagai sadar fenomenal.
Jadi, akankah model AI masa depan akhirnya dapat mengintegrasikan proses "integrasi" yang oleh banyak teori kesadaran dianggap sebagai intinya? Menanggapi masalah ini, konsep "integrasi" yang diusulkan oleh teori GNW menyediakan cara yang relatif sederhana untuk mengimplementasikannya. Bahkan, beberapa sistem AI baru-baru ini telah dimasukkan ke dalam sesuatu seperti ruang kerja global yang dibagikan oleh prosesor lokal. Karena proses komputasi transmisi global dapat diimplementasikan dalam sistem AI, menurut teori ini, sistem AI yang mengadopsi metode komputasi ini akan mengandung komponen inti dari kesadaran laten.
Namun, seperti yang disebutkan sebelumnya, tidak semua teori kesadaran setuju bahwa mode integrasi ini adalah kunci untuk generasi kesadaran. Sebagai contoh, teori kesadaran informasi terintegrasi berpendapat bahwa sistem AI berbasis perangkat lunak yang diimplementasikan pada komputer modern yang khas tidak dapat disadari karena komputer modern tidak memiliki arsitektur yang tepat untuk mencapai kemampuan penalaran kausal yang diperlukan untuk sepenuhnya mengintegrasikan informasi. Oleh karena itu, kami akan mempertimbangkan kemungkinan ketiga, yaitu bahwa kesadaran pada prinsipnya dapat dicapai, tetapi mungkin perlu melampaui tingkat spesifisitas komputasi sistem AI saat ini (dan mungkin di masa depan). **
Kesadaran adalah proses biologis yang kompleks
Generasi kesadaran tidak hanya bergantung pada arsitektur sistem. Misalnya, ketika kita tidur nyenyak atau anestesi, struktur sistem thalamic-cortical tidak berubah, tetapi kesadaran menghilang. Bahkan dalam tidur nyenyak, respons saraf lokal dan aktivitas sabuk gamma di area sensorik utama mirip dengan yang ada dalam keadaan sadar. Ini menunjukkan bahwa kesadaran bergantung pada proses saraf tertentu, tetapi proses saraf ini berbeda dalam otak sadar dan tidak sadar. **
Untuk menjelaskan perbedaan terperinci antara pemrosesan sadar dan tidak sadar, pertama-tama mari kita kembali ke teori integrasi dendritik neuron (DIT). Teori DIT mengandung sejumlah nuansa neurobiologis yang terkait dengan proses saraf yang diproses secara sadar dan tidak sadar. Teori DIT mengusulkan bahwa perbedaan utama antara pemrosesan sadar dan tidak sadar terletak pada integrasi dua struktur kompartemen sel piramidal (Gambar 2). Seperti disebutkan sebelumnya, selama pemrosesan sadar, kedua struktur ini berinteraksi satu sama lain, memungkinkan seluruh sistem talamus-kortikal untuk memproses dan mengintegrasikan informasi yang kompleks. Namun, dalam keadaan anestesi, berbagai anestesi menyebabkan pemisahan fungsional antara dua struktur neuron vertebral. Dengan kata lain, meskipun neuron vertebral ini secara anatomis utuh dan dapat merangsang potensial aksi, kapasitas integrasi dendritik mereka sangat terbatas secara fisiologis, yaitu, umpan balik top-down tidak dapat mempengaruhi pemrosesan. Penelitian telah menunjukkan bahwa kopling dendritik ini dikendalikan oleh reseptor metabotropik, namun struktur ini sering diabaikan dalam model komputasi dan jaringan saraf tiruan. Selain itu, penelitian telah menunjukkan bahwa dalam kasus ini, inti talamus yang lebih tinggi mengontrol aktivitas reseptor metabotropik ini. Dengan demikian, proses neurobiologis tertentu mungkin bertanggung jawab untuk "menyalakan" dan "mematikan" kesadaran di otak. Ini menunjukkan bahwa kualitas pengalaman di otak mamalia memiliki hubungan yang rumit dengan proses mendasar yang menghasilkan kesadaran. **
Sementara teori-teori ini cukup meyakinkan, hampir pasti bahwa pengetahuan ini artinya jika dibandingkan dengan kompleksitas proses saraf yang muncul dari pemahaman kesadaran yang lengkap. Penjelasan kesadaran kita saat ini bergantung pada teori-teori seperti ruang kerja global, informasi terintegrasi, pemrosesan melingkar, integrasi dendritik, dll., Tetapi proses biologis di mana kesadaran sejati muncul mungkin jauh lebih kompleks daripada yang saat ini dipahami oleh teori-teori ini. Bahkan sangat mungkin bahwa ide-ide tingkat komputasi abstrak yang saat ini digunakan untuk membangun diskusi tentang penelitian kesadaran mungkin telah sepenuhnya gagal memperhitungkan rincian komputasi yang diperlukan untuk menjelaskan kesadaran.
Dengan kata lain, biologi itu kompleks, dan pemahaman kita saat ini tentang biokomputasi terbatas (Gambar 3), jadi mungkin kita tidak memiliki alat matematika dan eksperimental yang tepat untuk memahami kesadaran. **
Gambar 2: Struktur saraf integrasi kesadaran berdasarkan teori integrasi dendritik neuron (DIT) Sumber: Tren dalam Ilmu Saraf
Dalam teori DIT (Gambar 2), para peneliti percaya bahwa integrasi sadar global juga tergantung pada integrasi lokal neuron piramidal di lapisan kelima korteks, neuron rangsang besar yang merupakan pusat di sirkuit thalamic-cortical dan cortical. Ada dua struktur utama dalam jenis neuron ini (Gambar 2, silinder oranye dan merah) yang memproses berbagai jenis informasi: struktur basal (merah) memproses informasi dasar eksternal, sedangkan struktur apikal (oranye) memproses informasi yang dihasilkan secara internal. Menurut teori DIT, dalam keadaan kesadaran, kedua struktur ini digabungkan satu sama lain, memungkinkan informasi mengalir melalui sirkuit thalamic-cortical dan cortico-cortical, sehingga memungkinkan integrasi informasi dan generasi kesadaran di seluruh sistem. *
Untuk lebih memahami kompleksitas biologis, penting untuk menekankan bahwa proses biologis yang dijelaskan di atas pada tingkat seluler dan sistemik harus terjadi pada organisme hidup dan tidak dapat dipisahkan. Organisme hidup berbeda dari mesin dan algoritma AI saat ini karena mereka dapat terus mempertahankan diri pada berbagai tingkat pemrosesan. Selain itu, sistem kehidupan memiliki sejarah evolusi dan perkembangan yang beragam, dan keberadaannya tergantung pada aktivitas mereka di berbagai tingkat organisasi. Kesadaran terkait erat dengan organisasi sistem kehidupan. Perlu dicatat, bagaimanapun, bahwa komputer saat ini tidak mampu mewujudkan kompleksitas organisasi sistem kehidupan ini (yaitu, interaksi antara berbagai tingkat sistem). Ini menunjukkan bahwa algoritma AI modern tidak memiliki batasan tingkat organisasi dan tidak dapat bekerja seefektif sistem kehidupan. Ini berarti bahwa selama AI berbasis perangkat lunak, itu mungkin tidak cocok untuk menjadi sadar dan cerdas. **
Konsep kompleksitas biologis juga dapat diekspresikan pada tingkat sel. Neuron biologis bukan hanya entitas abstrak yang dapat sepenuhnya ditangkap dengan beberapa baris kode. Sebaliknya, neuron biologis memiliki organisasi berlapis-lapis dan bergantung pada kaskade lebih lanjut dari proses biofisik yang kompleks dalam neuron. Ambil "siklus Krebs", misalnya, yang merupakan dasar dari respirasi seluler dan merupakan proses kunci dalam mempertahankan homeostasis seluler. Respirasi sel adalah proses biologis penting yang memungkinkan sel untuk mengubah energi yang tersimpan dalam molekul organik menjadi bentuk energi yang dapat dimanfaatkan sel. Namun, proses ini tidak dapat "dikompresi" menjadi perangkat lunak, karena proses biofisik seperti respirasi seluler perlu didasarkan pada molekul fisik nyata. Tentu saja, ini tidak berarti bahwa kesadaran membutuhkan "siklus Krebs", melainkan menekankan bahwa tantangan serupa mungkin terlibat dalam proses memahami kesadaran, yaitu, mungkin kesadaran tidak dapat dilepaskan dari mekanisme yang mendasarinya. **
Namun, kita tidak sepenuhnya setuju dengan klaim bahwa kesadaran tidak dapat dihasilkan oleh sistem cerdas sama sekali, tetapi kita harus mempertimbangkan korelasi antara kesadaran dan organisasi biologis kompleks di balik kehidupan, dan jenis perhitungan yang menangkap sifat kesadaran mungkin jauh lebih kompleks daripada teori kita saat ini memahami (Gambar 3). Hampir tidak mungkin untuk melakukan "biopsi" kesadaran dan mengeluarkannya dari jaringan. Pandangan ini bertentangan dengan banyak teori saat ini tentang kesadaran, yang menyatakan bahwa kesadaran dapat muncul pada tingkat komputasi abstrak. Sekarang, asumsi ini perlu diperbarui mengingat sistem AI modern: untuk sepenuhnya memahami kesadaran, kita tidak dapat mengabaikan saling ketergantungan lintas skala dan kompleksitas organisasi yang diamati dalam sistem kehidupan. **
Meskipun sistem AI meniru rekan biologis mereka pada tingkat komputasi jaringan, dalam sistem ini semua tingkat proses biologis lainnya telah diabstraksikan jauh dari proses yang memiliki hubungan kausal yang erat dengan kesadaran di otak, sehingga sistem AI yang ada mungkin telah mengabstraksi kesadaran itu sendiri. Akibatnya, LLM dan sistem AI masa depan mungkin terjebak dalam aliran fitur kesadaran simulasi yang tak ada habisnya, tetapi tanpa kesadaran fenomenal untuk dibicarakan. Jika kesadaran memang terkait dengan tingkat-tingkat pemrosesan lain ini, atau dengan interaksinya antara skala-skala yang berbeda, maka kita jauh dari kemungkinan sebuah mesin menghasilkan kesadaran.
Ringkasan
Di sini, kami mengeksplorasi kemungkinan kesadaran dalam LLM dan sistem AI masa depan dari perspektif ilmu saraf. Semenarik LLM, mereka tidak sadar dan tidak akan sadar untuk jangka waktu yang lebih singkat di masa depan.
Pertama, kami menggambarkan perbedaan besar antara lingkungan mamalia ("sebagian kecil" dari dunia luar yang dapat mereka rasakan) dan lingkungan LLM yang sangat miskin dan terbatas. Kedua, kami berpendapat bahwa topologi LLM, meskipun sangat kompleks, secara empiris sangat berbeda dari rincian neurobiologis dari sirkuit yang berhubungan dengan kesadaran mamalia, dan oleh karena itu tidak ada alasan yang baik untuk berpikir bahwa LLM mampu menghasilkan kesadaran fenomenal (Gambar 1). Belum mungkin untuk abstrak kesadaran dari kompleksitas organisasi biologis, yang melekat dalam sistem kehidupan, tetapi yang jelas tidak ada dalam sistem AI. Secara keseluruhan, tiga poin kunci di atas membuat tidak mungkin bagi LLM untuk sadar dalam bentuknya saat ini. Mereka hanya meniru karakteristik komunikasi bahasa alami manusia yang digunakan untuk menggambarkan kekayaan pengalaman sadar.
Melalui artikel ini, kami berharap bahwa argumen yang disajikan akan memiliki beberapa dampak positif dan refleksi (lihat Pertanyaan yang Belum Terselesaikan) dan tidak hanya mewakili keberatan. Pertama, kekhawatiran etis potensial saat ini tentang kapasitas LLM yang dirasakan lebih hipotetis daripada nyata. Selain itu, kami percaya bahwa pemahaman yang lebih dalam tentang persamaan dan perbedaan antara LLM dan topologi otak mamalia dapat memajukan kemajuan dalam pembelajaran mesin dan ilmu saraf. Kami juga berharap dapat memajukan pembelajaran mesin dan komunitas ilmu saraf dengan meniru karakteristik jaringan otak dan mempelajari bagaimana sistem terdistribusi sederhana memproses arus informasi yang kompleks. Untuk alasan ini, kami optimis bahwa kolaborasi di masa depan antara peneliti AI dan ahli saraf dapat mengarah pada pemahaman kesadaran yang lebih dalam.
Tindak Lanjut yang Belum Terselesaikan:
Penilaian kesadaran dalam LLM dan AI sering bergantung pada tes berbasis bahasa untuk mendeteksi kesadaran. Apakah mungkin untuk menilai kesadaran hanya berdasarkan bahasa (yaitu, teks), dan apakah ada fitur evaluatif lebih lanjut yang dapat membantu menentukan apakah sistem buatan sadar?
Dasar saraf kesadaran mamalia terkait dengan sistem thalamic-cortical. Bagaimana sistem thalamic-cortical dapat diimplementasikan dalam AI? Fungsi dan tugas spesifik apa yang akan mendapat manfaat dari sistem thalamic-cortical?
Sistem gairah naik juga memainkan peran penting dalam generasi kesadaran dalam organisme, dan memainkan peran yang kompleks dan beragam dalam membentuk neurodinamika. Sejauh mana AI perlu meniru proses yang berbeda ini untuk menuai keuntungan komputasi dari sistem kebangkitan yang meningkat?
Selain sistem thalamic-cortical, dendrit memainkan peran kunci dalam beberapa teori kesadaran yang dibahas dalam artikel ini. Apakah dendrit hanya salah satu faktor yang meningkatkan kompleksitas komputasi / efisiensi jaringan saraf biologis, atau ada lebih dari itu?
Apakah kompleksitas organisasi sistem kehidupan terkait dengan kesadaran? Sistem kehidupan terdiri dari berbagai tingkat proses pemrosesan yang berinteraksi satu sama lain. Dapatkah kompleksitas organisasi sistem kehidupan dijelaskan secara lebih rinci? Apakah kerangka matematika baru diperlukan untuk menangani sistem seperti itu untuk menjelaskan lebih lanjut tentang proses biologis yang dengannya kesadaran muncul?
Beberapa teori menunjukkan bahwa kesadaran dan agensi terkait erat. Untuk memahami bagaimana kesadaran muncul dari aktivitas biologis, apakah ia perlu terlebih dahulu memahami hak pilihan?
Tautan asli
Aru, J., Larkum, M.E. dan Shine, J.M. (2023b) 'Kelayakan kesadaran buatan melalui lensa ilmu saraf', Tren dalam Ilmu Saraf [Preprint] . DOI:10.1016/j.tins.2023.09.009.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Sub-jurnal sel secara kritis menerbitkan bahwa AI tidak mungkin menghasilkan kesadaran dalam jangka pendek
Sumber asli: NextQuestion
Berinteraksi dengan model bahasa besar (LLM), kita selalu memiliki perasaan samar bahwa mereka mungkin benar-benar sadar. Namun, dari perspektif ahli saraf, pandangan ini tampaknya sulit untuk dipegang.
Dalam sebuah makalah baru-baru ini yang diterbitkan dalam Trends in Neurosciences, sebuah sub-jurnal Cell, tiga sarjana dari ilmu komputer, biologi dan ilmu saraf menyelidiki pertanyaan "Dapatkah kecerdasan buatan menghasilkan kesadaran?"
Kesimpulannya, mereka setuju bahwa LLM tidak dapat disadari dalam bentuknya saat ini. Bagaimana pandangan kategoris seperti itu muncul?
**LLM &; Kesadaran **
Sudah lama dipertanyakan hewan mana yang sadar, dan entitas mana yang sadar selain hewan. Munculnya LLM baru-baru ini telah membawa perspektif baru untuk masalah ini. Ini menunjukkan kepada kita kemampuan kita untuk berkomunikasi (manifestasi kesadaran manusia) dan membuat kita mendefinisikan kembali dan memikirkan kembali tiga konsep "pemahaman", "kecerdasan" dan "kesadaran".
LLM adalah jaringan saraf tiruan yang kompleks dan berlapis-lapis dengan miliaran bobot koneksi yang dilatih pada puluhan miliar kata data teks, termasuk percakapan bahasa alami antara manusia. Dengan mengajukan pertanyaan melalui teks, pengguna ditarik ke dalam konteks simulasi yang menarik. Jika Anda bersedia meluangkan waktu untuk menggunakan sistem ini, sulit untuk tidak terpesona oleh kedalaman dan kualitas jaringan. Ajukan pertanyaan, dan responsnya seringkali secara halus mirip dengan yang dapat dihasilkan oleh individu yang sadar. Oleh karena itu, sebagai individu yang berwawasan luas dan sadar, mudah untuk menyimpulkan bahwa jawaban yang saya terima dihasilkan oleh individu yang juga "sadar" dan mampu berpikir, merasakan, bernalar, dan mengalami. **
Berdasarkan hasil "tes Turing" seperti itu, kita tidak bisa tidak bertanya-tanya apakah LLM sudah sadar, atau akankah mereka segera sadar? Namun, pertanyaan ini, pada gilirannya, akan mengarah pada serangkaian dilema etika, seperti apakah etis untuk terus mengembangkan LLM yang berulang kali di ambang kebangkitan "kesadaran"? Gagasan bahwa LLM "sadar" tidak diterima secara universal di komunitas ilmu saraf saat ini, tetapi karena kemampuan sistem AI terus meningkat, diskusi tentang ide ini pasti kembali ke permukaan. Selain itu, media berita utama juga banyak membahas masalah ini, mendorong ahli saraf untuk menafsirkan masalah ini secara objektif dari perspektif profesional mereka sendiri.
Gagasan bahwa LLM berpotensi sadar sering didukung oleh argumen penting bahwa arsitektur LLM sebagian besar terinspirasi oleh karakteristik otak (Gambar 1), dan bahwa otak adalah satu-satunya objek yang dapat kita kaitkan dengan percaya diri sebagai "sadar" saat ini. Sementara jaringan saraf tiruan awal dirancang berdasarkan versi sederhana dari korteks serebral, LLM modern sangat direkayasa dan disesuaikan untuk tujuan tertentu dan tidak lagi mempertahankan homologi mendalam untuk struktur otak yang diketahui. Bahkan, banyak fitur jalur yang membuat LLM kuat secara komputasi (Gambar 1) memiliki arsitektur yang sangat berbeda dari sistem yang saat ini kita pikir memiliki kekuatan kausal dalam generasi dan pembentukan kesadaran pada mamalia. Sebagai contoh, banyak teori ilmu saraf yang berkaitan dengan generasi kesadaran menunjukkan bahwa sistem thalamic-cortical dan sistem gairah memainkan peran sentral dalam pemrosesan kesadaran, yang tidak tersedia di LLM modern.
Pada titik ini, orang mungkin bertanya, apakah begitu penting bahwa arsitektur LLM meniru karakteristik otak?
Menurut pendapat kami, alasan utamanya adalah bahwa kami hanya dapat memastikan keberadaan satu kesadaran saat ini, yang berasal dari otak yang tertanam dalam tubuh yang kompleks. Orang mungkin berpendapat bahwa, sebenarnya, argumen ini mungkin lebih dipersempit menjadi hanya manusia, meskipun banyak sifat tingkat sistem yang dianggap memainkan peran penting dalam kesadaran subjektif lazim di seluruh spektrum biologis, meluas sampai ke mamalia, bahkan invertebrata.
Dengan itu, mari kita mulai dengan arti yang tepat dari "kesadaran" terlebih dahulu. Kami kemudian akan menyajikan tiga argumen menentang gagasan bahwa sistem AI saat ini memiliki, atau akan segera memiliki kesadaran di masa depan, yaitu:
Apa itu kesadaran?
Kesadaran adalah konsep yang kompleks, dan definisinya telah diperdebatkan. Dalam konteks kemampuan manusia untuk berkomunikasi dan berinteraksi satu sama lain, kemampuan berkomunikasi dan berdialog merupakan unsur naluriah untuk menilai apakah seseorang memiliki kesadaran.
Percakapan interaktif berbasis bahasa dengan LLM sering mengembangkan perasaan intuitif, yang merupakan titik awal untuk menilai apakah LLM cenderung sadar. Namun, sementara LLM sangat baik dalam percakapan interaktif, ini tidak memenuhi ukuran kesadaran obyektif formal, tetapi hanya bukti awal kecerdasan. **
Munculnya LLM telah membawa kita untuk mengevaluasi kembali apakah seseorang mampu menghasilkan kesadaran langsung dari interaksi verbal dengan orang lain. Oleh karena itu, pandangan baru adalah bahwa kita perlu merumuskan kembali kriteria untuk menilai kemampuan seperti manusia dan karakteristik seperti manusia.
Kata "kesadaran" sering memiliki arti yang berbeda. Sebagai contoh, ahli saraf sering merujuk pada "tingkat kesadaran", yang merupakan penilaian pertama apakah seseorang sadar dan kemudian tingkat atau keadaan kesadaran tertentu dengan cara yang lebih terperinci. Psikolog, di sisi lain, lebih peduli dengan isi kesadaran: pengalaman, ingatan, dan pemikiran spesifik dari dunia batin seseorang. Selain itu, ada perbedaan antara isi kesadaran yang berbeda. Pengalaman kami dapat digambarkan sebagai fenomenal atau pengalaman (misalnya, melihat atau mencium apel, atau menyentuh lengan Anda) atau dalam bentuk yang lebih abstrak (misalnya, bagaimana kita membayangkan, membayangkan, atau memanipulasi memori konseptual).
Pertanyaan apakah sistem AI sadar dapat dijawab dengan beberapa cara: ia dapat fokus pada beberapa makna kesadaran, atau dapat fokus pada semua makna kesadaran pada saat yang bersamaan. Berikut ini, kami fokus terutama pada kesadaran fenomenal dan mengeksplorasi apakah mesin mampu mengalami dunia secara fenomenal.
Tentang Lingkungan
Bagian dari suatu organisme yang dapat digunakan dalam proses memahami dunia luar disebut lingkungannya. Misalnya, retina manusia merespons cahaya dengan panjang gelombang 380 nm – 740 nm, yaitu, retina mampu melihat spektrum dari biru ke merah. Tanpa bantuan teknologi eksternal, manusia tidak dapat mendeteksi cahaya inframerah (>740 nm) atau sinar ultraviolet (< 380 nm) di luar rentang panjang gelombang ini. Kami juga memiliki lingkungan yang serupa dalam hal pendengaran, somatosensori, dan indera vestibular, yaitu domain pendengaran yang sesuai (telinga manusia dapat mendengar suara dari 20 Hz - 20.000 Hz), domain somatosensori (manusia dapat membedakan rangsangan dalam jarak sekitar 1 mm dari bagian-bagian tertentu dari tubuh), dan domain vestibular (struktur 3D yang saling berhubungan dari kanal setengah lingkaran manusia memberi kita rasa keseimbangan batin). Pada saat yang sama, spesies lain di alam mampu mendeteksi sinyal di pita lain dari spektrum elektromagnetik. Misalnya, lebah dapat melihat cahaya dalam kisaran ultraviolet, dan ular dapat mendeteksi sinyal radiasi inframerah selain sinyal visual yang lebih tradisional.
Artinya, hewan yang berbeda memiliki kepekaan yang berbeda dengan mana tubuh dan otak mereka dapat melihat lingkungan mereka. Gibson, seorang psikolog Amerika, mengacu pada kemungkinan suatu organisme bertindak dalam lingkungan tertentu sebagai "keterjangkauan" (dengan penetrasi teknologi Internet, keterjangkauan mulai digunakan untuk menjelaskan penggunaan teknologi digital dalam praktik media dan interaksi manusia sehari-hari). **
Menurut sifat desain algoritmanya, LLM hanya memiliki pola pengkodean biner, hanya dapat menerima input informasi biner, dan selanjutnya mengeksekusi algoritma jaringan yang melekat pada struktur transformator kompleks, yang merupakan arsitektur kerja LLM saat ini. Sementara paku saraf juga mampu menyandikan sinyal analog yang masuk ke sinyal digital (yaitu, sinyal biner), aliran informasi yang dikirim ke LLM sangat abstrak dan tidak memiliki koneksi yang kuat ke dunia luar itu sendiri. Teks dan ucapan yang dikodekan sebagai serangkaian huruf tidak dapat menandingi kompleksitas dinamis dunia alami, yaitu, lingkungan LLM (informasi biner yang diberikan kepadanya) pada dasarnya berbeda dari informasi yang masuk ke otak kita ketika kita membuka mata atau mengkomunikasikan percakapan, dan pengalaman yang menyertainya. Wacana filosofis tradisional menekankan keunikan aliran informasi antara spesies yang berbeda (misalnya, perbedaan antara manusia dan kelelawar) dan karakteristik fenomenologis dari pengalaman ini. Kami percaya bahwa input informasi yang diperoleh oleh LLM dapat menunjukkan perbedaan yang lebih signifikan, meskipun tidak ada cara pasti untuk mengukur perbedaan ini untuk saat ini.
Karena itu, input sistem AI akan menjadi lebih kaya di masa depan. LLM masa depan dapat dilengkapi dengan berbagai jenis input yang dapat lebih cocok dengan jenis sinyal yang dapat diakses oleh agen sadar setiap hari (yaitu, statistik dari alam). Jadi, apakah lingkungan sistem AI yang tersedia di masa depan akan lebih luas daripada lingkungan manusia?
Dalam menjawab pertanyaan ini, kita harus mengakui bahwa pengalaman bawah sadar dan sadar manusia tidak semata-mata ditentukan oleh input sensorik. Sebagai contoh, bayangkan bahwa ketika kita berbaring di ponton, kita masih sadar meskipun kita tidak memiliki pengalaman sensorik yang normal. Konsep di sini disoroti bahwa lingkungan mengandaikan perspektif subjektif yang melekat, yaitu memulai dari subjek. Demikian pula, afforfority tergantung pada sifat internal subjek, khususnya motivasi dan tujuan subjek. Ini berarti bahwa kesadaran tidak dapat dihasilkan oleh lingkungan saja (data input LLM). Oleh karena itu, hanya memberi makan aliran data yang besar ke dalam sistem AI tidak membuat sistem AI itu sendiri sadar. **
Perspektif ini dapat mendorong kita untuk memikirkan kembali beberapa asumsi dasar dalam ilmu kesadaran. Secara khusus, karena sistem AI secara bertahap menunjukkan kemampuan yang semakin canggih, para peneliti harus mengevaluasi kembali perlunya proses terkait diri dan agen yang lebih mendasar yang diusulkan oleh teori-teori kesadaran tertentu untuk munculnya kesadaran.
**"Integrasi" Kesadaran **
Saat ini, ada banyak penelitian tentang korelasi saraf kesadaran, di antaranya ada banyak teori berbeda tentang sirkuit saraf pemrosesan kesadaran. Beberapa menekankan bahwa kesadaran didukung oleh jaringan talamus-kortikal yang padat dan sangat terhubung. **Jaringan talamus-kortikal meliputi daerah kortikal, persimpangan kortikal-kortikal, dan proyeksi divergen inti talamus yang lebih tinggi ke daerah kortikal. Struktur spesifik dari sistem thalamic-cortical ini mendukung pemrosesan pemikiran peredaran darah dan kompleks yang mendukung kesadaran dan integrasi sadar (yaitu, kesadaran disatukan terlepas dari kenyataan bahwa kesadaran muncul dari daerah otak yang berbeda). Namun, teori yang berbeda memiliki pandangan yang berbeda tentang cara untuk mencapai integrasi kesadaran.
Menurut teori ruang kerja neuronal global (GNW), kesadaran bergantung pada ruang kerja pusat yang terdiri dari sistem korteks frontoparietal terdistribusi. Ruang kerja ini mengintegrasikan informasi dari prosesor kortikal lokal dan kemudian mengirimkannya ke semua prosesor lokal kortikal dalam skala global, dengan pengiriman global memisahkan proses sadar dan tidak sadar. Teori kesadaran lainnya berpendapat bahwa integrasi sadar dicapai oleh proses saraf lainnya. Sebagai contoh, teori integrasi dendritik neuronal (DIT) menunjukkan bahwa integrasi sadar terjadi melalui fenomena sinkronisasi frekuensi tinggi antara daerah kortikal yang berbeda, yang mungkin melibatkan fungsi yang berbeda termasuk persepsi, kognisi, atau perencanaan motorik, tergantung pada daerah kortikal yang terlibat.
Dalam teori DIT (Gambar 2), para peneliti percaya bahwa integrasi sadar global juga tergantung pada integrasi lokal neuron piramidal di lapisan kelima korteks, neuron rangsang besar yang merupakan pusat di sirkuit thalamic-cortical dan cortical. Ada dua struktur utama dalam jenis neuron ini (Gambar 2, silinder oranye dan merah) yang memproses berbagai jenis informasi: struktur basal (merah) memproses informasi dasar eksternal, sedangkan struktur apikal (oranye) memproses informasi yang dihasilkan secara internal. Menurut teori DIT, dalam keadaan kesadaran, kedua struktur ini digabungkan satu sama lain, memungkinkan informasi mengalir melalui sirkuit thalamic-cortical dan cortico-cortical, sehingga memungkinkan integrasi informasi dan generasi kesadaran di seluruh sistem. *
Penting untuk dicatat bahwa arsitektur LLM saat ini dan sistem AI lainnya tidak memiliki fitur yang ditekankan oleh teori-teori ini: LLM yang ada tidak memiliki neuron piramidal bistruktural yang setara, atau arsitektur talamus terpusat, ruang kerja global, atau beberapa fitur sistem gairah naik. Dengan kata lain, sistem AI yang ada tidak memiliki fitur otak yang saat ini diyakini oleh komunitas ilmu saraf untuk mendukung generasi kesadaran. Meskipun otak mamalia bukan satu-satunya struktur yang mampu mendukung produksi kesadaran, bukti dari neurobiologi menunjukkan bahwa pembentukan kesadaran mamalia ditentukan oleh prinsip-prinsip struktural yang sangat spesifik (yaitu, koneksi sederhana antara neuron terintegrasi dan bersemangat). Secara topologis, struktur sistem AI yang ada sangat sederhana, yang merupakan salah satu alasan mengapa kami tidak menganggap sistem AI yang ada sebagai sadar fenomenal.
Jadi, akankah model AI masa depan akhirnya dapat mengintegrasikan proses "integrasi" yang oleh banyak teori kesadaran dianggap sebagai intinya? Menanggapi masalah ini, konsep "integrasi" yang diusulkan oleh teori GNW menyediakan cara yang relatif sederhana untuk mengimplementasikannya. Bahkan, beberapa sistem AI baru-baru ini telah dimasukkan ke dalam sesuatu seperti ruang kerja global yang dibagikan oleh prosesor lokal. Karena proses komputasi transmisi global dapat diimplementasikan dalam sistem AI, menurut teori ini, sistem AI yang mengadopsi metode komputasi ini akan mengandung komponen inti dari kesadaran laten.
Namun, seperti yang disebutkan sebelumnya, tidak semua teori kesadaran setuju bahwa mode integrasi ini adalah kunci untuk generasi kesadaran. Sebagai contoh, teori kesadaran informasi terintegrasi berpendapat bahwa sistem AI berbasis perangkat lunak yang diimplementasikan pada komputer modern yang khas tidak dapat disadari karena komputer modern tidak memiliki arsitektur yang tepat untuk mencapai kemampuan penalaran kausal yang diperlukan untuk sepenuhnya mengintegrasikan informasi. Oleh karena itu, kami akan mempertimbangkan kemungkinan ketiga, yaitu bahwa kesadaran pada prinsipnya dapat dicapai, tetapi mungkin perlu melampaui tingkat spesifisitas komputasi sistem AI saat ini (dan mungkin di masa depan). **
Kesadaran adalah proses biologis yang kompleks
Generasi kesadaran tidak hanya bergantung pada arsitektur sistem. Misalnya, ketika kita tidur nyenyak atau anestesi, struktur sistem thalamic-cortical tidak berubah, tetapi kesadaran menghilang. Bahkan dalam tidur nyenyak, respons saraf lokal dan aktivitas sabuk gamma di area sensorik utama mirip dengan yang ada dalam keadaan sadar. Ini menunjukkan bahwa kesadaran bergantung pada proses saraf tertentu, tetapi proses saraf ini berbeda dalam otak sadar dan tidak sadar. **
Untuk menjelaskan perbedaan terperinci antara pemrosesan sadar dan tidak sadar, pertama-tama mari kita kembali ke teori integrasi dendritik neuron (DIT). Teori DIT mengandung sejumlah nuansa neurobiologis yang terkait dengan proses saraf yang diproses secara sadar dan tidak sadar. Teori DIT mengusulkan bahwa perbedaan utama antara pemrosesan sadar dan tidak sadar terletak pada integrasi dua struktur kompartemen sel piramidal (Gambar 2). Seperti disebutkan sebelumnya, selama pemrosesan sadar, kedua struktur ini berinteraksi satu sama lain, memungkinkan seluruh sistem talamus-kortikal untuk memproses dan mengintegrasikan informasi yang kompleks. Namun, dalam keadaan anestesi, berbagai anestesi menyebabkan pemisahan fungsional antara dua struktur neuron vertebral. Dengan kata lain, meskipun neuron vertebral ini secara anatomis utuh dan dapat merangsang potensial aksi, kapasitas integrasi dendritik mereka sangat terbatas secara fisiologis, yaitu, umpan balik top-down tidak dapat mempengaruhi pemrosesan. Penelitian telah menunjukkan bahwa kopling dendritik ini dikendalikan oleh reseptor metabotropik, namun struktur ini sering diabaikan dalam model komputasi dan jaringan saraf tiruan. Selain itu, penelitian telah menunjukkan bahwa dalam kasus ini, inti talamus yang lebih tinggi mengontrol aktivitas reseptor metabotropik ini. Dengan demikian, proses neurobiologis tertentu mungkin bertanggung jawab untuk "menyalakan" dan "mematikan" kesadaran di otak. Ini menunjukkan bahwa kualitas pengalaman di otak mamalia memiliki hubungan yang rumit dengan proses mendasar yang menghasilkan kesadaran. **
Sementara teori-teori ini cukup meyakinkan, hampir pasti bahwa pengetahuan ini artinya jika dibandingkan dengan kompleksitas proses saraf yang muncul dari pemahaman kesadaran yang lengkap. Penjelasan kesadaran kita saat ini bergantung pada teori-teori seperti ruang kerja global, informasi terintegrasi, pemrosesan melingkar, integrasi dendritik, dll., Tetapi proses biologis di mana kesadaran sejati muncul mungkin jauh lebih kompleks daripada yang saat ini dipahami oleh teori-teori ini. Bahkan sangat mungkin bahwa ide-ide tingkat komputasi abstrak yang saat ini digunakan untuk membangun diskusi tentang penelitian kesadaran mungkin telah sepenuhnya gagal memperhitungkan rincian komputasi yang diperlukan untuk menjelaskan kesadaran.
Dengan kata lain, biologi itu kompleks, dan pemahaman kita saat ini tentang biokomputasi terbatas (Gambar 3), jadi mungkin kita tidak memiliki alat matematika dan eksperimental yang tepat untuk memahami kesadaran. **
Dalam teori DIT (Gambar 2), para peneliti percaya bahwa integrasi sadar global juga tergantung pada integrasi lokal neuron piramidal di lapisan kelima korteks, neuron rangsang besar yang merupakan pusat di sirkuit thalamic-cortical dan cortical. Ada dua struktur utama dalam jenis neuron ini (Gambar 2, silinder oranye dan merah) yang memproses berbagai jenis informasi: struktur basal (merah) memproses informasi dasar eksternal, sedangkan struktur apikal (oranye) memproses informasi yang dihasilkan secara internal. Menurut teori DIT, dalam keadaan kesadaran, kedua struktur ini digabungkan satu sama lain, memungkinkan informasi mengalir melalui sirkuit thalamic-cortical dan cortico-cortical, sehingga memungkinkan integrasi informasi dan generasi kesadaran di seluruh sistem. *
Untuk lebih memahami kompleksitas biologis, penting untuk menekankan bahwa proses biologis yang dijelaskan di atas pada tingkat seluler dan sistemik harus terjadi pada organisme hidup dan tidak dapat dipisahkan. Organisme hidup berbeda dari mesin dan algoritma AI saat ini karena mereka dapat terus mempertahankan diri pada berbagai tingkat pemrosesan. Selain itu, sistem kehidupan memiliki sejarah evolusi dan perkembangan yang beragam, dan keberadaannya tergantung pada aktivitas mereka di berbagai tingkat organisasi. Kesadaran terkait erat dengan organisasi sistem kehidupan. Perlu dicatat, bagaimanapun, bahwa komputer saat ini tidak mampu mewujudkan kompleksitas organisasi sistem kehidupan ini (yaitu, interaksi antara berbagai tingkat sistem). Ini menunjukkan bahwa algoritma AI modern tidak memiliki batasan tingkat organisasi dan tidak dapat bekerja seefektif sistem kehidupan. Ini berarti bahwa selama AI berbasis perangkat lunak, itu mungkin tidak cocok untuk menjadi sadar dan cerdas. **
Konsep kompleksitas biologis juga dapat diekspresikan pada tingkat sel. Neuron biologis bukan hanya entitas abstrak yang dapat sepenuhnya ditangkap dengan beberapa baris kode. Sebaliknya, neuron biologis memiliki organisasi berlapis-lapis dan bergantung pada kaskade lebih lanjut dari proses biofisik yang kompleks dalam neuron. Ambil "siklus Krebs", misalnya, yang merupakan dasar dari respirasi seluler dan merupakan proses kunci dalam mempertahankan homeostasis seluler. Respirasi sel adalah proses biologis penting yang memungkinkan sel untuk mengubah energi yang tersimpan dalam molekul organik menjadi bentuk energi yang dapat dimanfaatkan sel. Namun, proses ini tidak dapat "dikompresi" menjadi perangkat lunak, karena proses biofisik seperti respirasi seluler perlu didasarkan pada molekul fisik nyata. Tentu saja, ini tidak berarti bahwa kesadaran membutuhkan "siklus Krebs", melainkan menekankan bahwa tantangan serupa mungkin terlibat dalam proses memahami kesadaran, yaitu, mungkin kesadaran tidak dapat dilepaskan dari mekanisme yang mendasarinya. **
Namun, kita tidak sepenuhnya setuju dengan klaim bahwa kesadaran tidak dapat dihasilkan oleh sistem cerdas sama sekali, tetapi kita harus mempertimbangkan korelasi antara kesadaran dan organisasi biologis kompleks di balik kehidupan, dan jenis perhitungan yang menangkap sifat kesadaran mungkin jauh lebih kompleks daripada teori kita saat ini memahami (Gambar 3). Hampir tidak mungkin untuk melakukan "biopsi" kesadaran dan mengeluarkannya dari jaringan. Pandangan ini bertentangan dengan banyak teori saat ini tentang kesadaran, yang menyatakan bahwa kesadaran dapat muncul pada tingkat komputasi abstrak. Sekarang, asumsi ini perlu diperbarui mengingat sistem AI modern: untuk sepenuhnya memahami kesadaran, kita tidak dapat mengabaikan saling ketergantungan lintas skala dan kompleksitas organisasi yang diamati dalam sistem kehidupan. **
Meskipun sistem AI meniru rekan biologis mereka pada tingkat komputasi jaringan, dalam sistem ini semua tingkat proses biologis lainnya telah diabstraksikan jauh dari proses yang memiliki hubungan kausal yang erat dengan kesadaran di otak, sehingga sistem AI yang ada mungkin telah mengabstraksi kesadaran itu sendiri. Akibatnya, LLM dan sistem AI masa depan mungkin terjebak dalam aliran fitur kesadaran simulasi yang tak ada habisnya, tetapi tanpa kesadaran fenomenal untuk dibicarakan. Jika kesadaran memang terkait dengan tingkat-tingkat pemrosesan lain ini, atau dengan interaksinya antara skala-skala yang berbeda, maka kita jauh dari kemungkinan sebuah mesin menghasilkan kesadaran.
Ringkasan
Di sini, kami mengeksplorasi kemungkinan kesadaran dalam LLM dan sistem AI masa depan dari perspektif ilmu saraf. Semenarik LLM, mereka tidak sadar dan tidak akan sadar untuk jangka waktu yang lebih singkat di masa depan.
Pertama, kami menggambarkan perbedaan besar antara lingkungan mamalia ("sebagian kecil" dari dunia luar yang dapat mereka rasakan) dan lingkungan LLM yang sangat miskin dan terbatas. Kedua, kami berpendapat bahwa topologi LLM, meskipun sangat kompleks, secara empiris sangat berbeda dari rincian neurobiologis dari sirkuit yang berhubungan dengan kesadaran mamalia, dan oleh karena itu tidak ada alasan yang baik untuk berpikir bahwa LLM mampu menghasilkan kesadaran fenomenal (Gambar 1). Belum mungkin untuk abstrak kesadaran dari kompleksitas organisasi biologis, yang melekat dalam sistem kehidupan, tetapi yang jelas tidak ada dalam sistem AI. Secara keseluruhan, tiga poin kunci di atas membuat tidak mungkin bagi LLM untuk sadar dalam bentuknya saat ini. Mereka hanya meniru karakteristik komunikasi bahasa alami manusia yang digunakan untuk menggambarkan kekayaan pengalaman sadar.
Melalui artikel ini, kami berharap bahwa argumen yang disajikan akan memiliki beberapa dampak positif dan refleksi (lihat Pertanyaan yang Belum Terselesaikan) dan tidak hanya mewakili keberatan. Pertama, kekhawatiran etis potensial saat ini tentang kapasitas LLM yang dirasakan lebih hipotetis daripada nyata. Selain itu, kami percaya bahwa pemahaman yang lebih dalam tentang persamaan dan perbedaan antara LLM dan topologi otak mamalia dapat memajukan kemajuan dalam pembelajaran mesin dan ilmu saraf. Kami juga berharap dapat memajukan pembelajaran mesin dan komunitas ilmu saraf dengan meniru karakteristik jaringan otak dan mempelajari bagaimana sistem terdistribusi sederhana memproses arus informasi yang kompleks. Untuk alasan ini, kami optimis bahwa kolaborasi di masa depan antara peneliti AI dan ahli saraf dapat mengarah pada pemahaman kesadaran yang lebih dalam.
Tindak Lanjut yang Belum Terselesaikan:
Tautan asli