Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
Büyük dil modelleriyle (LLM'ler) etkileşime girdiğimizde, her zaman gerçekten bilinçli olabileceklerine dair belirsiz bir his duyarız. Bununla birlikte, sinirbilimcilerin bakış açısından, bu görüşü sürdürmek zor görünüyor.
Cell'in bir alt dergisi olan Trends in Neurosciences'da yayınlanan yakın tarihli bir makalede, bilgisayar bilimi, biyoloji ve sinirbilimden üç bilim adamı "Yapay zeka bilinç üretebilir mi?" sorusunu araştırdı.
Sonuç olarak, LLM'lerin mevcut halleriyle bilinçli olamayacakları konusunda hemfikirdirler. Böyle kategorik bir bakış açısı nasıl ortaya çıktı?
▷Kaynak: Hücre
LLM ve Bilinç
Hangi hayvanların bilinçli olduğu, hayvanlar dışında hangi varlıkların bilinçli olduğu uzun zamandır sorgulanmaktadır. LLM'lerin son zamanlarda ortaya çıkışı, soruna yepyeni bir bakış açısı getirdi. Bize konuşma yeteneğimizi gösterir (insan bilincinin bir tezahürü) ve "anlayış", "zeka" ve "bilinç" olmak üzere üç kavramı yeniden tanımlamamızı ve yeniden düşünmemizi sağlar.
LLM'ler, insanlar arasındaki doğal dil konuşmaları da dahil olmak üzere on milyarlarca kelimelik metin verisi üzerinde eğitilmiş milyarlarca bağlantı ağırlığına sahip karmaşık, çok katmanlı yapay sinir ağlarıdır. Metin yoluyla sorular sorarak, kullanıcı büyüleyici bir simüle edilmiş bağlama çekilir. Bu sistemleri kullanmak için zaman ayırmaya istekliyseniz, ağın derinliği ve kalitesi karşısında şaşkına dönmemek elde değil. Ona bir soru sorun ve cevabı genellikle bilinçli bir bireyin üretebileceğine benzer. Bu nedenle, anlayışlı, bilinçli bir birey olarak, aldığım cevapların aynı zamanda "bilinçli" ve düşünme, hissetme, akıl yürütme ve deneyimleme yeteneğine sahip bir birey tarafından üretildiği sonucuna varmak kolaydır. **
Bu tür "Turing testlerinin" sonuçlarına dayanarak, LLM'lerin zaten bilinçli olup olmadığını merak etmeden edemiyoruz, yoksa yakında bilinçli olacaklar mı? Bununla birlikte, bu soru, sırayla, tekrar tekrar "bilinç" uyanışının eşiğinde olan LLM'leri geliştirmeye devam etmenin etik olup olmadığı gibi bir dizi etik ikileme yol açacaktır. LLM'lerin "bilinçli" olduğu fikri bugün sinirbilim camiasında evrensel olarak kabul edilmemektedir, ancak AI sistemlerinin yetenekleri gelişmeye devam ettikçe, bu fikrin tartışılması kaçınılmaz olarak tekrar gündeme gelmiştir. Buna ek olarak, büyük haber medyası da bu konuyu geniş çapta tartışıyor ve sinirbilimcileri konuyu kendi profesyonel bakış açılarından objektif olarak yorumlamaya teşvik ediyor.
LLM'lerin potansiyel olarak bilinçli olduğu fikri, genellikle LLM'lerin mimarisinin büyük ölçüde beynin özelliklerinden ilham aldığı (Şekil 1) ve beynin şu anda güvenle "bilinçli" olarak nitelendirebileceğimiz tek nesne olduğu yönündeki önemli bir argümanla desteklenir. Erken yapay sinir ağları, serebral korteksin basitleştirilmiş versiyonlarına dayalı olarak tasarlanırken, modern LLM'ler yüksek düzeyde tasarlanmış ve belirli amaçlar için uyarlanmıştır ve artık bilinen beyin yapılarına derin homolojiyi korumamaktadır. Aslında, LLM'leri hesaplama açısından güçlü kılan yol özelliklerinin çoğu (Şekil 1), şu anda memelilerde bilincin üretilmesinde ve şekillendirilmesinde nedensel güce sahip olduğunu düşündüğümüz sistemlerden çok farklı mimarilere sahiptir. Örneğin, bilinç üretimi ile ilgili birçok sinirbilim teorisi, talamik-kortikal sistemin ve uyarılma sisteminin, modern LLM'lerde bulunmayan bilincin işlenmesinde merkezi bir rol oynadığını öne sürmektedir.
Şekil 1: Memeli beyinleri ve büyük dil modelleri arasındaki makroskopik topolojik farklılıklar Kaynak: Trends in Neurosciences
Bu noktada, LLM'nin mimarisinin beynin özelliklerini taklit etmesi bu kadar önemli mi?
Bize göre asıl sebep, şu anda yalnızca karmaşık bedene gömülü beyinden gelen bir bilincin varlığından emin olabilmemizdir. Kesin konuşmak gerekirse, bu argümanın sadece insanlara indirgenebileceği iddia edilebilir, ancak öznel bilinçte önemli bir rol oynadığı düşünülen sistem düzeyindeki özelliklerin birçoğu biyolojik spektrumda yaygındır ve memelilere, hatta omurgasızlara kadar uzanır.
Bununla birlikte, önce "bilinç" in tam anlamıyla başlayalım. Daha sonra, mevcut YZ sistemlerinin sahip olduğu veya gelecekte bilince sahip olacağı fikrine karşı üç argüman sunacağız:
1. Bilinç, organizma için anlamlı olan bir duyum akışıyla ilişkilidir;
2. Memeli beyninde bilinç, birbirine oldukça bağlı bir talamik-kortikal sistem tarafından desteklenir;
**3. Bilinç, biyolojik sistemlerin karmaşık biyolojik organizasyonundan ayrılamaz. **
Bilinç nedir?
Bilinç karmaşık bir kavramdır ve tanımı tartışılmıştır. İnsanların birbirleriyle iletişim kurma ve etkileşim kurma yetenekleri bağlamında, iletişim kurma ve diyalog kurma yeteneği, bir kişinin bilince sahip olup olmadığını değerlendirmek için içgüdüsel bir unsurdur.
LLM'lerle yapılan dil temelli etkileşimli konuşmalar genellikle sezgisel bir his geliştirir, bu da bir LLM'nin bilinçli olup olmadığına karar vermek için başlangıç noktasıdır. Bununla birlikte, LLM'ler etkileşimli konuşmalarda mükemmel olsa da, bu, bilincin resmi nesnel ölçüsünü karşılamaz, ancak yalnızca zekanın ön kanıtıdır. **
LLM'lerin ortaya çıkışı, bir kişinin başkalarıyla doğrudan sözlü etkileşimlerden bilinç üretip üretemeyeceğini yeniden değerlendirmemize neden oldu. Bu nedenle, yeni bir görüş, insan benzeri yetenekleri ve insan benzeri özellikleri yargılama kriterlerini yeniden formüle etmemiz gerektiğidir.
"Bilinç" kelimesinin genellikle farklı anlamları vardır. Örneğin, nörologlar genellikle bir kişinin bilinçli olup olmadığının ilk değerlendirmesi olan "bilinç seviyesine" ve daha sonra daha ayrıntılı bir şekilde bilinç seviyesine veya spesifik durumuna atıfta bulunurlar. Öte yandan psikologlar, bilincin içeriğiyle daha fazla ilgilenirler: bireyin iç dünyasının belirli deneyimleri, anıları ve düşünceleri. Ek olarak, bilincin farklı içerikleri arasında farklılıklar vardır. Deneyimlerimiz fenomenal veya deneyimsel (örneğin, bir elmayı görmek veya koklamak veya kolunuza dokunmak) veya daha soyut biçimde (örneğin, kavramsal belleği nasıl hayal ettiğimiz, tasavvur ettiğimiz veya manipüle ettiğimiz) olarak tanımlanabilir.
Bir yapay zeka sisteminin bilinçli olup olmadığı sorusu çeşitli şekillerde cevaplanabilir: bilincin bazı anlamlarına odaklanabilir veya aynı anda bilincin tüm anlamlarına odaklanabilir. Aşağıda, öncelikle olağanüstü farkındalığa odaklanıyoruz ve makinelerin dünyayı olağanüstü bir şekilde deneyimleyip deneyimleyemeyeceğini araştırıyoruz.
Çevre Hakkında
Bir organizmanın dış dünyayı algılama sürecinde kullanılabilecek kısmına çevresi denir. Örneğin, insan retinası ışığa 380 nm – 740 nm dalga boylarında tepki verir, yani retina spektrumu maviden kırmızıya algılayabilir. Harici teknolojinin yardımı olmadan, insanlar bu dalga boyu aralığının dışındaki kızılötesi ışığı (>740 nm) veya ultraviyole ışığı (< 380 nm) tespit edemezler. İşitme, somatosensoriyel ve vestibüler duyu açısından da benzer ortamlara sahibiz, yani karşılık gelen işitsel alanlar (insan kulağı 20 Hz – 20.000 Hz arasındaki sesleri duyabilir), somatosensoriyel alanlar (insanlar vücudun belirli bölümlerinin yaklaşık 1 mm içindeki uyaranları ayırt edebilir) ve vestibüler alan (insan yarım daire kanallarının birbirine bağlı 3D yapıları bize içsel bir denge duygusu sağlar). Aynı zamanda, doğadaki diğer türler, elektromanyetik spektrumun diğer bantlarındaki sinyalleri tespit edebilir. Örneğin, arılar ultraviyole aralığındaki ışığı görebilir ve daha geleneksel görsel sinyallere ek olarak kızılötesi radyasyon sinyallerini algılayabilir.
Yani, farklı hayvanlar, vücutlarının ve beyinlerinin çevrelerini algılayabildiği farklı hassasiyetlere sahiptir. Amerikalı bir psikolog olan Gibson, belirli bir ortamda hareket eden bir organizmanın olasılığını "uygunluk" olarak adlandırır (İnternet teknolojisinin nüfuz etmesiyle birlikte, dijital teknolojinin medya uygulamalarında ve insan günlük etkileşimlerinde kullanımını açıklamak için uygunluk kullanılmaya başlandı). **
Algoritma tasarımının doğasına göre, LLM'ler yalnızca ikili kodlama modellerine sahiptir, yalnızca ikili bilgi girişi alabilir ve günümüzün LLM'lerinin çalışma mimarisini oluşturan karmaşık transformatör yapılarının doğasında bulunan ağ algoritmalarını daha fazla yürütebilir. Nöronal sivri uçlar aynı zamanda gelen analog sinyalleri dijital sinyallere (yani ikili sinyallere) kodlayabilse de, LLM'ye iletilen bilgi akışı oldukça soyuttur ve dış dünyanın kendisiyle güçlü bir bağlantısı yoktur. Bir harf dizisi olarak kodlanan metin ve konuşma, doğal dünyanın dinamik karmaşıklığıyla eşleşemez, yani bir LLM'nin ortamı (ona sağlanan ikili bilgi), gözlerimizi açtığımızda veya konuşmaları ilettiğimizde beynimize giren bilgilerden ve onunla birlikte gelen deneyimlerden temelde farklıdır. Geleneksel felsefi söylem, farklı türler arasındaki bilgi akışının benzersizliğini (örneğin, insanlar ve yarasalar arasındaki fark) ve bu deneyimlerin fenomenolojik özelliklerini vurgular. LLM'ler tarafından elde edilen bilgi girdisinin daha önemli farklılıklar gösterebileceğine inanıyoruz, ancak şu an için bu farkı ölçmenin kesin bir yolu yok.
Bununla birlikte, AI sistemlerinin girdileri gelecekte amansız bir şekilde daha zengin hale gelecektir. Gelecekteki LLM'ler, bilinçli ajanların günlük olarak erişebileceği sinyal türleriyle (yani doğal dünyadan gelen istatistikler) daha iyi eşleşebilecek farklı girdi türleri ile donatılabilir. Peki, gelecekte yapay zeka sistemlerinin mevcut ortamı insan ortamından daha geniş olacak mı?
Bu soruyu cevaplarken, insan bilinçaltı ve bilinçli deneyiminin yalnızca duyusal girdi tarafından belirlenmediğini kabul etmeliyiz. Örneğin, bir dubada yattığımızda, normal duyusal deneyim eksikliğimize rağmen hala bilinçli olduğumuzu hayal edin. Buradaki kavram, çevrenin doğal bir öznel bakış açısını, yani bir konudan başlamayı öngördüğü vurgulanmaktadır. Benzer şekilde, afforfority, konunun içsel doğasına, özellikle de konunun motivasyonlarına ve hedeflerine bağlıdır. Bu, bilincin yalnızca çevre tarafından üretilemeyeceği anlamına gelir (LLM'nin girdi verileri). Bu nedenle, bir yapay zeka sistemine büyük bir veri akışı beslemek, yapay zeka sisteminin kendisini bilinçli hale getirmez. **
Bu bakış açısı, bilinç bilimindeki bazı temel varsayımları yeniden düşünmemizi sağlayabilir. Özellikle, YZ sistemleri giderek daha karmaşık yetenekler sergiledikçe, araştırmacılar, bilincin ortaya çıkması için belirli bilinç teorileri tarafından önerilen daha temel benlik ve ajanla ilgili süreçlerin gerekliliğini yeniden değerlendirmek zorunda kalacaklar.
**Bilincin "Bütünleşmesi" **
Şu anda, bilincin nöral korelasyonu üzerine, bilinç işlemenin nöral devreleri hakkında birçok farklı teori bulunan birçok çalışma yapılmıştır. Bazıları, bilincin yoğun, yüksek oranda bağlantılı bir talamik-kortikal ağ tarafından desteklendiğini vurgulamaktadır. ** Talamik-kortikal ağ, kortikal bölgeleri, kortikal-kortikal kavşakları ve yüksek talamik çekirdeklerin kortikal bölgelere farklı projeksiyonlarını içerir. Talamik-kortikal sistemin bu özel yapısı, bilinci ve bilinçli bütünleşmeyi destekleyen dolaşımsal ve karmaşık düşünce işlemeyi destekler (yani, bilincin farklı beyin bölgelerinden kaynaklanmasına rağmen bilinç birleşiktir). Bununla birlikte, farklı teoriler, bilincin bütünleşmesini sağlama yolunda farklı görüşlere sahiptir.
Küresel nöronal çalışma alanı teorisine (GNW) göre bilinç, dağıtılmış bir frontoparietal korteks sisteminden oluşan merkezi bir çalışma alanına dayanır. Bu çalışma alanı, yerel kortikal işlemcilerden gelen bilgileri bütünleştirir ve daha sonra bilinçli ve bilinçsiz süreçleri ayıran küresel teslimat ile küresel ölçekte tüm kortikal yerel işlemcilere iletir. Diğer bilinç teorileri, bilinçli bütünleşmenin diğer sinirsel süreçler tarafından sağlandığını savunur. Örneğin, nöronal dendritik entegrasyon teorisi (DIT), bilinçli entegrasyonun, ilgili kortikal bölgeye bağlı olarak algı, biliş veya motor planlama gibi farklı işlevleri içerebilen farklı kortikal bölgeler arasında yüksek frekanslı bir senkronizasyon fenomeni yoluyla gerçekleştiğini öne sürer.
Şekil 2: Nöron dendritik entegrasyonu (DIT) teorisine dayalı bilinç entegrasyonunun nöral yapısı Kaynak: Trends in Neurosciences
*Altyazı: DIT teorisinde (Şekil 2), araştırmacılar küresel bilinçli entegrasyonun, hem talamik-kortikal hem de kortikal devrelerde merkezi olan büyük bir uyarıcı nöron olan korteksin beşinci katmanındaki piramidal nöronların yerel entegrasyonuna da bağlı olduğuna inanıyorlar. Bu tip nöronda (Şekil 2, turuncu ve kırmızı silindirler) tamamen farklı bilgi türlerini işleyen iki ana yapı vardır: bazal yapı (kırmızı) dış temel bilgileri işlerken, apikal yapı (turuncu) dahili olarak üretilen bilgileri işler. DIT teorisine göre, bilinç durumunda, bu iki yapı birbirine bağlanır ve bilginin talamik-kortikal ve kortiko-kortikal devrelerden akmasına izin verir, böylece bilgi ve bilinç üretiminin sistem çapında entegrasyonunu sağlar. *
Günümüzün LLM'lerinin ve diğer YZ sistemlerinin mimarilerinin, bu teorilerin vurguladığı özelliklerden yoksun olduğuna dikkat etmek önemlidir: mevcut LLM'lerin ne eşdeğer biyapısal piramidal nöronları, ne de merkezi talamik mimarileri, küresel çalışma alanları veya artan uyarılma sistemlerinin çoklu özellikleri yoktur. Başka bir deyişle, mevcut AI sistemleri, şu anda sinirbilim topluluğu tarafından bilinç üretimini desteklediğine inanılan beyin özelliklerinden yoksundur. Memeli beyni, bilinç üretimini destekleyebilen tek yapı olmasa da, nörobiyolojiden elde edilen kanıtlar, memeli bilincinin oluşumunun çok özel yapısal ilkeler (yani, entegre ve uyarılmış nöronlar arasındaki basit bağlantılar) tarafından belirlendiğini göstermektedir. Topolojik olarak, mevcut AI sistemlerinin yapısı son derece basittir, bu da mevcut AI sistemlerini olağanüstü farkındalığa sahip olarak görmememizin nedenlerinden biridir.
Öyleyse, gelecekteki AI modelleri nihayet birçok bilinç teorisinin çekirdek olarak gördüğü "entegrasyon" sürecini entegre edebilecek mi? Bu soruna yanıt olarak, GNW teorisi tarafından önerilen "entegrasyon" kavramı, onu uygulamak için nispeten basit bir yol sağlar. Aslında, bazı yeni AI sistemleri, yerel bir işlemci tarafından paylaşılan küresel bir çalışma alanı gibi bir şeye dahil edilmiştir. Küresel aktarımın hesaplama süreci bir YZ sisteminde uygulanabileceğinden, bu teoriye göre, bu hesaplama yöntemini benimseyen bir YZ sistemi, gizli bilincin temel bileşenlerini içerecektir.
Bununla birlikte, daha önce de belirtildiği gibi, tüm bilinç teorileri, bu entegrasyon tarzının bilinç oluşumunun anahtarı olduğu konusunda hemfikir değildir. Örneğin, entegre bilgi bilinç teorisi, tipik bir modern bilgisayarda uygulanan yazılım tabanlı yapay zeka sistemlerinin bilinçli olamayacağını, çünkü modern bilgisayarların bilgiyi tam olarak bütünleştirmek için gereken nedensel akıl yürütme yeteneklerini elde etmek için uygun mimariye sahip olmadığını savunur. Bu nedenle, bilincin prensipte ulaşılabilir olduğu, ancak YZ sistemlerinin mevcut (ve belki de gelecekteki) hesaplama özgüllüğünün ötesine geçmesi gerekebileceği üçüncü olasılığı ele alacağız. **
Bilinç karmaşık bir biyolojik süreçtir
Bilincin üretilmesi sadece sistemin mimarisine bağlı değildir. Örneğin, derin uykuda veya anestezideyken, talamik-kortikal sistemin yapısı değişmez, ancak bilinç kaybolur. Derin uykuda bile, ana duyusal alanlardaki lokal sinirsel tepkiler ve gama kuşağı aktivitesi, bilinçli durumdakilere benzer. Bu, bilincin belirli sinirsel süreçlere dayandığını, ancak bu sinirsel süreçlerin bilinçli ve bilinçsiz beyinlerde farklı olduğunu göstermektedir. **
Bilinçli ve bilinçsiz işleme arasındaki ayrıntılı farklara ışık tutmak için, önce nöron dendritik entegrasyonu (DIT) teorisine geri dönelim. DIT teorisi, bilinçli ve bilinçsiz olarak işlenen nöral süreçlerle ilgili bir dizi nörobiyolojik nüans içerir. DIT teorisi, bilinçli ve bilinçsiz işleme arasındaki temel farkın, piramidal hücrelerin iki bölme yapısının entegrasyonunda yattığını öne sürmektedir (Şekil 2). Daha önce de belirtildiği gibi, bilinçli işleme sırasında, bu iki yapı birbiriyle etkileşime girerek tüm talamik-kortikal sistemin karmaşık bilgileri işlemesine ve bütünleştirmesine izin verir. Bununla birlikte, anestezi durumunda, çeşitli anestezikler, vertebral nöronların iki yapısı arasında fonksiyonel ayrışmaya yol açar. Başka bir deyişle, bu vertebral nöronlar anatomik olarak sağlam olmalarına ve aksiyon potansiyellerini uyarabilmelerine rağmen, dendritik entegrasyon kapasiteleri fizyolojik olarak ciddi şekilde sınırlıdır, yani yukarıdan aşağıya geri bildirim işlemeyi etkileyemez. Çalışmalar, bu dendritik eşleşmenin metabotropik reseptörler tarafından kontrol edildiğini göstermiştir, ancak bu yapı genellikle hesaplama modellerinde ve yapay sinir ağlarında göz ardı edilir. Ek olarak, çalışmalar bu durumda, daha yüksek talamik çekirdeklerin bu metabotropik reseptörün aktivitesini kontrol ettiğini göstermiştir. Bu nedenle, belirli nörobiyolojik süreçler beyindeki bilincin "açılmasından" ve "kapatılmasından" sorumlu olabilir. Bu, memeli beynindeki deneyim kalitesinin, bilinci üreten altta yatan süreçlerle karmaşık bir ilişkisi olduğunu göstermektedir. **
Bu teoriler yeterince ikna edici olsa da, bu bilginin, bilincin tam olarak anlaşılmasından kaynaklanan sinirsel süreçlerin karmaşıklığına kıyasla sönük kaldığı neredeyse kesindir. Mevcut bilinç açıklamalarımız, küresel çalışma alanları, entegre bilgi, döngüsel işleme, dendritik entegrasyon vb. gibi teorilere dayanmaktadır, ancak gerçek bilincin ortaya çıktığı biyolojik süreçler, bu teoriler tarafından şu anda anlaşıldığından çok daha karmaşık olabilir. Şu anda bilinç araştırması tartışmasını inşa etmek için kullanılan soyut hesaplama düzeyindeki fikirlerin, bilinci açıklamak için gerekli hesaplama ayrıntılarını hesaba katmada tamamen başarısız olması bile oldukça olasıdır.
Başka bir deyişle, biyoloji karmaşıktır ve mevcut biyohesaplama anlayışımız sınırlıdır (Şekil 3), bu nedenle belki de bilinci anlamak için doğru matematiksel ve deneysel araçlardan yoksunuzdur. **
Şekil 2: Nöron dendritik entegrasyonu (DIT) teorisine dayalı bilinç entegrasyonunun nöral yapısı Kaynak: Trends in Neurosciences
*Altyazı: DIT teorisinde (Şekil 2), araştırmacılar küresel bilinçli entegrasyonun, hem talamik-kortikal hem de kortikal devrelerde merkezi olan büyük bir uyarıcı nöron olan korteksin beşinci katmanındaki piramidal nöronların yerel entegrasyonuna da bağlı olduğuna inanıyorlar. Bu tip nöronda (Şekil 2, turuncu ve kırmızı silindirler) tamamen farklı bilgi türlerini işleyen iki ana yapı vardır: bazal yapı (kırmızı) dış temel bilgileri işlerken, apikal yapı (turuncu) dahili olarak üretilen bilgileri işler. DIT teorisine göre, bilinç durumunda, bu iki yapı birbirine bağlanır ve bilginin talamik-kortikal ve kortiko-kortikal devrelerden akmasına izin verir, böylece bilgi ve bilinç üretiminin sistem çapında entegrasyonunu sağlar. *
Biyolojik karmaşıklığı daha iyi anlamak için, yukarıda hücresel ve sistemik seviyelerde açıklanan biyolojik süreçlerin canlı bir organizmada gerçekleşmesi gerektiğini ve ayrılmaz olduğunu vurgulamak önemlidir. Canlı organizmalar, kendilerini sürekli olarak farklı işlem seviyelerinde tutabilmeleri bakımından günümüzün makinelerinden ve yapay zeka algoritmalarından farklıdır. Ek olarak, canlı sistemlerin çok yönlü bir evrim ve gelişim geçmişi vardır ve varlıkları, çoklu organizasyon seviyelerindeki faaliyetlerine bağlıdır. Bilinç, canlı sistemlerin organizasyonu ile karmaşık bir şekilde bağlantılıdır. Bununla birlikte, günümüz bilgisayarlarının, canlı sistemlerin bu örgütsel karmaşıklığını (yani, sistemin farklı seviyeleri arasındaki etkileşimi) somutlaştırma yeteneğine sahip olmadığını belirtmekte fayda var. Bu, modern yapay zeka algoritmalarının herhangi bir organizasyonel düzeyde kısıtlamaya sahip olmadığını ve canlı bir sistem kadar etkili çalışamayacağını göstermektedir. Bu, yapay zekanın yazılım tabanlı olduğu sürece bilinçli ve zeki olmaya uygun olmayabileceği anlamına gelir. **
Biyolojik karmaşıklık kavramı hücresel düzeyde de ifade edilebilir. Biyolojik bir nöron, sadece birkaç satır kodla tamamen yakalanabilen soyut bir varlık değildir. Buna karşılık, biyolojik nöronlar çok katmanlı bir organizasyona sahiptir ve nöronlar içindeki karmaşık biyofiziksel süreçlerin daha fazla kademesine dayanır. Örneğin, hücresel solunumun temeli olan ve hücresel homeostazın korunmasında önemli bir süreç olan "Krebs döngüsünü" ele alalım. Hücresel solunum, hücrelerin organik moleküllerde depolanan enerjiyi, hücrelerin kullanabileceği bir enerji biçimine dönüştürmesini sağlayan kritik bir biyolojik süreçtir. Bununla birlikte, hücresel solunum gibi biyofiziksel süreçlerin gerçek fiziksel moleküllere dayanması gerektiğinden, bu süreç yazılıma "sıkıştırılamaz". Elbette bu, bilincin bir "Krebs döngüsüne" ihtiyacı olduğu anlamına gelmez, daha ziyade bilinci anlama sürecinde benzer zorlukların yer alabileceğini, yani belki de bilincin altta yatan mekanizmadan ayrılamayacağını vurgular. **
Bununla birlikte, bilincin akıllı sistemler tarafından üretilemeyeceği iddiasına tam olarak katılmıyoruz, ancak bilinç ile yaşamın arkasındaki karmaşık biyolojik organizasyon arasındaki ilişkiyi göz önünde bulundurmalıyız ve bilincin doğasını yakalayan hesaplama türleri, mevcut teorilerimizin anladığından çok daha karmaşık olabilir (Şekil 3). Bilincin "biyopsisini" yapmak ve dokudan çıkarmak neredeyse imkansızdır. Bu görüş, bilincin soyut bir hesaplama düzeyinde ortaya çıkabileceğini savunan bilinçle ilgili birçok güncel teoriyle çelişmektedir. Şimdi, bu varsayımın modern yapay zeka sistemleri ışığında güncellenmesi gerekiyor: bilinci tam olarak anlamak için, canlı sistemlerde gözlemlenen ölçekler arası karşılıklı bağımlılığı ve organizasyonel karmaşıklığı göz ardı edemeyiz. **
Her ne kadar YZ sistemleri biyolojik muadillerini ağ bilişim düzeyinde taklit etse de, bu sistemlerde diğer tüm biyolojik süreçler beyindeki bilinçle yakın bir nedensel ilişkisi olan süreçlerden soyutlanmıştır, bu nedenle mevcut YZ sistemleri bilincin kendisini soyutlamış olabilir. Sonuç olarak, LLM'ler ve gelecekteki AI sistemleri, simüle edilmiş bilinç özelliklerinin sonsuz bir akışında sıkışıp kalabilir, ancak konuşulacak herhangi bir olağanüstü bilinç olmadan. Eğer bilinç gerçekten de bu diğer işlem düzeyleriyle ya da farklı ölçekler arasındaki etkileşimleriyle ilişkiliyse, o zaman bilinç üreten bir makinenin olasılığından çok uzağız.
Özet
Burada, LLM'lerde ve gelecekteki AI sistemlerinde bilinç olasılığını nörobilimsel bir bakış açısıyla araştırıyoruz. LLM'ler ne kadar çekici olursa olsun, bilinçli değiller ve gelecekte daha kısa bir süre bilinçli olmayacaklar.
İlk olarak, memelilerin çevresi (algılayabildikleri dış dünyanın "küçük bir kısmı") ile LLM'lerin son derece yoksul ve sınırlı çevresi arasındaki büyük farkı gösteriyoruz. İkinci olarak, LLM'lerin topolojisinin, çok karmaşık olmasına rağmen, memeli bilinci ile ilgili devrelerin nörobiyolojik ayrıntılarından ampirik olarak çok farklı olduğunu ve bu nedenle LLM'lerin fenomenal bilinç üretme yeteneğine sahip olduğunu düşünmek için iyi bir neden olmadığını savunuyoruz (Şekil 1). Bilinci, canlı sistemlerde var olan, ancak YZ sistemlerinde açıkça bulunmayan biyolojik organizasyonun karmaşıklığından soyutlamak henüz mümkün değildir. Genel olarak, yukarıdaki üç kilit nokta, LLM'lerin mevcut formlarında bilinçli olmalarını imkansız kılmaktadır. Yalnızca bilinçli deneyimin zenginliğini tanımlamak için kullanılan insan doğal dil iletişiminin özelliklerini taklit ederler.
Bu makale aracılığıyla, sunulan argümanların sadece bir itirazı temsil etmediğini, bazı olumlu etkileri ve yansımaları olacağını umuyoruz (bkz. İlk olarak, LLM'lerin algılanan kapasitesi hakkındaki mevcut potansiyel etik kaygılar gerçek olmaktan çok varsayımsaldır. Ek olarak, LLM'ler ve memeli beyin topolojileri arasındaki benzerliklerin ve farklılıkların daha derin bir şekilde anlaşılmasının, makine öğrenimi ve sinirbilimdeki ilerlemeleri ilerletebileceğine inanıyoruz. Ayrıca, beyin dokusunun özelliklerini taklit ederek ve basit dağıtılmış sistemlerin karmaşık bilgi akışlarını nasıl işlediğini öğrenerek makine öğrenimi ve sinirbilim topluluğunu ilerletmeyi umuyoruz. Bu nedenlerden dolayı, AI araştırmacıları ve sinirbilimciler arasındaki gelecekteki işbirliklerinin daha derin bir bilinç anlayışına yol açabileceği konusunda iyimseriz.
Çözümlenmemiş Takip:
LLM'lerde ve yapay zekada farkındalık değerlendirmesi, bilinci tespit etmek için genellikle dil tabanlı testlere dayanır. Bilinci yalnızca dile (yani metne) dayalı olarak değerlendirmek mümkün müdür ve yapay bir sistemin bilinçli olup olmadığını belirlemeye yardımcı olabilecek başka değerlendirme özellikleri var mı?
Memeli bilincinin nöral temeli talamik-kortikal sistemle ilgilidir. Talamik-kortikal sistem AI'da nasıl uygulanabilir? Talamik-kortikal sistemden hangi özel işlevler ve görevler yararlanabilir?
Artan uyarılma sistemi de organizmalarda bilinç oluşumunda çok önemli bir rol oynar ve nörodinamiğin şekillenmesinde karmaşık ve çok yönlü bir rol oynar. Yükselen uyanış sisteminin hesaplama avantajından yararlanmak için yapay zekanın bu farklı süreçleri ne ölçüde taklit etmesi gerekiyor?
Talamik-kortikal sisteme ek olarak, dendritler bu makalede tartışılan bazı bilinç teorilerinde önemli bir rol oynamaktadır. Dendritler, biyolojik sinir ağlarının hesaplama karmaşıklığını/verimliliğini artıran faktörlerden sadece biri mi, yoksa daha fazlası mı var?
Canlı sistemlerin örgütsel karmaşıklığı bilinçle ilgili midir? Canlı sistemler, birbirleriyle etkileşime giren farklı seviyelerde işleme süreçlerinden oluşur. Canlı sistemlerin organizasyonel karmaşıklığı daha ayrıntılı olarak açıklanabilir mi? Bilincin ortaya çıktığı biyolojik süreçlere daha fazla ışık tutmak için bu tür sistemlerle başa çıkmak için yeni matematiksel çerçevelere ihtiyaç var mı?
Bazı teoriler, bilinç ve eylemliliğin ayrılmaz bir şekilde bağlantılı olduğunu öne sürmektedir. Bilincin biyolojik aktiviteden nasıl ortaya çıktığını anlamak için, önce failliği anlaması gerekir mi?
Orijinal bağlantı
Aru, J., Larkum, M.E. ve Shine, J.M. (2023b) 'Sinirbilim merceğinden yapay bilincin fizibilitesi', Trends in Neurosciences [Preprint] . doi:10.1016/j.tins.2023.09.009.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Cell alt dergisi, yapay zekanın kısa vadede bilinç üretme olasılığının düşük olduğunu eleştirel bir şekilde yayınladı
Orijinal kaynak: NextQuestion
Büyük dil modelleriyle (LLM'ler) etkileşime girdiğimizde, her zaman gerçekten bilinçli olabileceklerine dair belirsiz bir his duyarız. Bununla birlikte, sinirbilimcilerin bakış açısından, bu görüşü sürdürmek zor görünüyor.
Cell'in bir alt dergisi olan Trends in Neurosciences'da yayınlanan yakın tarihli bir makalede, bilgisayar bilimi, biyoloji ve sinirbilimden üç bilim adamı "Yapay zeka bilinç üretebilir mi?" sorusunu araştırdı.
Sonuç olarak, LLM'lerin mevcut halleriyle bilinçli olamayacakları konusunda hemfikirdirler. Böyle kategorik bir bakış açısı nasıl ortaya çıktı?
LLM ve Bilinç
Hangi hayvanların bilinçli olduğu, hayvanlar dışında hangi varlıkların bilinçli olduğu uzun zamandır sorgulanmaktadır. LLM'lerin son zamanlarda ortaya çıkışı, soruna yepyeni bir bakış açısı getirdi. Bize konuşma yeteneğimizi gösterir (insan bilincinin bir tezahürü) ve "anlayış", "zeka" ve "bilinç" olmak üzere üç kavramı yeniden tanımlamamızı ve yeniden düşünmemizi sağlar.
LLM'ler, insanlar arasındaki doğal dil konuşmaları da dahil olmak üzere on milyarlarca kelimelik metin verisi üzerinde eğitilmiş milyarlarca bağlantı ağırlığına sahip karmaşık, çok katmanlı yapay sinir ağlarıdır. Metin yoluyla sorular sorarak, kullanıcı büyüleyici bir simüle edilmiş bağlama çekilir. Bu sistemleri kullanmak için zaman ayırmaya istekliyseniz, ağın derinliği ve kalitesi karşısında şaşkına dönmemek elde değil. Ona bir soru sorun ve cevabı genellikle bilinçli bir bireyin üretebileceğine benzer. Bu nedenle, anlayışlı, bilinçli bir birey olarak, aldığım cevapların aynı zamanda "bilinçli" ve düşünme, hissetme, akıl yürütme ve deneyimleme yeteneğine sahip bir birey tarafından üretildiği sonucuna varmak kolaydır. **
Bu tür "Turing testlerinin" sonuçlarına dayanarak, LLM'lerin zaten bilinçli olup olmadığını merak etmeden edemiyoruz, yoksa yakında bilinçli olacaklar mı? Bununla birlikte, bu soru, sırayla, tekrar tekrar "bilinç" uyanışının eşiğinde olan LLM'leri geliştirmeye devam etmenin etik olup olmadığı gibi bir dizi etik ikileme yol açacaktır. LLM'lerin "bilinçli" olduğu fikri bugün sinirbilim camiasında evrensel olarak kabul edilmemektedir, ancak AI sistemlerinin yetenekleri gelişmeye devam ettikçe, bu fikrin tartışılması kaçınılmaz olarak tekrar gündeme gelmiştir. Buna ek olarak, büyük haber medyası da bu konuyu geniş çapta tartışıyor ve sinirbilimcileri konuyu kendi profesyonel bakış açılarından objektif olarak yorumlamaya teşvik ediyor.
LLM'lerin potansiyel olarak bilinçli olduğu fikri, genellikle LLM'lerin mimarisinin büyük ölçüde beynin özelliklerinden ilham aldığı (Şekil 1) ve beynin şu anda güvenle "bilinçli" olarak nitelendirebileceğimiz tek nesne olduğu yönündeki önemli bir argümanla desteklenir. Erken yapay sinir ağları, serebral korteksin basitleştirilmiş versiyonlarına dayalı olarak tasarlanırken, modern LLM'ler yüksek düzeyde tasarlanmış ve belirli amaçlar için uyarlanmıştır ve artık bilinen beyin yapılarına derin homolojiyi korumamaktadır. Aslında, LLM'leri hesaplama açısından güçlü kılan yol özelliklerinin çoğu (Şekil 1), şu anda memelilerde bilincin üretilmesinde ve şekillendirilmesinde nedensel güce sahip olduğunu düşündüğümüz sistemlerden çok farklı mimarilere sahiptir. Örneğin, bilinç üretimi ile ilgili birçok sinirbilim teorisi, talamik-kortikal sistemin ve uyarılma sisteminin, modern LLM'lerde bulunmayan bilincin işlenmesinde merkezi bir rol oynadığını öne sürmektedir.
Bu noktada, LLM'nin mimarisinin beynin özelliklerini taklit etmesi bu kadar önemli mi?
Bize göre asıl sebep, şu anda yalnızca karmaşık bedene gömülü beyinden gelen bir bilincin varlığından emin olabilmemizdir. Kesin konuşmak gerekirse, bu argümanın sadece insanlara indirgenebileceği iddia edilebilir, ancak öznel bilinçte önemli bir rol oynadığı düşünülen sistem düzeyindeki özelliklerin birçoğu biyolojik spektrumda yaygındır ve memelilere, hatta omurgasızlara kadar uzanır.
Bununla birlikte, önce "bilinç" in tam anlamıyla başlayalım. Daha sonra, mevcut YZ sistemlerinin sahip olduğu veya gelecekte bilince sahip olacağı fikrine karşı üç argüman sunacağız:
Bilinç nedir?
Bilinç karmaşık bir kavramdır ve tanımı tartışılmıştır. İnsanların birbirleriyle iletişim kurma ve etkileşim kurma yetenekleri bağlamında, iletişim kurma ve diyalog kurma yeteneği, bir kişinin bilince sahip olup olmadığını değerlendirmek için içgüdüsel bir unsurdur.
LLM'lerle yapılan dil temelli etkileşimli konuşmalar genellikle sezgisel bir his geliştirir, bu da bir LLM'nin bilinçli olup olmadığına karar vermek için başlangıç noktasıdır. Bununla birlikte, LLM'ler etkileşimli konuşmalarda mükemmel olsa da, bu, bilincin resmi nesnel ölçüsünü karşılamaz, ancak yalnızca zekanın ön kanıtıdır. **
LLM'lerin ortaya çıkışı, bir kişinin başkalarıyla doğrudan sözlü etkileşimlerden bilinç üretip üretemeyeceğini yeniden değerlendirmemize neden oldu. Bu nedenle, yeni bir görüş, insan benzeri yetenekleri ve insan benzeri özellikleri yargılama kriterlerini yeniden formüle etmemiz gerektiğidir.
"Bilinç" kelimesinin genellikle farklı anlamları vardır. Örneğin, nörologlar genellikle bir kişinin bilinçli olup olmadığının ilk değerlendirmesi olan "bilinç seviyesine" ve daha sonra daha ayrıntılı bir şekilde bilinç seviyesine veya spesifik durumuna atıfta bulunurlar. Öte yandan psikologlar, bilincin içeriğiyle daha fazla ilgilenirler: bireyin iç dünyasının belirli deneyimleri, anıları ve düşünceleri. Ek olarak, bilincin farklı içerikleri arasında farklılıklar vardır. Deneyimlerimiz fenomenal veya deneyimsel (örneğin, bir elmayı görmek veya koklamak veya kolunuza dokunmak) veya daha soyut biçimde (örneğin, kavramsal belleği nasıl hayal ettiğimiz, tasavvur ettiğimiz veya manipüle ettiğimiz) olarak tanımlanabilir.
Bir yapay zeka sisteminin bilinçli olup olmadığı sorusu çeşitli şekillerde cevaplanabilir: bilincin bazı anlamlarına odaklanabilir veya aynı anda bilincin tüm anlamlarına odaklanabilir. Aşağıda, öncelikle olağanüstü farkındalığa odaklanıyoruz ve makinelerin dünyayı olağanüstü bir şekilde deneyimleyip deneyimleyemeyeceğini araştırıyoruz.
Çevre Hakkında
Bir organizmanın dış dünyayı algılama sürecinde kullanılabilecek kısmına çevresi denir. Örneğin, insan retinası ışığa 380 nm – 740 nm dalga boylarında tepki verir, yani retina spektrumu maviden kırmızıya algılayabilir. Harici teknolojinin yardımı olmadan, insanlar bu dalga boyu aralığının dışındaki kızılötesi ışığı (>740 nm) veya ultraviyole ışığı (< 380 nm) tespit edemezler. İşitme, somatosensoriyel ve vestibüler duyu açısından da benzer ortamlara sahibiz, yani karşılık gelen işitsel alanlar (insan kulağı 20 Hz – 20.000 Hz arasındaki sesleri duyabilir), somatosensoriyel alanlar (insanlar vücudun belirli bölümlerinin yaklaşık 1 mm içindeki uyaranları ayırt edebilir) ve vestibüler alan (insan yarım daire kanallarının birbirine bağlı 3D yapıları bize içsel bir denge duygusu sağlar). Aynı zamanda, doğadaki diğer türler, elektromanyetik spektrumun diğer bantlarındaki sinyalleri tespit edebilir. Örneğin, arılar ultraviyole aralığındaki ışığı görebilir ve daha geleneksel görsel sinyallere ek olarak kızılötesi radyasyon sinyallerini algılayabilir.
Yani, farklı hayvanlar, vücutlarının ve beyinlerinin çevrelerini algılayabildiği farklı hassasiyetlere sahiptir. Amerikalı bir psikolog olan Gibson, belirli bir ortamda hareket eden bir organizmanın olasılığını "uygunluk" olarak adlandırır (İnternet teknolojisinin nüfuz etmesiyle birlikte, dijital teknolojinin medya uygulamalarında ve insan günlük etkileşimlerinde kullanımını açıklamak için uygunluk kullanılmaya başlandı). **
Algoritma tasarımının doğasına göre, LLM'ler yalnızca ikili kodlama modellerine sahiptir, yalnızca ikili bilgi girişi alabilir ve günümüzün LLM'lerinin çalışma mimarisini oluşturan karmaşık transformatör yapılarının doğasında bulunan ağ algoritmalarını daha fazla yürütebilir. Nöronal sivri uçlar aynı zamanda gelen analog sinyalleri dijital sinyallere (yani ikili sinyallere) kodlayabilse de, LLM'ye iletilen bilgi akışı oldukça soyuttur ve dış dünyanın kendisiyle güçlü bir bağlantısı yoktur. Bir harf dizisi olarak kodlanan metin ve konuşma, doğal dünyanın dinamik karmaşıklığıyla eşleşemez, yani bir LLM'nin ortamı (ona sağlanan ikili bilgi), gözlerimizi açtığımızda veya konuşmaları ilettiğimizde beynimize giren bilgilerden ve onunla birlikte gelen deneyimlerden temelde farklıdır. Geleneksel felsefi söylem, farklı türler arasındaki bilgi akışının benzersizliğini (örneğin, insanlar ve yarasalar arasındaki fark) ve bu deneyimlerin fenomenolojik özelliklerini vurgular. LLM'ler tarafından elde edilen bilgi girdisinin daha önemli farklılıklar gösterebileceğine inanıyoruz, ancak şu an için bu farkı ölçmenin kesin bir yolu yok.
Bununla birlikte, AI sistemlerinin girdileri gelecekte amansız bir şekilde daha zengin hale gelecektir. Gelecekteki LLM'ler, bilinçli ajanların günlük olarak erişebileceği sinyal türleriyle (yani doğal dünyadan gelen istatistikler) daha iyi eşleşebilecek farklı girdi türleri ile donatılabilir. Peki, gelecekte yapay zeka sistemlerinin mevcut ortamı insan ortamından daha geniş olacak mı?
Bu soruyu cevaplarken, insan bilinçaltı ve bilinçli deneyiminin yalnızca duyusal girdi tarafından belirlenmediğini kabul etmeliyiz. Örneğin, bir dubada yattığımızda, normal duyusal deneyim eksikliğimize rağmen hala bilinçli olduğumuzu hayal edin. Buradaki kavram, çevrenin doğal bir öznel bakış açısını, yani bir konudan başlamayı öngördüğü vurgulanmaktadır. Benzer şekilde, afforfority, konunun içsel doğasına, özellikle de konunun motivasyonlarına ve hedeflerine bağlıdır. Bu, bilincin yalnızca çevre tarafından üretilemeyeceği anlamına gelir (LLM'nin girdi verileri). Bu nedenle, bir yapay zeka sistemine büyük bir veri akışı beslemek, yapay zeka sisteminin kendisini bilinçli hale getirmez. **
Bu bakış açısı, bilinç bilimindeki bazı temel varsayımları yeniden düşünmemizi sağlayabilir. Özellikle, YZ sistemleri giderek daha karmaşık yetenekler sergiledikçe, araştırmacılar, bilincin ortaya çıkması için belirli bilinç teorileri tarafından önerilen daha temel benlik ve ajanla ilgili süreçlerin gerekliliğini yeniden değerlendirmek zorunda kalacaklar.
**Bilincin "Bütünleşmesi" **
Şu anda, bilincin nöral korelasyonu üzerine, bilinç işlemenin nöral devreleri hakkında birçok farklı teori bulunan birçok çalışma yapılmıştır. Bazıları, bilincin yoğun, yüksek oranda bağlantılı bir talamik-kortikal ağ tarafından desteklendiğini vurgulamaktadır. ** Talamik-kortikal ağ, kortikal bölgeleri, kortikal-kortikal kavşakları ve yüksek talamik çekirdeklerin kortikal bölgelere farklı projeksiyonlarını içerir. Talamik-kortikal sistemin bu özel yapısı, bilinci ve bilinçli bütünleşmeyi destekleyen dolaşımsal ve karmaşık düşünce işlemeyi destekler (yani, bilincin farklı beyin bölgelerinden kaynaklanmasına rağmen bilinç birleşiktir). Bununla birlikte, farklı teoriler, bilincin bütünleşmesini sağlama yolunda farklı görüşlere sahiptir.
Küresel nöronal çalışma alanı teorisine (GNW) göre bilinç, dağıtılmış bir frontoparietal korteks sisteminden oluşan merkezi bir çalışma alanına dayanır. Bu çalışma alanı, yerel kortikal işlemcilerden gelen bilgileri bütünleştirir ve daha sonra bilinçli ve bilinçsiz süreçleri ayıran küresel teslimat ile küresel ölçekte tüm kortikal yerel işlemcilere iletir. Diğer bilinç teorileri, bilinçli bütünleşmenin diğer sinirsel süreçler tarafından sağlandığını savunur. Örneğin, nöronal dendritik entegrasyon teorisi (DIT), bilinçli entegrasyonun, ilgili kortikal bölgeye bağlı olarak algı, biliş veya motor planlama gibi farklı işlevleri içerebilen farklı kortikal bölgeler arasında yüksek frekanslı bir senkronizasyon fenomeni yoluyla gerçekleştiğini öne sürer.
*Altyazı: DIT teorisinde (Şekil 2), araştırmacılar küresel bilinçli entegrasyonun, hem talamik-kortikal hem de kortikal devrelerde merkezi olan büyük bir uyarıcı nöron olan korteksin beşinci katmanındaki piramidal nöronların yerel entegrasyonuna da bağlı olduğuna inanıyorlar. Bu tip nöronda (Şekil 2, turuncu ve kırmızı silindirler) tamamen farklı bilgi türlerini işleyen iki ana yapı vardır: bazal yapı (kırmızı) dış temel bilgileri işlerken, apikal yapı (turuncu) dahili olarak üretilen bilgileri işler. DIT teorisine göre, bilinç durumunda, bu iki yapı birbirine bağlanır ve bilginin talamik-kortikal ve kortiko-kortikal devrelerden akmasına izin verir, böylece bilgi ve bilinç üretiminin sistem çapında entegrasyonunu sağlar. *
Günümüzün LLM'lerinin ve diğer YZ sistemlerinin mimarilerinin, bu teorilerin vurguladığı özelliklerden yoksun olduğuna dikkat etmek önemlidir: mevcut LLM'lerin ne eşdeğer biyapısal piramidal nöronları, ne de merkezi talamik mimarileri, küresel çalışma alanları veya artan uyarılma sistemlerinin çoklu özellikleri yoktur. Başka bir deyişle, mevcut AI sistemleri, şu anda sinirbilim topluluğu tarafından bilinç üretimini desteklediğine inanılan beyin özelliklerinden yoksundur. Memeli beyni, bilinç üretimini destekleyebilen tek yapı olmasa da, nörobiyolojiden elde edilen kanıtlar, memeli bilincinin oluşumunun çok özel yapısal ilkeler (yani, entegre ve uyarılmış nöronlar arasındaki basit bağlantılar) tarafından belirlendiğini göstermektedir. Topolojik olarak, mevcut AI sistemlerinin yapısı son derece basittir, bu da mevcut AI sistemlerini olağanüstü farkındalığa sahip olarak görmememizin nedenlerinden biridir.
Öyleyse, gelecekteki AI modelleri nihayet birçok bilinç teorisinin çekirdek olarak gördüğü "entegrasyon" sürecini entegre edebilecek mi? Bu soruna yanıt olarak, GNW teorisi tarafından önerilen "entegrasyon" kavramı, onu uygulamak için nispeten basit bir yol sağlar. Aslında, bazı yeni AI sistemleri, yerel bir işlemci tarafından paylaşılan küresel bir çalışma alanı gibi bir şeye dahil edilmiştir. Küresel aktarımın hesaplama süreci bir YZ sisteminde uygulanabileceğinden, bu teoriye göre, bu hesaplama yöntemini benimseyen bir YZ sistemi, gizli bilincin temel bileşenlerini içerecektir.
Bununla birlikte, daha önce de belirtildiği gibi, tüm bilinç teorileri, bu entegrasyon tarzının bilinç oluşumunun anahtarı olduğu konusunda hemfikir değildir. Örneğin, entegre bilgi bilinç teorisi, tipik bir modern bilgisayarda uygulanan yazılım tabanlı yapay zeka sistemlerinin bilinçli olamayacağını, çünkü modern bilgisayarların bilgiyi tam olarak bütünleştirmek için gereken nedensel akıl yürütme yeteneklerini elde etmek için uygun mimariye sahip olmadığını savunur. Bu nedenle, bilincin prensipte ulaşılabilir olduğu, ancak YZ sistemlerinin mevcut (ve belki de gelecekteki) hesaplama özgüllüğünün ötesine geçmesi gerekebileceği üçüncü olasılığı ele alacağız. **
Bilinç karmaşık bir biyolojik süreçtir
Bilincin üretilmesi sadece sistemin mimarisine bağlı değildir. Örneğin, derin uykuda veya anestezideyken, talamik-kortikal sistemin yapısı değişmez, ancak bilinç kaybolur. Derin uykuda bile, ana duyusal alanlardaki lokal sinirsel tepkiler ve gama kuşağı aktivitesi, bilinçli durumdakilere benzer. Bu, bilincin belirli sinirsel süreçlere dayandığını, ancak bu sinirsel süreçlerin bilinçli ve bilinçsiz beyinlerde farklı olduğunu göstermektedir. **
Bilinçli ve bilinçsiz işleme arasındaki ayrıntılı farklara ışık tutmak için, önce nöron dendritik entegrasyonu (DIT) teorisine geri dönelim. DIT teorisi, bilinçli ve bilinçsiz olarak işlenen nöral süreçlerle ilgili bir dizi nörobiyolojik nüans içerir. DIT teorisi, bilinçli ve bilinçsiz işleme arasındaki temel farkın, piramidal hücrelerin iki bölme yapısının entegrasyonunda yattığını öne sürmektedir (Şekil 2). Daha önce de belirtildiği gibi, bilinçli işleme sırasında, bu iki yapı birbiriyle etkileşime girerek tüm talamik-kortikal sistemin karmaşık bilgileri işlemesine ve bütünleştirmesine izin verir. Bununla birlikte, anestezi durumunda, çeşitli anestezikler, vertebral nöronların iki yapısı arasında fonksiyonel ayrışmaya yol açar. Başka bir deyişle, bu vertebral nöronlar anatomik olarak sağlam olmalarına ve aksiyon potansiyellerini uyarabilmelerine rağmen, dendritik entegrasyon kapasiteleri fizyolojik olarak ciddi şekilde sınırlıdır, yani yukarıdan aşağıya geri bildirim işlemeyi etkileyemez. Çalışmalar, bu dendritik eşleşmenin metabotropik reseptörler tarafından kontrol edildiğini göstermiştir, ancak bu yapı genellikle hesaplama modellerinde ve yapay sinir ağlarında göz ardı edilir. Ek olarak, çalışmalar bu durumda, daha yüksek talamik çekirdeklerin bu metabotropik reseptörün aktivitesini kontrol ettiğini göstermiştir. Bu nedenle, belirli nörobiyolojik süreçler beyindeki bilincin "açılmasından" ve "kapatılmasından" sorumlu olabilir. Bu, memeli beynindeki deneyim kalitesinin, bilinci üreten altta yatan süreçlerle karmaşık bir ilişkisi olduğunu göstermektedir. **
Bu teoriler yeterince ikna edici olsa da, bu bilginin, bilincin tam olarak anlaşılmasından kaynaklanan sinirsel süreçlerin karmaşıklığına kıyasla sönük kaldığı neredeyse kesindir. Mevcut bilinç açıklamalarımız, küresel çalışma alanları, entegre bilgi, döngüsel işleme, dendritik entegrasyon vb. gibi teorilere dayanmaktadır, ancak gerçek bilincin ortaya çıktığı biyolojik süreçler, bu teoriler tarafından şu anda anlaşıldığından çok daha karmaşık olabilir. Şu anda bilinç araştırması tartışmasını inşa etmek için kullanılan soyut hesaplama düzeyindeki fikirlerin, bilinci açıklamak için gerekli hesaplama ayrıntılarını hesaba katmada tamamen başarısız olması bile oldukça olasıdır.
Başka bir deyişle, biyoloji karmaşıktır ve mevcut biyohesaplama anlayışımız sınırlıdır (Şekil 3), bu nedenle belki de bilinci anlamak için doğru matematiksel ve deneysel araçlardan yoksunuzdur. **
*Altyazı: DIT teorisinde (Şekil 2), araştırmacılar küresel bilinçli entegrasyonun, hem talamik-kortikal hem de kortikal devrelerde merkezi olan büyük bir uyarıcı nöron olan korteksin beşinci katmanındaki piramidal nöronların yerel entegrasyonuna da bağlı olduğuna inanıyorlar. Bu tip nöronda (Şekil 2, turuncu ve kırmızı silindirler) tamamen farklı bilgi türlerini işleyen iki ana yapı vardır: bazal yapı (kırmızı) dış temel bilgileri işlerken, apikal yapı (turuncu) dahili olarak üretilen bilgileri işler. DIT teorisine göre, bilinç durumunda, bu iki yapı birbirine bağlanır ve bilginin talamik-kortikal ve kortiko-kortikal devrelerden akmasına izin verir, böylece bilgi ve bilinç üretiminin sistem çapında entegrasyonunu sağlar. *
Biyolojik karmaşıklığı daha iyi anlamak için, yukarıda hücresel ve sistemik seviyelerde açıklanan biyolojik süreçlerin canlı bir organizmada gerçekleşmesi gerektiğini ve ayrılmaz olduğunu vurgulamak önemlidir. Canlı organizmalar, kendilerini sürekli olarak farklı işlem seviyelerinde tutabilmeleri bakımından günümüzün makinelerinden ve yapay zeka algoritmalarından farklıdır. Ek olarak, canlı sistemlerin çok yönlü bir evrim ve gelişim geçmişi vardır ve varlıkları, çoklu organizasyon seviyelerindeki faaliyetlerine bağlıdır. Bilinç, canlı sistemlerin organizasyonu ile karmaşık bir şekilde bağlantılıdır. Bununla birlikte, günümüz bilgisayarlarının, canlı sistemlerin bu örgütsel karmaşıklığını (yani, sistemin farklı seviyeleri arasındaki etkileşimi) somutlaştırma yeteneğine sahip olmadığını belirtmekte fayda var. Bu, modern yapay zeka algoritmalarının herhangi bir organizasyonel düzeyde kısıtlamaya sahip olmadığını ve canlı bir sistem kadar etkili çalışamayacağını göstermektedir. Bu, yapay zekanın yazılım tabanlı olduğu sürece bilinçli ve zeki olmaya uygun olmayabileceği anlamına gelir. **
Biyolojik karmaşıklık kavramı hücresel düzeyde de ifade edilebilir. Biyolojik bir nöron, sadece birkaç satır kodla tamamen yakalanabilen soyut bir varlık değildir. Buna karşılık, biyolojik nöronlar çok katmanlı bir organizasyona sahiptir ve nöronlar içindeki karmaşık biyofiziksel süreçlerin daha fazla kademesine dayanır. Örneğin, hücresel solunumun temeli olan ve hücresel homeostazın korunmasında önemli bir süreç olan "Krebs döngüsünü" ele alalım. Hücresel solunum, hücrelerin organik moleküllerde depolanan enerjiyi, hücrelerin kullanabileceği bir enerji biçimine dönüştürmesini sağlayan kritik bir biyolojik süreçtir. Bununla birlikte, hücresel solunum gibi biyofiziksel süreçlerin gerçek fiziksel moleküllere dayanması gerektiğinden, bu süreç yazılıma "sıkıştırılamaz". Elbette bu, bilincin bir "Krebs döngüsüne" ihtiyacı olduğu anlamına gelmez, daha ziyade bilinci anlama sürecinde benzer zorlukların yer alabileceğini, yani belki de bilincin altta yatan mekanizmadan ayrılamayacağını vurgular. **
Bununla birlikte, bilincin akıllı sistemler tarafından üretilemeyeceği iddiasına tam olarak katılmıyoruz, ancak bilinç ile yaşamın arkasındaki karmaşık biyolojik organizasyon arasındaki ilişkiyi göz önünde bulundurmalıyız ve bilincin doğasını yakalayan hesaplama türleri, mevcut teorilerimizin anladığından çok daha karmaşık olabilir (Şekil 3). Bilincin "biyopsisini" yapmak ve dokudan çıkarmak neredeyse imkansızdır. Bu görüş, bilincin soyut bir hesaplama düzeyinde ortaya çıkabileceğini savunan bilinçle ilgili birçok güncel teoriyle çelişmektedir. Şimdi, bu varsayımın modern yapay zeka sistemleri ışığında güncellenmesi gerekiyor: bilinci tam olarak anlamak için, canlı sistemlerde gözlemlenen ölçekler arası karşılıklı bağımlılığı ve organizasyonel karmaşıklığı göz ardı edemeyiz. **
Her ne kadar YZ sistemleri biyolojik muadillerini ağ bilişim düzeyinde taklit etse de, bu sistemlerde diğer tüm biyolojik süreçler beyindeki bilinçle yakın bir nedensel ilişkisi olan süreçlerden soyutlanmıştır, bu nedenle mevcut YZ sistemleri bilincin kendisini soyutlamış olabilir. Sonuç olarak, LLM'ler ve gelecekteki AI sistemleri, simüle edilmiş bilinç özelliklerinin sonsuz bir akışında sıkışıp kalabilir, ancak konuşulacak herhangi bir olağanüstü bilinç olmadan. Eğer bilinç gerçekten de bu diğer işlem düzeyleriyle ya da farklı ölçekler arasındaki etkileşimleriyle ilişkiliyse, o zaman bilinç üreten bir makinenin olasılığından çok uzağız.
Özet
Burada, LLM'lerde ve gelecekteki AI sistemlerinde bilinç olasılığını nörobilimsel bir bakış açısıyla araştırıyoruz. LLM'ler ne kadar çekici olursa olsun, bilinçli değiller ve gelecekte daha kısa bir süre bilinçli olmayacaklar.
İlk olarak, memelilerin çevresi (algılayabildikleri dış dünyanın "küçük bir kısmı") ile LLM'lerin son derece yoksul ve sınırlı çevresi arasındaki büyük farkı gösteriyoruz. İkinci olarak, LLM'lerin topolojisinin, çok karmaşık olmasına rağmen, memeli bilinci ile ilgili devrelerin nörobiyolojik ayrıntılarından ampirik olarak çok farklı olduğunu ve bu nedenle LLM'lerin fenomenal bilinç üretme yeteneğine sahip olduğunu düşünmek için iyi bir neden olmadığını savunuyoruz (Şekil 1). Bilinci, canlı sistemlerde var olan, ancak YZ sistemlerinde açıkça bulunmayan biyolojik organizasyonun karmaşıklığından soyutlamak henüz mümkün değildir. Genel olarak, yukarıdaki üç kilit nokta, LLM'lerin mevcut formlarında bilinçli olmalarını imkansız kılmaktadır. Yalnızca bilinçli deneyimin zenginliğini tanımlamak için kullanılan insan doğal dil iletişiminin özelliklerini taklit ederler.
Bu makale aracılığıyla, sunulan argümanların sadece bir itirazı temsil etmediğini, bazı olumlu etkileri ve yansımaları olacağını umuyoruz (bkz. İlk olarak, LLM'lerin algılanan kapasitesi hakkındaki mevcut potansiyel etik kaygılar gerçek olmaktan çok varsayımsaldır. Ek olarak, LLM'ler ve memeli beyin topolojileri arasındaki benzerliklerin ve farklılıkların daha derin bir şekilde anlaşılmasının, makine öğrenimi ve sinirbilimdeki ilerlemeleri ilerletebileceğine inanıyoruz. Ayrıca, beyin dokusunun özelliklerini taklit ederek ve basit dağıtılmış sistemlerin karmaşık bilgi akışlarını nasıl işlediğini öğrenerek makine öğrenimi ve sinirbilim topluluğunu ilerletmeyi umuyoruz. Bu nedenlerden dolayı, AI araştırmacıları ve sinirbilimciler arasındaki gelecekteki işbirliklerinin daha derin bir bilinç anlayışına yol açabileceği konusunda iyimseriz.
Çözümlenmemiş Takip:
Orijinal bağlantı