Взаємодіючи з великими мовними моделями (LLM), ми завжди відчуваємо, що вони насправді можуть бути свідомими. Однак, з точки зору нейробіологів, цієї точки зору, здається, важко дотримуватися.
У нещодавній статті, опублікованій у Trends in Neurosciences, піджурналі Cell, троє вчених з комп'ютерних наук, біології та нейронауки заглибилися в питання «Чи може штучний інтелект генерувати свідомість?».
Підсумовуючи, вони погоджуються, що LLM не можуть бути свідомими в їх нинішньому вигляді. Як з'явився такий категоричний погляд?
▷Джерело: Cell
LLM та свідомість
Довгий час ставилося питання про те, які тварини є свідомими, а які істоти є свідомими, крім тварин. Нещодавня поява LLM принесла абсолютно новий погляд на проблему. Вона показує нам нашу здатність до спілкування (прояв людської свідомості) і змушує нас переосмислити три поняття «розуміння», «інтелект» і «свідомість».
LLM — це складні багатошарові штучні нейронні мережі з мільярдами ваг зв'язку, навчені на десятках мільярдів слів текстових даних, включаючи розмови природною мовою між людьми. Ставлячи запитання за допомогою тексту, користувач потрапляє в захоплюючий змодельований контекст. Якщо ви готові витратити час на використання цих систем, важко не бути враженим глибиною та якістю мережі. Задайте йому питання, і його відповідь часто буде тонко схожа на ту, яку може видати свідома людина. Тому, як прониклива, свідома особистість, легко зробити висновок, що відповіді, які я отримую, генеруються людиною, яка також є «свідомою» і здатною думати, відчувати, міркувати і переживати. **
Виходячи з результатів таких «тестів Тюрінга», ми не можемо не задатися питанням, чи є LLM вже свідомими, або вони скоро стануть свідомими? Однак це питання, в свою чергу, призведе до ряду етичних дилем, наприклад, чи етично продовжувати розвивати LLM, які постійно знаходяться на межі пробудження «свідомості»? Ідея про те, що LLM є «свідомими», сьогодні не є загальноприйнятою в спільноті нейронаук, але оскільки можливості систем штучного інтелекту продовжують удосконалюватися, обговорення цієї ідеї неминуче повертається на перший план. Крім того, провідні засоби масової інформації також широко обговорюють це питання, що спонукає нейробіологів об'єктивно інтерпретувати проблему з власної професійної точки зору.
Ідея про те, що LLM потенційно свідомі, часто підтримується важливим аргументом про те, що архітектура LLM значною мірою натхненна характеристиками мозку (рис. 1), і що мозок є єдиним об'єктом, який ми можемо впевнено віднести до «свідомих» на даний момент. У той час як ранні штучні нейронні мережі були розроблені на основі спрощених версій кори головного мозку, сучасні LLM високо сконструйовані та адаптовані для конкретних цілей і більше не зберігають глибоку гомологію відомих структур мозку. Насправді, багато функцій шляху, які роблять LLM обчислювально потужними (рис. 1), мають дуже відмінну архітектуру від систем, які, на нашу думку, мають причинно-наслідковий зв'язок у генерації та формуванні свідомості у ссавців. Наприклад, багато теорій нейронауки, пов'язаних з генерацією свідомості, припускають, що таламо-кортикальна система і система збудження відіграють центральну роль в обробці свідомості, які недоступні в сучасних LLM.
Рисунок 1: Макроскопічні топологічні відмінності між мозком ссавців і великими мовними моделями Джерело: Trends in Neurosciences
У цей момент можна запитати, чи так важливо, щоб архітектура LLM імітувала характеристики мозку?
На нашу думку, основна причина полягає в тому, що ми можемо бути впевнені лише в існуванні однієї свідомості на даний момент, яка походить від мозку, закладеного в складному тілі. Можна стверджувати, що, строго кажучи, цей аргумент можна ще більше звузити до людей, хоча багато рис системного рівня, які, як вважається, відіграють важливу роль у суб'єктивній свідомості, поширені в усьому біологічному спектрі, поширюючись аж до ссавців, навіть безхребетних.
З огляду на сказане, почнемо спочатку з точного значення слова «свідомість». Потім ми представимо три аргументи проти ідеї про те, що нинішні системи штучного інтелекту мають або скоро матимуть свідомість у майбутньому:
**1. Свідомість пов'язана з потоком відчуттів, значущих для організму **.
2. У головному мозку ссавців свідомість підтримується тісно пов'язаною між собою таламо-кортикальною системою.
**3. Свідомість може бути невіддільна від складної біологічної організації біологічних систем. **
Що таке свідомість?
Свідомість - поняття складне, і його визначення є предметом дискусій. У контексті здатності людей спілкуватися та взаємодіяти один з одним, здатність до спілкування та діалогу є інстинктивним елементом для оцінки того, чи має людина свідомість.
Мовні інтерактивні бесіди з LLM часто розвивають інтуїтивне відчуття, яке є відправною точкою для оцінки того, чи є LLM свідомим. Однак, незважаючи на те, що LLM чудово справляються з інтерактивними розмовами, це не відповідає формальній об'єктивній мірі свідомості, а є лише попереднім свідченням інтелекту. **
Поява LLM змусила нас переоцінити, чи здатна людина генерувати свідомість безпосередньо з вербальної взаємодії з іншими. Тому нова точка зору полягає в тому, що нам потрібно переформулювати критерії оцінки людиноподібних здібностей і людиноподібних характеристик.
Слово «свідомість» часто має різні значення. Наприклад, неврологи часто посилаються на «рівень свідомості», який є першою оцінкою того, чи є людина у свідомості, а потім рівнем або конкретним станом свідомості більш детальним чином. Психологи ж більше стурбовані змістом свідомості: конкретними переживаннями, спогадами і думками внутрішнього світу індивіда. Крім того, існують відмінності між різними змістами свідомості. Наш досвід можна описати як феноменальний або експериментальний (наприклад, коли ми бачимо або нюхаємо яблуко, або торкаємося своєї руки) або в більш абстрактній формі (наприклад, як ми уявляємо, уявляємо або маніпулюємо концептуальною пам'яттю).
На питання про те, чи є система штучного інтелекту свідомою, можна відповісти кількома способами: вона може фокусуватися на деяких значеннях свідомості, а може фокусуватися на всіх значеннях свідомості одночасно. Далі ми зосередимося насамперед на феноменальному усвідомленні та дослідимо, чи здатні машини феноменально сприймати світ.
Про навколишнє середовище
Частина організму, яка може бути використана в процесі сприйняття навколишнього світу, називається його оточенням. Наприклад, сітківка ока людини реагує на світло довжинами хвиль 380 нм – 740 нм, тобто сітківка здатна сприймати спектр від синього до червоного. Без допомоги зовнішніх технологій люди не можуть виявити інфрачервоне світло (>740 нм) або ультрафіолетове світло (< 380 нм) за межами цього діапазону довжин хвиль. Ми також маємо схоже середовище з точки зору слуху, соматосенсорного та вестибулярного відчуття, а саме відповідних слухових доменів (людське вухо може чути звуки з частотою від 20 Гц до 20 000 Гц), соматосенсорних доменів (люди можуть розрізняти стимули в межах приблизно 1 мм від певних частин тіла) та вестибулярного домену (взаємопов'язані 3D-структури півколових каналів людини забезпечують нам внутрішнє відчуття рівноваги). У той же час інші види в природі здатні виявляти сигнали в інших діапазонах електромагнітного спектра. Наприклад, бджоли можуть бачити світло в ультрафіолетовому діапазоні, а змії можуть виявляти сигнали інфрачервоного випромінювання на додаток до більш традиційних візуальних сигналів.
Тобто різні тварини мають різну чутливість, з якою їхнє тіло та мозок здатні сприймати навколишнє середовище. Гібсон, американський психолог, називає можливість дії організму в певному середовищі «доступністю» (з проникненням інтернет-технологій доступність стала використовуватися для пояснення використання цифрових технологій в медійних практиках і повсякденних взаємодіях людини). **
Відповідно до характеру розробки алгоритмів, LLM мають тільки двійкові шаблони кодування, можуть отримувати тільки двійкову інформацію, що вводиться, і в подальшому виконувати мережеві алгоритми, властиві складним трансформаторним структурам, які складають робочу архітектуру сучасних LLM. У той час як нейронні шипи також здатні кодувати вхідні аналогові сигнали в цифрові сигнали (тобто двійкові сигнали), потік інформації, що доставляється в LLM, дуже абстрактний і не має ніякого сильного зв'язку з самим зовнішнім світом. Текст і мова, закодовані у вигляді рядка букв, просто не можуть відповідати динамічній складності природного світу, тобто середовище LLM (бінарна інформація, що надається йому) принципово відрізняється від інформації, яка надходить в наш мозок, коли ми відкриваємо очі або спілкуємося з розмовами, і досвіду, який з цим пов'язаний. Традиційний філософський дискурс наголошує на унікальності потоку інформації між різними видами (наприклад, різниця між людьми та кажанами) та феноменологічних характеристиках цих переживань. Ми вважаємо, що інформація, отримана LLM, може демонструвати більш значні відмінності, хоча на даний момент не існує остаточного способу кількісної оцінки цієї різниці.
З огляду на це, внесок систем штучного інтелекту в майбутньому стане невблаганно багатшим. Майбутні LLM можуть бути оснащені різними типами входів, які можуть краще відповідати типам сигналів, до яких свідомі агенти можуть отримати доступ на щоденній основі (наприклад, статистика зі світу природи). Отже, чи буде доступне середовище систем штучного інтелекту в майбутньому ширшим, ніж людське?
Відповідаючи на це питання, ми повинні визнати, що людська підсвідомість і свідомий досвід визначаються не тільки чуттєвим входом. Наприклад, уявіть, що коли ми лежимо в понтоні, ми все ще перебуваємо у свідомості, незважаючи на відсутність у нас нормального сенсорного досвіду. Тут підкреслюється концепція, що навколишнє середовище передбачає притаманну йому суб'єктивну перспективу, тобто відштовхуватися від суб'єкта. Аналогічно, аффорфорність залежить від внутрішньої природи суб'єкта, зокрема від мотивації та цілей суб'єкта. Це означає, що свідомість не може бути породжена тільки навколишнім середовищем (вхідними даними ЛЛМ). Таким чином, просте введення великого потоку даних у систему штучного інтелекту не робить саму систему штучного інтелекту свідомою. **
Ця перспектива може спонукати нас переосмислити деякі з основних припущень науки про свідомість. Зокрема, у міру того, як системи штучного інтелекту поступово демонструють все більш складні можливості, дослідникам доведеться переоцінити необхідність більш фундаментальних процесів, пов'язаних з собою та агентами, запропонованих певними теоріями свідомості, для виникнення свідомості.
**"Інтеграція" свідомості **
В даний час проведено безліч досліджень нейронної кореляції свідомості, серед яких існує безліч різних теорій про нейронні ланцюги обробки свідомості. Деякі підкреслюють, що свідомість підкріплена щільною, сильно пов'язаною таламо-кортикальною мережею. ** Таламо-кортикальна мережа включає кортикальні області, кортикально-кортикальні з'єднання та дивергентні проекції вищих ядер таламуса на кортикальні області. Ця специфічна структура таламо-кортикальної системи підтримує кровообіг і складну обробку думок, що лежить в основі свідомості та інтеграції свідомості (тобто свідомість уніфікована, незважаючи на те, що свідомість виникає з різних областей мозку). Однак різні теорії дотримуються різних поглядів на шлях досягнення інтеграції свідомості.
Відповідно до глобальної теорії нейронного робочого простору (GNW), свідомість спирається на центральний робочий простір, що складається з розподіленої системи лобно-тім'яної кори. Цей робочий простір інтегрує інформацію від локальних кортикальних процесорів, а потім передає її всім кортикальним локальним процесорам у глобальному масштабі, при цьому глобальна доставка розділяє свідомі та несвідомі процеси. Інші теорії свідомості стверджують, що інтеграція свідомості досягається іншими нейронними процесами. Наприклад, теорія дендритної інтеграції нейронів (DIT) припускає, що свідома інтеграція відбувається через феномен високочастотної синхронізації між різними кортикальними регіонами, який може включати різні функції, включаючи сприйняття, пізнання або моторне планування, залежно від залученої кортикальної області.
Рисунок 2: Нейронна структура інтеграції свідомості на основі теорії нейронної дендритної інтеграції (DIT) Джерело: Trends in Neurosciences
*Підпис: У теорії DIT (рис. 2) дослідники вважають, що глобальна свідома інтеграція також залежить від локальної інтеграції пірамідних нейронів у п'ятому шарі кори, великому збудливому нейроні, який є центральним як у таламо-кортикальному, так і в кортикальному ланцюгах. У цьому типі нейронів є дві основні структури (рис. 2, помаранчевий і червоний циліндри), які обробляють абсолютно різні типи інформації: базальна структура (червона) обробляє зовнішню основну інформацію, тоді як апікальна структура (помаранчева) обробляє інформацію, що генерується всередині. Відповідно до теорії DIT, у стані свідомості ці дві структури пов'язані одна з одною, дозволяючи інформації протікати через таламо-кортикальний та кортико-кортикальний ланцюги, таким чином забезпечуючи загальносистемну інтеграцію інформації та генерації свідомості. *
Важливо відзначити, що в архітектурах сучасних LLM та інших систем штучного інтелекту відсутні особливості, на яких наголошують ці теорії: існуючі LLM не мають ні еквівалентних біструктурних пірамідальних нейронів, ні централізованих таламічних архітектур, ні глобальних робочих просторів, ні множинних функцій систем висхідного збудження. Іншими словами, існуючим системам штучного інтелекту не вистачає функцій мозку, які, на думку нейронаукової спільноти, лежать в основі генерації свідомості. Хоча мозок ссавців не є єдиною структурою, здатною підтримувати вироблення свідомості, дані нейробіології свідчать про те, що формування свідомості ссавців визначається дуже специфічними структурними принципами (тобто простими зв'язками між інтегрованими та збудженими нейронами). Топологічно структура існуючих систем штучного інтелекту надзвичайно проста, що є однією з причин, чому ми не вважаємо існуючі системи штучного інтелекту феноменально обізнаними.
Отже, чи зможуть майбутні моделі штучного інтелекту нарешті інтегрувати процес «інтеграції», який багато теорій свідомості вважають ядром? У відповідь на цю проблему концепція «інтеграції», запропонована теорією ГНВ, забезпечує відносно простий спосіб її реалізації. Насправді, деякі нещодавні системи штучного інтелекту були включені в щось на кшталт глобального робочого простору, що використовується локальним процесором. Оскільки обчислювальний процес глобальної передачі може бути реалізований у системі штучного інтелекту, відповідно до цієї теорії, система штучного інтелекту, яка використовує цей обчислювальний метод, міститиме основні компоненти латентної свідомості.
Однак, як згадувалося раніше, не всі теорії свідомості сходяться на думці, що цей спосіб інтеграції є ключем до зародження свідомості. Наприклад, інтегрована інформаційна теорія свідомості стверджує, що програмні системи штучного інтелекту, реалізовані на типовому сучасному комп'ютері, не можуть бути свідомими, оскільки сучасні комп'ютери не мають належної архітектури для досягнення можливостей причинно-наслідкових міркувань, необхідних для повної інтеграції інформації. Тому ми розглянемо третю можливість, яка полягає в тому, що свідомість в принципі досяжна, але, можливо, їй доведеться вийти за рамки нинішнього (і, можливо, майбутнього) рівня обчислювальної специфіки систем штучного інтелекту. **
Свідомість – це складний біологічний процес
Генерація свідомості залежить не тільки від архітектури системи. Наприклад, коли ми перебуваємо в глибокому сні або наркозі, структура таламо-кортикальної системи не змінюється, але свідомість пропадає. Навіть під час глибокого сну місцеві нейронні реакції та активність гамма-поясу в основних сенсорних зонах подібні до таких у свідомому стані. Це говорить про те, що свідомість спирається на певні нейронні процеси, але ці нейронні процеси відрізняються у свідомому і несвідомому мозку. **
Щоб пролити світло на детальні відмінності між свідомою та несвідомою обробкою, давайте спочатку повернемося до теорії дендритної інтеграції нейронів (DIT). Теорія DIT містить ряд нейробіологічних нюансів, пов'язаних з нейронними процесами, які свідомо і несвідомо обробляються. Теорія DIT припускає, що ключова відмінність між свідомою і несвідомою обробкою полягає в інтеграції двох компартмент-структур пірамідних клітин (рис. 2). Як вже говорилося раніше, при свідомій обробці ці дві структури взаємодіють один з одним, дозволяючи всій таламо-кортикальній системі обробляти і інтегрувати складну інформацію. Однак в анестезіологічному стані різні анестетики призводять до функціонального розв'язування двох структур нейронів хребців. Іншими словами, хоча ці хребетні нейрони анатомічно інтактні і можуть збуджувати потенціали дії, їх здатність до дендритної інтеграції сильно обмежена фізіологічно, т. Е. Зворотний зв'язок зверху вниз не може впливати на обробку. Дослідження показали, що цей дендритний зв'язок контролюється метаботропними рецепторами, однак ця структура часто не береться до уваги в обчислювальних моделях і штучних нейронних мережах. Крім того, дослідження показали, що в цьому випадку вищі ядра таламуса контролюють активність цього метаботропного рецептора. Таким чином, специфічні нейробіологічні процеси можуть бути відповідальними за «включення» і «вимкнення» свідомості в мозку. Це говорить про те, що якість досвіду в мозку ссавців має складний зв'язок з основними процесами, які виробляють свідомість. **
Хоча ці теорії досить переконливі, майже напевно це знання тьмяніє в порівнянні зі складністю нейронних процесів, які виникають при повному розумінні свідомості. Наші поточні пояснення свідомості спираються на такі теорії, як глобальні робочі простори, інтегрована інформація, кругова обробка, дендритна інтеграція і т.д., але біологічні процеси, за допомогою яких виникає справжня свідомість, можуть бути набагато складнішими, ніж зараз розуміють ці теорії. Цілком можливо навіть, що абстрактні ідеї обчислювального рівня, які в даний час використовуються для побудови дискусії про дослідження свідомості, могли повністю не враховувати необхідні обчислювальні деталі, необхідні для пояснення свідомості.
Іншими словами, біологія складна, і наше нинішнє розуміння біокомп'ютингу обмежене (рис. 3), тому, можливо, нам не вистачає правильних математичних та експериментальних інструментів для розуміння свідомості. **
Рисунок 2: Нейронна структура інтеграції свідомості на основі теорії нейронної дендритної інтеграції (DIT) Джерело: Trends in Neurosciences
*Підпис: У теорії DIT (рис. 2) дослідники вважають, що глобальна свідома інтеграція також залежить від локальної інтеграції пірамідних нейронів у п'ятому шарі кори, великому збудливому нейроні, який є центральним як у таламо-кортикальному, так і в кортикальному ланцюгах. У цьому типі нейронів є дві основні структури (рис. 2, помаранчевий і червоний циліндри), які обробляють абсолютно різні типи інформації: базальна структура (червона) обробляє зовнішню основну інформацію, тоді як апікальна структура (помаранчева) обробляє інформацію, що генерується всередині. Відповідно до теорії DIT, у стані свідомості ці дві структури пов'язані одна з одною, дозволяючи інформації протікати через таламо-кортикальний та кортико-кортикальний ланцюги, таким чином забезпечуючи загальносистемну інтеграцію інформації та генерації свідомості. *
Для того щоб краще зрозуміти біологічну складність, важливо підкреслити, що описані вище біологічні процеси на клітинному і системному рівнях повинні відбуватися в живому організмі і є нероздільними. Живі організми відрізняються від сучасних машин і алгоритмів штучного інтелекту тим, що здатні постійно підтримувати себе на різних рівнях обробки. Крім того, живі системи мають багатогранну історію еволюції та розвитку, і їх існування залежить від їх діяльності на різних організаційних рівнях. Свідомість тісно пов'язана з організацією живих систем. Варто, однак, відзначити, що сучасні комп'ютери не здатні втілити цю організаційну складність живих систем (тобто взаємодію між різними рівнями системи). Це говорить про те, що сучасні алгоритми штучного інтелекту не мають жодних обмежень організаційного рівня і не можуть працювати так само ефективно, як жива система. Це означає, що поки штучний інтелект заснований на програмному забезпеченні, він може бути непридатним для того, щоб бути свідомим і розумним. **
Поняття біологічної складності може бути виражено і на клітинному рівні. Біологічний нейрон – це не просто абстрактна сутність, яку можна повністю охопити за допомогою кількох рядків коду. На відміну від них, біологічні нейрони мають багатошарову організацію і спираються на подальші каскади складних біофізичних процесів всередині нейронів. Візьмемо, наприклад, «цикл Кребса», який є основою клітинного дихання і є ключовим процесом підтримки клітинного гомеостазу. Клітинне дихання є важливим біологічним процесом, який дозволяє клітинам перетворювати енергію, що зберігається в органічних молекулах, у форму енергії, яку клітини можуть використовувати. Однак цей процес не може бути «стиснутий» у програмне забезпечення, оскільки біофізичні процеси, такі як клітинне дихання, повинні бути засновані на реальних фізичних молекулах. Звичайно, це не означає, що свідомості потрібен «цикл Кребса», а скоріше підкреслює, що подібні проблеми можуть бути задіяні в процесі розуміння свідомості, тобто, можливо, свідомість не може бути відірвана від основного механізму. **
Однак ми не повністю згодні з твердженням, що свідомість взагалі не може бути породжена інтелектуальними системами, але ми повинні враховувати кореляцію між свідомістю і складною біологічною організацією, що стоїть за життям, і типи обчислень, які відображають природу свідомості, можуть бути набагато складнішими, ніж розуміють наші сучасні теорії (рис. 3). Провести «біопсію» свідомості і витягти її з тканини практично неможливо. Ця точка зору суперечить багатьом сучасним теоріям про свідомість, які стверджують, що свідомість може виникнути на абстрактному обчислювальному рівні. Тепер це припущення необхідно оновити у світлі сучасних систем штучного інтелекту: щоб повністю зрозуміти свідомість, ми не можемо ігнорувати міжмасштабну взаємозалежність та організаційну складність, що спостерігається в живих системах. **
Хоча системи штучного інтелекту імітують свої біологічні аналоги на рівні мережевих обчислень, у цих системах усі інші рівні біологічних процесів абстраговані від процесів, які мають тісний причинно-наслідковий зв'язок зі свідомістю в мозку, тому існуючі системи штучного інтелекту можуть абстрагувати саму свідомість. В результаті, LLM і майбутні системи штучного інтелекту можуть опинитися в пастці нескінченного потоку змодельованих функцій свідомості, але без будь-якої феноменальної свідомості, про яку можна було б говорити. Якщо свідомість дійсно пов'язана з цими іншими рівнями обробки або з їх взаємодією між різними масштабами, то ми далекі від можливості машини, що породжує свідомість.
Підсумок
Тут ми досліджуємо можливість свідомості в LLM та майбутніх системах штучного інтелекту з нейронаукової точки зору. Якими б привабливими не були LLM, вони не є свідомими і не будуть свідомими протягом коротшого періоду часу в майбутньому.
По-перше, ми ілюструємо величезну різницю між середовищем ссавців («невелика частина» зовнішнього світу, який вони можуть сприймати) і дуже збіднілим і обмеженим середовищем LLM. По-друге, ми стверджуємо, що топологія LLM, хоча і дуже складна, емпірично дуже відрізняється від нейробіологічних деталей ланцюгів, пов'язаних зі свідомістю ссавців, і тому немає вагомих підстав вважати, що LLM здатні генерувати феноменальну свідомість (рис. 1). Абстрагувати свідомість від складності біологічної організації, яка притаманна живим системам, але якої, очевидно, немає в системах ШІ, поки не представляється можливим. Загалом, вищезазначені три ключові моменти унеможливлюють свідомість LLM у їх нинішній формі. Вони імітують лише характеристики людського природно-мовного спілкування, що використовується для опису багатства свідомого досвіду.
Завдяки цій статті ми сподіваємося, що наведені аргументи матимуть певний позитивний вплив і рефлексію (див. Невирішені питання), а не просто представлятимуть заперечення. По-перше, поточні потенційні етичні занепокоєння щодо передбачуваної здатності LLM є скоріше гіпотетичними, ніж реальними. Крім того, ми вважаємо, що більш глибоке розуміння подібностей і відмінностей між LLM і топологіями мозку ссавців може просунути прогрес у машинному навчанні та нейробіології. Ми також сподіваємося просунути спільноту машинного навчання та нейронауки, імітуючи характеристики мозкової тканини та вивчаючи, як прості розподілені системи обробляють складні інформаційні потоки. З цих причин ми оптимістично налаштовані щодо того, що майбутня співпраця між дослідниками штучного інтелекту та нейробіологами може призвести до глибшого розуміння свідомості.
Невирішені подальші дії:
Оцінка обізнаності в LLM та ШІ часто покладається на мовні тести для виявлення свідомості. Чи можна оцінити свідомість, ґрунтуючись виключно на мові (тобто тексті), і чи існують додаткові оціночні ознаки, які можуть допомогти визначити, чи є штучна система свідомою?
Нервова основа свідомості ссавців пов'язана з таламо-кортикальною системою. Як таламо-кортикальна система може бути реалізована в ШІ? Які конкретні функції та завдання виграють від таламо-кортикальної системи?
Система висхідного збудження також відіграє вирішальну роль у формуванні свідомості в організмах, і вона відіграє складну та багатогранну роль у формуванні нейродинаміки. До якої міри штучний інтелект повинен імітувати ці різні процеси, щоб скористатися обчислювальними перевагами зростаючої системи пробудження?
Крім таламо-кортикальної системи, дендрити відіграють ключову роль у деяких теоріях свідомості, розглянутих у цій статті. Чи є дендрити лише одним із факторів, що підвищує обчислювальну складність/ефективність біологічних нейронних мереж, чи це щось більше?
Чи пов'язана організаційна складність живих систем зі свідомістю? Живі системи складаються з різних рівнів процесів обробки, які взаємодіють один з одним. Чи можна більш детально пояснити організаційну складність живих систем? Чи потрібні нові математичні рамки для роботи з такими системами, щоб пролити більше світла на біологічні процеси, за допомогою яких виникає свідомість?
Деякі теорії припускають, що свідомість і свобода волі нерозривно пов'язані. Щоб зрозуміти, як свідомість виникає в результаті біологічної активності, чи потрібно спочатку зрозуміти свободу волі?
Оригінальне посилання
Ару, Дж., Ларкум, М.Е. та Шайн, Дж.М. (2023b) «Здійсненність штучної свідомості через призму нейронауки», Тенденції в нейронауках [Preprint] . DOI:10.1016/j.tins.2023.09.009.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Піджурнал Cell критично опублікував, що штучний інтелект навряд чи генеруватиме свідомість у короткостроковій перспективі
Першоджерело: NextQuestion
Взаємодіючи з великими мовними моделями (LLM), ми завжди відчуваємо, що вони насправді можуть бути свідомими. Однак, з точки зору нейробіологів, цієї точки зору, здається, важко дотримуватися.
У нещодавній статті, опублікованій у Trends in Neurosciences, піджурналі Cell, троє вчених з комп'ютерних наук, біології та нейронауки заглибилися в питання «Чи може штучний інтелект генерувати свідомість?».
Підсумовуючи, вони погоджуються, що LLM не можуть бути свідомими в їх нинішньому вигляді. Як з'явився такий категоричний погляд?
LLM та свідомість
Довгий час ставилося питання про те, які тварини є свідомими, а які істоти є свідомими, крім тварин. Нещодавня поява LLM принесла абсолютно новий погляд на проблему. Вона показує нам нашу здатність до спілкування (прояв людської свідомості) і змушує нас переосмислити три поняття «розуміння», «інтелект» і «свідомість».
LLM — це складні багатошарові штучні нейронні мережі з мільярдами ваг зв'язку, навчені на десятках мільярдів слів текстових даних, включаючи розмови природною мовою між людьми. Ставлячи запитання за допомогою тексту, користувач потрапляє в захоплюючий змодельований контекст. Якщо ви готові витратити час на використання цих систем, важко не бути враженим глибиною та якістю мережі. Задайте йому питання, і його відповідь часто буде тонко схожа на ту, яку може видати свідома людина. Тому, як прониклива, свідома особистість, легко зробити висновок, що відповіді, які я отримую, генеруються людиною, яка також є «свідомою» і здатною думати, відчувати, міркувати і переживати. **
Виходячи з результатів таких «тестів Тюрінга», ми не можемо не задатися питанням, чи є LLM вже свідомими, або вони скоро стануть свідомими? Однак це питання, в свою чергу, призведе до ряду етичних дилем, наприклад, чи етично продовжувати розвивати LLM, які постійно знаходяться на межі пробудження «свідомості»? Ідея про те, що LLM є «свідомими», сьогодні не є загальноприйнятою в спільноті нейронаук, але оскільки можливості систем штучного інтелекту продовжують удосконалюватися, обговорення цієї ідеї неминуче повертається на перший план. Крім того, провідні засоби масової інформації також широко обговорюють це питання, що спонукає нейробіологів об'єктивно інтерпретувати проблему з власної професійної точки зору.
Ідея про те, що LLM потенційно свідомі, часто підтримується важливим аргументом про те, що архітектура LLM значною мірою натхненна характеристиками мозку (рис. 1), і що мозок є єдиним об'єктом, який ми можемо впевнено віднести до «свідомих» на даний момент. У той час як ранні штучні нейронні мережі були розроблені на основі спрощених версій кори головного мозку, сучасні LLM високо сконструйовані та адаптовані для конкретних цілей і більше не зберігають глибоку гомологію відомих структур мозку. Насправді, багато функцій шляху, які роблять LLM обчислювально потужними (рис. 1), мають дуже відмінну архітектуру від систем, які, на нашу думку, мають причинно-наслідковий зв'язок у генерації та формуванні свідомості у ссавців. Наприклад, багато теорій нейронауки, пов'язаних з генерацією свідомості, припускають, що таламо-кортикальна система і система збудження відіграють центральну роль в обробці свідомості, які недоступні в сучасних LLM.
У цей момент можна запитати, чи так важливо, щоб архітектура LLM імітувала характеристики мозку?
На нашу думку, основна причина полягає в тому, що ми можемо бути впевнені лише в існуванні однієї свідомості на даний момент, яка походить від мозку, закладеного в складному тілі. Можна стверджувати, що, строго кажучи, цей аргумент можна ще більше звузити до людей, хоча багато рис системного рівня, які, як вважається, відіграють важливу роль у суб'єктивній свідомості, поширені в усьому біологічному спектрі, поширюючись аж до ссавців, навіть безхребетних.
З огляду на сказане, почнемо спочатку з точного значення слова «свідомість». Потім ми представимо три аргументи проти ідеї про те, що нинішні системи штучного інтелекту мають або скоро матимуть свідомість у майбутньому:
Що таке свідомість?
Свідомість - поняття складне, і його визначення є предметом дискусій. У контексті здатності людей спілкуватися та взаємодіяти один з одним, здатність до спілкування та діалогу є інстинктивним елементом для оцінки того, чи має людина свідомість.
Мовні інтерактивні бесіди з LLM часто розвивають інтуїтивне відчуття, яке є відправною точкою для оцінки того, чи є LLM свідомим. Однак, незважаючи на те, що LLM чудово справляються з інтерактивними розмовами, це не відповідає формальній об'єктивній мірі свідомості, а є лише попереднім свідченням інтелекту. **
Поява LLM змусила нас переоцінити, чи здатна людина генерувати свідомість безпосередньо з вербальної взаємодії з іншими. Тому нова точка зору полягає в тому, що нам потрібно переформулювати критерії оцінки людиноподібних здібностей і людиноподібних характеристик.
Слово «свідомість» часто має різні значення. Наприклад, неврологи часто посилаються на «рівень свідомості», який є першою оцінкою того, чи є людина у свідомості, а потім рівнем або конкретним станом свідомості більш детальним чином. Психологи ж більше стурбовані змістом свідомості: конкретними переживаннями, спогадами і думками внутрішнього світу індивіда. Крім того, існують відмінності між різними змістами свідомості. Наш досвід можна описати як феноменальний або експериментальний (наприклад, коли ми бачимо або нюхаємо яблуко, або торкаємося своєї руки) або в більш абстрактній формі (наприклад, як ми уявляємо, уявляємо або маніпулюємо концептуальною пам'яттю).
На питання про те, чи є система штучного інтелекту свідомою, можна відповісти кількома способами: вона може фокусуватися на деяких значеннях свідомості, а може фокусуватися на всіх значеннях свідомості одночасно. Далі ми зосередимося насамперед на феноменальному усвідомленні та дослідимо, чи здатні машини феноменально сприймати світ.
Про навколишнє середовище
Частина організму, яка може бути використана в процесі сприйняття навколишнього світу, називається його оточенням. Наприклад, сітківка ока людини реагує на світло довжинами хвиль 380 нм – 740 нм, тобто сітківка здатна сприймати спектр від синього до червоного. Без допомоги зовнішніх технологій люди не можуть виявити інфрачервоне світло (>740 нм) або ультрафіолетове світло (< 380 нм) за межами цього діапазону довжин хвиль. Ми також маємо схоже середовище з точки зору слуху, соматосенсорного та вестибулярного відчуття, а саме відповідних слухових доменів (людське вухо може чути звуки з частотою від 20 Гц до 20 000 Гц), соматосенсорних доменів (люди можуть розрізняти стимули в межах приблизно 1 мм від певних частин тіла) та вестибулярного домену (взаємопов'язані 3D-структури півколових каналів людини забезпечують нам внутрішнє відчуття рівноваги). У той же час інші види в природі здатні виявляти сигнали в інших діапазонах електромагнітного спектра. Наприклад, бджоли можуть бачити світло в ультрафіолетовому діапазоні, а змії можуть виявляти сигнали інфрачервоного випромінювання на додаток до більш традиційних візуальних сигналів.
Тобто різні тварини мають різну чутливість, з якою їхнє тіло та мозок здатні сприймати навколишнє середовище. Гібсон, американський психолог, називає можливість дії організму в певному середовищі «доступністю» (з проникненням інтернет-технологій доступність стала використовуватися для пояснення використання цифрових технологій в медійних практиках і повсякденних взаємодіях людини). **
Відповідно до характеру розробки алгоритмів, LLM мають тільки двійкові шаблони кодування, можуть отримувати тільки двійкову інформацію, що вводиться, і в подальшому виконувати мережеві алгоритми, властиві складним трансформаторним структурам, які складають робочу архітектуру сучасних LLM. У той час як нейронні шипи також здатні кодувати вхідні аналогові сигнали в цифрові сигнали (тобто двійкові сигнали), потік інформації, що доставляється в LLM, дуже абстрактний і не має ніякого сильного зв'язку з самим зовнішнім світом. Текст і мова, закодовані у вигляді рядка букв, просто не можуть відповідати динамічній складності природного світу, тобто середовище LLM (бінарна інформація, що надається йому) принципово відрізняється від інформації, яка надходить в наш мозок, коли ми відкриваємо очі або спілкуємося з розмовами, і досвіду, який з цим пов'язаний. Традиційний філософський дискурс наголошує на унікальності потоку інформації між різними видами (наприклад, різниця між людьми та кажанами) та феноменологічних характеристиках цих переживань. Ми вважаємо, що інформація, отримана LLM, може демонструвати більш значні відмінності, хоча на даний момент не існує остаточного способу кількісної оцінки цієї різниці.
З огляду на це, внесок систем штучного інтелекту в майбутньому стане невблаганно багатшим. Майбутні LLM можуть бути оснащені різними типами входів, які можуть краще відповідати типам сигналів, до яких свідомі агенти можуть отримати доступ на щоденній основі (наприклад, статистика зі світу природи). Отже, чи буде доступне середовище систем штучного інтелекту в майбутньому ширшим, ніж людське?
Відповідаючи на це питання, ми повинні визнати, що людська підсвідомість і свідомий досвід визначаються не тільки чуттєвим входом. Наприклад, уявіть, що коли ми лежимо в понтоні, ми все ще перебуваємо у свідомості, незважаючи на відсутність у нас нормального сенсорного досвіду. Тут підкреслюється концепція, що навколишнє середовище передбачає притаманну йому суб'єктивну перспективу, тобто відштовхуватися від суб'єкта. Аналогічно, аффорфорність залежить від внутрішньої природи суб'єкта, зокрема від мотивації та цілей суб'єкта. Це означає, що свідомість не може бути породжена тільки навколишнім середовищем (вхідними даними ЛЛМ). Таким чином, просте введення великого потоку даних у систему штучного інтелекту не робить саму систему штучного інтелекту свідомою. **
Ця перспектива може спонукати нас переосмислити деякі з основних припущень науки про свідомість. Зокрема, у міру того, як системи штучного інтелекту поступово демонструють все більш складні можливості, дослідникам доведеться переоцінити необхідність більш фундаментальних процесів, пов'язаних з собою та агентами, запропонованих певними теоріями свідомості, для виникнення свідомості.
**"Інтеграція" свідомості **
В даний час проведено безліч досліджень нейронної кореляції свідомості, серед яких існує безліч різних теорій про нейронні ланцюги обробки свідомості. Деякі підкреслюють, що свідомість підкріплена щільною, сильно пов'язаною таламо-кортикальною мережею. ** Таламо-кортикальна мережа включає кортикальні області, кортикально-кортикальні з'єднання та дивергентні проекції вищих ядер таламуса на кортикальні області. Ця специфічна структура таламо-кортикальної системи підтримує кровообіг і складну обробку думок, що лежить в основі свідомості та інтеграції свідомості (тобто свідомість уніфікована, незважаючи на те, що свідомість виникає з різних областей мозку). Однак різні теорії дотримуються різних поглядів на шлях досягнення інтеграції свідомості.
Відповідно до глобальної теорії нейронного робочого простору (GNW), свідомість спирається на центральний робочий простір, що складається з розподіленої системи лобно-тім'яної кори. Цей робочий простір інтегрує інформацію від локальних кортикальних процесорів, а потім передає її всім кортикальним локальним процесорам у глобальному масштабі, при цьому глобальна доставка розділяє свідомі та несвідомі процеси. Інші теорії свідомості стверджують, що інтеграція свідомості досягається іншими нейронними процесами. Наприклад, теорія дендритної інтеграції нейронів (DIT) припускає, що свідома інтеграція відбувається через феномен високочастотної синхронізації між різними кортикальними регіонами, який може включати різні функції, включаючи сприйняття, пізнання або моторне планування, залежно від залученої кортикальної області.
*Підпис: У теорії DIT (рис. 2) дослідники вважають, що глобальна свідома інтеграція також залежить від локальної інтеграції пірамідних нейронів у п'ятому шарі кори, великому збудливому нейроні, який є центральним як у таламо-кортикальному, так і в кортикальному ланцюгах. У цьому типі нейронів є дві основні структури (рис. 2, помаранчевий і червоний циліндри), які обробляють абсолютно різні типи інформації: базальна структура (червона) обробляє зовнішню основну інформацію, тоді як апікальна структура (помаранчева) обробляє інформацію, що генерується всередині. Відповідно до теорії DIT, у стані свідомості ці дві структури пов'язані одна з одною, дозволяючи інформації протікати через таламо-кортикальний та кортико-кортикальний ланцюги, таким чином забезпечуючи загальносистемну інтеграцію інформації та генерації свідомості. *
Важливо відзначити, що в архітектурах сучасних LLM та інших систем штучного інтелекту відсутні особливості, на яких наголошують ці теорії: існуючі LLM не мають ні еквівалентних біструктурних пірамідальних нейронів, ні централізованих таламічних архітектур, ні глобальних робочих просторів, ні множинних функцій систем висхідного збудження. Іншими словами, існуючим системам штучного інтелекту не вистачає функцій мозку, які, на думку нейронаукової спільноти, лежать в основі генерації свідомості. Хоча мозок ссавців не є єдиною структурою, здатною підтримувати вироблення свідомості, дані нейробіології свідчать про те, що формування свідомості ссавців визначається дуже специфічними структурними принципами (тобто простими зв'язками між інтегрованими та збудженими нейронами). Топологічно структура існуючих систем штучного інтелекту надзвичайно проста, що є однією з причин, чому ми не вважаємо існуючі системи штучного інтелекту феноменально обізнаними.
Отже, чи зможуть майбутні моделі штучного інтелекту нарешті інтегрувати процес «інтеграції», який багато теорій свідомості вважають ядром? У відповідь на цю проблему концепція «інтеграції», запропонована теорією ГНВ, забезпечує відносно простий спосіб її реалізації. Насправді, деякі нещодавні системи штучного інтелекту були включені в щось на кшталт глобального робочого простору, що використовується локальним процесором. Оскільки обчислювальний процес глобальної передачі може бути реалізований у системі штучного інтелекту, відповідно до цієї теорії, система штучного інтелекту, яка використовує цей обчислювальний метод, міститиме основні компоненти латентної свідомості.
Однак, як згадувалося раніше, не всі теорії свідомості сходяться на думці, що цей спосіб інтеграції є ключем до зародження свідомості. Наприклад, інтегрована інформаційна теорія свідомості стверджує, що програмні системи штучного інтелекту, реалізовані на типовому сучасному комп'ютері, не можуть бути свідомими, оскільки сучасні комп'ютери не мають належної архітектури для досягнення можливостей причинно-наслідкових міркувань, необхідних для повної інтеграції інформації. Тому ми розглянемо третю можливість, яка полягає в тому, що свідомість в принципі досяжна, але, можливо, їй доведеться вийти за рамки нинішнього (і, можливо, майбутнього) рівня обчислювальної специфіки систем штучного інтелекту. **
Свідомість – це складний біологічний процес
Генерація свідомості залежить не тільки від архітектури системи. Наприклад, коли ми перебуваємо в глибокому сні або наркозі, структура таламо-кортикальної системи не змінюється, але свідомість пропадає. Навіть під час глибокого сну місцеві нейронні реакції та активність гамма-поясу в основних сенсорних зонах подібні до таких у свідомому стані. Це говорить про те, що свідомість спирається на певні нейронні процеси, але ці нейронні процеси відрізняються у свідомому і несвідомому мозку. **
Щоб пролити світло на детальні відмінності між свідомою та несвідомою обробкою, давайте спочатку повернемося до теорії дендритної інтеграції нейронів (DIT). Теорія DIT містить ряд нейробіологічних нюансів, пов'язаних з нейронними процесами, які свідомо і несвідомо обробляються. Теорія DIT припускає, що ключова відмінність між свідомою і несвідомою обробкою полягає в інтеграції двох компартмент-структур пірамідних клітин (рис. 2). Як вже говорилося раніше, при свідомій обробці ці дві структури взаємодіють один з одним, дозволяючи всій таламо-кортикальній системі обробляти і інтегрувати складну інформацію. Однак в анестезіологічному стані різні анестетики призводять до функціонального розв'язування двох структур нейронів хребців. Іншими словами, хоча ці хребетні нейрони анатомічно інтактні і можуть збуджувати потенціали дії, їх здатність до дендритної інтеграції сильно обмежена фізіологічно, т. Е. Зворотний зв'язок зверху вниз не може впливати на обробку. Дослідження показали, що цей дендритний зв'язок контролюється метаботропними рецепторами, однак ця структура часто не береться до уваги в обчислювальних моделях і штучних нейронних мережах. Крім того, дослідження показали, що в цьому випадку вищі ядра таламуса контролюють активність цього метаботропного рецептора. Таким чином, специфічні нейробіологічні процеси можуть бути відповідальними за «включення» і «вимкнення» свідомості в мозку. Це говорить про те, що якість досвіду в мозку ссавців має складний зв'язок з основними процесами, які виробляють свідомість. **
Хоча ці теорії досить переконливі, майже напевно це знання тьмяніє в порівнянні зі складністю нейронних процесів, які виникають при повному розумінні свідомості. Наші поточні пояснення свідомості спираються на такі теорії, як глобальні робочі простори, інтегрована інформація, кругова обробка, дендритна інтеграція і т.д., але біологічні процеси, за допомогою яких виникає справжня свідомість, можуть бути набагато складнішими, ніж зараз розуміють ці теорії. Цілком можливо навіть, що абстрактні ідеї обчислювального рівня, які в даний час використовуються для побудови дискусії про дослідження свідомості, могли повністю не враховувати необхідні обчислювальні деталі, необхідні для пояснення свідомості.
Іншими словами, біологія складна, і наше нинішнє розуміння біокомп'ютингу обмежене (рис. 3), тому, можливо, нам не вистачає правильних математичних та експериментальних інструментів для розуміння свідомості. **
*Підпис: У теорії DIT (рис. 2) дослідники вважають, що глобальна свідома інтеграція також залежить від локальної інтеграції пірамідних нейронів у п'ятому шарі кори, великому збудливому нейроні, який є центральним як у таламо-кортикальному, так і в кортикальному ланцюгах. У цьому типі нейронів є дві основні структури (рис. 2, помаранчевий і червоний циліндри), які обробляють абсолютно різні типи інформації: базальна структура (червона) обробляє зовнішню основну інформацію, тоді як апікальна структура (помаранчева) обробляє інформацію, що генерується всередині. Відповідно до теорії DIT, у стані свідомості ці дві структури пов'язані одна з одною, дозволяючи інформації протікати через таламо-кортикальний та кортико-кортикальний ланцюги, таким чином забезпечуючи загальносистемну інтеграцію інформації та генерації свідомості. *
Для того щоб краще зрозуміти біологічну складність, важливо підкреслити, що описані вище біологічні процеси на клітинному і системному рівнях повинні відбуватися в живому організмі і є нероздільними. Живі організми відрізняються від сучасних машин і алгоритмів штучного інтелекту тим, що здатні постійно підтримувати себе на різних рівнях обробки. Крім того, живі системи мають багатогранну історію еволюції та розвитку, і їх існування залежить від їх діяльності на різних організаційних рівнях. Свідомість тісно пов'язана з організацією живих систем. Варто, однак, відзначити, що сучасні комп'ютери не здатні втілити цю організаційну складність живих систем (тобто взаємодію між різними рівнями системи). Це говорить про те, що сучасні алгоритми штучного інтелекту не мають жодних обмежень організаційного рівня і не можуть працювати так само ефективно, як жива система. Це означає, що поки штучний інтелект заснований на програмному забезпеченні, він може бути непридатним для того, щоб бути свідомим і розумним. **
Поняття біологічної складності може бути виражено і на клітинному рівні. Біологічний нейрон – це не просто абстрактна сутність, яку можна повністю охопити за допомогою кількох рядків коду. На відміну від них, біологічні нейрони мають багатошарову організацію і спираються на подальші каскади складних біофізичних процесів всередині нейронів. Візьмемо, наприклад, «цикл Кребса», який є основою клітинного дихання і є ключовим процесом підтримки клітинного гомеостазу. Клітинне дихання є важливим біологічним процесом, який дозволяє клітинам перетворювати енергію, що зберігається в органічних молекулах, у форму енергії, яку клітини можуть використовувати. Однак цей процес не може бути «стиснутий» у програмне забезпечення, оскільки біофізичні процеси, такі як клітинне дихання, повинні бути засновані на реальних фізичних молекулах. Звичайно, це не означає, що свідомості потрібен «цикл Кребса», а скоріше підкреслює, що подібні проблеми можуть бути задіяні в процесі розуміння свідомості, тобто, можливо, свідомість не може бути відірвана від основного механізму. **
Однак ми не повністю згодні з твердженням, що свідомість взагалі не може бути породжена інтелектуальними системами, але ми повинні враховувати кореляцію між свідомістю і складною біологічною організацією, що стоїть за життям, і типи обчислень, які відображають природу свідомості, можуть бути набагато складнішими, ніж розуміють наші сучасні теорії (рис. 3). Провести «біопсію» свідомості і витягти її з тканини практично неможливо. Ця точка зору суперечить багатьом сучасним теоріям про свідомість, які стверджують, що свідомість може виникнути на абстрактному обчислювальному рівні. Тепер це припущення необхідно оновити у світлі сучасних систем штучного інтелекту: щоб повністю зрозуміти свідомість, ми не можемо ігнорувати міжмасштабну взаємозалежність та організаційну складність, що спостерігається в живих системах. **
Хоча системи штучного інтелекту імітують свої біологічні аналоги на рівні мережевих обчислень, у цих системах усі інші рівні біологічних процесів абстраговані від процесів, які мають тісний причинно-наслідковий зв'язок зі свідомістю в мозку, тому існуючі системи штучного інтелекту можуть абстрагувати саму свідомість. В результаті, LLM і майбутні системи штучного інтелекту можуть опинитися в пастці нескінченного потоку змодельованих функцій свідомості, але без будь-якої феноменальної свідомості, про яку можна було б говорити. Якщо свідомість дійсно пов'язана з цими іншими рівнями обробки або з їх взаємодією між різними масштабами, то ми далекі від можливості машини, що породжує свідомість.
Підсумок
Тут ми досліджуємо можливість свідомості в LLM та майбутніх системах штучного інтелекту з нейронаукової точки зору. Якими б привабливими не були LLM, вони не є свідомими і не будуть свідомими протягом коротшого періоду часу в майбутньому.
По-перше, ми ілюструємо величезну різницю між середовищем ссавців («невелика частина» зовнішнього світу, який вони можуть сприймати) і дуже збіднілим і обмеженим середовищем LLM. По-друге, ми стверджуємо, що топологія LLM, хоча і дуже складна, емпірично дуже відрізняється від нейробіологічних деталей ланцюгів, пов'язаних зі свідомістю ссавців, і тому немає вагомих підстав вважати, що LLM здатні генерувати феноменальну свідомість (рис. 1). Абстрагувати свідомість від складності біологічної організації, яка притаманна живим системам, але якої, очевидно, немає в системах ШІ, поки не представляється можливим. Загалом, вищезазначені три ключові моменти унеможливлюють свідомість LLM у їх нинішній формі. Вони імітують лише характеристики людського природно-мовного спілкування, що використовується для опису багатства свідомого досвіду.
Завдяки цій статті ми сподіваємося, що наведені аргументи матимуть певний позитивний вплив і рефлексію (див. Невирішені питання), а не просто представлятимуть заперечення. По-перше, поточні потенційні етичні занепокоєння щодо передбачуваної здатності LLM є скоріше гіпотетичними, ніж реальними. Крім того, ми вважаємо, що більш глибоке розуміння подібностей і відмінностей між LLM і топологіями мозку ссавців може просунути прогрес у машинному навчанні та нейробіології. Ми також сподіваємося просунути спільноту машинного навчання та нейронауки, імітуючи характеристики мозкової тканини та вивчаючи, як прості розподілені системи обробляють складні інформаційні потоки. З цих причин ми оптимістично налаштовані щодо того, що майбутня співпраця між дослідниками штучного інтелекту та нейробіологами може призвести до глибшого розуміння свідомості.
Невирішені подальші дії:
Оригінальне посилання