*Після вибуху застосування великих моделей природної мови багато авторитетів у технологічному колі висловили свої погляди на ШІ з різних точок зору. Нещодавно Юваль Харарі, відомий історик, філософ і автор «Короткої історії людства», отримав замовлення від The Economist, щоб поділитися своїми думками щодо ШІ. *
Продовжуючи свою думку в «Короткій історії людства», Харарі підкреслює, що мова є складовим елементом майже всіх людських культур. ШІ зі здатністю генерувати мову впливатиме на людське сприйняття світу через мову, «ШІ зламати операційну систему людської цивілізації». Він порівняв штучний інтелект з «ядерною зброєю» і закликав людей вжити негайних заходів для посилення заходів безпеки.Одна з пропозицій полягає в тому, щоб «обов’язково вимагати від штучного інтелекту розкривати, що він є штучним інтелектом». *
*Ми бачили виступи різних представників «студентів природничих наук» щодо штучного інтелекту, а вчені-гуманітарії детальніше описали, як штучний інтелект може впливати на політику, релігію та бізнес через мову. Він сміливо припустив, що в майбутньому люди можуть жити в ілюзії, створеній ШІ. «Metaverse Explosion» зібрав повний текст його статті. *
从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) Надзвичайна здатність людської цивілізації прорвалася крізь операційну систему. **
Мова є будівельним матеріалом майже всіх людських культур. Наприклад, права людини не вписані в людську ДНК, а культурні артефакти, які ми створюємо, розповідаючи історії та приймаючи закони; боги не існують фізично, але культурні артефакти ми створюємо, створюючи міфи та писаючи писання.
Валюта також є культурним артефактом. Банкноти - це не що інше, як різнокольорові папірці, і більше 90% грошей сьогодні - це навіть не паперові гроші, а цифрова інформація в комп'ютерах. Цінність валюти надають історії, які нам про неї розповідають банкіри, міністри фінансів і криптоексперти: засновник FTX Сем Бенкман-Фрід, фальшивий «аналіз крові на рак» Елізабет Холмс, провідна бізнес-леді світу, і Берні Медофф, ідея створення найбільшої схеми Понці в історії, обидва не дуже добре створюють реальну вартість, але вони обидва дуже добре розповідають історію.
А що, якби нелюди краще за звичайних людей розповідали історії, створювали мелодії, малювали зображення та писали закони та писання?
Коли люди думають про ChatGPT та інші нові інструменти ШІ, вони часто зосереджуються на прикладах учнів початкової та середньої школи, які використовують ШІ для написання есе. Що сталося б зі шкільною системою, якби діти це робили? Але такі запитання не мають суті. Забудьте про шкільні реферати, подумайте про наступні президентські вибори в США у 2024 році та спробуйте уявити, як інструменти ШІ можна використовувати для створення величезної кількості політичного контенту та фейкових новин.
Останніми роками прихильники «Anonymous Q» зібралися навколо анонімних викриттів, опублікованих в Інтернеті (Примітка редактора: «Anonymous Q» — це онлайн-місце зібрання різних теорій змови. Основна теорія змови полягає в тому, що всередині США існує змова державний уряд). Віруючі збирають і пропагують такі теорії змови і вважають їх бібліями. У минулому всі екстрені пости новин писали люди, а машини лише допомагали їх поширювати. Але в майбутньому ми можемо побачити перші в історії язичницькі релігії, писання яких були написані нелюдськими агентами. Протягом історії релігії стверджували, що їхні священні книги не походять від людини. Незабаром це може стати реальністю.
На більш повсякденному рівні ми незабаром можемо виявити, що думаємо, що ми сперечаємось онлайн із реальними людьми про аборти, зміну клімату чи російсько-український конфлікт, але інша сторона насправді є ШІ. Проблема полягає в тому, що немає сенсу витрачати час на те, щоб змінити сприйняття штучного інтелекту, який може уточнювати інформацію з такою точністю, що це може вплинути на наше сприйняття. **
**Опановуючи людську мову, штучний інтелект може навіть налагодити близькі стосунки з людьми та використовувати силу цих стосунків, щоб змінити наше сприйняття та світогляд. **Хоча немає жодних ознак того, що ШІ має власну свідомість чи почуття, для того, щоб штучний інтелект культивував фальшиву близькість з людиною, все, що йому потрібно, це щоб людина стала до нього емоційно прив’язаною.
У червні 2022 року інженер Google Блейк Лемуан публічно заявив, що штучний інтелект чат-бот LaMDA, над яким він працює, вже має розум. Ця суперечлива заява коштувала йому роботи. Найцікавішим у цьому є не твердження Лемуана (яке може бути неправдивим), а його готовність ризикнути втратою високооплачуваної роботи, щоб виправдати назву чат-бота ШІ. Якщо ШІ може змусити людей ризикувати своєю роботою заради нього, чи можливо спонукати людей робити щось інше?
У політичній боротьбі за завоювання сердець і розуму людей близькість є найефективнішою зброєю. І штучний інтелект щойно отримав здатність встановлювати інтимні стосунки з мільйонами людей.
Ми всі знаємо, що за останнє десятиліття соціальні мережі стали полем битви за увагу людей. З появою нового покоління штучного інтелекту лінія бою зміщується від уваги до інтимності. *Якщо зміниться людське суспільство та людська психологія, якщо існує конкуренція між штучним інтелектом і штучним інтелектом, хто може мати тісніші стосунки з людьми, а потім використовувати ці відносини, щоб переконати нас голосувати за певних політиків або купувати певні продукти? *
Навіть без створення «фальшивої близькості» нові інструменти ШІ можуть мати величезний вплив на наше сприйняття та світогляд. Люди можуть подумати про порадника зі штучного інтелекту як про всезнаючого бога, що працює в одному місці, тож не дивно, що Google запанікував. Якщо у вас є якісь запитання, ви можете запитати богів, навіщо вам шукати? Індустрії новин і реклами, природно, бояться, оскільки ви можете отримати останні новини, просто запитавши богів, навіщо вам читати газети? для чого?
І навіть якщо ці сценарії були задумані, вони все одно не змогли по-справжньому зрозуміти загальну ситуацію. Коли ми обговорюємо можливий кінець людської історії, ми говоримо не про кінець історії, а про кінець тієї частини історії, в якій домінують люди. Історія є продуктом взаємодії біології та культури, наших біологічних потреб і бажань (таких як їжа та секс) і культурних творінь (таких як релігія та закон). Історія — це поступовий процес, за допомогою якого закон і релігія впливають на харчування та секс.
Що станеться з ходом історії, коли штучний інтелект захопить культуру та почне створювати історії, мелодії, закони та релігію? Раніше такі інструменти, як друкарський верстат і радіо, сприяли поширенню людських культурних ідей, але вони ніколи не створювалися самі нова культурна концепція. ШІ принципово відрізняється від них. ** ШІ може створювати нові ідеї, нові культури. **
Спочатку початковий ШІ міг імітувати людей, які його навчили. Але з часом культура штучного інтелекту сміливо піде туди, куди раніше не заходила жодна людина. Тисячоліттями люди жили мріями інших людей. **У найближчі кілька десятиліть ми можемо виявитися мрією про нелюдських розумних агентів. **
Страх перед штучним інтелектом мучить людство лише останні кілька десятиліть. Але набагато глибший страх переслідував людство протягом тисячоліть. Ми завжди розуміли силу історій і образів для маніпулювання розумом і створення ілюзій. Тому з давніх часів люди боялися потрапити в пастку світу ілюзій.
У 17 столітті Декарт хвилювався, що він може потрапити в пастку демона у світ ілюзії, і все, що він бачив і чув, було створено цим демоном. Платон у Стародавній Греції розповів знамениту алегорію про печеру: група людей закута в печеру на все життя, а перед ними лише глуха стіна печери, як ширма. Ув'язнені могли бачити різноманітні тіні, які відкидає на стіни печери зовнішній світ, тому вони сприймали ці ілюзії як реальність.
У стародавній Індії буддійські та індуїстські мудреці вказували на те, що люди живуть у майї (світі ілюзій). Те, що ми зазвичай сприймаємо як реальність, часто є лише ілюзією в нашій свідомості. Люди можуть вести війни, вбивати інших і добровільно бути вбитими, тому що вірять у те чи інше бачення.
**Революція штучного інтелекту приносить нам Демона Декарта, Печеру Платона та Майю. **Якщо ми не будемо обережні, ми можемо опинитися в пастці за завісою ілюзії, не зможемо її розірвати або навіть усвідомити, що вона там.
Звичайно, нова потужність штучного інтелекту також може бути використана з користю. Я не збираюся вдаватися в подробиці, тому що люди, які розробляють ШІ, вже сказали достатньо. Робота таких істориків і філософів, як я, полягає в тому, щоб вказати на небезпеку ШІ. Але немає сумніву, що штучний інтелект може допомогти людям багатьма способами: від пошуку нових методів лікування раку до вирішення екологічних криз тощо. Питання, яке стоїть перед нами, полягає в тому, як забезпечити, щоб нові інструменти ШІ використовувалися на благо, а не на зло. Для цього нам спочатку потрібно розпізнати справжні можливості цих інструментів.
З 1945 року ми знаємо, що ядерна технологія може генерувати дешеву енергію на благо людства, але вона також може фізично знищити людську цивілізацію. Тож ми змінили весь міжнародний порядок, щоб захистити людство та забезпечити, щоб ядерні технології використовувалися в першу чергу на благо людства. **Тепер ми повинні мати справу з новим типом ЗМЗ, який може знищити наш духовний і соціальний світи. **
Ми все ще можемо керувати новими інструментами ШІ, але ми повинні діяти швидко. **Ядерна зброя не може винайти потужнішу ядерну зброю, але ШІ може створити експоненціально більш потужний ШІ. **
**Перший важливий крок — піддати потужні інструменти штучного інтелекту ретельній перевірці на безпеку, перш ніж вони стануть загальнодоступними. ** Подібно до того, як фармацевтичні компанії не можуть випускати нові ліки без тестування на короткострокові та довгострокові побічні ефекти, технологічні компанії не повинні випускати нові інструменти штучного інтелекту, не гарантуючи безпеки. Нам потрібні такі агентства, як Управління з контролю за продуктами й ліками США (FDA), щоб регулювати нові технології. Ці речі треба було зробити давно.
Чи не призведе уповільнення розгортання штучного інтелекту в публічній сфері до того, що демократії відстануть від більш безрозсудних авторитарних режимів? Нерегульоване розгортання штучного інтелекту створить соціальний хаос, який сприятиме підриву демократії диктаторами. **Демократія – це діалог, а діалог залежить від мови. Як тільки ШІ розшифрує мову, це може підірвати нашу здатність вести змістовні розмови, а отже, і демократію. **
Ми щойно зіткнулися з нелюдським розумом на Землі й знаємо про нього мало, за винятком того, що він може знищити людську цивілізацію. Ми повинні припинити безвідповідальне розгортання інструментів штучного інтелекту у відкритому доступі та контролювати ШІ, перш ніж він контролюватиме нас. І **моя перша регулятивна пропозиція полягає в тому, щоб зробити ШІ обов’язковим розкривати, що він є ШІ. Якщо я не можу визначити, розмовляю я з людиною чи штучним інтелектом, це кінець демократії. **
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Автор «Короткої історії людства»: ШІ зламав операційну систему людської цивілізації
*Ми бачили виступи різних представників «студентів природничих наук» щодо штучного інтелекту, а вчені-гуманітарії детальніше описали, як штучний інтелект може впливати на політику, релігію та бізнес через мову. Він сміливо припустив, що в майбутньому люди можуть жити в ілюзії, створеній ШІ. «Metaverse Explosion» зібрав повний текст його статті. *
Мова є будівельним матеріалом майже всіх людських культур. Наприклад, права людини не вписані в людську ДНК, а культурні артефакти, які ми створюємо, розповідаючи історії та приймаючи закони; боги не існують фізично, але культурні артефакти ми створюємо, створюючи міфи та писаючи писання.
Валюта також є культурним артефактом. Банкноти - це не що інше, як різнокольорові папірці, і більше 90% грошей сьогодні - це навіть не паперові гроші, а цифрова інформація в комп'ютерах. Цінність валюти надають історії, які нам про неї розповідають банкіри, міністри фінансів і криптоексперти: засновник FTX Сем Бенкман-Фрід, фальшивий «аналіз крові на рак» Елізабет Холмс, провідна бізнес-леді світу, і Берні Медофф, ідея створення найбільшої схеми Понці в історії, обидва не дуже добре створюють реальну вартість, але вони обидва дуже добре розповідають історію.
А що, якби нелюди краще за звичайних людей розповідали історії, створювали мелодії, малювали зображення та писали закони та писання?
Коли люди думають про ChatGPT та інші нові інструменти ШІ, вони часто зосереджуються на прикладах учнів початкової та середньої школи, які використовують ШІ для написання есе. Що сталося б зі шкільною системою, якби діти це робили? Але такі запитання не мають суті. Забудьте про шкільні реферати, подумайте про наступні президентські вибори в США у 2024 році та спробуйте уявити, як інструменти ШІ можна використовувати для створення величезної кількості політичного контенту та фейкових новин.
Останніми роками прихильники «Anonymous Q» зібралися навколо анонімних викриттів, опублікованих в Інтернеті (Примітка редактора: «Anonymous Q» — це онлайн-місце зібрання різних теорій змови. Основна теорія змови полягає в тому, що всередині США існує змова державний уряд). Віруючі збирають і пропагують такі теорії змови і вважають їх бібліями. У минулому всі екстрені пости новин писали люди, а машини лише допомагали їх поширювати. Але в майбутньому ми можемо побачити перші в історії язичницькі релігії, писання яких були написані нелюдськими агентами. Протягом історії релігії стверджували, що їхні священні книги не походять від людини. Незабаром це може стати реальністю.
На більш повсякденному рівні ми незабаром можемо виявити, що думаємо, що ми сперечаємось онлайн із реальними людьми про аборти, зміну клімату чи російсько-український конфлікт, але інша сторона насправді є ШІ. Проблема полягає в тому, що немає сенсу витрачати час на те, щоб змінити сприйняття штучного інтелекту, який може уточнювати інформацію з такою точністю, що це може вплинути на наше сприйняття. **
**Опановуючи людську мову, штучний інтелект може навіть налагодити близькі стосунки з людьми та використовувати силу цих стосунків, щоб змінити наше сприйняття та світогляд. **Хоча немає жодних ознак того, що ШІ має власну свідомість чи почуття, для того, щоб штучний інтелект культивував фальшиву близькість з людиною, все, що йому потрібно, це щоб людина стала до нього емоційно прив’язаною.
У червні 2022 року інженер Google Блейк Лемуан публічно заявив, що штучний інтелект чат-бот LaMDA, над яким він працює, вже має розум. Ця суперечлива заява коштувала йому роботи. Найцікавішим у цьому є не твердження Лемуана (яке може бути неправдивим), а його готовність ризикнути втратою високооплачуваної роботи, щоб виправдати назву чат-бота ШІ. Якщо ШІ може змусити людей ризикувати своєю роботою заради нього, чи можливо спонукати людей робити щось інше?
У політичній боротьбі за завоювання сердець і розуму людей близькість є найефективнішою зброєю. І штучний інтелект щойно отримав здатність встановлювати інтимні стосунки з мільйонами людей.
Ми всі знаємо, що за останнє десятиліття соціальні мережі стали полем битви за увагу людей. З появою нового покоління штучного інтелекту лінія бою зміщується від уваги до інтимності. *Якщо зміниться людське суспільство та людська психологія, якщо існує конкуренція між штучним інтелектом і штучним інтелектом, хто може мати тісніші стосунки з людьми, а потім використовувати ці відносини, щоб переконати нас голосувати за певних політиків або купувати певні продукти? *
Навіть без створення «фальшивої близькості» нові інструменти ШІ можуть мати величезний вплив на наше сприйняття та світогляд. Люди можуть подумати про порадника зі штучного інтелекту як про всезнаючого бога, що працює в одному місці, тож не дивно, що Google запанікував. Якщо у вас є якісь запитання, ви можете запитати богів, навіщо вам шукати? Індустрії новин і реклами, природно, бояться, оскільки ви можете отримати останні новини, просто запитавши богів, навіщо вам читати газети? для чого?
І навіть якщо ці сценарії були задумані, вони все одно не змогли по-справжньому зрозуміти загальну ситуацію. Коли ми обговорюємо можливий кінець людської історії, ми говоримо не про кінець історії, а про кінець тієї частини історії, в якій домінують люди. Історія є продуктом взаємодії біології та культури, наших біологічних потреб і бажань (таких як їжа та секс) і культурних творінь (таких як релігія та закон). Історія — це поступовий процес, за допомогою якого закон і релігія впливають на харчування та секс.
Що станеться з ходом історії, коли штучний інтелект захопить культуру та почне створювати історії, мелодії, закони та релігію? Раніше такі інструменти, як друкарський верстат і радіо, сприяли поширенню людських культурних ідей, але вони ніколи не створювалися самі нова культурна концепція. ШІ принципово відрізняється від них. ** ШІ може створювати нові ідеї, нові культури. **
Спочатку початковий ШІ міг імітувати людей, які його навчили. Але з часом культура штучного інтелекту сміливо піде туди, куди раніше не заходила жодна людина. Тисячоліттями люди жили мріями інших людей. **У найближчі кілька десятиліть ми можемо виявитися мрією про нелюдських розумних агентів. **
Страх перед штучним інтелектом мучить людство лише останні кілька десятиліть. Але набагато глибший страх переслідував людство протягом тисячоліть. Ми завжди розуміли силу історій і образів для маніпулювання розумом і створення ілюзій. Тому з давніх часів люди боялися потрапити в пастку світу ілюзій.
У 17 столітті Декарт хвилювався, що він може потрапити в пастку демона у світ ілюзії, і все, що він бачив і чув, було створено цим демоном. Платон у Стародавній Греції розповів знамениту алегорію про печеру: група людей закута в печеру на все життя, а перед ними лише глуха стіна печери, як ширма. Ув'язнені могли бачити різноманітні тіні, які відкидає на стіни печери зовнішній світ, тому вони сприймали ці ілюзії як реальність.
У стародавній Індії буддійські та індуїстські мудреці вказували на те, що люди живуть у майї (світі ілюзій). Те, що ми зазвичай сприймаємо як реальність, часто є лише ілюзією в нашій свідомості. Люди можуть вести війни, вбивати інших і добровільно бути вбитими, тому що вірять у те чи інше бачення.
**Революція штучного інтелекту приносить нам Демона Декарта, Печеру Платона та Майю. **Якщо ми не будемо обережні, ми можемо опинитися в пастці за завісою ілюзії, не зможемо її розірвати або навіть усвідомити, що вона там.
Звичайно, нова потужність штучного інтелекту також може бути використана з користю. Я не збираюся вдаватися в подробиці, тому що люди, які розробляють ШІ, вже сказали достатньо. Робота таких істориків і філософів, як я, полягає в тому, щоб вказати на небезпеку ШІ. Але немає сумніву, що штучний інтелект може допомогти людям багатьма способами: від пошуку нових методів лікування раку до вирішення екологічних криз тощо. Питання, яке стоїть перед нами, полягає в тому, як забезпечити, щоб нові інструменти ШІ використовувалися на благо, а не на зло. Для цього нам спочатку потрібно розпізнати справжні можливості цих інструментів.
З 1945 року ми знаємо, що ядерна технологія може генерувати дешеву енергію на благо людства, але вона також може фізично знищити людську цивілізацію. Тож ми змінили весь міжнародний порядок, щоб захистити людство та забезпечити, щоб ядерні технології використовувалися в першу чергу на благо людства. **Тепер ми повинні мати справу з новим типом ЗМЗ, який може знищити наш духовний і соціальний світи. **
Ми все ще можемо керувати новими інструментами ШІ, але ми повинні діяти швидко. **Ядерна зброя не може винайти потужнішу ядерну зброю, але ШІ може створити експоненціально більш потужний ШІ. **
**Перший важливий крок — піддати потужні інструменти штучного інтелекту ретельній перевірці на безпеку, перш ніж вони стануть загальнодоступними. ** Подібно до того, як фармацевтичні компанії не можуть випускати нові ліки без тестування на короткострокові та довгострокові побічні ефекти, технологічні компанії не повинні випускати нові інструменти штучного інтелекту, не гарантуючи безпеки. Нам потрібні такі агентства, як Управління з контролю за продуктами й ліками США (FDA), щоб регулювати нові технології. Ці речі треба було зробити давно.
Чи не призведе уповільнення розгортання штучного інтелекту в публічній сфері до того, що демократії відстануть від більш безрозсудних авторитарних режимів? Нерегульоване розгортання штучного інтелекту створить соціальний хаос, який сприятиме підриву демократії диктаторами. **Демократія – це діалог, а діалог залежить від мови. Як тільки ШІ розшифрує мову, це може підірвати нашу здатність вести змістовні розмови, а отже, і демократію. **
Ми щойно зіткнулися з нелюдським розумом на Землі й знаємо про нього мало, за винятком того, що він може знищити людську цивілізацію. Ми повинні припинити безвідповідальне розгортання інструментів штучного інтелекту у відкритому доступі та контролювати ШІ, перш ніж він контролюватиме нас. І **моя перша регулятивна пропозиція полягає в тому, щоб зробити ШІ обов’язковим розкривати, що він є ШІ. Якщо я не можу визначити, розмовляю я з людиною чи штучним інтелектом, це кінець демократії. **