* После стремительного роста применения больших моделей естественного языка многие шишки в технологическом кругу выразили свои взгляды на ИИ с разных точек зрения. Недавно журнал The Economist поручил Ювалю Харари, известному историку, философу и автору «Краткой истории человечества», поделиться своими мыслями об ИИ. *
Продолжая свою точку зрения в «Краткой истории человечества», Харари подчеркивает, что язык является составным элементом почти всех человеческих культур. ИИ со способностью генерировать язык будет влиять на человеческое восприятие мира через язык, «ИИ взламывает операционную систему человеческой цивилизации». Он сравнил ИИ с «ядерным оружием» и призвал людей принять немедленные меры для принятия дополнительных мер безопасности.Одно из предложений состоит в том, чтобы «обязательно требовать от ИИ раскрытия информации о том, что это ИИ». *
Мы видели выступления различных представителей «студентов естественных наук» об ИИ, а ученые-гуманитарии более конкретно описывали, как ИИ может влиять на политику, религию и бизнес через язык. Он смело предположил, что в будущем люди могут жить в иллюзии, созданной ИИ. "Metaverse Explosion" составил полный текст его статьи. *
从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) Необычайные способности человеческой цивилизации прорвались через операционную систему. **
Язык является строительным блоком почти всех человеческих культур. Например, права человека не вписаны в человеческую ДНК, а представляют собой культурные артефакты, которые мы создаем, рассказывая истории и создавая законы; боги не существуют физически, но культурные артефакты мы создаем, создавая мифы и сочиняя священные писания.
Валюта также является культурным артефактом. Банкноты — это не что иное, как разноцветные бумажки, а более 90% денег сегодня — это даже не бумажные деньги, а цифровая информация в компьютерах. Что придает валюте ее ценность, так это истории, которые нам рассказывают банкиры, министры финансов и криптоэксперты: основатель FTX Сэм Бэнкман-Фрид, поддельный «анализ крови на рак» Элизабет Холмс, ведущая бизнес-леди в мире, и Берни Мэдофф, вдохновитель из крупнейшей схемы Понци в истории, не очень хороши в создании реальной стоимости, но они оба очень хороши в рассказывании историй.
Что, если бы нечеловеческие агенты лучше обычных людей умели рассказывать истории, сочинять мелодии, рисовать изображения и писать законы и священные писания?
Когда люди думают о ChatGPT и других новых инструментах ИИ, они часто сосредотачиваются на примерах учащихся начальной и средней школы, использующих ИИ для написания эссе. Что произойдет со школьной системой, если дети поступят так? Забудьте о школьных сочинениях, подумайте о следующей президентской гонке в США в 2024 году и попытайтесь представить, как инструменты ИИ можно использовать для создания огромного количества политического контента и фейковых новостей.
В последние годы сторонники «Анонимного Q» собрались вокруг анонимных разоблачений, размещенных в Интернете (Примечание редактора: «Анонимный Q» — это онлайн-площадка для сбора различных теорий заговора. Основная теория заговора состоит в том, что внутри США существует заговор глубинное государство правительства). Верующие собирают и продвигают такие теории заговора и считают их библией. В прошлом все посты с экстренными новостями писались людьми, а машины только помогали их распространять. Но в будущем мы можем увидеть первые в истории языческие религии, писания которых были написаны нечеловеческими агентами. На протяжении всей истории религии утверждали, что их священные книги не имеют человеческого происхождения. Вскоре это может стать реальностью.
На более повседневном уровне мы можем вскоре обнаружить, что думаем, что разглагольствуем в Интернете с реальными людьми об абортах, изменении климата или российско-украинском конфликте, но другая сторона на самом деле является ИИ. Проблема в том, что нет смысла тратить время на попытки изменить восприятие ИИ, который может уточнять информацию с такой точностью, что это может повлиять на наше восприятие. **
** Овладев человеческим языком, ИИ может даже установить близкие отношения с людьми и использовать силу этих отношений для изменения нашего восприятия и мировоззрения. **Хотя нет никаких указаний на то, что у ИИ есть какое-либо собственное сознание или чувства, для того, чтобы ИИ культивировал ложную близость с человеком, все, что ему нужно, это чтобы человек эмоционально привязался к нему.
В июне 2022 года инженер Google Блейк Лемуан публично заявил, что чат-бот с искусственным интеллектом LaMDA, над которым он работал, уже обладал разумом. Спорное утверждение стоило ему работы. Самое интересное в этом не заявление Лемойна (которое может быть неправдой), а его готовность рискнуть потерять высокооплачиваемую работу, чтобы оправдать имя чат-бота с искусственным интеллектом. Если ИИ может заставить людей рисковать своей работой ради него, можно ли заставить людей делать что-то еще?
В политической борьбе за сердца и умы людей самым действенным оружием является близость. И ИИ только что получил возможность устанавливать близкие отношения с миллионами людей.
Все мы знаем, что за последнее десятилетие социальные сети стали полем битвы за внимание людей. С появлением искусственного интеллекта нового поколения линия фронта смещается от внимания к близости. *Если между ИИ и ИИ возникнет конкуренция за то, кто может иметь более тесные отношения с людьми, а затем использовать эти отношения, чтобы убедить нас голосовать за определенных политиков или покупать определенные продукты, как изменится человеческое общество и человеческая психология? *
Даже не создавая «ложной близости», новые инструменты искусственного интеллекта могут оказать огромное влияние на наше восприятие и мировоззрение. Люди могут думать о советнике по ИИ как о всезнающем универсальном боге, поэтому неудивительно, что Google запаниковал. Если у вас есть какие-либо вопросы, вы можете спросить у богов, зачем искать?Новости и рекламная индустрия, естественно, боятся, так как вы можете получить последние новости, просто спросив у богов, зачем вам нужно читать газеты?для чего?
И даже если эти сценарии были задуманы, он все равно не смог по-настоящему понять общую ситуацию. Когда мы обсуждаем возможный конец человеческой истории, мы говорим не о конце истории, а о конце той части истории, в которой доминируют люди. История — это продукт взаимодействия биологии и культуры, наших биологических потребностей и желаний (таких как пища и секс) и культурных творений (таких как религия и закон). История — это постепенный процесс, посредством которого закон и религия влияли на питание и секс.
Что происходит с ходом истории, когда ИИ берет верх над культурой и начинает создавать истории, мелодии, законы и религию? Раньше такие инструменты, как печатный станок и радио, способствовали распространению культурных идей человечества, но никогда не создавали сами себя новая культурная концепция. ИИ принципиально отличается от них. **ИИ может создавать новые идеи, новые культуры. **
Поначалу зарождающийся ИИ может имитировать людей, которые его обучали. Но со временем культура ИИ смело пойдет туда, куда раньше не ступала нога человека. На протяжении тысячелетий люди жили мечтами других людей. **В ближайшие несколько десятилетий мы можем оказаться во сне о нечеловеческих разумных агентах. **
Страх перед ИИ преследует человечество только последние несколько десятилетий. Но гораздо более глубокий страх преследовал человечество на протяжении тысячелетий. Мы всегда понимали, что истории и образы способны манипулировать сознанием и создавать иллюзии. Поэтому люди с древних времен боялись оказаться в ловушке мира иллюзий.
В 17 веке Декарт беспокоился, что он может быть пойман в ловушку мира иллюзий демоном, и все, что он видел и слышал, было просто установлено этим демоном. Платон в Древней Греции рассказал известную аллегорию пещеры: группа людей на всю жизнь закована в пещеру, и перед ними лишь глухая стена пещеры, как ширма. Заключенные могли видеть различные тени, отбрасываемые на стены пещеры внешним миром, поэтому они принимали эти иллюзии за реальность.
В древней Индии буддийские и индуистские мудрецы указывали, что люди живут в майе (мире иллюзий). То, что мы обычно воспринимаем как реальность, часто является лишь иллюзией в нашем сознании. Люди могут вести войны, убивать других и добровольно быть убитыми, потому что они верят в то или иное видение.
**Революция ИИ переносит Декарта Декарта, Пещеру Платона и Майю прямо к нам. **Если мы не будем осторожны, мы можем оказаться в ловушке за завесой иллюзий, не в силах разорвать ее или даже осознать, что она там.
Конечно, новая мощь ИИ также может быть использована с пользой. Я не буду вдаваться в подробности, потому что люди, разрабатывающие ИИ, уже сказали достаточно. Работа таких историков и философов, как я, состоит в том, чтобы указать, в чем заключаются опасности ИИ. Но нет никаких сомнений в том, что ИИ может помочь людям бесчисленными способами, от поиска новых методов лечения рака до поиска решений экологических кризисов и многого другого. Перед нами стоит вопрос, как обеспечить, чтобы новые инструменты ИИ использовались во благо, а не во зло. Для этого нам сначала нужно осознать истинные возможности этих инструментов.
С 1945 года мы знаем, что ядерные технологии могут генерировать дешевую энергию на благо человечества, но они также могут физически уничтожить человеческую цивилизацию. Поэтому мы изменили весь международный порядок, чтобы защитить человечество и обеспечить использование ядерных технологий в первую очередь на благо человечества. **Теперь мы должны иметь дело с новым типом оружия массового уничтожения, которое может разрушить наш духовный и социальный миры. **
Мы все еще можем управлять новыми инструментами ИИ, но действовать нужно быстро. **Ядерное оружие не может изобрести более мощное ядерное оружие, но ИИ может создать экспоненциально более мощный ИИ. **
**Первый важный шаг — подвергнуть мощные инструменты искусственного интеллекта строгим проверкам безопасности, прежде чем они станут общедоступными. ** Точно так же, как фармацевтические компании не могут выпускать новые лекарства без тестирования на краткосрочные и долгосрочные побочные эффекты, технологические компании не должны выпускать новые инструменты ИИ, не обеспечив их безопасность. Нам нужны такие агентства, как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), чтобы регулировать новые технологии. Эти вещи должны были быть сделаны давно.
Не приведет ли замедление внедрения ИИ в общественную сферу к отставанию демократий от более безрассудных авторитарных режимов? Нерегулируемое развертывание ИИ создаст социальный хаос, который поможет диктаторам подорвать демократию. **Демократия — это диалог, а диалог зависит от языка. Как только ИИ расшифрует язык, он может подорвать нашу способность вести осмысленные разговоры и, следовательно, демократию. **
Мы только что столкнулись с нечеловеческим разумом на Земле и мало что о нем знаем, кроме того, что он может уничтожить человеческую цивилизацию. Мы должны остановить безответственное развертывание инструментов ИИ в общественном достоянии и контролировать ИИ до того, как он будет контролировать нас. И **мое первое предложение по регулированию — сделать обязательным для ИИ раскрытие информации о том, что это ИИ. Если я не могу понять, говорю ли я с человеком или с ИИ, это конец демократии. **
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Автор «Краткой истории человечества»: ИИ взломал операционную систему человеческой цивилизации
Продолжая свою точку зрения в «Краткой истории человечества», Харари подчеркивает, что язык является составным элементом почти всех человеческих культур. ИИ со способностью генерировать язык будет влиять на человеческое восприятие мира через язык, «ИИ взламывает операционную систему человеческой цивилизации». Он сравнил ИИ с «ядерным оружием» и призвал людей принять немедленные меры для принятия дополнительных мер безопасности.Одно из предложений состоит в том, чтобы «обязательно требовать от ИИ раскрытия информации о том, что это ИИ». *
Мы видели выступления различных представителей «студентов естественных наук» об ИИ, а ученые-гуманитарии более конкретно описывали, как ИИ может влиять на политику, религию и бизнес через язык. Он смело предположил, что в будущем люди могут жить в иллюзии, созданной ИИ. "Metaverse Explosion" составил полный текст его статьи. *
Язык является строительным блоком почти всех человеческих культур. Например, права человека не вписаны в человеческую ДНК, а представляют собой культурные артефакты, которые мы создаем, рассказывая истории и создавая законы; боги не существуют физически, но культурные артефакты мы создаем, создавая мифы и сочиняя священные писания.
Валюта также является культурным артефактом. Банкноты — это не что иное, как разноцветные бумажки, а более 90% денег сегодня — это даже не бумажные деньги, а цифровая информация в компьютерах. Что придает валюте ее ценность, так это истории, которые нам рассказывают банкиры, министры финансов и криптоэксперты: основатель FTX Сэм Бэнкман-Фрид, поддельный «анализ крови на рак» Элизабет Холмс, ведущая бизнес-леди в мире, и Берни Мэдофф, вдохновитель из крупнейшей схемы Понци в истории, не очень хороши в создании реальной стоимости, но они оба очень хороши в рассказывании историй.
Что, если бы нечеловеческие агенты лучше обычных людей умели рассказывать истории, сочинять мелодии, рисовать изображения и писать законы и священные писания?
Когда люди думают о ChatGPT и других новых инструментах ИИ, они часто сосредотачиваются на примерах учащихся начальной и средней школы, использующих ИИ для написания эссе. Что произойдет со школьной системой, если дети поступят так? Забудьте о школьных сочинениях, подумайте о следующей президентской гонке в США в 2024 году и попытайтесь представить, как инструменты ИИ можно использовать для создания огромного количества политического контента и фейковых новостей.
В последние годы сторонники «Анонимного Q» собрались вокруг анонимных разоблачений, размещенных в Интернете (Примечание редактора: «Анонимный Q» — это онлайн-площадка для сбора различных теорий заговора. Основная теория заговора состоит в том, что внутри США существует заговор глубинное государство правительства). Верующие собирают и продвигают такие теории заговора и считают их библией. В прошлом все посты с экстренными новостями писались людьми, а машины только помогали их распространять. Но в будущем мы можем увидеть первые в истории языческие религии, писания которых были написаны нечеловеческими агентами. На протяжении всей истории религии утверждали, что их священные книги не имеют человеческого происхождения. Вскоре это может стать реальностью.
На более повседневном уровне мы можем вскоре обнаружить, что думаем, что разглагольствуем в Интернете с реальными людьми об абортах, изменении климата или российско-украинском конфликте, но другая сторона на самом деле является ИИ. Проблема в том, что нет смысла тратить время на попытки изменить восприятие ИИ, который может уточнять информацию с такой точностью, что это может повлиять на наше восприятие. **
** Овладев человеческим языком, ИИ может даже установить близкие отношения с людьми и использовать силу этих отношений для изменения нашего восприятия и мировоззрения. **Хотя нет никаких указаний на то, что у ИИ есть какое-либо собственное сознание или чувства, для того, чтобы ИИ культивировал ложную близость с человеком, все, что ему нужно, это чтобы человек эмоционально привязался к нему.
В июне 2022 года инженер Google Блейк Лемуан публично заявил, что чат-бот с искусственным интеллектом LaMDA, над которым он работал, уже обладал разумом. Спорное утверждение стоило ему работы. Самое интересное в этом не заявление Лемойна (которое может быть неправдой), а его готовность рискнуть потерять высокооплачиваемую работу, чтобы оправдать имя чат-бота с искусственным интеллектом. Если ИИ может заставить людей рисковать своей работой ради него, можно ли заставить людей делать что-то еще?
В политической борьбе за сердца и умы людей самым действенным оружием является близость. И ИИ только что получил возможность устанавливать близкие отношения с миллионами людей.
Все мы знаем, что за последнее десятилетие социальные сети стали полем битвы за внимание людей. С появлением искусственного интеллекта нового поколения линия фронта смещается от внимания к близости. *Если между ИИ и ИИ возникнет конкуренция за то, кто может иметь более тесные отношения с людьми, а затем использовать эти отношения, чтобы убедить нас голосовать за определенных политиков или покупать определенные продукты, как изменится человеческое общество и человеческая психология? *
Даже не создавая «ложной близости», новые инструменты искусственного интеллекта могут оказать огромное влияние на наше восприятие и мировоззрение. Люди могут думать о советнике по ИИ как о всезнающем универсальном боге, поэтому неудивительно, что Google запаниковал. Если у вас есть какие-либо вопросы, вы можете спросить у богов, зачем искать?Новости и рекламная индустрия, естественно, боятся, так как вы можете получить последние новости, просто спросив у богов, зачем вам нужно читать газеты?для чего?
И даже если эти сценарии были задуманы, он все равно не смог по-настоящему понять общую ситуацию. Когда мы обсуждаем возможный конец человеческой истории, мы говорим не о конце истории, а о конце той части истории, в которой доминируют люди. История — это продукт взаимодействия биологии и культуры, наших биологических потребностей и желаний (таких как пища и секс) и культурных творений (таких как религия и закон). История — это постепенный процесс, посредством которого закон и религия влияли на питание и секс.
Что происходит с ходом истории, когда ИИ берет верх над культурой и начинает создавать истории, мелодии, законы и религию? Раньше такие инструменты, как печатный станок и радио, способствовали распространению культурных идей человечества, но никогда не создавали сами себя новая культурная концепция. ИИ принципиально отличается от них. **ИИ может создавать новые идеи, новые культуры. **
Поначалу зарождающийся ИИ может имитировать людей, которые его обучали. Но со временем культура ИИ смело пойдет туда, куда раньше не ступала нога человека. На протяжении тысячелетий люди жили мечтами других людей. **В ближайшие несколько десятилетий мы можем оказаться во сне о нечеловеческих разумных агентах. **
Страх перед ИИ преследует человечество только последние несколько десятилетий. Но гораздо более глубокий страх преследовал человечество на протяжении тысячелетий. Мы всегда понимали, что истории и образы способны манипулировать сознанием и создавать иллюзии. Поэтому люди с древних времен боялись оказаться в ловушке мира иллюзий.
В 17 веке Декарт беспокоился, что он может быть пойман в ловушку мира иллюзий демоном, и все, что он видел и слышал, было просто установлено этим демоном. Платон в Древней Греции рассказал известную аллегорию пещеры: группа людей на всю жизнь закована в пещеру, и перед ними лишь глухая стена пещеры, как ширма. Заключенные могли видеть различные тени, отбрасываемые на стены пещеры внешним миром, поэтому они принимали эти иллюзии за реальность.
В древней Индии буддийские и индуистские мудрецы указывали, что люди живут в майе (мире иллюзий). То, что мы обычно воспринимаем как реальность, часто является лишь иллюзией в нашем сознании. Люди могут вести войны, убивать других и добровольно быть убитыми, потому что они верят в то или иное видение.
**Революция ИИ переносит Декарта Декарта, Пещеру Платона и Майю прямо к нам. **Если мы не будем осторожны, мы можем оказаться в ловушке за завесой иллюзий, не в силах разорвать ее или даже осознать, что она там.
Конечно, новая мощь ИИ также может быть использована с пользой. Я не буду вдаваться в подробности, потому что люди, разрабатывающие ИИ, уже сказали достаточно. Работа таких историков и философов, как я, состоит в том, чтобы указать, в чем заключаются опасности ИИ. Но нет никаких сомнений в том, что ИИ может помочь людям бесчисленными способами, от поиска новых методов лечения рака до поиска решений экологических кризисов и многого другого. Перед нами стоит вопрос, как обеспечить, чтобы новые инструменты ИИ использовались во благо, а не во зло. Для этого нам сначала нужно осознать истинные возможности этих инструментов.
С 1945 года мы знаем, что ядерные технологии могут генерировать дешевую энергию на благо человечества, но они также могут физически уничтожить человеческую цивилизацию. Поэтому мы изменили весь международный порядок, чтобы защитить человечество и обеспечить использование ядерных технологий в первую очередь на благо человечества. **Теперь мы должны иметь дело с новым типом оружия массового уничтожения, которое может разрушить наш духовный и социальный миры. **
Мы все еще можем управлять новыми инструментами ИИ, но действовать нужно быстро. **Ядерное оружие не может изобрести более мощное ядерное оружие, но ИИ может создать экспоненциально более мощный ИИ. **
**Первый важный шаг — подвергнуть мощные инструменты искусственного интеллекта строгим проверкам безопасности, прежде чем они станут общедоступными. ** Точно так же, как фармацевтические компании не могут выпускать новые лекарства без тестирования на краткосрочные и долгосрочные побочные эффекты, технологические компании не должны выпускать новые инструменты ИИ, не обеспечив их безопасность. Нам нужны такие агентства, как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), чтобы регулировать новые технологии. Эти вещи должны были быть сделаны давно.
Не приведет ли замедление внедрения ИИ в общественную сферу к отставанию демократий от более безрассудных авторитарных режимов? Нерегулируемое развертывание ИИ создаст социальный хаос, который поможет диктаторам подорвать демократию. **Демократия — это диалог, а диалог зависит от языка. Как только ИИ расшифрует язык, он может подорвать нашу способность вести осмысленные разговоры и, следовательно, демократию. **
Мы только что столкнулись с нечеловеческим разумом на Земле и мало что о нем знаем, кроме того, что он может уничтожить человеческую цивилизацию. Мы должны остановить безответственное развертывание инструментов ИИ в общественном достоянии и контролировать ИИ до того, как он будет контролировать нас. И **мое первое предложение по регулированию — сделать обязательным для ИИ раскрытие информации о том, что это ИИ. Если я не могу понять, говорю ли я с человеком или с ИИ, это конец демократии. **