Только что прочитал недавнюю ветку Виталика в X о одной из самых странных передач богатства в крипто, и это действительно дикая история. В 2021 году команда Shiba Inu буквально раздаст огромный кусок токенов SHIB на его кошелек без разрешения. Их ход был очевиден — навесить «Виталик владеет половиной нашего запаса» на маркетинг и воспользоваться хайпом. Классический ход мемкоина.

Дело в том, что это действительно сработало. Эти токены взлетели в цене, достигнув более миллиарда долларов в балансовой стоимости. Но Виталик не хотел в этом участвовать. Он описал весь процесс ликвидации как хаотичный — даже звонил своей мачехе в Канаде, чтобы прочитать 78-значное число из своего шкафа, чтобы консолидировать ключи кошелька и действительно продать актив, пока пузырь не лопнул. Ему удалось продать часть за ETH и отправить $50 миллион в GiveWell. Тем не менее, он остался с горой SHIB.

И тут начинается самое интересное. Он разделил оставшееся пополам. Одна часть пошла в CryptoRelief, которая финансировала медицинскую инфраструктуру в Индии и поддерживала Балви, его собственную исследовательскую инициативу. Другая половина оказалась у Института будущего жизни — организации, работающей над экзистенциальными рисками от ИИ, биотехнологий и ядерного оружия. На бумаге это казалось идеальным сочетанием — FLI показал ему дорожную карту, охватывающую основные категории рисков, а также работу в области мира и эпистемики.

Ноерин ожидал, что FLI продаст примерно на 10–25 миллионов, учитывая, насколько жидкий SHIB. Вместо этого они смогли вывести примерно 500 миллионов. CryptoRelief сделал что-то подобное со своей частью. Собака-мем, которой никто не придавал значения, создала момент благотворительности на миллиард долларов.

Но затем FLI резко повернуло.

По словам Виталика, организация перешла к активным культурным и политическим действиям как к своей основной стратегии, что сильно отличается от первоначального подхода к экзистенциальным рискам. Их оправдание — что ИИ развивается быстро, и им нужно действовать агрессивно, чтобы противостоять лоббистской силе крупных компаний ИИ. Вполне логично, возможно, но Виталик обеспокоен.

Его тревога проста: крупномасштабные скоординированные политические действия с огромными денежными потоками обычно оборачиваются обратным эффектом. Это вызывает непредвиденные последствия, провоцирует ответные меры и зачастую решает проблемы таким образом, что в итоге получается авторитаризм и хрупкость, даже если изначально этого не было задумано.

Он привел в пример подход FLI к биобезопасности. Их основная стратегия — внедрение ограничительных рамок в модели ИИ и биосинтезирующие устройства, чтобы они отказывались от опасных выходных данных. Виталик назвал этот подход очень хрупким. Взломы, донастройка, обходные пути — все это делает такие ограничения легко преодолимыми. Следуя этой логике до конца, можно прийти к идее «запретить открытый исходный код ИИ» и затем «поддержать одну хорошую компанию ИИ для установления глобального доминирования и не позволять другим достигнуть того же уровня». Это — авторитарная ловушка.

Он также отметил структурную проблему стратегий, основанных на регулировании. Когда правительства ограничивают опасные технологии, освобождаются организации национальной безопасности. Но эти же организации часто сами являются источником риска. Примером являются программы утечек в государственных лабораториях — классический пример того, как эта динамика реализуется.

Тем не менее, Виталик отметил, что его радует недавняя работа FLI, особенно «про-человеческая декларация ИИ», которая, по его словам, объединяет консерваторов, прогрессистов, либертарианцев и охватывает Америку, Европу и Китай. Они также исследуют способы предотвращения концентрации власти в руках ИИ, что действительно важно.

Но главное послание трудно не заметить. Донат, который Виталик никогда не планировал делать, из токенов, которые он никогда не хотел держать, профинансировал организацию, которая отошла от подхода, в который он верил, и сейчас тратит сотни миллионов на способы, вызывающие у него дискомфорт. Он, по его словам, несколько раз делился этими опасениями с FLI, прежде чем выйти на публику.

Это один из тех моментов, когда понимаешь, как даже самые лучшие намерения могут запутаться, когда в игру вступают огромные капиталы. Мемкоин, шкаф в Канаде и миллиардный поворот к политической войне по поводу ИИ. Лучше и не придумать.