До вечора п'ятниці Грег Брокман, співзасновник, голова та президент OpenAI, перебував у розпалі п'яти гроз. Йому потрібно озирнутися на те, що сталося за останні 24 години.
"Державний переворот" відбувається
Минулого тижня Сан-Франциско і район затоки були наповнені жвавою атмосферою саміту АТЕС, особливо зустріч глав держав двох великих країн.
Співзасновник і генеральний директор OpenAI Сем Альтман з'явився на бізнес-саміті АТЕС у четвер, а ввечері відвідав захід Burning Man, щоб поговорити про штучний інтелект і мистецтво.
Він отримав текстове повідомлення від іншого співзасновника, головного наукового співробітника Іллі Суцкевера, який збирався розповісти про п'ятницю опівдні.
Опівдні в п'ятницю Альтман відкрив посилання Google Meet, надіслане Суцково, і виявив, що, крім Брокмана, є ще троє незалежних директорів. Суцково повідомив Альтману, що його звільнили, і що новина скоро буде оприлюднена.
Згідно з офіційною заявою, Альтман був усунутий з посади генерального директора та директора через відсутність чесності з радою директорів. Альтман оголосив про свій відхід з OpenAI через годину, а наступний крок оголосить пізніше.
О 12:19 Брокман отримав текстове повідомлення від Суцково з проханням про швидкий телефонний дзвінок. Через чотири хвилини він також отримав посилання на Google Meet, і коли він натиснув на нього, йому відразу сказали, що його виключили з ради директорів, але він зберіг свою посаду президента через свою важливість для компанії. Також йому повідомили, що Ультрамена звільнили, про що було оголошено на офіційному сайті.
Згідно з офіційною заявою, Брокман підпорядковуватиметься тимчасовому генеральному директору Мірі Мураті, яка була підвищена до технічного директора компанії в травні минулого року. Але коли Брокман почув цю новину, то відразу ж оголосив про свою відставку.
Ця вибухова новина шокувала всю компанію, крім Міри. У четвер увечері вона вже знала, що змінить Ультрамена на посаді тимчасового генерального директора. OpenAI – це як сковорідка всередині, і Мірі доводиться запевняти всю компанію, що співпраця з Microsoft триватиме. Вона передала заяви генерального директора Microsoft Наделли та технічного директора Кевіна Скотта про те, що вони все ще зберігають «надзвичайну довіру» до OpenAI.
Того вечора звільнилися троє старших співробітників, а саме: Якуб Пачоцький, директор з досліджень компанії, Олександр Мадрі, керівник групи, відповідальний за оцінку потенційних ризиків штучного інтелекту, і Шимон Сидор, дослідник, який працює вже сім років. Очікується, що цими вихідними OpenAI також побачить велику кількість відставок.
OpenAI, яка йде повним ходом, переживає найбільшу кризу з моменту свого заснування вісім років тому.
Зліва направо: Міра, Ультрамен, Брокман, Суцково
Конфлікт між безпекою та прибутковістю
Про цей "переворот" всередині OpenAI Microsoft фактично нічого не знала заздалегідь лише за кілька хвилин до оголошення новини. Як ви можете собі уявити, всі інші інвестори також перебувають у невіданні.
Це оголює потенційне протиріччя між некомерційною та комерційною дворівневою архітектурою OpenAI. Найважливіші інвестори не в змозі відігравати певну роль в управлінні компанією. Однак існуюча некомерційна частина ради директорів не має акцій, і шість директорів використовують систему «одна людина – один голос», що приховує ризик нестабільності.
Щойно проведена конференція розробників OpenAI прискорила спалах протиріч. Відносини між «некомерційною організацією» та «тим, хто отримує прибуток» в OpenAI останнім часом напружені. Суцково, який очолює команду досліджень і розробок компанії, представляє некомерційну групу, яка наголошує на безпеці та наголошує на фундаментальних цінностях OpenAI, тоді як група Альтмана, що приносить прибуток, наголошує на прискоренні розробки, запуску спеціального магазину GPT у день розробника та наданні помічників API для розробників, запуску комерційної моделі монетизації, яка ділить дохід із розробниками.
Але сплеск користувачів незабаром випередив можливості OpenAI, і Ultraman довелося оголосити про призупинення реєстрації нових користувачів ChatGPT Plus. Це ще більше посилило побоювання Суцкова щодо безпеки.
Насправді, в раді директорів, до складу якої входили Альтман і Брокман, з одного боку, і Суцково і Хелен Тонер з іншого, зростали розбіжності щодо темпів розвитку, і обидві сторони віддалялися одна від одної.
Інші члени ради директорів також не погодилися з Альтманом у деяких важливих стратегічних питаннях. Наприклад, Альтман хоче залучити десятки мільярдів доларів із суверенних фондів Близького Сходу для розробки чіпів, щоб кинути виклик NVIDIA. Він також звернувся до Масайоші Сона, який хотів використати мільярдні інвестиції SoftBank, щоб об'єднати зусилля з колишнім дизайнером Apple Джоні Айвом для створення компанії з виробництва апаратного забезпечення зі штучним інтелектом.
За словами людей, знайомих з цим питанням, Сутсквери незадоволені спробою Альтмана залучити гроші з репутацією OpenAI, і вони стурбовані тим, що новий бізнес може не прийняти відповідну модель управління.
Повідомляється, що близько 10 години ранку в четвер Суцково підійшов до трьох інших директорів і попросив двох технічних спеціалістів пояснити директорам серйозні ризики для безпеки та стабільності, з якими стикається система, і на зборах, які представляли дві третини ради директорів, негайно було прийнято рішення звільнити Альтмана.
Прихильники Ультрамена назвали це "державним переворотом".
Члени правління "недосвідчені"
Рада директорів проголосувала двома третинами голосів, і після того, як Суцково і три незалежні директори погодилися, було прийнято рішення звільнити Альтмана. Однак засідання ради директорів не відбулося, і Брокман, як голова, не був повідомлений про таке засідання правління. Двох найважливіших засновників компанії, генерального директора та голову правління, взагалі вигнали з компанії під час зустрічі Google Meet.
«Якщо я відпущу це, рада директорів OpenAI буде переслідувати мене за повну вартість усіх моїх акцій. "
OpenAI, мабуть, найважливіша приватна компанія на сьогоднішній день, і давайте подивимося на членів правління, які прийняли таке рішення:
Незалежний директор Адам Д'Анджело, засновник і генеральний директор Quora. Він приєднався до Ради директорів у квітні 2018 року. Він вважає, що OpenAI має дотримуватися некомерційності та контролювати верхню межу прибутковості, щоб гарантувати, що вона не стане ще одним технологічним гігантом у Кремнієвій долині.
Таша Макколі, незалежний директор, лише цього року розпочала свою роботу на посаді старшого наукового співробітника з менеджменту RAND за сумісництвом. До цього у неї було два невдалих стартапи, вона була одружена з Джозефом Горденом-Левіттом, відомим єврейським актором і підприємцем. Бере активну участь у русі «Ефективний альтруїзм».
Хелен Тонер, незалежна директорка, яка приєдналася до Ради у вересні 2021 року, є директором грантів на стратегічні та фундаментальні дослідження в Центрі безпеки та нових технологій (CSET) Джорджтаунського університету. Раніше вона була політичним дослідником у Open Philanthropy, організації, яка жертвувала кошти OpenAI, а до того, як приєднатися до CSET, аналітичного центру, який відігравав важливу роль у дослідженнях штучного інтелекту та геополітичної політики США та Китаю, вона жила в Пекіні та вивчала інноваційну екосистему штучного інтелекту в Китаї.
Хелен і Таша також приєдналися до британського Центру управління штучним інтелектом (GovAI), який зосереджується на загрозах, які загальні системи штучного інтелекту можуть становити для безпеки.
Суцково став єдиним співзасновником компанії, що залишився. Він народився в Росії та іммігрував до Канади з Ізраїлю, є аспірантом Джеффрі Хінтона, батька глибокого навчання, і працював через DeepMind, Google AI, OpenAI, і протягом останнього десятиліття він був в авангарді навчання з підкріпленням і глибокого навчання, просуваючи загальний штучний інтелект у абсолютно нову сферу.
Він виступав за встановлення суперузгодження з людьми в процесі створення суперштучного інтелекту. Він очолює команду, яка використовує 20% обчислювальної потужності OpenAI для створення вбудованого механізму нагляду, перш ніж ШІ стане розумнішим за людей. Виступаючи нещодавно в соціальних мережах, він попередив: «Якщо ви візьмете цінність інтелекту вище за всі інші якості людського роду, ви зазнаєте жахливих наслідків». "
У раді директорів у Альтмана та Суцково виник гострий конфлікт щодо того, як OpenAI має балансувати між безпекою та зароблянням грошей. Альтман виступає за просування комерційних додатків, намагається розширити сферу діяльності OpenAI і просить про наступний раунд фінансування, тоді як Суцково вважає, що не можна поспішати з отриманням прибутку, наполягаючи на дослідженнях загального штучного інтелекту, які є безпечними та корисними для людства.
Саме ці чотири директори OpenAI витіснили двох інших директорів одночасно, і вони були високовизнаними співзасновниками, що було розкритиковано багатьма підприємцями та інвестиційними інститутами в Кремнієвій долині.
Вони почали з того, що поставили під сумнів відсутність у будь-якого члена правління досвіду роботи в раді директорів такої важливої компанії. У порівнянні з ранніми членами правління OpenAI, такими як Маск, засновник LinkedIn Хоффман, інвестор у хард-тех Вінод Хосла та інші класичні засновники Кремнієвої долини, нинішнє правління є слабким, і ЗМІ Кремнієвої долини також описують його як такий, що має певний «ефективний альтруїзм».
По-друге, для такої великої події колишніх директорів OpenAI та найважливіших інвесторів тримали в невіданні. Зокрема, Microsoft інвестувала десятки мільярдів доларів в OpenAI, про що було відомо лише за кілька хвилин до виходу новини. Не кажучи вже про інших інвесторів, серед яких майже всі провідні інвестиційні інститути Кремнієвої долини та всього світу.
Генеральний директор Microsoft Наделла негайно зробив заяву у своєму блозі: Microsoft має довгострокову угоду з OpenAI і може використовувати все (технологію) і продовжить працювати з Mira для просування стратегії штучного інтелекту.
Внутрішні протиріччя в структурі управління
Якою б не була причина, Альтман і Брокман є найважливішими засновниками OpenAI, і вони стали жертвами структури управління, яку вони розробили.
OpenAI була заснована у 2015 році як некомерційна організація. Його мета – побудувати загальну систему штучного інтелекту, яка відповідає та перевищує людський рівень, є відкритою та приносить користь людству.
Пізніше, через 1 мільярд доларів коштів, обіцяних Маском та іншими, було лише понад 100 мільйонів доларів, вартість передових обчислювальних потужностей і першокласних талантів була величезною, а дослідження та діяльність компанії були нестійкими, тому було вирішено створити комерційну дочірню компанію OpenAI Global LLC, яка повністю контролюється некомерційною організацією OpenAI.
OpenAI Global може залучати кошти ззовні, але встановлює ліміт розподілу прибутку для інвесторів. Згідно з інформацією ЗМІ, розподіл прибутку OpenAI можна розділити на чотири етапи: після отримання прибутку перші інвестори, такі як Маск, будуть виведені, 75% наступного прибутку буде виділено Microsoft, поки Microsoft не поверне свої інвестиції в $13 млрд, а після того, як прибуток досягне $92 млрд, частка акцій Microsoft впаде до 49% Прибуток, що залишився, буде розділений між іншими венчурними капіталістами та співробітниками OpenAI, а коли прибуток досягне $150 млрд, капітал Microsoft та інших венчурних капіталістів буде безкоштовно переведений до некомерційного фонду OpenAI.
Серед них найважливішим інвестором є, звичайно, Microsoft, яка тричі інвестувала в OpenAI у 2019, 2021 та 2023 роках, із сукупними інвестиціями в десятки мільярдів доларів. Але в кінцевому сенсі Microsoft не володіє жодним капіталом в OpenAI, а більше схожа на комерційного партнера, включаючи Microsoft має ексклюзивний доступ до всіх технологій OpenAI, OpenAI використовує хмару Microsoft Azure для навчання своїх базових моделей, а всі послуги, що надаються через її API, використовують хмару Microsoft і так далі.
Фінансування Microsoft, хмарні сервіси та комерційна співпраця між Microsoft та OpenAI у сфері додатків відіграли ключову роль у здатності OpenAI зосередитися на дослідженні великих мовних моделей протягом восьми років і, нарешті, зробити прорив.
Але партнерство OpenAI з Microsoft також було розкритиковано багатьма як відхід від його початкових намірів, перетворення його з незалежного некомерційного науково-дослідного інституту штучного інтелекту на стратегічного пішака технологічного гіганта, який обіцяє відкрити вихідний код своїх базових моделей, але після GPT-3 він стає все більш закритим. Як головний донор співзасновника OpenAI, Маск зазнав різкої критики. Основні співробітники OpenAI також пішли, щоб заснувати нові компанії, такі як Anthropic, головний конкурент OpenAI.
ChatGPT від OpenAI, запущений рік тому, приголомшив світ, пробивши віконний папір загального штучного інтелекту, але ризики, які він може принести, також викликали величезні суперечки та прискорили дослідження та формулювання національних і транснаціональних систем управління.
Згідно з архітектурою OpenAI, шість членів правління можуть «визначити, коли ми досягли штучного загального інтелекту (AGI)».
Хоча існує багато суперечок щодо штучного загального інтелекту, OpenAI запропонувала визначення: штучний загальний інтелект відноситься до високоавтономної системи, яка перевершує людей у більшості економічно цінних робіт. Альтман та інші колись вважали, що протягом десяти років людство досягне загального штучного інтелекту.
І як тільки ця рада директорів визначить, що OpenAI досягла штучного загального інтелекту, вона припинить своє ексклюзивне використання та співпрацю з комерційними установами та використовуватиме його для всього людства. Серед них згадується в пункті, що стосується Microsoft: «Така система не включена в ліцензію на інтелектуальну власність та інші комерційні умови з Microsoft, які застосовуються лише до технологій, що передують загальному ШІ». "
З точки зору архітектури дизайну, некомерційна рада директорів OpenAI має верховну владу.
OpenAI все ще в мінусі, але її дохід швидко зростає: річний дохід становитиме 1,3 мільярда доларів і, можливо, мільярди доларів наступного року. У тому раунді фінансування на початку року OpenAI оцінювалася в 29 мільярдів доларів.
Наразі OpenAI проводить новий раунд фінансування за оцінкою в $86 млрд для підготовки коштів для навчання GPT-5, в якому навчання вирівнюванню стане більш важливим.
Стартапи відмовляються від своїх засновників і є повторюваною історією в Кремнієвій долині. Apple звільнила Стіва Джобса в 1985 році, а Twitter звільнила співзасновника Джека Дорсі в 2008 році. Врешті-решт усі вони повернулися, щоб привести свої компанії до слави.
Але відхід Альтмана може мати більший вплив на галузь, яку він представляє. Чи може генеративний ШІ бути розчарованим цим? Не обов'язково!
Вплив генеративного ШІ виходить далеко за рамки розробки більших, досконаліших і безпечніших моделей. Революція, яку вона викликала, тільки почалася.
Можливо, місія Альтмана і Брокмана, в OpenAI виконана. Генеративний ШІ переходить з лабораторії в широкий спектр галузей. У них, як і раніше, будуть найкращі таланти, включаючи співробітників OpenAI, і все одно будуть мільярди або навіть десятки мільярдів доларів інвестицій із Кремнієвої долини у світ. Двері для генеративного ШІ відчиняються.
OpenAI дотримуватиметься свого початкового наміру та досліджуватиме безпечний загальний штучний інтелект для людства. Можливо, у нього більше немає комерційної уяви, яку приносить Ultraman, але він все ще потребує великих інвестицій для підтримки своїх досліджень. Зрештою, цінність OpenAI може полягати не в тому, щоб стати ще одним технологічним гігантом, а в тому, щоб стати компанією соціального впливу, яка стоїть пліч-о-пліч з технологічними гігантами, відкриваючи потенціал генеративного ШІ для незліченної кількості дослідників, підприємців, розробників і користувачів. Було б приємно бачити, як унікальна структура управління OpenAI йде далі.
«Дякуємо, що наближаєте нас до майбутнього. Таку відповідь Брокман отримав у соцмережах.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
«Переворот» OpenAI почався і закінчився
Джерело: публічний акаунт "Незавершене дослідження"
До вечора п'ятниці Грег Брокман, співзасновник, голова та президент OpenAI, перебував у розпалі п'яти гроз. Йому потрібно озирнутися на те, що сталося за останні 24 години.
"Державний переворот" відбувається
Минулого тижня Сан-Франциско і район затоки були наповнені жвавою атмосферою саміту АТЕС, особливо зустріч глав держав двох великих країн.
Співзасновник і генеральний директор OpenAI Сем Альтман з'явився на бізнес-саміті АТЕС у четвер, а ввечері відвідав захід Burning Man, щоб поговорити про штучний інтелект і мистецтво.
Він отримав текстове повідомлення від іншого співзасновника, головного наукового співробітника Іллі Суцкевера, який збирався розповісти про п'ятницю опівдні.
Опівдні в п'ятницю Альтман відкрив посилання Google Meet, надіслане Суцково, і виявив, що, крім Брокмана, є ще троє незалежних директорів. Суцково повідомив Альтману, що його звільнили, і що новина скоро буде оприлюднена.
Згідно з офіційною заявою, Альтман був усунутий з посади генерального директора та директора через відсутність чесності з радою директорів. Альтман оголосив про свій відхід з OpenAI через годину, а наступний крок оголосить пізніше.
О 12:19 Брокман отримав текстове повідомлення від Суцково з проханням про швидкий телефонний дзвінок. Через чотири хвилини він також отримав посилання на Google Meet, і коли він натиснув на нього, йому відразу сказали, що його виключили з ради директорів, але він зберіг свою посаду президента через свою важливість для компанії. Також йому повідомили, що Ультрамена звільнили, про що було оголошено на офіційному сайті.
Згідно з офіційною заявою, Брокман підпорядковуватиметься тимчасовому генеральному директору Мірі Мураті, яка була підвищена до технічного директора компанії в травні минулого року. Але коли Брокман почув цю новину, то відразу ж оголосив про свою відставку.
Ця вибухова новина шокувала всю компанію, крім Міри. У четвер увечері вона вже знала, що змінить Ультрамена на посаді тимчасового генерального директора. OpenAI – це як сковорідка всередині, і Мірі доводиться запевняти всю компанію, що співпраця з Microsoft триватиме. Вона передала заяви генерального директора Microsoft Наделли та технічного директора Кевіна Скотта про те, що вони все ще зберігають «надзвичайну довіру» до OpenAI.
Того вечора звільнилися троє старших співробітників, а саме: Якуб Пачоцький, директор з досліджень компанії, Олександр Мадрі, керівник групи, відповідальний за оцінку потенційних ризиків штучного інтелекту, і Шимон Сидор, дослідник, який працює вже сім років. Очікується, що цими вихідними OpenAI також побачить велику кількість відставок.
OpenAI, яка йде повним ходом, переживає найбільшу кризу з моменту свого заснування вісім років тому.
Зліва направо: Міра, Ультрамен, Брокман, Суцково
Конфлікт між безпекою та прибутковістю
Про цей "переворот" всередині OpenAI Microsoft фактично нічого не знала заздалегідь лише за кілька хвилин до оголошення новини. Як ви можете собі уявити, всі інші інвестори також перебувають у невіданні.
Це оголює потенційне протиріччя між некомерційною та комерційною дворівневою архітектурою OpenAI. Найважливіші інвестори не в змозі відігравати певну роль в управлінні компанією. Однак існуюча некомерційна частина ради директорів не має акцій, і шість директорів використовують систему «одна людина – один голос», що приховує ризик нестабільності.
Щойно проведена конференція розробників OpenAI прискорила спалах протиріч. Відносини між «некомерційною організацією» та «тим, хто отримує прибуток» в OpenAI останнім часом напружені. Суцково, який очолює команду досліджень і розробок компанії, представляє некомерційну групу, яка наголошує на безпеці та наголошує на фундаментальних цінностях OpenAI, тоді як група Альтмана, що приносить прибуток, наголошує на прискоренні розробки, запуску спеціального магазину GPT у день розробника та наданні помічників API для розробників, запуску комерційної моделі монетизації, яка ділить дохід із розробниками.
Але сплеск користувачів незабаром випередив можливості OpenAI, і Ultraman довелося оголосити про призупинення реєстрації нових користувачів ChatGPT Plus. Це ще більше посилило побоювання Суцкова щодо безпеки.
Насправді, в раді директорів, до складу якої входили Альтман і Брокман, з одного боку, і Суцково і Хелен Тонер з іншого, зростали розбіжності щодо темпів розвитку, і обидві сторони віддалялися одна від одної.
Інші члени ради директорів також не погодилися з Альтманом у деяких важливих стратегічних питаннях. Наприклад, Альтман хоче залучити десятки мільярдів доларів із суверенних фондів Близького Сходу для розробки чіпів, щоб кинути виклик NVIDIA. Він також звернувся до Масайоші Сона, який хотів використати мільярдні інвестиції SoftBank, щоб об'єднати зусилля з колишнім дизайнером Apple Джоні Айвом для створення компанії з виробництва апаратного забезпечення зі штучним інтелектом.
За словами людей, знайомих з цим питанням, Сутсквери незадоволені спробою Альтмана залучити гроші з репутацією OpenAI, і вони стурбовані тим, що новий бізнес може не прийняти відповідну модель управління.
Повідомляється, що близько 10 години ранку в четвер Суцково підійшов до трьох інших директорів і попросив двох технічних спеціалістів пояснити директорам серйозні ризики для безпеки та стабільності, з якими стикається система, і на зборах, які представляли дві третини ради директорів, негайно було прийнято рішення звільнити Альтмана.
Прихильники Ультрамена назвали це "державним переворотом".
Члени правління "недосвідчені"
Рада директорів проголосувала двома третинами голосів, і після того, як Суцково і три незалежні директори погодилися, було прийнято рішення звільнити Альтмана. Однак засідання ради директорів не відбулося, і Брокман, як голова, не був повідомлений про таке засідання правління. Двох найважливіших засновників компанії, генерального директора та голову правління, взагалі вигнали з компанії під час зустрічі Google Meet.
«Якщо я відпущу це, рада директорів OpenAI буде переслідувати мене за повну вартість усіх моїх акцій. "
OpenAI, мабуть, найважливіша приватна компанія на сьогоднішній день, і давайте подивимося на членів правління, які прийняли таке рішення:
Незалежний директор Адам Д'Анджело, засновник і генеральний директор Quora. Він приєднався до Ради директорів у квітні 2018 року. Він вважає, що OpenAI має дотримуватися некомерційності та контролювати верхню межу прибутковості, щоб гарантувати, що вона не стане ще одним технологічним гігантом у Кремнієвій долині.
Таша Макколі, незалежний директор, лише цього року розпочала свою роботу на посаді старшого наукового співробітника з менеджменту RAND за сумісництвом. До цього у неї було два невдалих стартапи, вона була одружена з Джозефом Горденом-Левіттом, відомим єврейським актором і підприємцем. Бере активну участь у русі «Ефективний альтруїзм».
Хелен Тонер, незалежна директорка, яка приєдналася до Ради у вересні 2021 року, є директором грантів на стратегічні та фундаментальні дослідження в Центрі безпеки та нових технологій (CSET) Джорджтаунського університету. Раніше вона була політичним дослідником у Open Philanthropy, організації, яка жертвувала кошти OpenAI, а до того, як приєднатися до CSET, аналітичного центру, який відігравав важливу роль у дослідженнях штучного інтелекту та геополітичної політики США та Китаю, вона жила в Пекіні та вивчала інноваційну екосистему штучного інтелекту в Китаї.
Хелен і Таша також приєдналися до британського Центру управління штучним інтелектом (GovAI), який зосереджується на загрозах, які загальні системи штучного інтелекту можуть становити для безпеки.
Суцково став єдиним співзасновником компанії, що залишився. Він народився в Росії та іммігрував до Канади з Ізраїлю, є аспірантом Джеффрі Хінтона, батька глибокого навчання, і працював через DeepMind, Google AI, OpenAI, і протягом останнього десятиліття він був в авангарді навчання з підкріпленням і глибокого навчання, просуваючи загальний штучний інтелект у абсолютно нову сферу.
Він виступав за встановлення суперузгодження з людьми в процесі створення суперштучного інтелекту. Він очолює команду, яка використовує 20% обчислювальної потужності OpenAI для створення вбудованого механізму нагляду, перш ніж ШІ стане розумнішим за людей. Виступаючи нещодавно в соціальних мережах, він попередив: «Якщо ви візьмете цінність інтелекту вище за всі інші якості людського роду, ви зазнаєте жахливих наслідків». "
У раді директорів у Альтмана та Суцково виник гострий конфлікт щодо того, як OpenAI має балансувати між безпекою та зароблянням грошей. Альтман виступає за просування комерційних додатків, намагається розширити сферу діяльності OpenAI і просить про наступний раунд фінансування, тоді як Суцково вважає, що не можна поспішати з отриманням прибутку, наполягаючи на дослідженнях загального штучного інтелекту, які є безпечними та корисними для людства.
Саме ці чотири директори OpenAI витіснили двох інших директорів одночасно, і вони були високовизнаними співзасновниками, що було розкритиковано багатьма підприємцями та інвестиційними інститутами в Кремнієвій долині.
Вони почали з того, що поставили під сумнів відсутність у будь-якого члена правління досвіду роботи в раді директорів такої важливої компанії. У порівнянні з ранніми членами правління OpenAI, такими як Маск, засновник LinkedIn Хоффман, інвестор у хард-тех Вінод Хосла та інші класичні засновники Кремнієвої долини, нинішнє правління є слабким, і ЗМІ Кремнієвої долини також описують його як такий, що має певний «ефективний альтруїзм».
По-друге, для такої великої події колишніх директорів OpenAI та найважливіших інвесторів тримали в невіданні. Зокрема, Microsoft інвестувала десятки мільярдів доларів в OpenAI, про що було відомо лише за кілька хвилин до виходу новини. Не кажучи вже про інших інвесторів, серед яких майже всі провідні інвестиційні інститути Кремнієвої долини та всього світу.
Генеральний директор Microsoft Наделла негайно зробив заяву у своєму блозі: Microsoft має довгострокову угоду з OpenAI і може використовувати все (технологію) і продовжить працювати з Mira для просування стратегії штучного інтелекту.
Внутрішні протиріччя в структурі управління
Якою б не була причина, Альтман і Брокман є найважливішими засновниками OpenAI, і вони стали жертвами структури управління, яку вони розробили.
OpenAI була заснована у 2015 році як некомерційна організація. Його мета – побудувати загальну систему штучного інтелекту, яка відповідає та перевищує людський рівень, є відкритою та приносить користь людству.
Пізніше, через 1 мільярд доларів коштів, обіцяних Маском та іншими, було лише понад 100 мільйонів доларів, вартість передових обчислювальних потужностей і першокласних талантів була величезною, а дослідження та діяльність компанії були нестійкими, тому було вирішено створити комерційну дочірню компанію OpenAI Global LLC, яка повністю контролюється некомерційною організацією OpenAI.
OpenAI Global може залучати кошти ззовні, але встановлює ліміт розподілу прибутку для інвесторів. Згідно з інформацією ЗМІ, розподіл прибутку OpenAI можна розділити на чотири етапи: після отримання прибутку перші інвестори, такі як Маск, будуть виведені, 75% наступного прибутку буде виділено Microsoft, поки Microsoft не поверне свої інвестиції в $13 млрд, а після того, як прибуток досягне $92 млрд, частка акцій Microsoft впаде до 49% Прибуток, що залишився, буде розділений між іншими венчурними капіталістами та співробітниками OpenAI, а коли прибуток досягне $150 млрд, капітал Microsoft та інших венчурних капіталістів буде безкоштовно переведений до некомерційного фонду OpenAI.
Серед них найважливішим інвестором є, звичайно, Microsoft, яка тричі інвестувала в OpenAI у 2019, 2021 та 2023 роках, із сукупними інвестиціями в десятки мільярдів доларів. Але в кінцевому сенсі Microsoft не володіє жодним капіталом в OpenAI, а більше схожа на комерційного партнера, включаючи Microsoft має ексклюзивний доступ до всіх технологій OpenAI, OpenAI використовує хмару Microsoft Azure для навчання своїх базових моделей, а всі послуги, що надаються через її API, використовують хмару Microsoft і так далі.
Фінансування Microsoft, хмарні сервіси та комерційна співпраця між Microsoft та OpenAI у сфері додатків відіграли ключову роль у здатності OpenAI зосередитися на дослідженні великих мовних моделей протягом восьми років і, нарешті, зробити прорив.
Але партнерство OpenAI з Microsoft також було розкритиковано багатьма як відхід від його початкових намірів, перетворення його з незалежного некомерційного науково-дослідного інституту штучного інтелекту на стратегічного пішака технологічного гіганта, який обіцяє відкрити вихідний код своїх базових моделей, але після GPT-3 він стає все більш закритим. Як головний донор співзасновника OpenAI, Маск зазнав різкої критики. Основні співробітники OpenAI також пішли, щоб заснувати нові компанії, такі як Anthropic, головний конкурент OpenAI.
ChatGPT від OpenAI, запущений рік тому, приголомшив світ, пробивши віконний папір загального штучного інтелекту, але ризики, які він може принести, також викликали величезні суперечки та прискорили дослідження та формулювання національних і транснаціональних систем управління.
Згідно з архітектурою OpenAI, шість членів правління можуть «визначити, коли ми досягли штучного загального інтелекту (AGI)».
Хоча існує багато суперечок щодо штучного загального інтелекту, OpenAI запропонувала визначення: штучний загальний інтелект відноситься до високоавтономної системи, яка перевершує людей у більшості економічно цінних робіт. Альтман та інші колись вважали, що протягом десяти років людство досягне загального штучного інтелекту.
І як тільки ця рада директорів визначить, що OpenAI досягла штучного загального інтелекту, вона припинить своє ексклюзивне використання та співпрацю з комерційними установами та використовуватиме його для всього людства. Серед них згадується в пункті, що стосується Microsoft: «Така система не включена в ліцензію на інтелектуальну власність та інші комерційні умови з Microsoft, які застосовуються лише до технологій, що передують загальному ШІ». "
З точки зору архітектури дизайну, некомерційна рада директорів OpenAI має верховну владу.
OpenAI все ще в мінусі, але її дохід швидко зростає: річний дохід становитиме 1,3 мільярда доларів і, можливо, мільярди доларів наступного року. У тому раунді фінансування на початку року OpenAI оцінювалася в 29 мільярдів доларів.
Наразі OpenAI проводить новий раунд фінансування за оцінкою в $86 млрд для підготовки коштів для навчання GPT-5, в якому навчання вирівнюванню стане більш важливим.
Стартапи відмовляються від своїх засновників і є повторюваною історією в Кремнієвій долині. Apple звільнила Стіва Джобса в 1985 році, а Twitter звільнила співзасновника Джека Дорсі в 2008 році. Врешті-решт усі вони повернулися, щоб привести свої компанії до слави.
Але відхід Альтмана може мати більший вплив на галузь, яку він представляє. Чи може генеративний ШІ бути розчарованим цим? Не обов'язково!
Вплив генеративного ШІ виходить далеко за рамки розробки більших, досконаліших і безпечніших моделей. Революція, яку вона викликала, тільки почалася.
Можливо, місія Альтмана і Брокмана, в OpenAI виконана. Генеративний ШІ переходить з лабораторії в широкий спектр галузей. У них, як і раніше, будуть найкращі таланти, включаючи співробітників OpenAI, і все одно будуть мільярди або навіть десятки мільярдів доларів інвестицій із Кремнієвої долини у світ. Двері для генеративного ШІ відчиняються.
OpenAI дотримуватиметься свого початкового наміру та досліджуватиме безпечний загальний штучний інтелект для людства. Можливо, у нього більше немає комерційної уяви, яку приносить Ultraman, але він все ще потребує великих інвестицій для підтримки своїх досліджень. Зрештою, цінність OpenAI може полягати не в тому, щоб стати ще одним технологічним гігантом, а в тому, щоб стати компанією соціального впливу, яка стоїть пліч-о-пліч з технологічними гігантами, відкриваючи потенціал генеративного ШІ для незліченної кількості дослідників, підприємців, розробників і користувачів. Було б приємно бачити, як унікальна структура управління OpenAI йде далі.
«Дякуємо, що наближаєте нас до майбутнього. Таку відповідь Брокман отримав у соцмережах.