Регуляторы OpenAI опасаются, что компания создает технологическую «ядерную бомбу» и что основатель компании Сэм Альтман движется так быстро, что это может спровоцировать глобальную катастрофу.
Поэтому совет директоров уволил его. Это может оказаться логичным решением.
Но то, как Альтман был уволен — внезапно, непрозрачно и без предварительного уведомления некоторых крупнейших акционеров и партнеров OpenAI — не имеет смысла. Более того, риск сделать это больше, чем убытки, вызванные бездействием совета директоров.
Совет директоров компании подотчетен в первую очередь акционерам. Самым важным акционером OpenAI является Microsoft, компания, которая предоставила 13 миллиардов долларов Альтману и другим, чтобы помочь Bing, Office, Windows и Azure превзойти Google и опередить Amazon, IBM и других выскочек в области искусственного интеллекта.
Однако, по словам корреспондента CNN Кары Суишер, Microsoft не была проинформирована об увольнении Альтмана до тех пор, пока об этом не было «публично объявлено». Акции Microsoft упали после увольнения Альтмана.
Сотрудники также не были проинформированы о новостях заранее. Грег Брокман, соучредитель и бывший президент компании, сказал в статье на X, что он узнал об Альтмане только за мгновение до того, как его уволили. Брокман, ключевой сторонник Альтмана и его стратегически управляемой компании, подал в отставку в пятницу. Другие сторонники Альтмана также покинули страну.
Внезапно OpenAI оказалась в кризисе. **Есть сообщения о том, что Альтман и бывшие сторонники OpenAI собираются начать свой собственный бизнес, что угрожает свести на нет все, над чем компания так усердно работала в течение последних нескольких лет.
В результате, на следующий день совет директоров, как сообщается, потребовал сменить курс и попытался вернуть Альтмана (что пока безуспешно). Это был шокирующий поворот событий и досадная ошибка для компании, которая считается самым многообещающим и интересным производителем новых технологий.
01.Своеобразная структура доски
Своеобразная структура совета директоров OpenAI еще больше усложняет ситуацию.
Компания является некоммерческой организацией. Но в 2019 году Альтман, Брокман и главный научный сотрудник Илья Суцкевер основали акционерную платформу OpenAI LP (Limited Partner) — коммерческую организацию, существующую в структуре крупных корпораций. Коммерческая компания всего за несколько лет превратила OpenAI из бесполезной в $90 млрд, и Альтман в значительной степени считается вдохновителем схемы и ключом к успеху компании.
Тем не менее, крупные инвесторы, такие как Microsoft и венчурная фирма Thrive Capital, хотят, чтобы компании расширяли свою деятельность и зарабатывали деньги. Инвесторы хотят быть уверены в том, что они получают свои деньги, и они не являются группой, известной своим терпением.
Это может привести к тому, что Альтман подтолкнет коммерческую компанию к инновациям и более быстрому запуску продуктов. В соответствии с традицией Кремниевой долины «двигаться быстро и ломать шаблоны», эти продукты могут поначалу работать не так хорошо.
Если это приложение для знакомств или платформа социальных сетей, возможно, это нормально. Но совсем другое дело, если речь идет о технологии, которая имитирует человеческий язык и поведение и может обмануть людей, заставив их поверить в то, что их фальшивые разговоры и изображения реальны.
И это то, что, как говорят, беспокоит совет директоров компании, поскольку большая часть совета по-прежнему контролируется некоммерческим подразделением компании. По словам Свишера, недавняя конференция разработчиков OpenAI стала переломным моментом: Альтман объявил, что OpenAI предоставит инструменты, которые позволят любому желающему создать свою собственную версию ChatGPT.
Этот шаг слишком далек для Суцкевера и совета директоров.
02. Не необоснованное предупреждение
По словам самого Альтмана, компания играет с огнем.
Когда Альтман основал OpenAI LP четыре года назад, новая компания отметила в своем уставе, что она по-прежнему «обеспокоена» потенциалом ИИ «вызвать быстрые изменения в человечестве». Это может произойти непреднамеренно, из-за ошибочного кода, который заставляет технологию выполнять вредоносные задачи, или может быть так, что люди намеренно подрывают системы ИИ из зла. В результате компания уделяет приоритетное внимание безопасности, даже если это означает снижение прибыли заинтересованных сторон.
Альтман также призвал регулирующие органы установить ограничения на ИИ, чтобы такие люди, как он, не причиняли серьезный вред обществу.
«Принесет ли искусственный интеллект, подобно печатному станку, большее процветание и, прежде всего, две большие свободы, распространяя знания, власть и исследования среди широких слоев населения, предоставляя обычным людям повседневные возможности?» Он задавал вопросы на слушаниях в подкомитете Сената в мае, призывая к регулированию. «Или это будет больше похоже на атомную бомбу – огромный технологический прорыв, серьезные и ужасные последствия которого преследуют нас до сих пор?»
Сторонники ИИ утверждают, что эта технология может произвести революцию в промышленности и принести пользу человечеству. Она обладает потенциалом для улучшения образования, финансов, сельского хозяйства и здравоохранения.
Но это также может привести к сокращению рабочих мест: Всемирный экономический форум предупредил в апреле, что 14 миллионов рабочих мест могут исчезнуть в течение следующих пяти лет. Искусственный интеллект особенно хорош в распространении вредоносной дезинформации. Некоторые, в том числе бывший член совета директоров OpenAI Илон Маск, опасаются, что технология искусственного интеллекта превзойдет людей в интеллектуальном плане и может уничтожить жизнь на Земле.
03. Втянутый в великий неизвестный кризис
Перед лицом этих угроз, реальных или мнимых, неудивительно, что режиссеры обеспокоены тем, что Олтман движется слишком быстро. Они могут посчитать себя обязанными уволить его и заменить кем-то, кто, по их мнению, более осторожен в отношении потенциально опасных технологий.
Однако OpenAI работает не в вакууме. У него есть заинтересованные стороны, некоторые из которых вложили в компанию миллиарды долларов. И, как выразился Суишер, так называемые взрослые в комнате были похожи на «клоунские машины, врезающиеся в золотую жилу», процитировав генерального директора Meta Марка Цукерберга о Twitter.
Вовлекайте Microsoft в процесс принятия решений, уведомляйте сотрудников, работайте с Альтманом над достойным планом выхода... Все это общие решения для советов директоров компаний такого масштаба, как OpenAI, и все они могут привести к лучшим результатам.
Несмотря на большие пакеты акций Microsoft, Microsoft не имеет места в совете директоров OpenAI из-за странной организационной структуры OpenAI. По данным многих СМИ, включая Wall Street Journal и New York Times, теперь ситуация может измениться. Одним из требований компании, включая возвращение Альтмана, является наличие места в совете директоров.
Благодаря функциональности OpenAI, подобной ChatGPT, встроенной в Bing и другие основные продукты, Microsoft рассматривает себя как разумную инвестицию в новые технологии, которые обещают будущее. Поэтому, когда генеральный директор Microsoft Сатья Наделла и его команда присоединились к людям по всему миру в пятницу вечером, чтобы узнать о пожаре Альтмана, все они были шокированы.
Совет директоров разозлил влиятельного союзника, и вполне возможно, что компания изменится навсегда из-за того, как она справилась с отставкой Альтмана. В конце концов, Альтман может вернуться к рулю, коммерческая компания войдет в совет директоров некоммерческой организации, а культура OpenAI кардинально изменится.
Кроме того, она может стать конкурентом Altman (которая в настоящее время присоединится к Microsoft), которая в конечном итоге может решить основать новую компанию и переманить таланты из OpenAI.
В любом случае, OpenAI сейчас может оказаться в худшем положении, чем до того, как она уволила Альтмана в прошлую пятницу. По иронии судьбы, этой проблемы можно было бы избежать, сбавив скорость.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Почему увольнение Альтмана со стороны OpenAI является плохим шагом?
Источник: Сердце Метавселенной
Регуляторы OpenAI опасаются, что компания создает технологическую «ядерную бомбу» и что основатель компании Сэм Альтман движется так быстро, что это может спровоцировать глобальную катастрофу.
Поэтому совет директоров уволил его. Это может оказаться логичным решением.
! [v2_6cccbfcde5a34f59ad92e522b07ebcbc@5629480_file_000] (https://img.jinse.cn/7139787_image3.png)
Но то, как Альтман был уволен — внезапно, непрозрачно и без предварительного уведомления некоторых крупнейших акционеров и партнеров OpenAI — не имеет смысла. Более того, риск сделать это больше, чем убытки, вызванные бездействием совета директоров.
Совет директоров компании подотчетен в первую очередь акционерам. Самым важным акционером OpenAI является Microsoft, компания, которая предоставила 13 миллиардов долларов Альтману и другим, чтобы помочь Bing, Office, Windows и Azure превзойти Google и опередить Amazon, IBM и других выскочек в области искусственного интеллекта.
! [v2_66b463d4aa65450786b39c2d78c6413d@5629480_file_000] (https://img.jinse.cn/7139788_image3.png)
Однако, по словам корреспондента CNN Кары Суишер, Microsoft не была проинформирована об увольнении Альтмана до тех пор, пока об этом не было «публично объявлено». Акции Microsoft упали после увольнения Альтмана.
Сотрудники также не были проинформированы о новостях заранее. Грег Брокман, соучредитель и бывший президент компании, сказал в статье на X, что он узнал об Альтмане только за мгновение до того, как его уволили. Брокман, ключевой сторонник Альтмана и его стратегически управляемой компании, подал в отставку в пятницу. Другие сторонники Альтмана также покинули страну.
Внезапно OpenAI оказалась в кризисе. **Есть сообщения о том, что Альтман и бывшие сторонники OpenAI собираются начать свой собственный бизнес, что угрожает свести на нет все, над чем компания так усердно работала в течение последних нескольких лет.
В результате, на следующий день совет директоров, как сообщается, потребовал сменить курс и попытался вернуть Альтмана (что пока безуспешно). Это был шокирующий поворот событий и досадная ошибка для компании, которая считается самым многообещающим и интересным производителем новых технологий.
01.Своеобразная структура доски
Своеобразная структура совета директоров OpenAI еще больше усложняет ситуацию.
Компания является некоммерческой организацией. Но в 2019 году Альтман, Брокман и главный научный сотрудник Илья Суцкевер основали акционерную платформу OpenAI LP (Limited Partner) — коммерческую организацию, существующую в структуре крупных корпораций. Коммерческая компания всего за несколько лет превратила OpenAI из бесполезной в $90 млрд, и Альтман в значительной степени считается вдохновителем схемы и ключом к успеху компании.
! [v2_c2a9a8b36b124932998b428e385d6cdc@5629480_file_000] (https://img.jinse.cn/7139789_image3.png)
Тем не менее, крупные инвесторы, такие как Microsoft и венчурная фирма Thrive Capital, хотят, чтобы компании расширяли свою деятельность и зарабатывали деньги. Инвесторы хотят быть уверены в том, что они получают свои деньги, и они не являются группой, известной своим терпением.
Это может привести к тому, что Альтман подтолкнет коммерческую компанию к инновациям и более быстрому запуску продуктов. В соответствии с традицией Кремниевой долины «двигаться быстро и ломать шаблоны», эти продукты могут поначалу работать не так хорошо.
Если это приложение для знакомств или платформа социальных сетей, возможно, это нормально. Но совсем другое дело, если речь идет о технологии, которая имитирует человеческий язык и поведение и может обмануть людей, заставив их поверить в то, что их фальшивые разговоры и изображения реальны.
И это то, что, как говорят, беспокоит совет директоров компании, поскольку большая часть совета по-прежнему контролируется некоммерческим подразделением компании. По словам Свишера, недавняя конференция разработчиков OpenAI стала переломным моментом: Альтман объявил, что OpenAI предоставит инструменты, которые позволят любому желающему создать свою собственную версию ChatGPT.
Этот шаг слишком далек для Суцкевера и совета директоров.
02. Не необоснованное предупреждение
По словам самого Альтмана, компания играет с огнем.
Когда Альтман основал OpenAI LP четыре года назад, новая компания отметила в своем уставе, что она по-прежнему «обеспокоена» потенциалом ИИ «вызвать быстрые изменения в человечестве». Это может произойти непреднамеренно, из-за ошибочного кода, который заставляет технологию выполнять вредоносные задачи, или может быть так, что люди намеренно подрывают системы ИИ из зла. В результате компания уделяет приоритетное внимание безопасности, даже если это означает снижение прибыли заинтересованных сторон.
! [v2_e0c488c2c1ee4c9392085d8775f10ee7@5629480_file_000] (https://img.jinse.cn/7139790_image3.png)
Альтман также призвал регулирующие органы установить ограничения на ИИ, чтобы такие люди, как он, не причиняли серьезный вред обществу.
«Принесет ли искусственный интеллект, подобно печатному станку, большее процветание и, прежде всего, две большие свободы, распространяя знания, власть и исследования среди широких слоев населения, предоставляя обычным людям повседневные возможности?» Он задавал вопросы на слушаниях в подкомитете Сената в мае, призывая к регулированию. «Или это будет больше похоже на атомную бомбу – огромный технологический прорыв, серьезные и ужасные последствия которого преследуют нас до сих пор?»
Сторонники ИИ утверждают, что эта технология может произвести революцию в промышленности и принести пользу человечеству. Она обладает потенциалом для улучшения образования, финансов, сельского хозяйства и здравоохранения.
Но это также может привести к сокращению рабочих мест: Всемирный экономический форум предупредил в апреле, что 14 миллионов рабочих мест могут исчезнуть в течение следующих пяти лет. Искусственный интеллект особенно хорош в распространении вредоносной дезинформации. Некоторые, в том числе бывший член совета директоров OpenAI Илон Маск, опасаются, что технология искусственного интеллекта превзойдет людей в интеллектуальном плане и может уничтожить жизнь на Земле.
03. Втянутый в великий неизвестный кризис
Перед лицом этих угроз, реальных или мнимых, неудивительно, что режиссеры обеспокоены тем, что Олтман движется слишком быстро. Они могут посчитать себя обязанными уволить его и заменить кем-то, кто, по их мнению, более осторожен в отношении потенциально опасных технологий.
Однако OpenAI работает не в вакууме. У него есть заинтересованные стороны, некоторые из которых вложили в компанию миллиарды долларов. И, как выразился Суишер, так называемые взрослые в комнате были похожи на «клоунские машины, врезающиеся в золотую жилу», процитировав генерального директора Meta Марка Цукерберга о Twitter.
! [v2_da43f60ac6c0476fbafa5cbeb12c2747@5629480_file_000] (https://img.jinse.cn/7139791_image3.png)(来源:网络)
Вовлекайте Microsoft в процесс принятия решений, уведомляйте сотрудников, работайте с Альтманом над достойным планом выхода... Все это общие решения для советов директоров компаний такого масштаба, как OpenAI, и все они могут привести к лучшим результатам.
Несмотря на большие пакеты акций Microsoft, Microsoft не имеет места в совете директоров OpenAI из-за странной организационной структуры OpenAI. По данным многих СМИ, включая Wall Street Journal и New York Times, теперь ситуация может измениться. Одним из требований компании, включая возвращение Альтмана, является наличие места в совете директоров.
Благодаря функциональности OpenAI, подобной ChatGPT, встроенной в Bing и другие основные продукты, Microsoft рассматривает себя как разумную инвестицию в новые технологии, которые обещают будущее. Поэтому, когда генеральный директор Microsoft Сатья Наделла и его команда присоединились к людям по всему миру в пятницу вечером, чтобы узнать о пожаре Альтмана, все они были шокированы.
Совет директоров разозлил влиятельного союзника, и вполне возможно, что компания изменится навсегда из-за того, как она справилась с отставкой Альтмана. В конце концов, Альтман может вернуться к рулю, коммерческая компания войдет в совет директоров некоммерческой организации, а культура OpenAI кардинально изменится.
Кроме того, она может стать конкурентом Altman (которая в настоящее время присоединится к Microsoft), которая в конечном итоге может решить основать новую компанию и переманить таланты из OpenAI.
В любом случае, OpenAI сейчас может оказаться в худшем положении, чем до того, как она уволила Альтмана в прошлую пятницу. По иронии судьбы, этой проблемы можно было бы избежать, сбавив скорость.