С самого начала этой большой драмы в минувшие выходные некоторые люди говорили, что OpenAI должна сделать DAO. По мере развития сюжета все больше и больше людей придерживаются этой точки зрения. Если OpenAI действительно примет форму управления DAO, сможет ли она избежать этой драмы? Думаю, что да. Но это не из-за того, насколько очевидно управление DAO, а потому, что у управления OpenAI слишком много проблем. Если немного поучиться у джунглей DAO, этого не произойдет.
OpenAI — это некоммерческая организация, целью которой является создание безопасного общего искусственного интеллекта (AGI), приносящего пользу всему человечеству в равной степени. Можно считать, что OpenAI – это организация, которая создает общественные блага. Многие DAO также являются организациями, которые создают общественные блага, а OpenAI и DAO уже очень похожи на многих уровнях.
(Как новая форма организации, существует множество различных форм DAO, и здесь приведено только сравнение обычных некоммерческих DAO, что не означает, что все DAO такие.) )
Недавние внутренние беспорядки OpenAI на самом деле связаны не со структурными проблемами, а скорее с отсутствием ясности и иррациональностью в правилах управления, что оставляет пространство для работы. Например, совет директоров изначально состоял из девяти членов, но с уходом некоторых директоров теперь осталось только шесть членов. Совет директоров, как высшая инстанция, не смог своевременно пополнить состав директоров, и если совет директоров продолжит сокращаться до трех человек, то для решения судьбы OpenAI достаточно единогласного согласия двух человек. Ключевое решение о замене генерального директора Сэма Альтмана, по-видимому, не обсуждалось и не обсуждалось полным составом совета директоров, а было принято некоторыми директорами на закрытом совещании, без полного учета мнений большего числа заинтересованных сторон и без предоставления соответствующих возможностей для общения и консультаций.
Даже коммерческим компаниям, зарегистрированным на бирже, необходимо привлекать независимых директоров, чтобы повысить прозрачность корпоративного управления и лучше представлять интересы неконтролирующих акционеров и общественности. Для такой важной организации, как OpenAI, которая связана с развитием базовых технологий, социальным обеспечением и даже судьбой человечества, хотя и были введены внешние директора, эта система, очевидно, не сыграла должной роли. Совету директоров OpenAI необходимо не только ввести больше сдержек и противовесов, таких как представительство сотрудников, но и создать более эффективные механизмы управления. Обращаясь к модели управления DAO, я думаю, что стоит изучить возможность разработки более надежной, прозрачной и инклюзивной структуры управления для OpenAI.
Стоит задуматься над тем, что DAO были впервые предложены, потому что технические либералы хотели полностью полагаться на код для формирования самосогласованной системы, которая продолжала бы работать без вмешательства человека в максимально возможной степени, и называлась «автономной». И когда в DAO появляется политическая координация, основанная на опоре на людей, DAO перестает быть DAO, а становится DO, и теряет свою автономию. Но на данном этапе идеализированные DAO просто не могут этого сделать. В качестве требования организации, которые полагаются на блокчейн-сети для коллективного управления, считаются DAO. Это означает, что все признают реальность человеческого правления, а ограничения кода используются только в качестве вспомогательных средств. Самая большая особенность DAO изменилась с автономной на управляемую сообществом, что представляет более широкий спектр интересов и возможностей для участия.
Так совпало, что целью AGI является стремление к автономности. OpenAI ясно дает понять в своей организационной структуре, что AGI относится к высокоавтономной системе, которая превосходит людей в подавляющем большинстве работ с высокой экономической ценностью.
под AGI мы подразумеваем высокоавтономную систему, которая превосходит человека в большинстве экономически ценных работ.
OpenAI
Хотя автономия в AGI больше относится к уровню поведенческих способностей, если мы подумаем об этом с более низкого уровня, AGI и DAO надеются сформировать действительно автономную систему, которая функционирует без внешнего контроля, что принципиально не отличается. Итак, перед лицом такой автономной системы, как мы должны управлять ею, должны ли мы больше полагаться на выравнивание и настройку эндогенных человеческих ценностей, или мы должны добавить больше внешних ограничений? От LLM до AGI — все это вопросы, которые необходимо рассмотреть в срочном порядке.
Последний эпизод драмы OpenAI заключается в том, что колоссальные 90% сотрудников подписывают свое заявление об увольнении и следуют за Сэмом, что является хорошим отголоском классических дебатов в пространстве DAO за последние несколько лет — что важнее — правила ограничений кода или консенсус сообщества.
В то время как правила и ограничения могут сформировать большой консенсус, по-настоящему великий консенсус часто не формируется правилами. Только общее чувство миссии и культурных ценностей может по-настоящему достичь глубокого резонанса и последовательности.
Мы знаем, как создать этот резонанс между людьми. А как насчет ИИ?
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Если бы OpenAI была DAO, смогла бы она избежать этого фарса?
来源:Empower Labs
С самого начала этой большой драмы в минувшие выходные некоторые люди говорили, что OpenAI должна сделать DAO. По мере развития сюжета все больше и больше людей придерживаются этой точки зрения. Если OpenAI действительно примет форму управления DAO, сможет ли она избежать этой драмы? Думаю, что да. Но это не из-за того, насколько очевидно управление DAO, а потому, что у управления OpenAI слишком много проблем. Если немного поучиться у джунглей DAO, этого не произойдет.
OpenAI — это некоммерческая организация, целью которой является создание безопасного общего искусственного интеллекта (AGI), приносящего пользу всему человечеству в равной степени. Можно считать, что OpenAI – это организация, которая создает общественные блага. Многие DAO также являются организациями, которые создают общественные блага, а OpenAI и DAO уже очень похожи на многих уровнях.
(Как новая форма организации, существует множество различных форм DAO, и здесь приведено только сравнение обычных некоммерческих DAO, что не означает, что все DAO такие.) )
Недавние внутренние беспорядки OpenAI на самом деле связаны не со структурными проблемами, а скорее с отсутствием ясности и иррациональностью в правилах управления, что оставляет пространство для работы. Например, совет директоров изначально состоял из девяти членов, но с уходом некоторых директоров теперь осталось только шесть членов. Совет директоров, как высшая инстанция, не смог своевременно пополнить состав директоров, и если совет директоров продолжит сокращаться до трех человек, то для решения судьбы OpenAI достаточно единогласного согласия двух человек. Ключевое решение о замене генерального директора Сэма Альтмана, по-видимому, не обсуждалось и не обсуждалось полным составом совета директоров, а было принято некоторыми директорами на закрытом совещании, без полного учета мнений большего числа заинтересованных сторон и без предоставления соответствующих возможностей для общения и консультаций.
Даже коммерческим компаниям, зарегистрированным на бирже, необходимо привлекать независимых директоров, чтобы повысить прозрачность корпоративного управления и лучше представлять интересы неконтролирующих акционеров и общественности. Для такой важной организации, как OpenAI, которая связана с развитием базовых технологий, социальным обеспечением и даже судьбой человечества, хотя и были введены внешние директора, эта система, очевидно, не сыграла должной роли. Совету директоров OpenAI необходимо не только ввести больше сдержек и противовесов, таких как представительство сотрудников, но и создать более эффективные механизмы управления. Обращаясь к модели управления DAO, я думаю, что стоит изучить возможность разработки более надежной, прозрачной и инклюзивной структуры управления для OpenAI.
Стоит задуматься над тем, что DAO были впервые предложены, потому что технические либералы хотели полностью полагаться на код для формирования самосогласованной системы, которая продолжала бы работать без вмешательства человека в максимально возможной степени, и называлась «автономной». И когда в DAO появляется политическая координация, основанная на опоре на людей, DAO перестает быть DAO, а становится DO, и теряет свою автономию. Но на данном этапе идеализированные DAO просто не могут этого сделать. В качестве требования организации, которые полагаются на блокчейн-сети для коллективного управления, считаются DAO. Это означает, что все признают реальность человеческого правления, а ограничения кода используются только в качестве вспомогательных средств. Самая большая особенность DAO изменилась с автономной на управляемую сообществом, что представляет более широкий спектр интересов и возможностей для участия.
Так совпало, что целью AGI является стремление к автономности. OpenAI ясно дает понять в своей организационной структуре, что AGI относится к высокоавтономной системе, которая превосходит людей в подавляющем большинстве работ с высокой экономической ценностью.
Хотя автономия в AGI больше относится к уровню поведенческих способностей, если мы подумаем об этом с более низкого уровня, AGI и DAO надеются сформировать действительно автономную систему, которая функционирует без внешнего контроля, что принципиально не отличается. Итак, перед лицом такой автономной системы, как мы должны управлять ею, должны ли мы больше полагаться на выравнивание и настройку эндогенных человеческих ценностей, или мы должны добавить больше внешних ограничений? От LLM до AGI — все это вопросы, которые необходимо рассмотреть в срочном порядке.
Последний эпизод драмы OpenAI заключается в том, что колоссальные 90% сотрудников подписывают свое заявление об увольнении и следуют за Сэмом, что является хорошим отголоском классических дебатов в пространстве DAO за последние несколько лет — что важнее — правила ограничений кода или консенсус сообщества.
В то время как правила и ограничения могут сформировать большой консенсус, по-настоящему великий консенсус часто не формируется правилами. Только общее чувство миссии и культурных ценностей может по-настоящему достичь глубокого резонанса и последовательности.
Мы знаем, как создать этот резонанс между людьми. А как насчет ИИ?