Hafta sonu bu büyük dramanın başlangıcından itibaren, bazı insanlar OpenAI'nin bir DAO yapması gerektiğini söyledi. Arsa geliştikçe, giderek daha fazla insan bu bakış açısına sahip. OpenAI gerçekten DAO yönetişim biçimini benimserse, bu dramadan kaçınabilecek mi? Bence öyle. Ancak bunun nedeni DAO'nun yönetişiminin ne kadar açık olduğu değil, OpenAI'nin yönetişiminin çok fazla sorunu olmasıdır. DAO ormanından biraz öğrenirseniz, bu olmayacak.
OpenAI, tüm insanlığa eşit şekilde fayda sağlayan güvenli yapay genel zeka (AGI) yaratmayı amaçlayan, kar amacı gütmeyen bir kuruluştur. OpenAI'nin kamu malları yaratan bir organizasyon olduğu düşünülebilir. Birçok DAO aynı zamanda kamu malları yaratan kuruluşlardır ve OpenAI ve DAO'lar zaten birçok düzeyde çok benzerdir.
(Yeni bir organizasyon biçimi olarak, DAO'nun birçok farklı biçimi vardır ve burada yalnızca yaygın kar amacı gütmeyen DAO'ların bir karşılaştırması var, bu da tüm DAO'ların böyle olduğu anlamına gelmez.) )
OpenAI'nin son zamanlardaki iç kargaşası aslında yapısal sorunlarından değil, yönetişim kurallarındaki netlik ve mantıksızlık eksikliğinden kaynaklanıyor ve bu da operasyona yer bırakıyor. Örneğin, yönetim kurulu başlangıçta dokuz üyeden oluşuyordu, ancak bazı yöneticilerin ayrılmasıyla şimdi sadece altı üye var. En yüksek otorite olan yönetim kurulu, yöneticileri zamanında yenileyemedi ve yönetim kurulu sadece üçe indirilmeye devam ederse, OpenAI'nin kaderine karar vermek için yalnızca iki kişinin oybirliğiyle rızası gerekiyor. CEO Sam Altman'ın değiştirilmesine ilişkin kilit karar, görünüşe göre tüm yönetim kurulu tarafından tartışılmadı ve müzakere edilmedi, ancak bazı yöneticiler tarafından daha fazla paydaşın görüşleri tam olarak dikkate alınmadan ve uygun iletişim ve istişare fırsatları sağlanmadan kapalı bir toplantıda kararlaştırıldı.
Kâr amacı güden şirketlerin bile, kurumsal yönetimin şeffaflığını artırmak ve kontrol gücü olmayan hissedarların ve halkın çıkarlarını daha iyi temsil etmek için bağımsız yöneticiler getirmesi gerekir. Temel teknolojinin gelişimi, sosyal güvenlik ve hatta insanlığın kaderi ile ilgili olan OpenAI gibi önemli bir organizasyon için, dışarıdan yöneticiler getirilmiş olsa da, bu sistem açıkça gerekli rolünü oynayamadı. OpenAI'nin yönetim kurulunun yalnızca çalışan temsili gibi daha fazla kontrol ve denge getirmesi değil, aynı zamanda daha etkili yönetişim mekanizmaları kurması gerekiyor. DAO'nun yönetişim modeline atıfta bulunarak, OpenAI için daha sağlam, şeffaf ve kapsayıcı bir yönetişim yapısı tasarlamanın keşfedilmeye değer olduğunu düşünüyorum.
DAO'ların ilk olarak, teknik liberallerin mümkün olan en büyük ölçüde insan müdahalesi olmadan çalışmaya devam edecek kendi kendine tutarlı bir sistem oluşturmak için tamamen koda güvenmek istedikleri ve "Özerk" olarak adlandırıldığı için önerildiğini düşünmeye değer. Ve DAO'da insanlara güvenmenin politik koordinasyonu ortaya çıktığında, DAO artık bir DAO değil, bir DO haline gelir ve özerkliğini kaybeder. Ancak bu aşamada, idealize edilmiş DAO'lar bunu yapamaz. Bir gereklilik olarak, kolektif yönetişim için blok zinciri ağlarına güvenen kuruluşlar DAO olarak kabul edilir. Bu, herkesin insan yönetiminin gerçekliğini kabul ettiği ve kod kısıtlamalarının yalnızca yardımcı olarak kullanıldığı anlamına gelir. DAO'nun en büyük özelliği, daha geniş bir ilgi alanı ve katılım fırsatı yelpazesini temsil eden Özerk'ten Topluluk Odaklı'ya değişti.
Tesadüfen, AGI'nin amacı Autonomous'u takip etmektir. OpenAI, organizasyon yapısında AGI'nin yüksek ekonomik değere sahip işlerin büyük çoğunluğunda insanlardan daha iyi performans gösteren son derece özerk bir sistemi ifade ettiğini açıkça ortaya koymaktadır.
AGI ile, ekonomik açıdan en değerli işlerde insanlardan daha iyi performans gösteren son derece özerk bir işi kastediyoruz.
OpenAI'>
AGI'deki özerklik daha çok davranışsal kapasite düzeyine atıfta bulunsa da, bunu daha düşük bir seviyeden düşünürsek, AGI ve DAO'nun her ikisi de temelde farklı olmayan dış kontrol olmadan çalışan gerçekten özerk bir sistem oluşturmayı umuyor. Öyleyse, böyle bir Özerk sistem karşısında, onu nasıl yönetmeliyiz, içsel insani değerlerin hizalanmasına ve ayarlanmasına daha fazla güvenmeli miyiz, yoksa daha fazla dış kısıtlama mı eklemeliyiz? LLM'den AGI'ye, bunların hepsi acilen dikkate alınması gereken konulardır.
OpenAI'nin dramasının son bölümü, çalışanların %90'ının istifalarını imzalaması ve Sam'i takip etmesidir, bu da son birkaç yıldır DAO alanında klasik bir tartışmanın iyi bir yankısıdır - kod kısıtlamalarının kurallarının topluluğun fikir birliğinden daha önemli olup olmadığı.
Kurallar ve kısıtlamalar çok fazla fikir birliği oluşturabilse de, gerçekten büyük fikir birliği genellikle kurallar tarafından oluşturulmaz. Yalnızca ortak bir misyon duygusu ve kültürel değerler gerçekten derin bir rezonans ve tutarlılık sağlayabilir.
İnsanlar arasında bu rezonansı nasıl yaratacağımızı biliyoruz. Peki ya yapay zeka?
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
OpenAI bir DAO olsaydı, bu saçmalıktan kaçınabilir miydi?
来源:Empower Labs
Hafta sonu bu büyük dramanın başlangıcından itibaren, bazı insanlar OpenAI'nin bir DAO yapması gerektiğini söyledi. Arsa geliştikçe, giderek daha fazla insan bu bakış açısına sahip. OpenAI gerçekten DAO yönetişim biçimini benimserse, bu dramadan kaçınabilecek mi? Bence öyle. Ancak bunun nedeni DAO'nun yönetişiminin ne kadar açık olduğu değil, OpenAI'nin yönetişiminin çok fazla sorunu olmasıdır. DAO ormanından biraz öğrenirseniz, bu olmayacak.
OpenAI, tüm insanlığa eşit şekilde fayda sağlayan güvenli yapay genel zeka (AGI) yaratmayı amaçlayan, kar amacı gütmeyen bir kuruluştur. OpenAI'nin kamu malları yaratan bir organizasyon olduğu düşünülebilir. Birçok DAO aynı zamanda kamu malları yaratan kuruluşlardır ve OpenAI ve DAO'lar zaten birçok düzeyde çok benzerdir.
(Yeni bir organizasyon biçimi olarak, DAO'nun birçok farklı biçimi vardır ve burada yalnızca yaygın kar amacı gütmeyen DAO'ların bir karşılaştırması var, bu da tüm DAO'ların böyle olduğu anlamına gelmez.) )
OpenAI'nin son zamanlardaki iç kargaşası aslında yapısal sorunlarından değil, yönetişim kurallarındaki netlik ve mantıksızlık eksikliğinden kaynaklanıyor ve bu da operasyona yer bırakıyor. Örneğin, yönetim kurulu başlangıçta dokuz üyeden oluşuyordu, ancak bazı yöneticilerin ayrılmasıyla şimdi sadece altı üye var. En yüksek otorite olan yönetim kurulu, yöneticileri zamanında yenileyemedi ve yönetim kurulu sadece üçe indirilmeye devam ederse, OpenAI'nin kaderine karar vermek için yalnızca iki kişinin oybirliğiyle rızası gerekiyor. CEO Sam Altman'ın değiştirilmesine ilişkin kilit karar, görünüşe göre tüm yönetim kurulu tarafından tartışılmadı ve müzakere edilmedi, ancak bazı yöneticiler tarafından daha fazla paydaşın görüşleri tam olarak dikkate alınmadan ve uygun iletişim ve istişare fırsatları sağlanmadan kapalı bir toplantıda kararlaştırıldı.
Kâr amacı güden şirketlerin bile, kurumsal yönetimin şeffaflığını artırmak ve kontrol gücü olmayan hissedarların ve halkın çıkarlarını daha iyi temsil etmek için bağımsız yöneticiler getirmesi gerekir. Temel teknolojinin gelişimi, sosyal güvenlik ve hatta insanlığın kaderi ile ilgili olan OpenAI gibi önemli bir organizasyon için, dışarıdan yöneticiler getirilmiş olsa da, bu sistem açıkça gerekli rolünü oynayamadı. OpenAI'nin yönetim kurulunun yalnızca çalışan temsili gibi daha fazla kontrol ve denge getirmesi değil, aynı zamanda daha etkili yönetişim mekanizmaları kurması gerekiyor. DAO'nun yönetişim modeline atıfta bulunarak, OpenAI için daha sağlam, şeffaf ve kapsayıcı bir yönetişim yapısı tasarlamanın keşfedilmeye değer olduğunu düşünüyorum.
DAO'ların ilk olarak, teknik liberallerin mümkün olan en büyük ölçüde insan müdahalesi olmadan çalışmaya devam edecek kendi kendine tutarlı bir sistem oluşturmak için tamamen koda güvenmek istedikleri ve "Özerk" olarak adlandırıldığı için önerildiğini düşünmeye değer. Ve DAO'da insanlara güvenmenin politik koordinasyonu ortaya çıktığında, DAO artık bir DAO değil, bir DO haline gelir ve özerkliğini kaybeder. Ancak bu aşamada, idealize edilmiş DAO'lar bunu yapamaz. Bir gereklilik olarak, kolektif yönetişim için blok zinciri ağlarına güvenen kuruluşlar DAO olarak kabul edilir. Bu, herkesin insan yönetiminin gerçekliğini kabul ettiği ve kod kısıtlamalarının yalnızca yardımcı olarak kullanıldığı anlamına gelir. DAO'nun en büyük özelliği, daha geniş bir ilgi alanı ve katılım fırsatı yelpazesini temsil eden Özerk'ten Topluluk Odaklı'ya değişti.
Tesadüfen, AGI'nin amacı Autonomous'u takip etmektir. OpenAI, organizasyon yapısında AGI'nin yüksek ekonomik değere sahip işlerin büyük çoğunluğunda insanlardan daha iyi performans gösteren son derece özerk bir sistemi ifade ettiğini açıkça ortaya koymaktadır.
OpenAI'>
AGI'deki özerklik daha çok davranışsal kapasite düzeyine atıfta bulunsa da, bunu daha düşük bir seviyeden düşünürsek, AGI ve DAO'nun her ikisi de temelde farklı olmayan dış kontrol olmadan çalışan gerçekten özerk bir sistem oluşturmayı umuyor. Öyleyse, böyle bir Özerk sistem karşısında, onu nasıl yönetmeliyiz, içsel insani değerlerin hizalanmasına ve ayarlanmasına daha fazla güvenmeli miyiz, yoksa daha fazla dış kısıtlama mı eklemeliyiz? LLM'den AGI'ye, bunların hepsi acilen dikkate alınması gereken konulardır.
OpenAI'nin dramasının son bölümü, çalışanların %90'ının istifalarını imzalaması ve Sam'i takip etmesidir, bu da son birkaç yıldır DAO alanında klasik bir tartışmanın iyi bir yankısıdır - kod kısıtlamalarının kurallarının topluluğun fikir birliğinden daha önemli olup olmadığı.
Kurallar ve kısıtlamalar çok fazla fikir birliği oluşturabilse de, gerçekten büyük fikir birliği genellikle kurallar tarafından oluşturulmaz. Yalnızca ortak bir misyon duygusu ve kültürel değerler gerçekten derin bir rezonans ve tutarlılık sağlayabilir.
İnsanlar arasında bu rezonansı nasıl yaratacağımızı biliyoruz. Peki ya yapay zeka?