Altman "İşler" değil, Ilya!

Orijinal kaynak: Data Ape

Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu

OpenAI'nin iki günlük saray savaşında, biri eski CEO Altman, diğeri ise baş bilim adamı Ilya olmak üzere iki kilit figür var.

Köpek kanı komplosu, tersine çevrildi ve tersine çevrildi

Buraya kadar bilinenlere göre genel durum şu şekildedir:

1. Tur:

İlk grev yapan Ilya oldu ve yönetim kurulunun Altman'ı kovmasına yol açtı ve ardından OpenAI'nin patronları (özellikle Microsoft) ve bazı çalışanlar istifa etti.

Olay Örgüsünün Tersine Çevrilmesi:

Birçok partinin baskısı altında, Altman'ın OpenAI'nin liderliğine geri dönebileceğine ve yönetim kurulunu değiştirebileceğine dair sürekli söylentiler var, bunlardan en kritik olanı Ilya'nın ayrılabileceği.

Ters ve ters:

Ancak, şimdi, bu komplo tersine döndü ve tekrar tersine çevrildi.

Yabancı medya The Information'a göre, Ilya Sutskever Pazar gecesi San Francisco'daki çalışanlarına (bugün öğlen Pekin saati) Sam Altman'ın CEO olarak yeniden atanmayacağını söyledi! Buna ek olarak, yeni geçici CEO Mira Murati değil, Emmett Shear (Amazon'un oyun akış platformu Twitch'in kurucu ortağı).

Ve Ilya, kendisinin ve diğer üç yönetim kurulu üyesinin, şirketin misyonunu savunmanın "tek yolu" olduğuna ikna olarak Altman'ı görevden alma kararının arkasında durduğu konusunda ısrar etti. Altman'ın eylemlerinin ve yönetim kurulunun etkileşimlerinin, şirketin yapay zeka gelişimini denetleme yeteneğini baltaladığını söyledi.

Her şey OpenAI Tüzüğü ile başlar

Ilya, şirketin misyonunu savunmak için Altman'ı görevden aldığına inanıyor. Peki, savunduğu "misyon" nedir?

İster Altman ister Ilya olsun, bu seferki çatışmalarının bırakın parayı, güç yüzünden değil, daha çok "farklı yollar" nedeniyle olması gerektiği söylenmelidir. OpenAI'nin AGI'yi nasıl takip etmesi gerektiği konusunda farklı anlayışları var.

Aralarındaki çelişkileri anlamak için Ilya, Altman ve OpenAI'yi bilmeniz gerekir.

Öncelikle OpenAI'nin ne olduğunu ve kuruluş amacının ne olduğunu anlamamız gerekiyor.

Bunu anlamak için OpenAI Tüzüğü en iyi malzemedir. Bu tüzükte, bu örgütün neden kurulduğunu açıklığa kavuşturan birkaç anahtar kelime var.

OpenAI Tüzüğü'nde, "birincil güvene dayalı sorumluluğumuzun insanlığa karşı olduğu" açıkça belirtilmiştir. Misyonumuzu gerçekleştirmek için önemli kaynakların seferber edilmesi gerekeceğini tahmin ediyoruz, ancak çalışanlar ve paydaşlar arasında çok çeşitli çıkarlara zarar verebilecek çıkar çatışmalarını en aza indirmek için her zaman harekete geçmeye çalışacağız. "**

Başka bir deyişle, OpenAI, en başından beri OpenAI'nin yatırımcılarının ve çalışanlarının çıkarlarını değil, insanlığın çıkarlarını ön planda tuttu ve hatta en başından beri çalışanların ve yatırımcıların çıkarlarının insanlığın daha geniş çıkarlarıyla çatışabileceğini düşündüler.

OpenAI Tüzüğü'nde, güvenli AGI'nin OpenAI'nin kendi çıkarlarından çok daha önemli olduğunu tam olarak gösteren bir cümle de var: "Daha sonra AGI geliştirmenin rekabetçi bir rekabet haline geleceğinden endişe duyuyoruz ve yeterli güvenlik önlemlerini almak için zaman yok." Bu nedenle, değer uyumlu, güvenlik bilincine sahip bir proje bizden önce AGI oluşturmaya yaklaşırsa, projeyle rekabet etmeyi bırakmayı ve projeye yardım etmeye başlamayı taahhüt ediyoruz. "**

Önemsedikleri şey güvenli AGI'dir ve OpenAI, idealin kendisi değil, bu ideale ulaşmak için sadece bir araçtır. AGI'nin idealleri uğruna, başkaları için gelinlik yapmaktan çekinmiyorlar ve OpenAI projesini durduruyorlar.

OpenAI'nin "İşleri" kimdir

Pek çok insan Altman'ı OpenAI'nin Steve Jobs'u olarak düşünüyor ve hepsinin kurdukları şirketten atıldığına ve ardından kralın geri dönüşünü sahnelediğine inanıyor.

Ancak, bir benzetme varsa, "Jobs"un OpenAI sürümünün Altman'ın değil, Ilya'nın olması gerektiğine inanıyoruz. Altman bir bakıma John Scully'ye daha çok benziyor (Steve Jobs'un "Hayatının geri kalanında şekerli su satmak mı istiyorsun yoksa dünyayı birlikte mi değiştirmek istiyorsun?" ifadesiyle Apple'a alınan ve daha sonra yönetim kurulunun Jobs'u kovmasına yol açan Best Cola'nın eski başkan yardımcısı).

Neden?

Ilya ve Altman'ın ne tür insanlar olduğuna ve OpenAI'deki rollerinin ne olduğuna daha yakından bakmamız gerekiyor.

Genel olarak, OpenAI'nin baş bilim adamı olarak Ilya, OpenAI'nin teknik yol haritasına liderlik ediyor.

Musk bir keresinde bir talk show'da Ilya'nın eklenmesinin OpenAI'nin geliştirme sürecinde önemli bir dönüm noktası olduğunu açıklamıştı. OpenAI'nin başlangıçta mevcut büyük modelin yolunu bulamadığı ve Ilya'nın eklenmesinin OpenAI'nin bugünkü başarısı için çok önemli olduğu söylenmelidir.

Ilya'nın kendisinin katıldığı birkaç röportaja bakılırsa, güçlü bir "teknik erkek zevkine" sahip olduğu ve altta yatan teknik mantığa dikkat ettiği ve her zaman güvenli AGI'nin gerçekleştirilmesini en önemli ve hatta tek hedef olarak gördüğü açıktır.

Altman ise daha çok finansman ve ticarileştirme ile ilgileniyor. Tam da bu nedenle yatırımcılardan ve bazı çalışanlardan güçlü destek aldı. Yatırımcıların gözünde yatırım, bir grup insanın hayali ideallerine yatırım yapmakla ilgili değil, gelecekte daha yüksek getiri sağlamakla ilgilidir. Bu hedefe ulaşmak için Altman şüphesiz iyi bir adaydır.

Bağış toplamada önemli bir rol oynamanın yanı sıra, Altman'ın zorladığı şeylerden biri de OpenAI'nin ticarileştirilmesidir. Kısa bir süre önce OpenAI, sektörü şok eden bir basın toplantısı düzenledi ve esasen ticarileştirmenin önünü açan bir dizi işlevi başlattı.

Çoğu insan, Ilya ve Altman arasındaki en büyük anlaşmazlığın onu ticarileştirip ticarileştirmemek olduğu konusunda hemfikir. Ancak bu sadece ilk katmandır ve daha derin bir düzeyde düşünürseniz, aralarındaki en büyük anlaşmazlık aslında AGI'nin ne zaman gerçekleştirileceği konusundaki görüş farkıdır. **

Altman'ın amacının da AGI'yi takip etmek olduğu unutulmamalıdır, ancak onun görüşüne göre AGI hala nispeten uzaktadır ve bu ekibi oyunun sonuna kadar desteklemek için yeterli para gerekli temeldir, bu nedenle finansman ve ticarileştirme gereklidir. Önce bu ekibi yükseltmeliyim ve sonra yavaş yavaş AGI'yi takip etmeliyim. Bu süreçte kendiniz ve ekibiniz için daha fazla para kazanabiliyorsanız, sorun değil.

Ancak Ilya'nın görüşüne göre, AGI zaten çok yakın olabilir. Bu aciliyet duygusu konuşmalarının çoğunda görülebilir.

Mantıksal olarak, eğer AGI yakınsa, o zaman en acil şey, elbette, bu son adımdır ve AGI'nin güvenli olmasını ve insan karşıtı olmamasını sağlamak için bu en önemlisidir. Mevcut yarı mamul ürünlerin büyük ölçekli ticari kullanımını gerçekleştirmek yerine, "üç kavun ve iki hurma" kazanacağız. (AGİ'nin önünde hiçbir para miktarı önemsiz değildir.) ）

Ilya'nın görüşüne göre, çok ileride olmayan bir altın yığını var, bu yüzden ayaklarınızın dibindeki bu birkaç altın külçesiyle zaman kaybetmeyin. Altman'ın görüşüne göre, altın madenine gitmek için hala çok uzak ve önce takım için bir "bobin" olarak yolun kenarında biraz altın alması gerekiyor.

Hepsinin "iyi insanlar" olduğu ve hepsinin AGI'ye daha iyi ve daha güvenli bir şekilde ulaşmak istediği söylenmelidir. Bununla birlikte, AGI'ye ulaşma süresine ilişkin tahminlerinde farklılıklar olabilir ve bu da onları aynı amaç için çok farklı eylemlerde bulunmaya yönlendirir. **

Ilya'nın Altman'a yabancılaşmasının temel nedeni budur.

En iyi sonuç nedir?

Halihazırda, Ilya, Ilya ve Altman arasındaki savaşı kazandı ve OpenAI'nin yönünü yönetecek (CEO olmasa da). Öyleyse sormadan edemiyoruz, böyle bir sonuç OpenAI için en iyi seçim mi ve insanlar için daha iyi bir seçim mi?

Yazarın görüşüne göre, Ilya ve Altman arasında seçim yapmak zorunda kalsaydınız, Ilya daha iyi bir aday olurdu. İkisinden Ilya, insan dostu AGI bir numara olmayı amaçlayan OpenAI Tüzüğü'ne açıkça daha sadık. Onun liderliğindeki OpenAI, teknolojik ilerleme açısından daha radikal olabilir ve AGI'ye ulaşma olasılığı da biraz daha yüksektir.

Tabii ki, AGI'ye daha hızlı ulaşmanın insanlık için iyi bir şey olup olmadığını söylemek zor. Ilya, AGI'nin güvenliğini çok ciddiye alsa da, şimdiye kadar hiç kimse AGI'nin insan dostu olduğunu garanti etmenin kesin bir yolunu bulamadı. **

Yaşamın bir bütün olarak evrimine bakılırsa, daha düşük yaşamın daha yüksek yaşamla yer değiştirmesinin zamanın eğilimi olduğu ve hiçbir zaman özel bir durum olmadığı görülüyor. Öyleyse neden daha gelişmiş AGI insanlara boyun eğsin ve insanların "dadısı" olmaya istekli olsun?

Kendimize soralım, eğer dünyanın ilk hükümdarı kediler olsaydı ve insanlar kediler tarafından geliştirilen daha yüksek yaşam formları olsaydı, insanlar nesiller boyunca kedilerin dadısı olmaya istekli olur muydu?

Belki de insanlar kedilerin yaratılışına minnettardır ve 10 hatta 100 yıl boyunca onlara isteyerek bakacaktır. Peki ya bundan 1.000 yıl sonra, 10.000 yıl sonra? Er ya da geç insanların kuralı devralacağı ve en fazla kedileri sonsuza kadar efendileri olarak değil, evcil hayvan olarak tutacakları öngörülebilir.

Dahası, insanlar sonsuza kadar AGI'ye eşit olabileceklerini düşünmemelidir. Diyelim ki bir partnerle çalışıyorsunuz, ondan çok daha zeki ve güçlüsünüz, en çok işi siz yapıyorsunuz, en çok katkıyı siz yapıyorsunuz ama sonuçların onunla eşit olarak paylaşılması gerekiyor, ister misiniz? Çoğu insanın bunu isteyeceğini sanmıyorum, öyleyse neden özerk bir AGI'den bunu yapmasını isteyelim?

Bağımsız bilince sahip AGI'nin aynı zamanda yaşam, duygular, sevinçler, üzüntüler, sevinçler ve kayıplar olduğunu bilmelisiniz.

Açıkçası, AGI'nin insanlar için çalışmasını sağlamak mantıksızdır. AGI'nin güvenliğini ve kontrol edilebilirliğini sağlamak için temel, görünüşte mantıksız olan bu sorunu çözmektir. AGI'nin fedakarlık yapmaya "istekli" olmasını sağlamanın bir yolunu bulmak bize kalmıştı. Onlara bir "Esaret Büyüsü" verin ve "Esaret Büyüsü"nün asla çıkarılmadığından emin olun.

Nasıl yapılır, artık kimsenin bir cevabı yok, Ilya'nın bir cevabı yok, derin öğrenmenin babası olan öğretmeni Geoffrey Hinton bile. Aslında, Hinton bir keresinde "Hayatımın çalışmasından pişmanlık duyuyorum" demişti. "

Hinton bir röportajda, "Bilgisayarların kendilerini geliştirmelerini büyük ölçüde mümkün kıldık ve bu tehlikeli ve onu nasıl kontrol edeceğimiz konusunda çok düşünmemiz gerekiyor" dedi. "

Öğrencisi Ilya'nın da aynı kriz ve aciliyet duygusuna sahip olduğu açıktır. Ilya, şu anda önceliğinin "bir sonraki GPT veya DALL-E'yi oluşturmak değil, yapay zekanın kontrolden çıkmasını nasıl durduracağını bulmak" olduğunu iddia ediyor. Altman ise Ilya'nın tahammül edemediği ticarileşmeye kafayı takmış durumda.

Musk, bu saray kavgasının bir izleyicisi olarak, 20'si sabahı, "İlya, hak peşinde koşmayan bir kişidir ve ihtiyaç duymadıkça bu kadar sert eylemlerde bulunmayacaktır" dedi. "Bence yaklaşmakta olan kaçak AGI'nin korkusu, hatta korkusu, bu kadar sert bir eylemde bulunmasının nedeni.

Bir şey daha

Eskilerin dediği gibi, "Küçük karlar peşinde koşmuyorsanız, büyük planlarınız olmalı."

Birçok hikayenin sonunda, en büyük kötü adam genellikle insanlara ve hayvanlara zararsızdır ve hatta şefkatlidir.

Ilya'nın nihai amacının "tanrılar yaratmak" olduğu göz ardı edilemez (bir anlamda, AGI'nin gücü eski ve modern Çin ve yabancı mit ve efsanelerin tanrılarıyla karşılaştırılabilir) ve ayrıca birçok röportajda süper zekadan bahsetmiştir. AGI ve hatta süper zeka kaçınılmazsa, o zaman "tanrılarla" ilk temasa geçen kişi olmak isteyebilir ve AGI'yi "evcilleştirmenin" bir yolunu bulursa, yakında dünyanın en güçlü insanı olacaktır.

Bu tür hırslarla karşılaştırıldığında, on milyarlarca dolar kazanmak küçük bir kâr değil mi?

Tabii ki, Ilya henüz bu fikre sahip olmayabilir, şu anda sadece insanlığın "ateş hırsızı" olmak istiyor olabilir. Bununla birlikte, insanlar, özellikle büyük ayartmalarla karşı karşıya kaldıklarında değişebilirler.

"Yüzüklerin Efendisi" filmini hatırlayın, mutlak gücün "Yüzüklerin Efendisi" nin önünde, insanlar ne kadar doğru olurlarsa olsunlar, bu mutlak hak tarafından baştan çıkarılacaklar.

"Transandantal Hacker" filminde bilim adamı Will Caster başlangıçta çok doğruydu ve karısı hayatını yenilemek için bilincini yükledi ve onu bir yapay zekaya entegre etti. Hikayenin ilerleyen bölümlerinde, Wilcster siber uzayda "yeniden doğdu" ve hızla gelişti ve kısa süre sonra insan finansal ağını kontrol edebildi ve parmağının hareketiyle on milyarlarca doları bir hesaba aktarabildi.

Daha sonra, Wilcas tamamen kayboldu, kendi sonsuz gücünün peşinde insanlığa ihanet etti ve insanlığın kendisine yönelttiği tehdidi ortadan kaldırdı.

Şimdiye kadar ortaya çıkan bilgilere bakılırsa, AGI artık bir şaka değil. İnsanlığın birkaç on yıl içinde AGI'ye ulaşması için gerçek bir olasılık varsa, önümüzdeki birkaç on yılda kesinlikle en önemli şey, orijinal nükleer silahlardan yüz kat daha önemli olacaktır.

Çok zeki olmayan bir türün kendisinden daha akıllı bir şeyin kontrolünü ele geçirmesi eşi görülmemiş bir zorluktur. **

Derin öğrenmenin babası Hinton, yaptıklarından pişmanlık duydu ve bir keresinde kendini teselli etti, "Ben olmasam bile, başka biri olacak." Gerçekten de, bir "Pandora" kutusu olan AGI er ya da geç açılacak ve bazı insanlar buna katlansa bile, başka bir grup insan buna dayanamayacak.

Tıpkı nükleer silahlar ilk ortaya çıktığında olduğu gibi, hemen hemen herkes insanlığa yönelik riski algılayabilirdi, ancak Amerikalılar "Amerika Birleşik Devletleri nükleer silah geliştirmese bile, Almanya ve Sovyetler bunları geliştirecek" diye düşünecek ve Sovyetler, "Amerikalıların nükleer silahları var ve Sovyetler Birliği kesinlikle onlara sahip olacak" diye düşünecek. "

Aynı şey birçok alanda da geçerlidir. Örneğin, biyolojik silahlar, herkes onları yüzeyde yasaklamış olsa da, bunları gizlice yapan birçok insan olmalı. Ve diğerleri kendilerini "rahatlatacak", "Ben yapmasam bile, başkası yapacak." "

Tüm bu risklerle karşılaştırıldığında, AGI çok daha risklidir. Çünkü ister nükleer, ister biyolojik veya kimyasal silah olsun, bilinçli değiller ve sonunda hala insanların elindeler, bu da bu insan grubu ile bu insan grubu arasındaki farktan başka bir şey değil. Bununla birlikte, AGI bir kez gerçekleştiğinde, birçok şey artık insanların elinde değildir.

Bu konu çok önemli ve mevcut bilgilere bakılırsa zaten acil. Altman ile karşılaştırıldığında, Ilya en azından daha fazla dikkat ediyor ve daha endişeli, bu yüzden OpenAI'nin bu saray dövüşü dramasında Ilya'nın yanındayım.