Yapay zeka, Silikon Vadisi'nin "tekillik" anını başlatmasına yardımcı oluyor mu? 2045'te insan zekası 1 milyon kat artabilir

Odak:

  1. Pek çok uzman, yapay zekada kaydedilen büyük ilerlemenin Silikon Vadisi'nin bir tekillik anı başlatmasına yardımcı olduğuna inanıyor ve biz de şiddetli, üstel ve geri dönüşü olmayan değişiklikleri başlatmak üzereyiz.
  2. Tekillik teorisinin en büyük savunucusu olan Kurzweil, 2030 yılına kadar bilgisayar sistemlerinin Turing testini geçeceğini ve insanlardan ayırt edilemez hale geleceğini öngörüyor. Bundan on beş yıl sonra, gerçek tekillik, "bilgi işlem bizim bir parçamız haline geldiğinde ve zekamız bir milyon kat arttığında" gelecek.
  3. Muhalefet eleştirmenleri, büyük dil modellerinin şaşırtıcı ilerlemesinin bile, tekillik teorisi tarafından vaat edilen ölümsüz, uzun vadeli dünya bilgeliğinden çok uzak olduğunu savunuyorlar.

Resim kredisi: Unbounded AI araçları tarafından oluşturulmuştur

Silikon Vadisi yıllardır yeni bir teknolojinin ortaya çıkmasını ve her şeyi değiştirmesini bekliyordu. İnsanları ve makineleri daha yüksek bir zekada birleştirecek ve tarihe bir çizgi çekecek. Bu dönüm noktası anı "tekillik" olarak bilinir.

Bu birkaç şekilde olabilir. Bir risk, insanların bir PC'nin işlem gücünü kendi doğuştan gelen zekalarına ekleyerek onları kendilerinin süper mutantlarına dönüştürmesidir. Ya da bilgisayar sistemleri o kadar karmaşıklaşabilir ki, bir dünya zihni yaratabileceğini varsayabilirler.

Her iki durumda da, takip eden değişiklikler sert, üstel ve geri döndürülemez olabilir. Öz farkındalığa sahip insanüstü bir makine, kendi geliştirmelerini herhangi bir grup bilim adamından daha hızlı tasarlayarak bir zeka patlamasını tetikleyebilir. Yüzyıllarca süren ilerleme yıllar hatta aylar içinde gerçekleştirilebilir.

Yapay zeka teknoloji, ticaret ve siyasette benzeri görülmemiş dalgalar yaratıyor. Silikon Vadisi'nden gelen abartılı iddialara ve çılgın tahminlere kulak verin, uzun süredir vaat edilen dijital cennete nihayet ulaşılabilecek gibi görünüyor.

Google'ın genellikle mütevazı CEO'su olan Sundar Pichai, yapay zekanın etkisinin "ateşten, elektrikten veya daha önce yaptığımız herhangi bir şeyden çok daha derin" olduğunu söyledi.

Milyarder yatırımcı Reid Hoffman, "Bu gezegende yapıcı değişiklik yapma yeteneği, daha önce hiç olmadığı kadar büyük bir destek elde etmek üzere" dedi.

Microsoft'un kurucu ortağı Bill Gates (Invoice Gates), yapay zekanın "insanların çalışma, öğrenme, seyahat etme ve sağlık hizmeti almanın ve birbirleriyle iletişim kurmanın en iyi yolunu deneyimleme şeklini değiştireceğini" ilan etti.

Ancak, burada karanlık bir bükülme var. Sanki teknoloji şirketleri sürücüsüz arabaları piyasaya sürdüler ve Walmart'a giderken patlayabilecekleri konusunda uyardılar.

**Twitter ve Tesla şefi Elon Musk geçen ay bir röportajda şunları söyledi: "Genel yapay zekanın ortaya çıkışına tekillik deniyor çünkü ondan sonra ne olacağını tahmin etmek zor." Ancak "bir bolluk çağına" inandığını söyledi. gelecekti, ancak bu AGI aynı zamanda "insanlığı yok etme potansiyeline sahip". **

Teknoloji dünyasında, yapay zekanın en büyük savunucusu, sohbet robotu ChatGPT'nin mevcut çılgınlığı ateşlediği OpenAI'nin CEO'su Sam Altman'dır. Altman, yapay zekanın "şimdiye kadar gördüğümüz birçok insanı en iyi finansal olarak güçlendirme ve zenginleştirme" olabileceğini söyledi, ancak Musk'ın haklı olabileceğini de söyledi. Musk, yapay zekayı eleştiriyor ve ayrıca beyin-bilgisayar arayüzleri geliştirmeye adanmış organizasyonlar yarattı.

Geçen ay Altman, kar amacı gütmeyen Yapay Zeka Güvenliği Merkezi'nin sponsorluğunda "AI yok olma riskini azaltmanın küresel bir öncelik olması gerektiğini" ve bunun "pandemiler ve Nükleer Savaş" ile bağlantılı olması gerektiğini belirten bir açık mektup imzaladı. Diğer imzacılar arasında Altman'ın OpenAI meslektaşlarının yanı sıra Microsoft ve Google'dan bilim adamları yer alıyor.

Silikon Vadisi'nde "dünyanın sonu" konusu artık tanıdık gelmeye başladı ve hatta birçok kişinin tartışmaya can attığı bir konu. Birkaç yıl önce, her büyük teknoloji adamının uzak ama yine de erişilebilir bir yerde iyi stoklanmış bir kıyamet günü sığınağı varmış gibi görünüyordu. Altman, 2016 yılında "silah, altın, potasyum iyodür, antibiyotik, pil, su, gaz maskesi ve Big Sur'un uçakla ulaşılabilen bir bölgesini" topladığını söyledi. yapılacak doğru şey. Şimdi tekilliğin gelişine hazırlanıyorlar.

Tekilliğin Kökleri

Tekillik fikrinin kökleri, 1950'lerde "teknolojinin sürekli hızlanan ilerlemesinin" nasıl üreteceğinden bahseden öncü bir bilgisayar bilimcisi olan John von Neumann'a kadar izlenebilir. insanlık tarihi".

Dünya Savaşı sırasında Bletchley Park'ta Alman Enigma kod sisteminin kırılmasına yardımcı olan İngiliz matematikçi Irving John Good, aynı zamanda tekillik teorisinin bir savunucusuydu. 1964'te "İnsanlığın hayatta kalması, süper zeki makinelerin erken gelişimine bağlı olacak" diye yazmıştı. Yönetmen Stanley Kubrick, "2001: A House Odyssey" Goode'da yapay zeka HAL'a danıştı, bu, arasındaki bulanık çizgilerin erken bir örneğidir. bilgisayar bilimi ve bilim kurgu.

Carnegie Mellon Üniversitesi Robotik Enstitüsü'nde yardımcı profesör olan Hans Moravec, yapay zekanın sadece insanlar için büyük bir nimet olmadığına, cansız şeylerin de tekillikte geri dönüştürülebileceğine inanıyor. Mind Children: The Future of Robot and Human Intelligence'da şöyle yazıyor: "Geçmişi yeniden yaratma ve onunla gerçek ve anında etkileşim kurma fırsatımız olacak."

Girişimci ve mucit Ray Kurzweil her zaman tekillik teorisinin en büyük savunucusu olmuştur. 1990'da yayınlanan "Akıllı Makineler Çağı", 2005'te yayınlanan "Tekillik Yakın" da dahil olmak üzere tekillik üzerine birçok kitap yazmıştır ve şu anda "Tekillik Daha Yakın" yazmaktadır.

**Kurzweil, 2030 yılına kadar bilgisayar sistemlerinin Turing testini geçeceğini ve insanlardan ayırt edilemez hale geleceğini öngörüyor. Bundan on beş yıl sonra, gerçek tekilliğin "bilgi işlem bizim bir parçamız haline geldiğinde ve zekamız bir milyon kat arttığında" geleceğini tahmin ediyor. O zamana kadar Kurzweil 97 yaşında olabilir. Besin vitaminleri ve diyet takviyelerinin yardımıyla, sırada ne olduğunu görmeye devam etmeyi umuyor. **

Tekillik teorisinin bazı eleştirmenlerine göre, algısal sistemleri yazılım programlama alanında kopyalamak, entelektüel açıdan şüpheli bir girişimdir. Massachusetts Institute of Technology'de Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı eski müdürü Rodney Brooks, "Hepsi bir tanrıya inanmanın verdiği rahatsızlık olmadan sonsuza kadar yaşamak istiyor" dedi.

Şu anda tekillik tartışmasını yönlendiren yenilik, büyük dil modellerinin, sohbet botlarına güç veren yapay zeka sistemlerinin ortaya çıkmasıdır. Bu geniş dil modelleri ile konuşma sürecinde hızlı ve tutarlı çözümler üretebilir.

"Bir soru sorduğunuzda, bu modeller bunun ne anlama geldiğini açıklıyor, bir yanıt vermesi gerektiğini belirliyor ve sonra onu kelimelere çeviriyor. Bu doğal zeka değilse nedir?"

Kaplan, sürücüsüz arabalar ve kripto para birimleri gibi çok abartılı mucizelere şüpheyle baktığını söyledi. En son yapay zeka büyümesi hakkında benzer endişeleri var, ancak ikna edildiğini söylüyor. "Bu bir 'tekillik' değilse, kesinlikle bir dizi sanat, bilim ve insan bilgisini geniş ölçüde hızlandıracak ve aynı zamanda bir dizi soru yaratacak devrim niteliğinde bir teknolojik patlamadır" dedi.

Eleştirmenler, büyük dil modellerinin şaşırtıcı ilerlemesinin bile, tekillik teorisi tarafından vaat edilen ölümsüz, uzun vadeli dünya bilgeliğinden çok uzak olduğunu söylüyor. Aldatmacayı gerçeklikten doğru bir şekilde ayırmanın dezavantajı, bu teknolojiyi çalıştıran motorun gizli olmasıdır. Eleştirmenler, açık kaynaktan yararlanan kâr amacı gütmeyen bir kuruluş olarak başlayan ve şimdi kâr amacı güden bir işletme haline gelen OpenAI'nin bir kara kutu haline gelmeyi başardığını söylüyor. Google ve Microsoft ayrıca sınırlı görünürlük sunar.

AI analizinin çoğu şirketler tarafından yapılır ve sonuçlardan elde edilecek çok şey vardır. OpenAI'ye 13 milyar dolar yatırım yapan Microsoft'taki araştırmacılar, Nisan ayında yayınlanan bir makalede, OpenAI'nin en son modellerinin "soyutlama, kavrama, vizyon, kodlama" ve "insan motivasyonunu ve duygularını anlama" dahil olmak üzere "zekanın birçok özelliğini sergilediği" sonucuna vardı. .

Stanford Üniversitesi'nde bilgisayar bilimi alanında doktora öğrencisi olan Rylan Schaeffer, bazı yapay zeka araştırmacılarının bu büyük dil modellerinin nasıl "gelişmekte olan yetenek" sergilediğini, daha küçük varyantlarda açıklanamayan yetenekler sergilediğini yanlış tanımladıklarını söylüyor.

Schafer, iki Stanford meslektaşı Brando Miranda ve Sanmi Koyejo ile birlikte geçen ay yayınlanan analitik bir makalede soruyu araştırdı. Ortaya çıkan patlamanın, ölçüm hatalarından kaynaklanan bir "serap" olduğu sonucuna vardılar. IMPACT'te araştırmacılar görmek istediklerini gördüler.

Ebedi Hayat ve Ebedi Kâr

Washington, Londra ve Brüksel'de milletvekilleri AI alternatiflerini ve sorunlarını tartışıyor ve düzenleme hakkında konuşmaya başlıyor. Altman, erken eleştirileri saptırma ve OpenAI'yi tekilliğin çobanı olarak gösterme umuduyla şimdi küresel bir tura çıkıyor.

Bu, düzenlemeye açık olmayı da içerir, ancak bunun nasıl yapılacağı konusunda hala net bir çerçeve yoktur. Silikon Vadisi sık sık hükümetlerin hızlı teknolojik gelişmeyi denetlemek için çok yavaş hareket ettiğini savunur. Eski Google CEO'su Eric Schmidt yakın tarihli bir röportajda, hükümette hiç kimsenin bunu doğru yapamayacağını ve yapay zekanın kendi kendini düzenlemesi gerektiğine inandığını söyledi.

Tekilliğe benzeyen AI, geri döndürülemez bir teknolojik trend olarak tanımlandı. Altman ve birkaç meslektaşı geçen ay "Bunu durdurmak, küresel bir düzenleyici rejime benzer bir şey gerektirecek ve bunun bile işe yarayacağı garanti edilmiyor" diye yazdı ve Silikon Vadisi bunu yapamazsa, belki başka bir yerde başarı olduğunu da sözlerine ekledi.

Daha az bahsedilen, bu trendden elde edilen büyük gelirdir. Yapay zekanın dev bir servet yaratan makine olduğu hakkındaki tüm konuşmalara rağmen, zengin olan insanlar zaten zengin olanlardır. Microsoft'un piyasa değeri bu yıl 500 milyar dolar arttı. Nvidia, yapay zeka yongalarına yönelik artan talep sayesinde ABD'deki en popüler halka açık şirketlerden biri olarak kabul ediliyor.

Altman tweet attı "AI, dünyanın her zaman istediği teknolojidir. Gerçekten de, kesinlikle teknoloji dünyasının başından beri istediği ve mutlak en iyi zamanlara ulaşan teknoloji. Geçen yıl Silikon Vadisi, dolandırıcılık ve hayal kırıklığıyla dolu daha önceki büyüme kripto para birimi alanıyla birlikte işten çıkarmalar ve artan faiz oranlarıyla sarsıldı.

Charles Stross, tekillikle ilgili bir komedi olan "Nerd Mania" adlı romanın yazarlarından biridir. "Buradaki gerçek vaat, şirketlerin kusurlu, pahalı, yavaş çalışan, manuel bilgi işleme alt modellerini, sorunları çözmeye ve genel giderleri azaltmaya yardımcı olan belirli yazılım programları ile değiştirebilecek olmalarıdır" dedi.

Tekillik her zaman heyecan verici büyük bir "kozmik an" olarak hayal edilmiştir. Bununla birlikte, şu anda insanların tekilliği tartışmasının nedeni, esas olarak Amerikan şirketlerinin insan gücünü azaltmak istemesi ve kârları artırma takıntısı olması olabilir. Hiperbolik terimlerle ifade etmek gerekirse, siz (girişimcileri kastederek) piyasa değerinizi trilyonlarca dolar artırmak için koştururken (ulaşılamaz) cennet bile sonsuza kadar bekleyebilir. (Metin / Jinlu)

Referanslar:

View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
  • Reward
  • Comment
  • Share
Comment
0/400
No comments
  • Pin