AI neden eşit şekilde gelişmiyor? a16z, Replit kurucusu: doğrulanabilirlik ana farktır.

Ünlü girişim sermayesi a16z kurucusu Marc Andreessen ve Replit kurucusu Amjad Masad, 10/25 tarihinde AI gelişim durumu üzerine bir konuşma yaptı. Andreessen, AI'nın program yazma, matematik hesaplama ve fiziksel fenomenleri simüle etme konusundaki ilerlemesinin şaşırtıcı olduğunu, ancak sağlık ve hukuk gibi alanlarda duraksama olduğunu belirtti. Masad, anahtarın zorlukta değil, doğrulanabilirlikte olduğunu yanıtladı. Yani, doğru ve yanlışı nesnel olarak yargılayabilen görevlerdeki ilerleme en hızlı olanı, daha belirsiz alanların ise aşılması en zor olanıdır.

Yapay zekanın iki hızı vardır: doğrulanabilir olanı herkesten hızlıdır.

Masad, önce model eğitim yöntemine bir göz atalım. Erken dönem dil modelleri, sadece metne bakarak bir sonraki harfi tahmin ediyordu. Konuşabiliyorlardı ama gerçek anlamda akıl yürütemiyorlardı. Güçlü öğrenmenin (( Reinforcement Learning, RL )) tanıtılmasından sonra, AI doğrulanabilir ortamlarda öğrenmeye başladı. O şöyle açıkladı:

“Program hatalarını düzeltmek, birim testleri yapmak veya kesin sonuçlar veren görevler gibi, AI doğrudan doğru veya yanlış olduğunu anlayabilir.”

Bu tür anlık geri bildirim eğitim yöntemi, AI'nin problem çözme yeteneğini hızla güçlendirmesini sağlar.

Neden sağlık ve hukuk alanları yetişemiyor?

Andreessen soru sordu: “Peki ya sağlık, hukuk gibi alanlar? Neden ilerleme o kadar yavaş görünüyor ve duraklama olayı var?” Masad cevapladı:

“Onlar yüzünden, tek bir cevap yoktur.”

Masad örnek vermiştir, tıbbi teşhislerin birden fazla nedeni ve hastalık sürecinde değişiklikler olabilir, hukuki kararlar da hakim ve davalardaki farklılıklar nedeniyle farklılık gösterir, yani çok esnektir, net bir standart cevap yoktur. Bu durum modelin kendini doğrulamasını zorlaştırır ve güçlendirilmiş bir döngü kurmasını imkânsız hale getirir.

Her ne kadar modelin desteklenmesi için insan geri bildirimiyle güçlendirilmiş öğrenme (RLHF) kullanılabilse de, bu hala öznel bir değerlendirmedir ve matematik veya programlama kadar doğrudan ve net değildir.

(Not: İnsan geri bildirimine dayalı güçlendirme öğrenimi (RLHF), bir makine öğrenimi (ML) tekniğidir ve ML modellerinin geliştirilmesi için insan geri bildirimini kullanarak kendi öğrenme verimliliğini artırmayı amaçlar. )

Gerçek anahtar “zorluk” değil, "doğrulanabilirlik"tir.

Andreessen gözlemlerini toparlayarak şöyle dedi: “Yani mesele, problemin zor olup olmadığı değil, doğru cevabı doğrulayıp doğrulayamayacağımızdır?” Masad belirtti:

“Evet, AI'nin programlama ve matematikteki patlaması, daha basit olduğu için değil, sonuçları doğrulama kapasitesinden dolayıdır.”

Örneğin, program yazarken, program derlenebiliyorsa ve test geçebiliyorsa, AI hemen “doğru cevap” geri bildirimi alır; bu, modelin her gün binlerce kez otomatik olarak pratik yapmasını ve hızla evrim geçirmesini sağlar.

Hangi alanlar doğrulanabilirliğe sahiptir?

İki kişi, AI'nın en hızlı ilerlediği birkaç alanı sıraladı:

Matematik ve Fizik: Açık denklemler ve simülasyon sonuçları vardır.

Kimya ve biyoloji: Protein katlanması, gen dizilimi gibi deneylerle veya simülasyonlarla doğrulanabilir.

Robot: Görev başarısı ya da başarısızlığı doğrudan ölçülebilir.

Bunlar “objektif olarak doğrulanabilir” alanlara aittir, bu nedenle AI'ın şu anda en dik öğrenme eğrisi olan yerdir.

Program yazan AI önce birden yükselecek, tıp ve hukuk ise yolda.

Masad özetleme sırasında şunları söyledi:

“Program yazan AI öncelikle hızla yükselecek, matematik, fizik, kimya da onu takip edecek. Ancak tıbbi, hukuki gibi daha soyut alanlar yavaş yavaş ilerleyecek.”

Andreessen de onayladı:

“Bu bir doğal fenomen. AI, ölçülebilir alanlarda önce patlak verir, insan yargısının belirsiz olduğu alanlarda ise bir adım geride kalır.”

Bu makalede AI'nin neden eşit şekilde ilerlemediği ele alınıyor? a16z ve Replit kurucusu: doğrulanabilirlik en önemli farktır. İlk olarak Chain News ABMedia'da yayınlandı.