Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
Acilen yeni bir volan bulması gereken cep telefonu üreticileri, büyük modellere göz dikiyor.
Ağustos ayının başlarındaki geliştirici konferansında Huawei, HarmonyOS 4'te bir AI asistanı olan Xiaoyi'yi büyük modele entegre edeceğini duyurdu ve Ağustos sonunda test etmeye davet etti. Xiaomi, aynı anda büyük modele erişmek için AI asistanı Xiaoai'nin davet testini de açtı. Bunu OPPO ve vivo izledi ve her ikisi de Kasım ayında büyük cep telefonu modellerini denemeye başladı.
"Büyük modelleri cep telefonlarına doldurmak" sektörde yeni bir şey değil,Ekim ortasından bu yana yoğun bir şekilde ısınan vivo'dan bahsetmiyorum bile,Rongmi O üç bu yıl düzenlenen basın toplantısında ilgili haberleri açıkladı。 Sektördeki genel görüş, akıllı telefon parçasının donanım kısmının neredeyse yuvarlanamaz olduğu ve bulutta çalışan büyük modellerin çoğunun donanımdan bağımsız bir değişken olduğu yönünde.
Cihaz tarafı dağıtımının da büyük model izleri için bir endüstri trendi olduğu unutulmamalıdır. ChatGPT'yi örnek alırsak, bulut tarafı büyük modelinin tipik bir temsilcisi olarak, eğitimi ve çıkarımı Microsoft'un Azure'unda çalışır ve kullanıcılar tarayıcılar veya uygulamalar aracılığıyla sonuçlar elde eder. Giriş-çıkış ve ileri geri arasında sadece kullanıcı deneyimini etkileyen bir gecikme değil, aynı zamanda enerji tüketimi ve bilgi işlem gücü gibi bulut maliyetleri de söz konusudur.
Gerçek senaryolar ve ihtiyaçlar açısından bakıldığında, cep telefonları, PC'ler ve yeni enerji araçları gibi yaygın olarak kullanılan terminaller başta olmak üzere birçok ihtiyaç uç cihazlar tarafından karşılanabilir.
Sonuç olarak, büyük modellerin uç taraf dağıtımı yavaş yavaş bir fikir birliği haline geldi, yalnızca cep telefonu üreticileri modelleri eğitme çabalarını perçinlemekle kalmadı, aynı zamanda PC yolunda Lenovo ve çip yolunda Qualcomm, bir süre önce uç taraf AI için ilgili çözümleri yayınladı. Özellikle, yeni piyasaya sürülen Qualcomm Snapdragon 8 Gen3 ve MediaTek Dimensity 9300, AI performanslarının iyileştirilmesinin, cep telefonundaki büyük modelin temeli olduğu söylenebilir.
Sektör ihtiyaçları ve donanım koşulları karşılandı ve büyük model nihayet cep telefonuna girebiliyor. Oldukça şaşırtıcı olan, "eksiksiz bir ürün" çıkaran ilk cep telefonu üreticisinin vivo olmasıdır.
**vivo large modelinin durumu nedir? **
1 Kasım'da vivo, 1 milyar, 10 milyar, 100 milyar ve diğer farklı parametre ölçekleri dahil olmak üzere kendi geliştirdiği büyük model matrisi "BlueLM"yi yayınladığı bir geliştirici konferansı düzenledi. Aynı zamanda, büyük modeline uyarlanmış, kendi geliştirdiği bir işletim sistemi olan OriginOS 4'ü de piyasaya sürdü.
Büyük modellerin "vaat edilmiş toprakları" karşısında, vivo'nun hevesi neredeyse yüzüne yazılmıştır.
Bir pazar araştırma ajansı olan Canalys tarafından 26 Ekim'de yayınlanan son verilere göre, vivo'nun gönderileri ve gönderileri azaldı ve sıralama da düştü. vivo'nun gidişatı değiştirmek için acilen büyük modellere ve OriginOS 4'e ihtiyacı var ve "kitabı açan" ilk kişi olması şaşırtıcı değil.
Ve büyük modelle karşılaştırıldığında, vivo tarafından bu sefer başlatılan OriginOS 4'ün güncelleme süresi biraz zayıf. Kamusal alan tartışmasında, yalnızca sanal grafik kartının yinelemesi, heterojen bilgi işlem alanı ve hafifliği beklendiği gibi değil, aynı zamanda vivo kullanıcıları arasında oldukça gürültülü olan atomik bildirim gibi modüller de yükseltilmedi. Başka bir deyişle, büyük model bu konferansın kahramanıdır.
İş modeli açısından bakıldığında, vivo'nun bu basın toplantısındaki rotası, taşıyıcı olarak yapay zeka asistanı ile daha önce sektördeki diğer oyuncularınkine benziyor ve ana oyun olan cihaz tarafı büyük modelin yerelleştirme ve hafifliğin bariz özelliklerini sunduğu bir cihaz tarafı + bulut tarafı hibrit dağıtım yöntemini benimsiyor.
Bunun amacı açıktır, cep telefonlarının küçük dünyasının sağladığı güç tüketimi ve bilgi işlem gücü, bilgisayar odasındakilerle aynı değildir. Model yeteneğinin cep telefonunun derinliği ile nasıl birleştirileceği, cep telefonu üreticilerinin acilen aşması gereken "know-how" haline geldi.
Bu bağlamda, vivo'nun çözümü, 1 milyar spesifikasyonun esas olarak metin senaryoları için ve 7 milyar spesifikasyonun doğal diyalog ve bilgi soru-cevap telefotosu için cihaz tarafı dağıtımının öne çıkan özellikleri olduğu çok parametreli bir spesifikasyon modeli başlatmaktır. Resmi tanıtımda, 1 milyar spesifikasyon ayrı ayrı cihaz tarafına yöneliktir ve 7 milyar spesifikasyon cihaz ve bulut için çift amaçlı olacak şekilde ayarlanmıştır ve hepsi 70 milyardan beri bulutta konuşlandırılmıştır, bu da vivo'nun cihaz-bulut işbirliğinde "Tanrı'nın Tanrı'ya ve Sezar'ın Sezar'a dönmesine izin verin" matris fikrini yansıtmaktadır.
Bu, Google'ın bu yıl Mayıs ayında, Google'ın dört parametre spesifikasyonuna sahip büyük bir PaLM2 modelini piyasaya sürdüğü ve küçük parametre modelinin çevrimdışı durumda saniyede 20 jeton işleyebildiği ve terminallerin çevrimdışı kullanımı için uygun olan I/O geliştirici konferansıyla aynıdır.
Vivo'nun "insanların dişlerini topladığını" düşünüyorsanız, bu çok serttir. Aslında vivo, 2017 gibi erken bir tarihte dahili bir yapay zeka ekibi kurmak için yola çıktı ve bugün vivo Yapay Zeka Araştırma Enstitüsü'nün 1.000'den fazla araştırmacısı var.
Teknik yağışı genellikle Ali ve Baidu gibi ilk kademeden daha düşük olsa da, açık kaynak topluluğunun varlığı, pazara biraz daha geç giren oyuncuların büyük orduyu hızla yakalamasına da izin veriyor. vivo'nun 2018 yılında kurduğu Bilgi Grafiği Araştırma Enstitüsü, bir cep telefonu üreticisi olarak karşılaşabileceği eğitim verisi eksikliğini de bir nebze de olsa güçlendirebilir.
Model yeteneğine gelince, vivo ısınma döneminde iyi bir cevap kağıdı verdi. BlueLM'nin üçüncü taraf değerlendirme seti C-of Chinese büyük modelinde "kısıtlı erişim modeli" kategorisinde birinciliği kazandığı bildirildi. Resmi duyurusuna göre BlueLM, endüstrinin ilk 7B cihaz tarafı büyük modelidir.
Bununla birlikte, değerlendirmede yüksek puanlar alan ancak tatmin edici olmayan gerçek performansa sahip birkaç model yoktur ve sektördeki bazı kişiler, bu listenin son dönemde "fırçalandığını" söylüyor, bu da yalnızca modelin "soru sorma" yeteneğini temsil edebilir ve akıl yürütme, güvenlik ve uyarlanabilirlik yeteneğini yansıtamaz. Bu açıdan bakıldığında vivo'nun iş sonuçlarının daha pratik testlere ihtiyaç duyduğu açıktır.
Ayrıca, vivo'nun Wensheng diyagramı ve etkileşimi gibi mevcut bulut modeli yetenekleri, büyük modellerin tuzağından çıkmamıştır ve yenilik sınırlıdır. Ayrıca, büyük bir oyun olarak cihaz tarafı model yeteneği hala test aşamasındadır ve uç taraf yeteneklerinin görüntülenmesi kaçınılmaz olarak cep telefonu donanımı ile sınırlıdır.
Blue Heart'ın dahili testine katılmaya davet edilen birçok kullanıcının X90 Pro tarafından temsil edilen amiral gemisi telefonları kullandığını ve bu modellerin aynı zamanda vivo tarafından piyasaya sürülen büyük ölçekli model uygulamaları için genel beta uyarlama programında en yüksek modeller olduğunu öğrendik.
Lütfen söylemek için diyagramı girin
Hiç şüphe yok ki büyük modeller, cep telefonu üreticilerinin üst düzey açılması için ikinci savaş alanı haline geliyor ve aynı zamanda kullanıcıları canlandırmak ve IoT'yi etkinleştirmek için önemli bir değişken. Buna rağmen, in vivo'nun büyük modellere güvenerek üst düzey ürünlerin değerini artırma niyetinde hala birçok değişken var
Son tahlilde, büyük modelin piyasaya sürülmesi yalnızca vivo'nun üst düzey modelinin yeni temel taşı değil, aynı zamanda yeni makineler ve üst düzey ürünler çekme girişimidir.
Düşük kaliteli modellerin bu üst düzey savaşla başa çıkması doğal olarak zordur. Örnek olarak vivo tarafından bu basın toplantısından önce piyasaya sürülen temel model Y100'ü ele alalım, bu yukarıda bahsedilen adaptasyon planındaki en son modellerden biri ve bu kadar benzer bir "arkadan bıçaklama" hareketinin arkasında vivo'nun "küçük abaküs" üst düzey ürünlerle tahta dönme umudu var.
Buna rağmen, büyük modellerin piyasaya sürülmesi, vivo'nun üst düzey ürünleri için hala bir artı değil.
Cihaz tarafındaki büyük modelin açık kaynaklı bir topluluk girişimcisi olan Wang Yang (takma ad), Photon Planet'e büyük modelin cihaz tarafındaki yeteneğinin, NPU'nun (derin sinir ağı hesaplaması için özel olarak tasarlanmış işlemci) getirdiği AI performansında yattığını söyledi. Bununla birlikte, in vivo'nun önceki modellerinde NPU yeteneklerine dikkat etmedi, bu nedenle eski modellerin büyük modelleri sorunsuz bir şekilde çalıştırması zor olacaktır.
Yaklaşan sürüme gelince, MediaTek Dimensity 9300 amiral gemisi yongası ve yeni nesil bir AI işlemci ile donatılmış yeni model vivo X100 serisi, model yeteneklerini sorunsuz bir şekilde kullanabilir, ancak piyasada Wenxin Yiyan ve iFLYTEK Xinghuo gibi büyük model uygulamaları olması durumunda, cep telefonu için kalan alan hayal edildiği kadar büyük değil. Yetenekle karşılaştırıldığında, belki de bu sefer vivo tarafından gösterilen oyun, derinlemesine incelemeye daha değer.
**Telefonunuzu daha akıllı hale getirin mi? **
Microsoft'u OpenAI'de melek yatırımcı olmaya iten Microsoft'un CTO'su Kevin Scott, modelin kendisinin bir ürün değil, bir altyapı olduğunu kamuoyuna açıkladı. Bunun anlamı, eğitimin model tabanında ince ayar yapmasından sonra, ürünleştirmenin keşfinin birçok oyuncunun "ikinci girişimciliğinin" özü olduğudur.
Cep telefonlarındaki büyük modellerin "yeniden ürünleştirilmesi" doğal bir konudur, ancak cep telefonlarında kullanılan büyük modellerin daha fazla ürünleştirilmesi gerekmektedir. Şimdiye kadar ortaya çıkan bilgilere bakılırsa, vivo, Xiao V asistanı adı verilen bir uygulama aracılığıyla büyük model yeteneğini gerçekleştirecek ve sektördeki mevcut ana rota, büyük model yeteneğini mevcut yapay zeka asistanına yerleştirmek.
Akıllı telefon kullanıcılarının büyük modelleri anlama becerisine gerçek bir ihtiyacı var, ister şaka "yapay zihinsel engellilik" olarak adlandırılan akıllı bir asistan olsun, ister kapasite patlaması altında giderek daha fazla şişirilen bir uygulama ve veri olsun, cep telefonlarının etkileşimi daha iyi anlayabilmesi ve kullanıcıların bilgileri sıralamasına yardımcı olması gerekir. Büyük modellerin eklenmesi, esasen cep telefonlarına doğal dil anlama yetenekleri getirmektir.
Uygulanmayan uygulama durumunda, cihaz tarafı modelinde oluşabilecek güç tüketimi, ısı dağılımı ve gecikme gibi kullanıcı deneyimi sorunları şu an için göz ardı edilebilir. Wang Yang'ın görüşüne göre, vivo modelinin karşılaştığı birincil sorun, farklı modellerin yetenek sınırlarının nasıl ayırt edileceği ve birden fazla model birlikte kullanıldığında bunların nasıl çağrılacağıdır, "bu da nihai ürün formu ve sunumu ile ilgilidir."
Genelleştirilmiş senaryolar ve karmaşık gereksinimler içeren C tarafı karşısında, farklı gereksinimler tarafından çağrılan modeller farklıdır. Örneğin, cihaz tarafındaki 1 milyar spesifikasyon modeli ve 7 milyar spesifikasyon modelinin, "kullanıcıyı daha iyi anlamak" için kullanıcının yerel verilerinden öğrenmesi gerekir. Bu nedenle, model yeteneğinin ve buna uyarlanan işletim sisteminin cep telefonunda karmaşık talimatları uygulamak için kullanılıp kullanılamayacağı önemli bir göstergedir.
Şimdiye kadar, BlueLM tarafından gösterilen karmaşık komut işlevi oldukça dikkat çekicidir. Yeni piyasaya sürülen OriginOS 4 altında, V-asistanı kenar çubuğunun sağ alt köşesinde bulunur ve tıklanarak açılabilir. Çalışma mantığı, cep telefonu kullanımı için daha uygun olan bulut tarafı modelinden daha kısa olmakla kalmaz, aynı zamanda albümler için akıllı arama, üçüncü taraf Uygulama komutlarının ön tamamlanması ve işletim sistemi içi ayarlar gibi işletim sistemindeki bazı karmaşık talimatlardır.
Küçük V asistanının, işlev ve yol açısından vivo'nun mevcut Jovi sesinden izole edildiğini ve ikisinin birbirinden bağımsız olduğunu belirtmekte fayda var, bu da daha önce diğer üreticiler tarafından önerilen cihaz tarafı büyük model yolundan açıkça farklı.
İşlevsel açıdan bakıldığında, küçük V asistanı temel olarak Jovi'nin sesini tam olarak kapsayabilir, bu nedenle ikisini ayırt etmenin amacı, kullanıcıların ikisi arasındaki farkı hissetmelerini kolaylaştırmak olabilir. Ayrıca, küçük V asistanının ürün mantığı, Microsoft'un aile kovasında taşınan Copilot'unkine benzer ve iki farklı yolun gelecekte entegre edilmesi muhtemeldir.
Bu aynı zamanda mevcut BlueLM'nin hala test aşamasında olduğunu ve ürün formunun olgun olduğunu söylemenin zor olduğunu da yansıtıyor.
BlueLM dahili testine katılanlardan gelen geri bildirimlere göre, vivo'nun amiral gemisi modelinin model yeteneği ile, 20 belirteç içinde düz metin oluşturma gereksiniminde hala 2s~5s'lik bir gecikme var, bu da sonraki uygulama için iyi bir haber değil - bulut tarafı modelinin gecikmesi iyi çözülmedi. Bu, çip üreticilerinin en son AI çipleriyle donatılmış modellerde geliştirilebilir, ancak tüketiciler için bu, telefonlarını değiştirmek için bir neden teşkil etmez.
Buna ek olarak, endüstrinin ilk cep telefonu modeli olan vivo'nun bulut tarafı model özelliği de birçok bulut satıcısının büyük modellerinin "kuşatılmasıyla" karşı karşıya.
Örneğin vivo, konuşma robotu Lanxin Qianxun'u uygulama mağazasında piyasaya süreceğini duyurdu ve 175 milyar parametre özelliği, mevcut uygulama mağazalarındaki büyük modellerle karşılaştırıldığında göze çarpmıyor. Bulut satıcıları arasında Baidu, suları test etmek için yakın zamanda piyasaya sürülen Wenxin 4.0 profesyonel sürümü için şimdiden ücret alırken, Lanxin Qianxun, vivo büyük model ekosisteminin pek de dikkat çekici olmayan bir üyesi gibi görünüyor ve yolu açıkça engelleyici ve uzun.
Vivo'nun geç kaldığını ve teknoloji yağışındaki boşluğun büyük ölçekli model işinin daha da ilerlemesini sınırlayacağını belirtmek gerekir.
Yazılım açısından, vivo büyük modeli, Alibaba Cloud'un Pai makine öğrenimi platformunun tanıtım materyali haline geldi ve hatta "Blue Heart Qianwen" adından "Tongyi Qianwen"in gölgesini bile bulabiliyoruz. Bulut üzerinde çalışmak, uzun vadeli maliyetler anlamına gelir ve bu, OpenAI'ye en canlı şekilde yansır. Maliyet açısından bakıldığında, vivo, BlueLM'yi uzun vadeli bir ekosistem haline getirmek istiyorsa, kendi kendine inşa edilen IDC, buluta geçişten ziyade uzun vadeli geliştirme için açıkça daha elverişlidir.
Donanım açısından, önde gelen iki üretici olan Huawei ve Apple, kendi geliştirdiği NPU yeteneklerini mevcut ürün hatlarına zaten entegre ederken, vivo'nun hala çip üreticilerine güvenmesi gerekiyor. Model eğitimi ve ayarlamada belirli engeller oluşturulabilse de, çekirdek olarak donanım boşluğu hala önde gelen üreticilerle çeşitli pozisyonlara yol açmaktadır.
Büyük Model Terminal Savaşı
Büyük modelin eklenmesi, akıllı telefonun özünün birden fazla yeteneği entegre eden akıllı bir terminal olduğunu ve hem donanım hem de işletim sistemi girişlerine sahip olduğunu yeniden anlamamızı sağlıyor. Benzersiz koşullar, cep telefonlarının büyük modellerle birleştirilmesini doğal kılıyor.
Öyleyse, diğer terminaller de büyük modele bağlanabilir ve tıpkı uygulamayı yeniden yapmak gibi terminalin yetenek sınırlarını yeniden tanımlayabilir mi?
Bu sorunun keşfi, derin öğrenme ağlarının patlak vermesine kadar izlenebilir ve uç taraf modellerinin olasılığının tartışılması, sektördeki gecikme, enerji tüketimi, gizlilik ve diğer sorunların "klişe" sorunlarından da kaynaklanmaktadır.
Aslında, büyük modelleri cep telefonlarına doldurmak için bu çılgınlığın resmi olarak başlamasından çok önce, otonom sürüşe sahip yeni enerji araçları zaten büyük modellerin bir terminali haline geldi. Sektörde akıllı giyilebilir cihazların büyük modellerle donatıldığına dair hayal gücü sıkıntısı yok, ancak cep telefonları, sahnelerin çeşitliliği ve ağ rahatlığı ile ilk sırada yer alacak gibi görünüyor.
Ayrıca, cep telefonu üreticileri yoğun bir şekilde büyük modelleri piyasaya sürdüğünde ve kullanıma soktuğunda, uç taraf modeller için mükemmel bir eğitim alanı olacaktır. Cep telefonu büyük modellerinin inişinden büyük modellerle donatılmış çeşitli terminallerin metodolojisini de tartışabiliriz.
Sonuçta, telefondaki model ne kadar iyi olursa olsun, kısa sürede elde edilebilecek en iyi performans, kullanıcının yaşam alanında bir "sekreter"den başka bir şey değildir. Diğer akıllı terminallerin büyük modelinin getirdiği hayal gücü şüphesiz daha büyük.
Örneğin, mobil ödeme nedeniyle yavaş yavaş tarihsel aşamadan çekilen ATM'ler, kullanıcıların derinlemesine iş yapmak için sıraya girmek için bankayı atlamalarına izin vermek için büyük modellere güvenebilir; Aynı zamanda tıp alanında hastaların temel belirtilerini, endüstriyel alanda hızlı kalite kontrolünü ve tarım alanında akıllı sulamayı tanımlayan B-end senaryosuna ait bir akıllı kameradır. Şimdi, bulut tarafı modeline güvenerek geniş çapta açılmamış olan B-end pazarı, uç tarafın değişkenini de başlatabilir.
Bu nedenle vivo, ekolojisi Huawei ve Xiaomi kadar mükemmel olmadığında bu basın toplantısında yeni vivo Watch ile donatılmış Blue River işletim sistemini (BlueOS) gösterecek. vivo tarafından genel yapay zeka çağı için geliştirilen bir çapraz terminal sistemi olarak, lansmanı, şüphesiz iyi bir hayal gücüne sahip olan bir dizi IoT ürününü cep telefonları aracılığıyla çalıştırmayı amaçlıyor.
vivo ayrıca 7B özellikli modelinin açık kaynağını duyurdu ve ekolojik inşaat için açık bir hedef olan BlueKit geliştirme kitini piyasaya sürdü. Belki de şu anda vivo, IoT'nin talimatları anlamasına izin verme aşamasına ulaştı, ancak bu, vivo'nun gelecekteki üst düzey, ekolojik ve diğer stratejileri için çok önemlidir.
Cep telefonu modelinin yetenekleri bilinmiyor ve birçok zorluk var ve resmi sürüm ve inişten sonra, sektöre daha fazla "açık hacimli" yön getirmesi kaçınılmaz. Daha tuhaf iniş duruşları endüstri tarafından açılmayı bekliyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Telefon büyük modellerle dolu ve bu sadece başlangıç
Orijinal kaynak: Photon Planet
Acilen yeni bir volan bulması gereken cep telefonu üreticileri, büyük modellere göz dikiyor.
Ağustos ayının başlarındaki geliştirici konferansında Huawei, HarmonyOS 4'te bir AI asistanı olan Xiaoyi'yi büyük modele entegre edeceğini duyurdu ve Ağustos sonunda test etmeye davet etti. Xiaomi, aynı anda büyük modele erişmek için AI asistanı Xiaoai'nin davet testini de açtı. Bunu OPPO ve vivo izledi ve her ikisi de Kasım ayında büyük cep telefonu modellerini denemeye başladı.
"Büyük modelleri cep telefonlarına doldurmak" sektörde yeni bir şey değil,Ekim ortasından bu yana yoğun bir şekilde ısınan vivo'dan bahsetmiyorum bile,Rongmi O üç bu yıl düzenlenen basın toplantısında ilgili haberleri açıkladı。 Sektördeki genel görüş, akıllı telefon parçasının donanım kısmının neredeyse yuvarlanamaz olduğu ve bulutta çalışan büyük modellerin çoğunun donanımdan bağımsız bir değişken olduğu yönünde.
Cihaz tarafı dağıtımının da büyük model izleri için bir endüstri trendi olduğu unutulmamalıdır. ChatGPT'yi örnek alırsak, bulut tarafı büyük modelinin tipik bir temsilcisi olarak, eğitimi ve çıkarımı Microsoft'un Azure'unda çalışır ve kullanıcılar tarayıcılar veya uygulamalar aracılığıyla sonuçlar elde eder. Giriş-çıkış ve ileri geri arasında sadece kullanıcı deneyimini etkileyen bir gecikme değil, aynı zamanda enerji tüketimi ve bilgi işlem gücü gibi bulut maliyetleri de söz konusudur.
Gerçek senaryolar ve ihtiyaçlar açısından bakıldığında, cep telefonları, PC'ler ve yeni enerji araçları gibi yaygın olarak kullanılan terminaller başta olmak üzere birçok ihtiyaç uç cihazlar tarafından karşılanabilir.
Sonuç olarak, büyük modellerin uç taraf dağıtımı yavaş yavaş bir fikir birliği haline geldi, yalnızca cep telefonu üreticileri modelleri eğitme çabalarını perçinlemekle kalmadı, aynı zamanda PC yolunda Lenovo ve çip yolunda Qualcomm, bir süre önce uç taraf AI için ilgili çözümleri yayınladı. Özellikle, yeni piyasaya sürülen Qualcomm Snapdragon 8 Gen3 ve MediaTek Dimensity 9300, AI performanslarının iyileştirilmesinin, cep telefonundaki büyük modelin temeli olduğu söylenebilir.
Sektör ihtiyaçları ve donanım koşulları karşılandı ve büyük model nihayet cep telefonuna girebiliyor. Oldukça şaşırtıcı olan, "eksiksiz bir ürün" çıkaran ilk cep telefonu üreticisinin vivo olmasıdır.
**vivo large modelinin durumu nedir? **
1 Kasım'da vivo, 1 milyar, 10 milyar, 100 milyar ve diğer farklı parametre ölçekleri dahil olmak üzere kendi geliştirdiği büyük model matrisi "BlueLM"yi yayınladığı bir geliştirici konferansı düzenledi. Aynı zamanda, büyük modeline uyarlanmış, kendi geliştirdiği bir işletim sistemi olan OriginOS 4'ü de piyasaya sürdü.
Büyük modellerin "vaat edilmiş toprakları" karşısında, vivo'nun hevesi neredeyse yüzüne yazılmıştır.
Bir pazar araştırma ajansı olan Canalys tarafından 26 Ekim'de yayınlanan son verilere göre, vivo'nun gönderileri ve gönderileri azaldı ve sıralama da düştü. vivo'nun gidişatı değiştirmek için acilen büyük modellere ve OriginOS 4'e ihtiyacı var ve "kitabı açan" ilk kişi olması şaşırtıcı değil.
Ve büyük modelle karşılaştırıldığında, vivo tarafından bu sefer başlatılan OriginOS 4'ün güncelleme süresi biraz zayıf. Kamusal alan tartışmasında, yalnızca sanal grafik kartının yinelemesi, heterojen bilgi işlem alanı ve hafifliği beklendiği gibi değil, aynı zamanda vivo kullanıcıları arasında oldukça gürültülü olan atomik bildirim gibi modüller de yükseltilmedi. Başka bir deyişle, büyük model bu konferansın kahramanıdır.
İş modeli açısından bakıldığında, vivo'nun bu basın toplantısındaki rotası, taşıyıcı olarak yapay zeka asistanı ile daha önce sektördeki diğer oyuncularınkine benziyor ve ana oyun olan cihaz tarafı büyük modelin yerelleştirme ve hafifliğin bariz özelliklerini sunduğu bir cihaz tarafı + bulut tarafı hibrit dağıtım yöntemini benimsiyor.
Bunun amacı açıktır, cep telefonlarının küçük dünyasının sağladığı güç tüketimi ve bilgi işlem gücü, bilgisayar odasındakilerle aynı değildir. Model yeteneğinin cep telefonunun derinliği ile nasıl birleştirileceği, cep telefonu üreticilerinin acilen aşması gereken "know-how" haline geldi.
Bu bağlamda, vivo'nun çözümü, 1 milyar spesifikasyonun esas olarak metin senaryoları için ve 7 milyar spesifikasyonun doğal diyalog ve bilgi soru-cevap telefotosu için cihaz tarafı dağıtımının öne çıkan özellikleri olduğu çok parametreli bir spesifikasyon modeli başlatmaktır. Resmi tanıtımda, 1 milyar spesifikasyon ayrı ayrı cihaz tarafına yöneliktir ve 7 milyar spesifikasyon cihaz ve bulut için çift amaçlı olacak şekilde ayarlanmıştır ve hepsi 70 milyardan beri bulutta konuşlandırılmıştır, bu da vivo'nun cihaz-bulut işbirliğinde "Tanrı'nın Tanrı'ya ve Sezar'ın Sezar'a dönmesine izin verin" matris fikrini yansıtmaktadır.
Bu, Google'ın bu yıl Mayıs ayında, Google'ın dört parametre spesifikasyonuna sahip büyük bir PaLM2 modelini piyasaya sürdüğü ve küçük parametre modelinin çevrimdışı durumda saniyede 20 jeton işleyebildiği ve terminallerin çevrimdışı kullanımı için uygun olan I/O geliştirici konferansıyla aynıdır.
Vivo'nun "insanların dişlerini topladığını" düşünüyorsanız, bu çok serttir. Aslında vivo, 2017 gibi erken bir tarihte dahili bir yapay zeka ekibi kurmak için yola çıktı ve bugün vivo Yapay Zeka Araştırma Enstitüsü'nün 1.000'den fazla araştırmacısı var.
Teknik yağışı genellikle Ali ve Baidu gibi ilk kademeden daha düşük olsa da, açık kaynak topluluğunun varlığı, pazara biraz daha geç giren oyuncuların büyük orduyu hızla yakalamasına da izin veriyor. vivo'nun 2018 yılında kurduğu Bilgi Grafiği Araştırma Enstitüsü, bir cep telefonu üreticisi olarak karşılaşabileceği eğitim verisi eksikliğini de bir nebze de olsa güçlendirebilir.
Model yeteneğine gelince, vivo ısınma döneminde iyi bir cevap kağıdı verdi. BlueLM'nin üçüncü taraf değerlendirme seti C-of Chinese büyük modelinde "kısıtlı erişim modeli" kategorisinde birinciliği kazandığı bildirildi. Resmi duyurusuna göre BlueLM, endüstrinin ilk 7B cihaz tarafı büyük modelidir.
Bununla birlikte, değerlendirmede yüksek puanlar alan ancak tatmin edici olmayan gerçek performansa sahip birkaç model yoktur ve sektördeki bazı kişiler, bu listenin son dönemde "fırçalandığını" söylüyor, bu da yalnızca modelin "soru sorma" yeteneğini temsil edebilir ve akıl yürütme, güvenlik ve uyarlanabilirlik yeteneğini yansıtamaz. Bu açıdan bakıldığında vivo'nun iş sonuçlarının daha pratik testlere ihtiyaç duyduğu açıktır.
Ayrıca, vivo'nun Wensheng diyagramı ve etkileşimi gibi mevcut bulut modeli yetenekleri, büyük modellerin tuzağından çıkmamıştır ve yenilik sınırlıdır. Ayrıca, büyük bir oyun olarak cihaz tarafı model yeteneği hala test aşamasındadır ve uç taraf yeteneklerinin görüntülenmesi kaçınılmaz olarak cep telefonu donanımı ile sınırlıdır.
Blue Heart'ın dahili testine katılmaya davet edilen birçok kullanıcının X90 Pro tarafından temsil edilen amiral gemisi telefonları kullandığını ve bu modellerin aynı zamanda vivo tarafından piyasaya sürülen büyük ölçekli model uygulamaları için genel beta uyarlama programında en yüksek modeller olduğunu öğrendik.
Hiç şüphe yok ki büyük modeller, cep telefonu üreticilerinin üst düzey açılması için ikinci savaş alanı haline geliyor ve aynı zamanda kullanıcıları canlandırmak ve IoT'yi etkinleştirmek için önemli bir değişken. Buna rağmen, in vivo'nun büyük modellere güvenerek üst düzey ürünlerin değerini artırma niyetinde hala birçok değişken var
Son tahlilde, büyük modelin piyasaya sürülmesi yalnızca vivo'nun üst düzey modelinin yeni temel taşı değil, aynı zamanda yeni makineler ve üst düzey ürünler çekme girişimidir.
Düşük kaliteli modellerin bu üst düzey savaşla başa çıkması doğal olarak zordur. Örnek olarak vivo tarafından bu basın toplantısından önce piyasaya sürülen temel model Y100'ü ele alalım, bu yukarıda bahsedilen adaptasyon planındaki en son modellerden biri ve bu kadar benzer bir "arkadan bıçaklama" hareketinin arkasında vivo'nun "küçük abaküs" üst düzey ürünlerle tahta dönme umudu var.
Buna rağmen, büyük modellerin piyasaya sürülmesi, vivo'nun üst düzey ürünleri için hala bir artı değil.
Cihaz tarafındaki büyük modelin açık kaynaklı bir topluluk girişimcisi olan Wang Yang (takma ad), Photon Planet'e büyük modelin cihaz tarafındaki yeteneğinin, NPU'nun (derin sinir ağı hesaplaması için özel olarak tasarlanmış işlemci) getirdiği AI performansında yattığını söyledi. Bununla birlikte, in vivo'nun önceki modellerinde NPU yeteneklerine dikkat etmedi, bu nedenle eski modellerin büyük modelleri sorunsuz bir şekilde çalıştırması zor olacaktır.
Yaklaşan sürüme gelince, MediaTek Dimensity 9300 amiral gemisi yongası ve yeni nesil bir AI işlemci ile donatılmış yeni model vivo X100 serisi, model yeteneklerini sorunsuz bir şekilde kullanabilir, ancak piyasada Wenxin Yiyan ve iFLYTEK Xinghuo gibi büyük model uygulamaları olması durumunda, cep telefonu için kalan alan hayal edildiği kadar büyük değil. Yetenekle karşılaştırıldığında, belki de bu sefer vivo tarafından gösterilen oyun, derinlemesine incelemeye daha değer.
**Telefonunuzu daha akıllı hale getirin mi? **
Microsoft'u OpenAI'de melek yatırımcı olmaya iten Microsoft'un CTO'su Kevin Scott, modelin kendisinin bir ürün değil, bir altyapı olduğunu kamuoyuna açıkladı. Bunun anlamı, eğitimin model tabanında ince ayar yapmasından sonra, ürünleştirmenin keşfinin birçok oyuncunun "ikinci girişimciliğinin" özü olduğudur.
Cep telefonlarındaki büyük modellerin "yeniden ürünleştirilmesi" doğal bir konudur, ancak cep telefonlarında kullanılan büyük modellerin daha fazla ürünleştirilmesi gerekmektedir. Şimdiye kadar ortaya çıkan bilgilere bakılırsa, vivo, Xiao V asistanı adı verilen bir uygulama aracılığıyla büyük model yeteneğini gerçekleştirecek ve sektördeki mevcut ana rota, büyük model yeteneğini mevcut yapay zeka asistanına yerleştirmek.
Akıllı telefon kullanıcılarının büyük modelleri anlama becerisine gerçek bir ihtiyacı var, ister şaka "yapay zihinsel engellilik" olarak adlandırılan akıllı bir asistan olsun, ister kapasite patlaması altında giderek daha fazla şişirilen bir uygulama ve veri olsun, cep telefonlarının etkileşimi daha iyi anlayabilmesi ve kullanıcıların bilgileri sıralamasına yardımcı olması gerekir. Büyük modellerin eklenmesi, esasen cep telefonlarına doğal dil anlama yetenekleri getirmektir.
Uygulanmayan uygulama durumunda, cihaz tarafı modelinde oluşabilecek güç tüketimi, ısı dağılımı ve gecikme gibi kullanıcı deneyimi sorunları şu an için göz ardı edilebilir. Wang Yang'ın görüşüne göre, vivo modelinin karşılaştığı birincil sorun, farklı modellerin yetenek sınırlarının nasıl ayırt edileceği ve birden fazla model birlikte kullanıldığında bunların nasıl çağrılacağıdır, "bu da nihai ürün formu ve sunumu ile ilgilidir."
Genelleştirilmiş senaryolar ve karmaşık gereksinimler içeren C tarafı karşısında, farklı gereksinimler tarafından çağrılan modeller farklıdır. Örneğin, cihaz tarafındaki 1 milyar spesifikasyon modeli ve 7 milyar spesifikasyon modelinin, "kullanıcıyı daha iyi anlamak" için kullanıcının yerel verilerinden öğrenmesi gerekir. Bu nedenle, model yeteneğinin ve buna uyarlanan işletim sisteminin cep telefonunda karmaşık talimatları uygulamak için kullanılıp kullanılamayacağı önemli bir göstergedir.
Şimdiye kadar, BlueLM tarafından gösterilen karmaşık komut işlevi oldukça dikkat çekicidir. Yeni piyasaya sürülen OriginOS 4 altında, V-asistanı kenar çubuğunun sağ alt köşesinde bulunur ve tıklanarak açılabilir. Çalışma mantığı, cep telefonu kullanımı için daha uygun olan bulut tarafı modelinden daha kısa olmakla kalmaz, aynı zamanda albümler için akıllı arama, üçüncü taraf Uygulama komutlarının ön tamamlanması ve işletim sistemi içi ayarlar gibi işletim sistemindeki bazı karmaşık talimatlardır.
Küçük V asistanının, işlev ve yol açısından vivo'nun mevcut Jovi sesinden izole edildiğini ve ikisinin birbirinden bağımsız olduğunu belirtmekte fayda var, bu da daha önce diğer üreticiler tarafından önerilen cihaz tarafı büyük model yolundan açıkça farklı.
İşlevsel açıdan bakıldığında, küçük V asistanı temel olarak Jovi'nin sesini tam olarak kapsayabilir, bu nedenle ikisini ayırt etmenin amacı, kullanıcıların ikisi arasındaki farkı hissetmelerini kolaylaştırmak olabilir. Ayrıca, küçük V asistanının ürün mantığı, Microsoft'un aile kovasında taşınan Copilot'unkine benzer ve iki farklı yolun gelecekte entegre edilmesi muhtemeldir.
Bu aynı zamanda mevcut BlueLM'nin hala test aşamasında olduğunu ve ürün formunun olgun olduğunu söylemenin zor olduğunu da yansıtıyor.
BlueLM dahili testine katılanlardan gelen geri bildirimlere göre, vivo'nun amiral gemisi modelinin model yeteneği ile, 20 belirteç içinde düz metin oluşturma gereksiniminde hala 2s~5s'lik bir gecikme var, bu da sonraki uygulama için iyi bir haber değil - bulut tarafı modelinin gecikmesi iyi çözülmedi. Bu, çip üreticilerinin en son AI çipleriyle donatılmış modellerde geliştirilebilir, ancak tüketiciler için bu, telefonlarını değiştirmek için bir neden teşkil etmez.
Buna ek olarak, endüstrinin ilk cep telefonu modeli olan vivo'nun bulut tarafı model özelliği de birçok bulut satıcısının büyük modellerinin "kuşatılmasıyla" karşı karşıya.
Örneğin vivo, konuşma robotu Lanxin Qianxun'u uygulama mağazasında piyasaya süreceğini duyurdu ve 175 milyar parametre özelliği, mevcut uygulama mağazalarındaki büyük modellerle karşılaştırıldığında göze çarpmıyor. Bulut satıcıları arasında Baidu, suları test etmek için yakın zamanda piyasaya sürülen Wenxin 4.0 profesyonel sürümü için şimdiden ücret alırken, Lanxin Qianxun, vivo büyük model ekosisteminin pek de dikkat çekici olmayan bir üyesi gibi görünüyor ve yolu açıkça engelleyici ve uzun.
Vivo'nun geç kaldığını ve teknoloji yağışındaki boşluğun büyük ölçekli model işinin daha da ilerlemesini sınırlayacağını belirtmek gerekir.
Yazılım açısından, vivo büyük modeli, Alibaba Cloud'un Pai makine öğrenimi platformunun tanıtım materyali haline geldi ve hatta "Blue Heart Qianwen" adından "Tongyi Qianwen"in gölgesini bile bulabiliyoruz. Bulut üzerinde çalışmak, uzun vadeli maliyetler anlamına gelir ve bu, OpenAI'ye en canlı şekilde yansır. Maliyet açısından bakıldığında, vivo, BlueLM'yi uzun vadeli bir ekosistem haline getirmek istiyorsa, kendi kendine inşa edilen IDC, buluta geçişten ziyade uzun vadeli geliştirme için açıkça daha elverişlidir.
Donanım açısından, önde gelen iki üretici olan Huawei ve Apple, kendi geliştirdiği NPU yeteneklerini mevcut ürün hatlarına zaten entegre ederken, vivo'nun hala çip üreticilerine güvenmesi gerekiyor. Model eğitimi ve ayarlamada belirli engeller oluşturulabilse de, çekirdek olarak donanım boşluğu hala önde gelen üreticilerle çeşitli pozisyonlara yol açmaktadır.
Büyük Model Terminal Savaşı
Büyük modelin eklenmesi, akıllı telefonun özünün birden fazla yeteneği entegre eden akıllı bir terminal olduğunu ve hem donanım hem de işletim sistemi girişlerine sahip olduğunu yeniden anlamamızı sağlıyor. Benzersiz koşullar, cep telefonlarının büyük modellerle birleştirilmesini doğal kılıyor.
Öyleyse, diğer terminaller de büyük modele bağlanabilir ve tıpkı uygulamayı yeniden yapmak gibi terminalin yetenek sınırlarını yeniden tanımlayabilir mi?
Bu sorunun keşfi, derin öğrenme ağlarının patlak vermesine kadar izlenebilir ve uç taraf modellerinin olasılığının tartışılması, sektördeki gecikme, enerji tüketimi, gizlilik ve diğer sorunların "klişe" sorunlarından da kaynaklanmaktadır.
Aslında, büyük modelleri cep telefonlarına doldurmak için bu çılgınlığın resmi olarak başlamasından çok önce, otonom sürüşe sahip yeni enerji araçları zaten büyük modellerin bir terminali haline geldi. Sektörde akıllı giyilebilir cihazların büyük modellerle donatıldığına dair hayal gücü sıkıntısı yok, ancak cep telefonları, sahnelerin çeşitliliği ve ağ rahatlığı ile ilk sırada yer alacak gibi görünüyor.
Ayrıca, cep telefonu üreticileri yoğun bir şekilde büyük modelleri piyasaya sürdüğünde ve kullanıma soktuğunda, uç taraf modeller için mükemmel bir eğitim alanı olacaktır. Cep telefonu büyük modellerinin inişinden büyük modellerle donatılmış çeşitli terminallerin metodolojisini de tartışabiliriz.
Sonuçta, telefondaki model ne kadar iyi olursa olsun, kısa sürede elde edilebilecek en iyi performans, kullanıcının yaşam alanında bir "sekreter"den başka bir şey değildir. Diğer akıllı terminallerin büyük modelinin getirdiği hayal gücü şüphesiz daha büyük.
Örneğin, mobil ödeme nedeniyle yavaş yavaş tarihsel aşamadan çekilen ATM'ler, kullanıcıların derinlemesine iş yapmak için sıraya girmek için bankayı atlamalarına izin vermek için büyük modellere güvenebilir; Aynı zamanda tıp alanında hastaların temel belirtilerini, endüstriyel alanda hızlı kalite kontrolünü ve tarım alanında akıllı sulamayı tanımlayan B-end senaryosuna ait bir akıllı kameradır. Şimdi, bulut tarafı modeline güvenerek geniş çapta açılmamış olan B-end pazarı, uç tarafın değişkenini de başlatabilir.
Bu nedenle vivo, ekolojisi Huawei ve Xiaomi kadar mükemmel olmadığında bu basın toplantısında yeni vivo Watch ile donatılmış Blue River işletim sistemini (BlueOS) gösterecek. vivo tarafından genel yapay zeka çağı için geliştirilen bir çapraz terminal sistemi olarak, lansmanı, şüphesiz iyi bir hayal gücüne sahip olan bir dizi IoT ürününü cep telefonları aracılığıyla çalıştırmayı amaçlıyor.
vivo ayrıca 7B özellikli modelinin açık kaynağını duyurdu ve ekolojik inşaat için açık bir hedef olan BlueKit geliştirme kitini piyasaya sürdü. Belki de şu anda vivo, IoT'nin talimatları anlamasına izin verme aşamasına ulaştı, ancak bu, vivo'nun gelecekteki üst düzey, ekolojik ve diğer stratejileri için çok önemlidir.
Cep telefonu modelinin yetenekleri bilinmiyor ve birçok zorluk var ve resmi sürüm ve inişten sonra, sektöre daha fazla "açık hacimli" yön getirmesi kaçınılmaz. Daha tuhaf iniş duruşları endüstri tarafından açılmayı bekliyor.