Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
"Bir dakika, bir dakika, bir sonraki PPT'yi daha fazla çekmek istiyorsun!"
Pekin saatiyle 25 Ekim sabahının erken saatlerinde, 2023 Qualcomm Snapdragon Zirvesi'nin açılış konuşmasında, Qualcomm başkanı ve CEO'su Cristiano Amon, Snapdragon X Elite Oryon CPU'yu görkemli bir şekilde tanıttı. PPT sunumunda, yeni CPU, dünyanın en güçlü iki işlemcisi olan Apple'ın M2 Max ve Intel i9-13980HX'ini gölgede bırakmakla kalmadı, aynı zamanda önceki ikisinden daha düşük tepe enerji tüketimine sahipti.
Aynı zamanda Qualcomm, PC tarafında X Elite ile adından söz ettirmenin yanı sıra aynı gün Snapdragon 8 Gen 3 işlemcisini de tanıttı. En yeni mobil çip olan Snapdragon 8 Gen 3, yalnızca performansı artırmakla kalmaz, aynı zamanda üretken yapay zeka işlemeyi de optimize eder ve hatta on milyarlarca parametreye sahip modelleri doğrudan çalıştırabilir**.
Pazarın içinde ve dışında, Microsoft, Meta, Google, HP, Lenovo ve Xiaomi gibi tüketici elektroniği devlerinin CEO'ları ve başkanları Qualcomm'u temsil etti. Bunlar arasında, Xiaomi Grup Başkanı Lu Weibing, olay yerinde yalnızca yaklaşmakta olan Xiaomi 14 amiral gemisini ortaya çıkarmakla kalmadı, aynı zamanda Xiaomi otomobillerinin 2024'te piyasaya sürüleceğini resmi olarak önizledi.
Yeni PC serisi çip ürünleri Snapdragon 8 Gen 3 çipi, Qualcomm tarafından vurgulanan "terminal yapay zekasını" ulaşılabilir bir gerçeklik haline getiriyor.
01 Snapdragon X Elite, doğrudan Apple Intel'e
O gün tüm izleyicilerin odak noktası Snapdragon X Elite'ten başkası değildi.
Qualcomm, gelecekteki yüksek yüklü akıllı görevleri desteklemek için şirketin PC'ler için bugüne kadarki en güçlü bilgi işlem işlemcisini tanıttı: Oryon CPU'ların doğrudan Intel ve Apple'a uygulandığı Snapdragon X Elite.
Yapay zeka için tasarlanan Snapdragon X Elite**, yeni bir özelleştirilmiş Qualcomm Oryon CPU'yu entegre eder, terminal tarafında çalışan 13 milyardan fazla parametreyle** üretken yapay zeka modellerini destekler, rakip ürünlerden 4,5 kat daha hızlı işler ve 7 milyar parametreli büyük model için saniyede 30 jeton üretebilir. Qualcomm'a göre, bu mobil bilgi işlem CPU'su, aynı en yüksek performansta güç tüketiminin yalnızca üçte birini tüketerek rakiplerinden iki kat daha iyi performans gösteriyor.
Snapdragon X Elite, 7 milyar parametreli büyük model için saniyede 30 jeton üretebilir
"Acele et ve fotoğraf çek." Qualcomm CEO'su Amon zirvede yaptığı açıklamada, Oryon CPU'ların tek iş parçacıklı performansının Apple'ın M2 Max ve Intel'in i9-13980HX'ini aştığını ve en yüksek performanslı güç tüketiminin M2 Max'ten %30 ve i9-13980HX'ten %70 daha az olduğunu söyledi.
Oryon CPU'ların tek iş parçacıklı performansı Apple'ın M2 Max'ini geride bırakıyor | Qualcomm
Oryon CPU'nun tek iş parçacıklı performansı Intel'in i9-13980HX'ini geride bırakıyor |
Çok iş parçacıklı performans açısından, Qualcomm ayrıca Intel'in i7-1355U ve i7-1360P'sini karşılaştırdı ve Snapdragon X Elite'in performansının iki kat daha yüksek olabileceğini ve en yüksek performans güç tüketiminin %68 daha az olabileceğini söyledi; Ayrıca Intel'in i7-13800H'si de var, bu da onu performansta %60 ve en yüksek performans güç tüketiminde %65 daha az aştığını iddia ediyor. Ayrıca Qualcomm, Snapdragon X Elite'in performansının %50'yi aştığını vurgulayarak Apple'ın M2'sini karşılaştırmaya da odaklandı.
Snapdragon X Elite'in performansı Apple M2'ninkini %50 aşıyor | Qualcomm
Qualcomm Technologies Kıdemli Başkan Yardımcısı ve Bilgi İşlem ve Oyun Genel Müdürü Kedar Kondap şunları söyledi: "Snapdragon X Elite, tüketicilere inanılmaz enerji verimliliği sağlayan ve yaratıcılığı ve üretkenliği yepyeni bir seviyeye taşıyan yeni özel Qualcomm Oryon CPU ile bilgi işlem teknolojisi inovasyonunda ileriye doğru bir kuantum sıçramasına işaret ediyor. Güçlü uç taraf yapay zekası, sorunsuz çoklu görev ve yeni bir sezgisel kullanıcı deneyimi sağlayarak tüketicileri ve işletmeleri yaratma ve büyütme konusunda güçlendirecek."
Snapdragon X Elite Performans |
OEM üreticilerinin Snapdragon X Elite ile donatılmış PC'leri 2024'ün ortalarında piyasaya sürmesinin beklendiği bildiriliyor.
02 3. Nesil Snapdragon, Kararlı Difüzyon görüntüsü oluşturmak için 8,1 saniye
Zirvede Qualcomm, üretken yapay zeka için özenle oluşturulmuş ilk mobil platformu da piyasaya sürdü: Snapdragon 8 Gen 3.
Önceki nesille karşılaştırıldığında, üçüncü nesil Snapdragon 8, %30 daha yüksek CPU performansına, %25 daha yüksek GPU performansına ve %25 daha yüksek NPU performansına sahiptir ve 10 milyar parametre ile üretken yapay zeka modellerinin çalıştırılmasını destekler. Akıllı telefon cihazlarında Stable Diffusion'ı çalıştırdığı iddia ediliyor, metin içeren görüntüler oluşturmak 1 saniyeden az sürüyor.
3. Nesil Snapdragon 8 Performansı | Qualcomm
Qualcomm Technologies'in cep telefonlarından sorumlu kıdemli başkan yardımcısı ve genel müdürü Chris Patrick, "Platform, kullanıcıları benzersiz içerik oluşturmaya, üretkenliği artırmaya yardımcı olmaya ve diğer çığır açan kullanım durumlarını etkinleştirmeye teşvik ederek yeni bir üretken yapay zeka çağını başlatacak" dedi.
Canlı demoya göre Snapdragon 8 Gen 3, videodan nesneleri kaldırma, fotoğraf alanını genişletme ve sanal arka planlar oluşturma gibi özellikler de dahil olmak üzere bazı kullanışlı ve yaratıcı AI kamera araçlarını destekleyecektir.
Android amiral gemisi akıllı telefon SoC'lerinde lider olan üçüncü nesil Snapdragon 8'in Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi ve ZTE dahil olmak üzere küresel OEM'lerin ve akıllı telefon markalarının terminallerinde yaygın olarak benimseneceği bildiriliyor.
Xiaomi Grup Başkanı Lu Weibing, üçüncü nesil Snapdragon 8 ile donatılmış Mi 14 cep telefonunun yakında piyasaya sürülmesini ve Xiaomi'nin "uzun vadeli AI stratejisi büyümesini" göstermek için Hawaii Zirvesi'nde yer aldı. Buna göre Xiaomi 14 serisi, üçüncü nesil Snapdragon 8 mobil platformunun dünya prömiyerini yapacak.
Xiaomi Başkanı Lu Weibing, Hawaii Snapdragon Zirvesi'nde | Qualcomm
Xiaomi'ye ek olarak, çeşitli üreticilerin yöneticilerine göre, NIO ve Qualcomm, otomobilde Snapdragon platformuna ve cep telefonunda derinlemesine işbirliğine dayalı, e-spor cep telefonu Red Devil, üçüncü nesil Snapdragon 8 ile donatılacak, yaklaşan realme GT5 Pro da bu amiral gemisi çipi ile donatılacak, vivo ve iQOO, üçüncü nesil Snapdragon 8 ile donatılmış amiral gemisi ürünlerini piyasaya sürecek, üçüncü nesil Snapdragon 8 nubia amiral gemisi cep telefonuna dayanan ZTE yakında satışa sunulacak.
3. Nesil Snapdragon 8 Performansı | Qualcomm
Qualcomm'a göre, üçüncü nesil Snapdragon 8 ile donatılmış Android amiral gemisi terminallerinin önümüzdeki haftalarda satışa sunulması bekleniyor.
03 "Terminal AI" çağı
Çok çeşitli tüketici elektroniği de dahil olmak üzere çeşitli terminal kategorilerinde üretken yapay zekayı teşvik etmek, Qualcomm'un bu yılki en büyük hedefi haline geldi.
"Yapay zeka çağına giriyoruz ve uç taraf üretken yapay zeka, güçlü, hızlı, kişiselleştirilmiş, verimli, güvenli ve yüksek düzeyde optimize edilmiş deneyimler oluşturmak için kritik öneme sahip. **," dedi Qualcomm CEO'su Amon Anmeng.
Snapdragon Zirvesi'nde duyurulan üçüncü nesil Snapdragon 8 olan Snapdragon X Elite'in, üretken yapay zeka görevlerini aşırı hızlarda yerine getirebileceği söyleniyor, örneğin, Windows 11 PC'ler için terminal tarafı sohbet asistanı saniyede 30 jeton işleyebilir ve Stable Diffusion kullanarak akıllı telefonlarda görüntü oluşturmak bir saniyeden az sürer.
Qualcomm'da ürün yönetiminden sorumlu kıdemli başkan yardımcısı Ziad Asghar'a göre, metinden görüntüye, görüntüden videoya ve metinden 3D'ye, çok modlu yapay zekanın ortaya çıkışı, insanların cihazlarla etkileşim şeklini değiştiriyor: "Uç cihazlarda tamamen işlevsel, bu da bir uçakta uçabileceğiniz ve yine de üretken yapay zekayı kullanabileceğiniz anlamına geliyor." Ve "bu kesinlikle bu devrimin sadece başlangıcı."
Asghar'a göre, "Buluttaki üretken yapay zeka, cihazda işlenerek çözülebilecek birçok zorlukla karşı karşıya." Örneğin, bazı şirketler kod hatalarını tespit etmek için GPT araçlarına özel kod entegre ediyor. Gelecekte, bilgisayarlar kullanıcı durumu, tercihler, takvim ve yaş gibi cihaz tarafından bilinen bilgileri, "buluttan çok daha üstün" daha iyi üretken yapay zeka deneyimleri için üretken yapay zeka sorgularıyla birlikte kullanabilir.
Ayrıca, insanların kişisel bilgileri çeşitli sohbet robotlarına teslim ettiği etkileşimli oyunla karşılaştırıldığında, cihazlarda çalışan yapay zekanın en büyük satış noktası şudur: gizlilik ve özel bağlam bilgilerini işlenmek üzere buluta aktarmaya gerek yoktur. Ek olarak, bilgilerin buluttan dönmesini beklemek zorunda kalmamanız olan aciliyetin faydası da vardır.
Ancak yapay zekayı terminalde çalıştırmanın başka bir önemli sorunu daha var, ya model çıkarımı çok fazla hesaplama gerektiriyorsa?
Qualcomm yöneticilerine göre, bulutta büyük dil modellerini eğitirken genellikle 16 bit veya 32 bit kayan nokta sayıları kullanılır ve bu da her model çıkarımı için hesaplama yoğun hesaplama sağlar. Bunun yerine, modelleri sıkıştırmaya, yalnızca 4 bit kullanmak, güç tasarrufu yapmak ve cihazlarda daha eşzamanlı yapay zeka işleme yapabilmek gibi nicelemeye ve budamaya odaklanıyorlar ve "son birkaç ayda büyük dil modellerinin büyümesi, modelleri nicelleştirerek daha küçük hale getirme stratejilerini kanıtladı" diyorlar.
Ayrıca zamanla insanlar algoritmayı geliştirmeye devam etti ve model küçülmeye başladı. İnsanların benimseyeceği bir başka yaklaşım, modellerin belirli uygulamalar için eğitildiği "alana özgü modeller"dir, "modeller çok küçük olabilir ve çok yüksek doğruluğa sahip olabilir."
Amon, "Qualcomm'un CPU, NPU ve GPU'nun terminalde mükemmel performansla kombinasyonu ve birçok önde gelen modelin yerel işletimine verdiğimiz destek de dahil olmak üzere yıllarca süren yapay zeka araştırma ve geliştirmesine dayanarak, üretken yapay zekanın faydalarını dünyanın dört bir yanındaki kullanıcılara ve farklı son kategorilere sunabiliyoruz" dedi.
Aynı zamanda, Android, Windows ve diğer işletim sistemlerini kullanan Snapdragon terminallerinin birbirini keşfetmesine ve birden fazla terminal arasında sorunsuz bir işbirliği sağlamasına izin vermek için Qualcomm, Snapdragon Zirvesi'nde çapraz platform teknolojisi Snapdragon Seamless'ı piyasaya sürdü.
Çapraz platform teknolojisi Snapdragon Seamless |
Deloitte Bağlantılı Tüketici Anketi'ne göre, ABD'deki her hanede şu anda ortalama 21 dijital terminal var, ancak farklı terminaller arasında, özellikle de farklı üreticilerin terminalleri arasında bilgi aktarımı genellikle sorunsuz değil. Bu, tüketici seçimini sınırlayacak ve tüketicilerin terminalleri arasında birlikte çalışmak için yalnızca aynı üreticiden ürün satın almak zorunda kaldıkları bir kilitlenme etkisine yol açacaktır.
Snapdragon Seamless ile birden fazla terminal "tek bir ünite" gibi çalışabilir, örneğin: fare ve klavye PC'lerde, cep telefonlarında ve tabletlerde sorunsuz bir şekilde kullanılabilir; Dosyalar ve pencereler farklı terminal türleri arasında sürüklenip bırakılabilir; Kulaklıklar, ses kaynağının önceliğine göre akıllıca değiştirilebilir; XR, akıllı telefonlar için genişletilmiş işlevsellik sunar.
Snapdragon Seamless'ın gelecekte XR, otomotiv ve IoT platformlarına genişleyeceği bildiriliyor. Microsoft, Android, Xiaomi, Asus, Honor, Lenovo ve OPPO gibi şirketler, bu yılın başlarında dünya çapında piyasaya sürülen terminal platformlarına inecek bir teknoloji olan Snapdragon Seamless'ı benimsemek için Qualcomm ile birlikte çalışıyor.
Akıllı telefonlardan, artırılmış gerçeklik cihazlarından, arabalardan kişisel bilgisayarlara kadar, üretken yapay zekanın çipler aracılığıyla çok çeşitli uç cihazlara nüfuz etmesi başladı. Qualcomm, "terminal yapay zekasını" tüm tüketicilere tanıtmanın en önemli ilk ve en önemli adımıdır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Apple'ı yumruklamak, Intel'i tekmelemek, Qualcomm yongaları yapay zekanın geleceğidir
Orijinal kaynak: Geek Park
"Bir dakika, bir dakika, bir sonraki PPT'yi daha fazla çekmek istiyorsun!"
Pekin saatiyle 25 Ekim sabahının erken saatlerinde, 2023 Qualcomm Snapdragon Zirvesi'nin açılış konuşmasında, Qualcomm başkanı ve CEO'su Cristiano Amon, Snapdragon X Elite Oryon CPU'yu görkemli bir şekilde tanıttı. PPT sunumunda, yeni CPU, dünyanın en güçlü iki işlemcisi olan Apple'ın M2 Max ve Intel i9-13980HX'ini gölgede bırakmakla kalmadı, aynı zamanda önceki ikisinden daha düşük tepe enerji tüketimine sahipti.
Aynı zamanda Qualcomm, PC tarafında X Elite ile adından söz ettirmenin yanı sıra aynı gün Snapdragon 8 Gen 3 işlemcisini de tanıttı. En yeni mobil çip olan Snapdragon 8 Gen 3, yalnızca performansı artırmakla kalmaz, aynı zamanda üretken yapay zeka işlemeyi de optimize eder ve hatta on milyarlarca parametreye sahip modelleri doğrudan çalıştırabilir**.
Pazarın içinde ve dışında, Microsoft, Meta, Google, HP, Lenovo ve Xiaomi gibi tüketici elektroniği devlerinin CEO'ları ve başkanları Qualcomm'u temsil etti. Bunlar arasında, Xiaomi Grup Başkanı Lu Weibing, olay yerinde yalnızca yaklaşmakta olan Xiaomi 14 amiral gemisini ortaya çıkarmakla kalmadı, aynı zamanda Xiaomi otomobillerinin 2024'te piyasaya sürüleceğini resmi olarak önizledi.
Yeni PC serisi çip ürünleri Snapdragon 8 Gen 3 çipi, Qualcomm tarafından vurgulanan "terminal yapay zekasını" ulaşılabilir bir gerçeklik haline getiriyor.
01 Snapdragon X Elite, doğrudan Apple Intel'e
O gün tüm izleyicilerin odak noktası Snapdragon X Elite'ten başkası değildi.
Qualcomm, gelecekteki yüksek yüklü akıllı görevleri desteklemek için şirketin PC'ler için bugüne kadarki en güçlü bilgi işlem işlemcisini tanıttı: Oryon CPU'ların doğrudan Intel ve Apple'a uygulandığı Snapdragon X Elite.
Yapay zeka için tasarlanan Snapdragon X Elite**, yeni bir özelleştirilmiş Qualcomm Oryon CPU'yu entegre eder, terminal tarafında çalışan 13 milyardan fazla parametreyle** üretken yapay zeka modellerini destekler, rakip ürünlerden 4,5 kat daha hızlı işler ve 7 milyar parametreli büyük model için saniyede 30 jeton üretebilir. Qualcomm'a göre, bu mobil bilgi işlem CPU'su, aynı en yüksek performansta güç tüketiminin yalnızca üçte birini tüketerek rakiplerinden iki kat daha iyi performans gösteriyor.
"Acele et ve fotoğraf çek." Qualcomm CEO'su Amon zirvede yaptığı açıklamada, Oryon CPU'ların tek iş parçacıklı performansının Apple'ın M2 Max ve Intel'in i9-13980HX'ini aştığını ve en yüksek performanslı güç tüketiminin M2 Max'ten %30 ve i9-13980HX'ten %70 daha az olduğunu söyledi.
Çok iş parçacıklı performans açısından, Qualcomm ayrıca Intel'in i7-1355U ve i7-1360P'sini karşılaştırdı ve Snapdragon X Elite'in performansının iki kat daha yüksek olabileceğini ve en yüksek performans güç tüketiminin %68 daha az olabileceğini söyledi; Ayrıca Intel'in i7-13800H'si de var, bu da onu performansta %60 ve en yüksek performans güç tüketiminde %65 daha az aştığını iddia ediyor. Ayrıca Qualcomm, Snapdragon X Elite'in performansının %50'yi aştığını vurgulayarak Apple'ın M2'sini karşılaştırmaya da odaklandı.
Qualcomm Technologies Kıdemli Başkan Yardımcısı ve Bilgi İşlem ve Oyun Genel Müdürü Kedar Kondap şunları söyledi: "Snapdragon X Elite, tüketicilere inanılmaz enerji verimliliği sağlayan ve yaratıcılığı ve üretkenliği yepyeni bir seviyeye taşıyan yeni özel Qualcomm Oryon CPU ile bilgi işlem teknolojisi inovasyonunda ileriye doğru bir kuantum sıçramasına işaret ediyor. Güçlü uç taraf yapay zekası, sorunsuz çoklu görev ve yeni bir sezgisel kullanıcı deneyimi sağlayarak tüketicileri ve işletmeleri yaratma ve büyütme konusunda güçlendirecek."
OEM üreticilerinin Snapdragon X Elite ile donatılmış PC'leri 2024'ün ortalarında piyasaya sürmesinin beklendiği bildiriliyor.
02 3. Nesil Snapdragon, Kararlı Difüzyon görüntüsü oluşturmak için 8,1 saniye
Zirvede Qualcomm, üretken yapay zeka için özenle oluşturulmuş ilk mobil platformu da piyasaya sürdü: Snapdragon 8 Gen 3.
Önceki nesille karşılaştırıldığında, üçüncü nesil Snapdragon 8, %30 daha yüksek CPU performansına, %25 daha yüksek GPU performansına ve %25 daha yüksek NPU performansına sahiptir ve 10 milyar parametre ile üretken yapay zeka modellerinin çalıştırılmasını destekler. Akıllı telefon cihazlarında Stable Diffusion'ı çalıştırdığı iddia ediliyor, metin içeren görüntüler oluşturmak 1 saniyeden az sürüyor.
Qualcomm Technologies'in cep telefonlarından sorumlu kıdemli başkan yardımcısı ve genel müdürü Chris Patrick, "Platform, kullanıcıları benzersiz içerik oluşturmaya, üretkenliği artırmaya yardımcı olmaya ve diğer çığır açan kullanım durumlarını etkinleştirmeye teşvik ederek yeni bir üretken yapay zeka çağını başlatacak" dedi.
Canlı demoya göre Snapdragon 8 Gen 3, videodan nesneleri kaldırma, fotoğraf alanını genişletme ve sanal arka planlar oluşturma gibi özellikler de dahil olmak üzere bazı kullanışlı ve yaratıcı AI kamera araçlarını destekleyecektir.
Android amiral gemisi akıllı telefon SoC'lerinde lider olan üçüncü nesil Snapdragon 8'in Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi ve ZTE dahil olmak üzere küresel OEM'lerin ve akıllı telefon markalarının terminallerinde yaygın olarak benimseneceği bildiriliyor.
Xiaomi Grup Başkanı Lu Weibing, üçüncü nesil Snapdragon 8 ile donatılmış Mi 14 cep telefonunun yakında piyasaya sürülmesini ve Xiaomi'nin "uzun vadeli AI stratejisi büyümesini" göstermek için Hawaii Zirvesi'nde yer aldı. Buna göre Xiaomi 14 serisi, üçüncü nesil Snapdragon 8 mobil platformunun dünya prömiyerini yapacak.
Xiaomi'ye ek olarak, çeşitli üreticilerin yöneticilerine göre, NIO ve Qualcomm, otomobilde Snapdragon platformuna ve cep telefonunda derinlemesine işbirliğine dayalı, e-spor cep telefonu Red Devil, üçüncü nesil Snapdragon 8 ile donatılacak, yaklaşan realme GT5 Pro da bu amiral gemisi çipi ile donatılacak, vivo ve iQOO, üçüncü nesil Snapdragon 8 ile donatılmış amiral gemisi ürünlerini piyasaya sürecek, üçüncü nesil Snapdragon 8 nubia amiral gemisi cep telefonuna dayanan ZTE yakında satışa sunulacak.
Qualcomm'a göre, üçüncü nesil Snapdragon 8 ile donatılmış Android amiral gemisi terminallerinin önümüzdeki haftalarda satışa sunulması bekleniyor.
03 "Terminal AI" çağı
Çok çeşitli tüketici elektroniği de dahil olmak üzere çeşitli terminal kategorilerinde üretken yapay zekayı teşvik etmek, Qualcomm'un bu yılki en büyük hedefi haline geldi.
"Yapay zeka çağına giriyoruz ve uç taraf üretken yapay zeka, güçlü, hızlı, kişiselleştirilmiş, verimli, güvenli ve yüksek düzeyde optimize edilmiş deneyimler oluşturmak için kritik öneme sahip. **," dedi Qualcomm CEO'su Amon Anmeng.
Snapdragon Zirvesi'nde duyurulan üçüncü nesil Snapdragon 8 olan Snapdragon X Elite'in, üretken yapay zeka görevlerini aşırı hızlarda yerine getirebileceği söyleniyor, örneğin, Windows 11 PC'ler için terminal tarafı sohbet asistanı saniyede 30 jeton işleyebilir ve Stable Diffusion kullanarak akıllı telefonlarda görüntü oluşturmak bir saniyeden az sürer.
Qualcomm'da ürün yönetiminden sorumlu kıdemli başkan yardımcısı Ziad Asghar'a göre, metinden görüntüye, görüntüden videoya ve metinden 3D'ye, çok modlu yapay zekanın ortaya çıkışı, insanların cihazlarla etkileşim şeklini değiştiriyor: "Uç cihazlarda tamamen işlevsel, bu da bir uçakta uçabileceğiniz ve yine de üretken yapay zekayı kullanabileceğiniz anlamına geliyor." Ve "bu kesinlikle bu devrimin sadece başlangıcı."
Asghar'a göre, "Buluttaki üretken yapay zeka, cihazda işlenerek çözülebilecek birçok zorlukla karşı karşıya." Örneğin, bazı şirketler kod hatalarını tespit etmek için GPT araçlarına özel kod entegre ediyor. Gelecekte, bilgisayarlar kullanıcı durumu, tercihler, takvim ve yaş gibi cihaz tarafından bilinen bilgileri, "buluttan çok daha üstün" daha iyi üretken yapay zeka deneyimleri için üretken yapay zeka sorgularıyla birlikte kullanabilir.
Ayrıca, insanların kişisel bilgileri çeşitli sohbet robotlarına teslim ettiği etkileşimli oyunla karşılaştırıldığında, cihazlarda çalışan yapay zekanın en büyük satış noktası şudur: gizlilik ve özel bağlam bilgilerini işlenmek üzere buluta aktarmaya gerek yoktur. Ek olarak, bilgilerin buluttan dönmesini beklemek zorunda kalmamanız olan aciliyetin faydası da vardır.
Ancak yapay zekayı terminalde çalıştırmanın başka bir önemli sorunu daha var, ya model çıkarımı çok fazla hesaplama gerektiriyorsa?
Qualcomm yöneticilerine göre, bulutta büyük dil modellerini eğitirken genellikle 16 bit veya 32 bit kayan nokta sayıları kullanılır ve bu da her model çıkarımı için hesaplama yoğun hesaplama sağlar. Bunun yerine, modelleri sıkıştırmaya, yalnızca 4 bit kullanmak, güç tasarrufu yapmak ve cihazlarda daha eşzamanlı yapay zeka işleme yapabilmek gibi nicelemeye ve budamaya odaklanıyorlar ve "son birkaç ayda büyük dil modellerinin büyümesi, modelleri nicelleştirerek daha küçük hale getirme stratejilerini kanıtladı" diyorlar.
Ayrıca zamanla insanlar algoritmayı geliştirmeye devam etti ve model küçülmeye başladı. İnsanların benimseyeceği bir başka yaklaşım, modellerin belirli uygulamalar için eğitildiği "alana özgü modeller"dir, "modeller çok küçük olabilir ve çok yüksek doğruluğa sahip olabilir."
Amon, "Qualcomm'un CPU, NPU ve GPU'nun terminalde mükemmel performansla kombinasyonu ve birçok önde gelen modelin yerel işletimine verdiğimiz destek de dahil olmak üzere yıllarca süren yapay zeka araştırma ve geliştirmesine dayanarak, üretken yapay zekanın faydalarını dünyanın dört bir yanındaki kullanıcılara ve farklı son kategorilere sunabiliyoruz" dedi.
Aynı zamanda, Android, Windows ve diğer işletim sistemlerini kullanan Snapdragon terminallerinin birbirini keşfetmesine ve birden fazla terminal arasında sorunsuz bir işbirliği sağlamasına izin vermek için Qualcomm, Snapdragon Zirvesi'nde çapraz platform teknolojisi Snapdragon Seamless'ı piyasaya sürdü.
Deloitte Bağlantılı Tüketici Anketi'ne göre, ABD'deki her hanede şu anda ortalama 21 dijital terminal var, ancak farklı terminaller arasında, özellikle de farklı üreticilerin terminalleri arasında bilgi aktarımı genellikle sorunsuz değil. Bu, tüketici seçimini sınırlayacak ve tüketicilerin terminalleri arasında birlikte çalışmak için yalnızca aynı üreticiden ürün satın almak zorunda kaldıkları bir kilitlenme etkisine yol açacaktır.
Snapdragon Seamless ile birden fazla terminal "tek bir ünite" gibi çalışabilir, örneğin: fare ve klavye PC'lerde, cep telefonlarında ve tabletlerde sorunsuz bir şekilde kullanılabilir; Dosyalar ve pencereler farklı terminal türleri arasında sürüklenip bırakılabilir; Kulaklıklar, ses kaynağının önceliğine göre akıllıca değiştirilebilir; XR, akıllı telefonlar için genişletilmiş işlevsellik sunar.
Snapdragon Seamless'ın gelecekte XR, otomotiv ve IoT platformlarına genişleyeceği bildiriliyor. Microsoft, Android, Xiaomi, Asus, Honor, Lenovo ve OPPO gibi şirketler, bu yılın başlarında dünya çapında piyasaya sürülen terminal platformlarına inecek bir teknoloji olan Snapdragon Seamless'ı benimsemek için Qualcomm ile birlikte çalışıyor.
Akıllı telefonlardan, artırılmış gerçeklik cihazlarından, arabalardan kişisel bilgisayarlara kadar, üretken yapay zekanın çipler aracılığıyla çok çeşitli uç cihazlara nüfuz etmesi başladı. Qualcomm, "terminal yapay zekasını" tüm tüketicilere tanıtmanın en önemli ilk ve en önemli adımıdır.