Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
Kamera arayüzünü açan sunucu, önündeki manzaranın fotoğrafını çeker. Albümde, bu görüntüyü bulun ve "Genişlet" işlevini seçin, ancak fotoğrafta yakalanmayan çevresel kısım sihirli bir şekilde çevreye "genişletildi".
Öte yandan, ziyaretçiler için selfie çekmek için bir cep telefonu kullanılıyor gibi görünüyor ve öne bakan kamera alanına girdiğinizde, resimdeki kişinin görüntüsünün arka planının gerçek zamanlı olarak değiştirildiğini göreceksiniz, selfie kişisi hareket etmeye devam etse bile, sanal arka plan yıpranmıyor ve gecikme neredeyse hissedilmiyor.
Selfie'nin arka planını gerçek zamanlı olarak değiştirin |
Ve biraz daha yakından bakarsanız, gösteri için kullanılan tüm telefonların uçak modunda olduğunu göreceksiniz - yani, yukarıdaki tüm komplikasyonlar telefonun yerel çipinde çalışıyor.
Bu, 2023 Qualcomm Snapdragon Zirvesi'nin demo deneyim salonudur ve yukarıdaki cep telefonları tarafından gösterilen AI işlevlerinin tümü, konferansta yeni ortaya çıkan Snapdragon 8 Gen 3 (üçüncü nesil Snapdragon 8) işlemci çipinin bilgi işlem gücüne dayanmaktadır.
AI büyük modellerinin popüler olduğu anda, Qualcomm bu yılki basın toplantısında iki yeni ürün piyasaya sürdü, Snapdragon X Elite ve Snapdragon 8 Gen 3 yongaları, PC'ler ve akıllı telefonlar tarafından temsil edilen mobil cihazlarda sırasıyla, on milyarlarca parametreli büyük modelin yerel çalışmasını gerçekleştirerek, üretken yapay zekanın büyülü yeteneğini mobil cihazların "yerleşik bir işlevi" haline getiriyor.
"Bulut yapay zeka"ya ek olarak, çiplerin hızla gelişmesiyle birlikte "terminal yapay zeka" hayata geçirildi ve ikisinin birlikte çalıştığı "hibrit yapay zeka" çağı gelmiş olabilir.
01 Yapay zeka, veri merkezinden cep telefonlarına ve PC'lere
"Bir sonraki dönüşümün başlangıcını gördük ve bu çok geniş kapsamlı. **」
Qualcomm Başkanı ve CEO'su Cristiano Amon, cep telefonunu özellikli telefonlardan akıllı telefonlara ve ardından geleceğe tanımlarken cihazları ve bulutu birleştiren bu "hibrit yapay zeka" tahminini yaptı.
Günümüzde birçok üretken yapay zeka konuşma uygulaması gibi buluttaki yapay zeka da yabancı olmayabilir, ancak terminal yapay zekasının uygulanması yüksek donanım gereksinimlerine sahiptir, bu nedenle Qualcomm'un basın toplantısındaki iki yeni yonga - Snapdragon X Elite ve Snapdragon 8 Gen 3 - özellikle dikkat çekicidir.
Belki de günün en heyecan verici şeyi, Snapdragon X Elite'teki Ryon CPU'nun tek bir iş parçacığındaki performans açısından yalnızca Apple'ın gurur verici M2 MAX yongasını** ve Intel'in i9-13980HX'ini yenmekle kalmayıp, aynı performansta ikincisinden %70 daha az enerji tüketmesiydi.
Dahası, güçlü Oryon CPU, Hexagon NPU ve Adreno GPU, X Elite'in heterojen AI motorunun desteğiyle, üç işlemci biriminde toplam 75 TOP'luk bir bilgi işlem gücüne ulaşabilir.
Süper bilgi işlem gücü, daha önce yalnızca bulutta mevcut olan üretken AI konuşma deneyiminin, PC tarafında 13 milyara kadar parametreye sahip büyük dil modellerini çalıştırabilen Snapdragon X Elite çipi ile donatılmış bilgisayarın yerel ortamında başarıyla uygulanmasına olanak tanır ve Token oluşturma hızı, kullanıcının okuma hızından daha hızlı olan saniyede 30 jetona ulaşır; Aynı zamanda, Kararlı Difüzyon ile oluşturulan görüntüler 1 saniyeden daha kısa sürede şaşırtıcı derecede hızlıdır.
Yeni piyasaya sürülen Oryon CPU hızı ve enerji tüketimi dünyanın en iyileri arasında yer alıyor
Sahada, parmağınızla oluştur düğmesine tıkladığınızda ve görüntü anında tamamlanabildiğinde, deneyim şaşırtıcıdır, çünkü insanlar uzun zamandır bulanıktan nete kadar bir görüntü üretmek için üretken diyalog beklemeye alışkındır.
Amiral gemisi akıllı telefon çipi olan Snapdragon 8 Gen 3, X Elite'in çok gerisinde değil ve yapay zeka açısından, yalnızca yerel olarak on milyarlarca parametreye sahip büyük bir modeli çalıştırmakla kalmıyor, aynı zamanda 0,6 saniye gibi kısa bir sürede görüntü üretebiliyor.
Sadece bu yılın ilk çeyreğinde, Qualcomm'un demosu yerel olarak yalnızca 1 milyar parametreye sahip büyük bir modeli çalıştırabildi ve görüntü üretme hızı 15 saniyeye kadar kontrol edildi. Qualcomm, "terminal yapay zekasının" büyük sıçramalar ve sınırlar yapmasını sağlamak için ne tür bir "sihir" kullanıyor?
Snapdragon 8 Gen 3 söz konusu olduğunda, Qualcomm** önce Llama 2 gibi büyük bir modeli nicelleştirir, bir AI yazılım yığını kullanarak sıkıştırır ve nicelleştirilmiş modeli ultra yüksek hızlı DDR belleğe** yükler, bu da modeli ultra hızlı verimle Hexagon NPU'ya girebilir.
Qualcomm'un Yapay Zeka Motoru, yapay zeka için özel olarak optimize edilmiştir |
Qualcomm, mikro mimaride önemli iyileştirmeler yaptı. Ekip, mikro dilim çıkarım donanımını yükseltmenin yanı sıra, optimum performans ve enerji verimliliği için tensör hızlandırıcıya ayrı güç dağıtım yolları da ekledi. Aynı zamanda Qualcomm, skaler ve vektör hızlandırıcıların saat hızını artırdı ve büyük paylaşılan belleğin bant genişliğini iki katına çıkardı. Hexagon NPU'daki bu iyileştirmeler, onu büyük model çıkarımı için önde gelen bir hızlandırıcı haline getiriyor.
Qualcomm ayrıca ses tabanlı konuşmalarda "spekülatif kod çözme" tekniğini kullanıyor ve bu da ilk kez bir terminalde kullanılıyor. Bu teknoloji, orijinal modelin neredeyse yarısı büyüklüğünde bir "taslak model" algoritması kullanır ve CPU üzerinde büyük miktarda çıkarım yaptıktan sonra hızlı bir şekilde 3 spekülatif token üretir.
Ana model, 3 etiketi de aynı anda işler ve hangisinin kabul edileceğine karar verir. İyi bir taslak model, yüksek kabul oranına sahip bir sonraki tokeni tahmin eder ve doğruluğu korurken token oluşturma oranını iki katına çıkarır. Son olarak, AI asistanı tarafından oluşturulan ses, CPU üzerinde çalışan bir metinden sese AI modeli tarafından üretilir.
Bu, Qualcomm AI Engine veya NPU'nun CPU, GPU, Qualcomm Sensor Hub ve ultra hızlı bellekle birleştirilmesi ve cihaz tarafı AI kullanım durumunu tamamlamak için birlikte çalışması işlemidir.
Bununla birlikte, karmaşık ama verimli üretken yapay zeka uygulama durumlarının arkasında, Qualcomm'un cihaz tarafı yapay zeka yönünde uzun birikimi ve keşfi var.
02 Terminal Yapay Zekasının Evrimi
Veri merkezi senaryosunda bulut AI donanımının evriminden bahsedecek olursak, sembol NVIDIA'nın grafik kartıdır; Daha sonra cihaz tarafında yapay zekanın gelişimi Qualcomm AI motoru ile işaretleniyor, elbette donanım seviyesinin en kritik kısmı sürekli gelişen Snapdragon Hexagon NPU işlemci.
2007'de Qualcomm, Snapdragon platformundaki ilk Hexagon işlemciyi tanıttı.
2015 yılında Qualcomm, görüntülerin, seslerin ve sensörlerin hesaplanmasını geliştirmek için yapay zekayı kullanarak yapay zeka teknolojisini işlemcilerine entegre etti.
2017 yılında Qualcomm, akıllı telefonların görüntü tanıma ve ses işleme gibi karmaşık AI görevlerini daha hızlı gerçekleştirmesini sağlayan Snapdragon 845 yongasında Hexagon 685 DSP'yi tanıttı.
Ertesi yıl, 2018'de Snapdragon 855, dördüncü nesil AI motorunu yükselterek Hexagon işlemciye tensör hızlandırıcıları ekledi ve AI işlemede 3 kat performans artışı sağladı.
Snapdragon 865'te, daha fazla AI performansı ve verimliliği sağlayan Hexagon 698 DSP tanıtıldı. Bu sürüm, yapay zeka hızlandırmayı vurgular ve akıllı telefonlarda yapay zeka uygulamalarını daha hızlı çalıştırmak için yapay zeka modellerinin yürütülmesini optimize eder. 2020'nin sonunda Snapdragon 888'deki Hexagon 780 DSP, 26TOPS'a kadar AI performansı sunuyor.
On yıldan fazla bir evrimden sonra, Snapdragon bilgi işlem platformunun yapay zeka yetenekleri 100 kat arttı
Şimdiye kadar, Snapdragon X Elite ve 8 Gen 3 yongaları 75 TOP bilgi işlem gücü sağlayabildi - son yedi yılda Qualcomm yongalarının AI işlem gücünün bir grafiğini yaparsanız, "AI eğrisinin" dik bir yükseliş eğilimi gösterdiğini ve hala durmadığını görebilirsiniz.
Donanıma ek olarak, Qualcomm'un AI yazılım düzeyindeki çabaları da terminal AI'nın yeteneklerini geliştirmek için vazgeçilmezdir. Qualcomm AI yazılım yığını, tüm AI yazılım ürünlerini birleşik bir çözüme entegre eder. OEM'ler ve geliştiriciler, Qualcomm AI Engine performansından tam olarak yararlanarak Qualcomm ürünlerine dayalı AI uygulamaları oluşturabilir, optimize edebilir ve dağıtabilir ve AI geliştiricilerinin bir kez AI modelleri oluşturmasına ve bunları farklı ürünlere dağıtmasına olanak tanır.
Snapdragon Zirvesi'nde Qualcomm, üçüncü nesil Snapdragon 8 ve Snapdragon X Elite platformlarını desteklemek için Qualcomm tarafından tamamen optimize edilmiş, test edilmiş ve doğrulanmış geliştiricilerin ihtiyaçlarını karşılayan bir model paketi olan AI yazılım yığını modellerini de tanıttı.
Qualcomm Neural Network Processing SDK ve Qualcomm AI Engine Direct, Qualcomm AI yazılım yığınının merkezinde yer alır ve çipi tüm büyük AI çerçevelerine bağlar. TF Lite ve ONNX RT yönetilen modelleri ile kullanıcılar Tensorflow ve ONNX'i doğrudan kullanabilir ve geliştiricilere tercih ettikleri çalışma ortamını seçme özgürlüğü verir.
Qualcomm, birçok dev ve büyük model şirketle bir terminal yapay zeka ekosistemi inşa ediyor
Qualcomm, bir dizi dev ve büyük model girişimi ile ortaklık kurdu ve Qualcomm'un AI yazılım yığını modelinin piyasaya sürüldüğü sırada, zaten desteklenen 30'dan fazla büyük model var ve sayı hala artıyor ve yazılım yığını modeli, popüler model barındırma platformu Hugging Face'de de görünecek.
Şu anda sekizinci neslinde, Qualcomm'un birden fazla donanım ve yazılım bileşeninden oluşan AI Motoru, Snapdragon ve Qualcomm platformlarında cihaz tarafı AI hızlandırmasını sağlıyor.
Görülüyor kiÇipin temel donanımına bağlı olarak Qualcomm, bir "terminal yapay zeka" ekosistemi oluşturmak için çok sayıda iş ortağını bir araya getiriyor.
"Terminal AI" neden bu kadar önemlidir ve Qualcomm ve ortakları buna yatırım yapmak için hiçbir çabadan kaçınmamalıdır?
03 "Hibrit Yapay Zeka"nın Geleceği
Tarayıcılarda, mobil uygulamalarda birçok kişi üretken yapay zeka uygulamaları kullanıyor ve bu tür bir "bulut yapay zekası" insanların ihtiyaçlarını karşılamış gibi görünüyor. Cihaz içi yapay zekanın bulut yapay zekasına göre avantajları nelerdir?
Birincisi hemen yanıt vermektir. Geçmişte, geliştiriciler bir Mac dizüstü bilgisayarda görüntü oluşturmak için Kararlı Difüzyon modelini sıkıştırmaya çalıştılar ve sonuçlar saat cinsinden ölçüldü. Bununla birlikte, yerel işlem terminalde gerçekleştirilirse, Qualcomm tarafından gösterilen demoda, Hızlı Kararlı Difüzyonun görüntü oluşturma hızı 1 saniyenin altına düşürüldü.
Özellikle sanal insanlar ve gerçek zamanlı sanal arka planlar gibi yüksek gecikme süresi gereksinimleri olan senaryolarda, terminal yapay zekasının yerel bilgi işleminin aciliyeti vurgulanır.
Ek olarak, zayıf ağlar söz konusu olduğunda, yerel cihazın AI yetenekleri kullanıcılar için tek seçenek haline gelir.
Üçüncü nesil Snapdragon 8 yongası, telefonda yerel olarak fotoğraf genişletme yetenekleri elde edebilir|Qualcomm
Aynı zamanda, veriler terminalde yerel olarak çalıştığında, güvenlik de buluttakinden daha güvenlidir. Örneğin, Snapdragon X Elite, çipten buluta kadar kuruluştaki tüm uç noktaları koruyan en son uçtan uca güvenliği destekler. Özel Qualcomm Güvenli İşlem Birimi, Microsoft Pluton güvenlik mimarisini destekler ve hassas verileri depolamak için tasarlanmıştır.
Son olarak, terminal yapay zeka yeteneklerinin iyileştirilmesi, yapay zeka asistanlarına "yapay zihinsel engellilik" damgasından kurtulma ve gerçekten nitelikli ve son derece kişiselleştirilmiş bir kişisel akıllı asistan olma şansı verebilir. Tıpkı canlı gösteride olduğu gibi, kişisel bilgiler, kullanım alışkanlıkları ve terminal tarafında kaydedilen ve saklanan diğer veriler yardımıyla akıllı asistan, cep telefonundaki çeşitli uygulamalarda zıplamak yerine, sesli komutları aldıktan sonra doğrudan otel ve uçak bileti rezervasyonu yapabilir. Bunların hepsi buluttaki yapay zeka ile eşsizdir.
Yaklaşık on yıl önce, a16z'nin kurucusu Mark Anderson, bir keresinde "yazılım dünyayı yutacak" şeklinde bir öngörüde bulunmuş, ancak ne yazık ki gerçek tahrif edilmişti; Büyük modellerin neden olduğu yapay zeka dalgası altında, "yapay zeka yutan uygulamalar" yavaş yavaş gerçeğe dönüşüyor.
Terminal AI + bulut AI, akıllı telefonların uygulama merkezli paradigmasını değiştirecek|Geek Park
"Yapay zekanın öngörücü gücü, terminalin sizin için oluşturulmuş olmasıyla birleştiğinde, terminali ve işletim sistemini, uygulamayı ve bulutu akıllı hale getiriyor."
Ammon, terminal yapay zeka + bulut yapay zekasından oluşan "hibrit yapay zekanın" insanların cihaz kullanma alışkanlıklarını nasıl değiştireceğini anlatıyor.
Şimdiye kadar Snapdragon platformunu kullanan terminal sayısı 3 milyara ulaştı.
Oryon CPU'nun gelecekte Qualcomm'un çeşitli ürün hatlarına gireceği gibi, terminal yapay zekasının yetenekleri de yakında PC'lerden ve cep telefonlarından XR ve akıllı araç cihazlarına aktarılacak - "hibrit yapay zekanın" her yerde olduğu bir gelecek.
AI her türlü cihaza girmenin yolunu bulacak
Maui'nin yerel halkı, denizaşırı ülkelerden gelen yabancılar için özel bir tören olan Snapdragon Zirvesi'nin açılışı, benzersiz deniz kabuğu enstrümanları ve çağrıları aracılığıyla masumiyetlerini gösteriyor; Adadaki yerel halk, karşı tarafın kötü bir niyeti olmadığını ve güvenilir olduğunu doğrulamak için benzersiz bir "büyü" ile cevap verdi.
Bu hareketli tören, "hibrit yapay zekanın" geleceğini dünyaya getirmek için "terminal yapay zeka" ve "bulut yapay zekasının" yakınlaşmasına çok benziyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Büyük model cep telefonuna konuyor ve dünyayı değiştirmek için yapay zekanın perdesini açıyor
Orijinal kaynak: Geek Park
Yazar: Jing Yu
Kamera arayüzünü açan sunucu, önündeki manzaranın fotoğrafını çeker. Albümde, bu görüntüyü bulun ve "Genişlet" işlevini seçin, ancak fotoğrafta yakalanmayan çevresel kısım sihirli bir şekilde çevreye "genişletildi".
Öte yandan, ziyaretçiler için selfie çekmek için bir cep telefonu kullanılıyor gibi görünüyor ve öne bakan kamera alanına girdiğinizde, resimdeki kişinin görüntüsünün arka planının gerçek zamanlı olarak değiştirildiğini göreceksiniz, selfie kişisi hareket etmeye devam etse bile, sanal arka plan yıpranmıyor ve gecikme neredeyse hissedilmiyor.
Ve biraz daha yakından bakarsanız, gösteri için kullanılan tüm telefonların uçak modunda olduğunu göreceksiniz - yani, yukarıdaki tüm komplikasyonlar telefonun yerel çipinde çalışıyor.
Bu, 2023 Qualcomm Snapdragon Zirvesi'nin demo deneyim salonudur ve yukarıdaki cep telefonları tarafından gösterilen AI işlevlerinin tümü, konferansta yeni ortaya çıkan Snapdragon 8 Gen 3 (üçüncü nesil Snapdragon 8) işlemci çipinin bilgi işlem gücüne dayanmaktadır.
AI büyük modellerinin popüler olduğu anda, Qualcomm bu yılki basın toplantısında iki yeni ürün piyasaya sürdü, Snapdragon X Elite ve Snapdragon 8 Gen 3 yongaları, PC'ler ve akıllı telefonlar tarafından temsil edilen mobil cihazlarda sırasıyla, on milyarlarca parametreli büyük modelin yerel çalışmasını gerçekleştirerek, üretken yapay zekanın büyülü yeteneğini mobil cihazların "yerleşik bir işlevi" haline getiriyor.
"Bulut yapay zeka"ya ek olarak, çiplerin hızla gelişmesiyle birlikte "terminal yapay zeka" hayata geçirildi ve ikisinin birlikte çalıştığı "hibrit yapay zeka" çağı gelmiş olabilir.
01 Yapay zeka, veri merkezinden cep telefonlarına ve PC'lere
"Bir sonraki dönüşümün başlangıcını gördük ve bu çok geniş kapsamlı. **」
Qualcomm Başkanı ve CEO'su Cristiano Amon, cep telefonunu özellikli telefonlardan akıllı telefonlara ve ardından geleceğe tanımlarken cihazları ve bulutu birleştiren bu "hibrit yapay zeka" tahminini yaptı.
Günümüzde birçok üretken yapay zeka konuşma uygulaması gibi buluttaki yapay zeka da yabancı olmayabilir, ancak terminal yapay zekasının uygulanması yüksek donanım gereksinimlerine sahiptir, bu nedenle Qualcomm'un basın toplantısındaki iki yeni yonga - Snapdragon X Elite ve Snapdragon 8 Gen 3 - özellikle dikkat çekicidir.
Belki de günün en heyecan verici şeyi, Snapdragon X Elite'teki Ryon CPU'nun tek bir iş parçacığındaki performans açısından yalnızca Apple'ın gurur verici M2 MAX yongasını** ve Intel'in i9-13980HX'ini yenmekle kalmayıp, aynı performansta ikincisinden %70 daha az enerji tüketmesiydi.
Dahası, güçlü Oryon CPU, Hexagon NPU ve Adreno GPU, X Elite'in heterojen AI motorunun desteğiyle, üç işlemci biriminde toplam 75 TOP'luk bir bilgi işlem gücüne ulaşabilir.
Süper bilgi işlem gücü, daha önce yalnızca bulutta mevcut olan üretken AI konuşma deneyiminin, PC tarafında 13 milyara kadar parametreye sahip büyük dil modellerini çalıştırabilen Snapdragon X Elite çipi ile donatılmış bilgisayarın yerel ortamında başarıyla uygulanmasına olanak tanır ve Token oluşturma hızı, kullanıcının okuma hızından daha hızlı olan saniyede 30 jetona ulaşır; Aynı zamanda, Kararlı Difüzyon ile oluşturulan görüntüler 1 saniyeden daha kısa sürede şaşırtıcı derecede hızlıdır.
Sahada, parmağınızla oluştur düğmesine tıkladığınızda ve görüntü anında tamamlanabildiğinde, deneyim şaşırtıcıdır, çünkü insanlar uzun zamandır bulanıktan nete kadar bir görüntü üretmek için üretken diyalog beklemeye alışkındır.
Amiral gemisi akıllı telefon çipi olan Snapdragon 8 Gen 3, X Elite'in çok gerisinde değil ve yapay zeka açısından, yalnızca yerel olarak on milyarlarca parametreye sahip büyük bir modeli çalıştırmakla kalmıyor, aynı zamanda 0,6 saniye gibi kısa bir sürede görüntü üretebiliyor.
Sadece bu yılın ilk çeyreğinde, Qualcomm'un demosu yerel olarak yalnızca 1 milyar parametreye sahip büyük bir modeli çalıştırabildi ve görüntü üretme hızı 15 saniyeye kadar kontrol edildi. Qualcomm, "terminal yapay zekasının" büyük sıçramalar ve sınırlar yapmasını sağlamak için ne tür bir "sihir" kullanıyor?
Snapdragon 8 Gen 3 söz konusu olduğunda, Qualcomm** önce Llama 2 gibi büyük bir modeli nicelleştirir, bir AI yazılım yığını kullanarak sıkıştırır ve nicelleştirilmiş modeli ultra yüksek hızlı DDR belleğe** yükler, bu da modeli ultra hızlı verimle Hexagon NPU'ya girebilir.
Qualcomm, mikro mimaride önemli iyileştirmeler yaptı. Ekip, mikro dilim çıkarım donanımını yükseltmenin yanı sıra, optimum performans ve enerji verimliliği için tensör hızlandırıcıya ayrı güç dağıtım yolları da ekledi. Aynı zamanda Qualcomm, skaler ve vektör hızlandırıcıların saat hızını artırdı ve büyük paylaşılan belleğin bant genişliğini iki katına çıkardı. Hexagon NPU'daki bu iyileştirmeler, onu büyük model çıkarımı için önde gelen bir hızlandırıcı haline getiriyor.
Qualcomm ayrıca ses tabanlı konuşmalarda "spekülatif kod çözme" tekniğini kullanıyor ve bu da ilk kez bir terminalde kullanılıyor. Bu teknoloji, orijinal modelin neredeyse yarısı büyüklüğünde bir "taslak model" algoritması kullanır ve CPU üzerinde büyük miktarda çıkarım yaptıktan sonra hızlı bir şekilde 3 spekülatif token üretir.
Ana model, 3 etiketi de aynı anda işler ve hangisinin kabul edileceğine karar verir. İyi bir taslak model, yüksek kabul oranına sahip bir sonraki tokeni tahmin eder ve doğruluğu korurken token oluşturma oranını iki katına çıkarır. Son olarak, AI asistanı tarafından oluşturulan ses, CPU üzerinde çalışan bir metinden sese AI modeli tarafından üretilir.
Bu, Qualcomm AI Engine veya NPU'nun CPU, GPU, Qualcomm Sensor Hub ve ultra hızlı bellekle birleştirilmesi ve cihaz tarafı AI kullanım durumunu tamamlamak için birlikte çalışması işlemidir.
Bununla birlikte, karmaşık ama verimli üretken yapay zeka uygulama durumlarının arkasında, Qualcomm'un cihaz tarafı yapay zeka yönünde uzun birikimi ve keşfi var.
02 Terminal Yapay Zekasının Evrimi
Veri merkezi senaryosunda bulut AI donanımının evriminden bahsedecek olursak, sembol NVIDIA'nın grafik kartıdır; Daha sonra cihaz tarafında yapay zekanın gelişimi Qualcomm AI motoru ile işaretleniyor, elbette donanım seviyesinin en kritik kısmı sürekli gelişen Snapdragon Hexagon NPU işlemci.
2007'de Qualcomm, Snapdragon platformundaki ilk Hexagon işlemciyi tanıttı.
2015 yılında Qualcomm, görüntülerin, seslerin ve sensörlerin hesaplanmasını geliştirmek için yapay zekayı kullanarak yapay zeka teknolojisini işlemcilerine entegre etti.
2017 yılında Qualcomm, akıllı telefonların görüntü tanıma ve ses işleme gibi karmaşık AI görevlerini daha hızlı gerçekleştirmesini sağlayan Snapdragon 845 yongasında Hexagon 685 DSP'yi tanıttı.
Ertesi yıl, 2018'de Snapdragon 855, dördüncü nesil AI motorunu yükselterek Hexagon işlemciye tensör hızlandırıcıları ekledi ve AI işlemede 3 kat performans artışı sağladı.
Snapdragon 865'te, daha fazla AI performansı ve verimliliği sağlayan Hexagon 698 DSP tanıtıldı. Bu sürüm, yapay zeka hızlandırmayı vurgular ve akıllı telefonlarda yapay zeka uygulamalarını daha hızlı çalıştırmak için yapay zeka modellerinin yürütülmesini optimize eder. 2020'nin sonunda Snapdragon 888'deki Hexagon 780 DSP, 26TOPS'a kadar AI performansı sunuyor.
Şimdiye kadar, Snapdragon X Elite ve 8 Gen 3 yongaları 75 TOP bilgi işlem gücü sağlayabildi - son yedi yılda Qualcomm yongalarının AI işlem gücünün bir grafiğini yaparsanız, "AI eğrisinin" dik bir yükseliş eğilimi gösterdiğini ve hala durmadığını görebilirsiniz.
Donanıma ek olarak, Qualcomm'un AI yazılım düzeyindeki çabaları da terminal AI'nın yeteneklerini geliştirmek için vazgeçilmezdir. Qualcomm AI yazılım yığını, tüm AI yazılım ürünlerini birleşik bir çözüme entegre eder. OEM'ler ve geliştiriciler, Qualcomm AI Engine performansından tam olarak yararlanarak Qualcomm ürünlerine dayalı AI uygulamaları oluşturabilir, optimize edebilir ve dağıtabilir ve AI geliştiricilerinin bir kez AI modelleri oluşturmasına ve bunları farklı ürünlere dağıtmasına olanak tanır.
Snapdragon Zirvesi'nde Qualcomm, üçüncü nesil Snapdragon 8 ve Snapdragon X Elite platformlarını desteklemek için Qualcomm tarafından tamamen optimize edilmiş, test edilmiş ve doğrulanmış geliştiricilerin ihtiyaçlarını karşılayan bir model paketi olan AI yazılım yığını modellerini de tanıttı.
Qualcomm Neural Network Processing SDK ve Qualcomm AI Engine Direct, Qualcomm AI yazılım yığınının merkezinde yer alır ve çipi tüm büyük AI çerçevelerine bağlar. TF Lite ve ONNX RT yönetilen modelleri ile kullanıcılar Tensorflow ve ONNX'i doğrudan kullanabilir ve geliştiricilere tercih ettikleri çalışma ortamını seçme özgürlüğü verir.
Qualcomm, bir dizi dev ve büyük model girişimi ile ortaklık kurdu ve Qualcomm'un AI yazılım yığını modelinin piyasaya sürüldüğü sırada, zaten desteklenen 30'dan fazla büyük model var ve sayı hala artıyor ve yazılım yığını modeli, popüler model barındırma platformu Hugging Face'de de görünecek.
Şu anda sekizinci neslinde, Qualcomm'un birden fazla donanım ve yazılım bileşeninden oluşan AI Motoru, Snapdragon ve Qualcomm platformlarında cihaz tarafı AI hızlandırmasını sağlıyor.
Görülüyor kiÇipin temel donanımına bağlı olarak Qualcomm, bir "terminal yapay zeka" ekosistemi oluşturmak için çok sayıda iş ortağını bir araya getiriyor.
"Terminal AI" neden bu kadar önemlidir ve Qualcomm ve ortakları buna yatırım yapmak için hiçbir çabadan kaçınmamalıdır?
03 "Hibrit Yapay Zeka"nın Geleceği
Tarayıcılarda, mobil uygulamalarda birçok kişi üretken yapay zeka uygulamaları kullanıyor ve bu tür bir "bulut yapay zekası" insanların ihtiyaçlarını karşılamış gibi görünüyor. Cihaz içi yapay zekanın bulut yapay zekasına göre avantajları nelerdir?
Birincisi hemen yanıt vermektir. Geçmişte, geliştiriciler bir Mac dizüstü bilgisayarda görüntü oluşturmak için Kararlı Difüzyon modelini sıkıştırmaya çalıştılar ve sonuçlar saat cinsinden ölçüldü. Bununla birlikte, yerel işlem terminalde gerçekleştirilirse, Qualcomm tarafından gösterilen demoda, Hızlı Kararlı Difüzyonun görüntü oluşturma hızı 1 saniyenin altına düşürüldü.
Özellikle sanal insanlar ve gerçek zamanlı sanal arka planlar gibi yüksek gecikme süresi gereksinimleri olan senaryolarda, terminal yapay zekasının yerel bilgi işleminin aciliyeti vurgulanır.
Ek olarak, zayıf ağlar söz konusu olduğunda, yerel cihazın AI yetenekleri kullanıcılar için tek seçenek haline gelir.
Aynı zamanda, veriler terminalde yerel olarak çalıştığında, güvenlik de buluttakinden daha güvenlidir. Örneğin, Snapdragon X Elite, çipten buluta kadar kuruluştaki tüm uç noktaları koruyan en son uçtan uca güvenliği destekler. Özel Qualcomm Güvenli İşlem Birimi, Microsoft Pluton güvenlik mimarisini destekler ve hassas verileri depolamak için tasarlanmıştır.
Son olarak, terminal yapay zeka yeteneklerinin iyileştirilmesi, yapay zeka asistanlarına "yapay zihinsel engellilik" damgasından kurtulma ve gerçekten nitelikli ve son derece kişiselleştirilmiş bir kişisel akıllı asistan olma şansı verebilir. Tıpkı canlı gösteride olduğu gibi, kişisel bilgiler, kullanım alışkanlıkları ve terminal tarafında kaydedilen ve saklanan diğer veriler yardımıyla akıllı asistan, cep telefonundaki çeşitli uygulamalarda zıplamak yerine, sesli komutları aldıktan sonra doğrudan otel ve uçak bileti rezervasyonu yapabilir. Bunların hepsi buluttaki yapay zeka ile eşsizdir.
Yaklaşık on yıl önce, a16z'nin kurucusu Mark Anderson, bir keresinde "yazılım dünyayı yutacak" şeklinde bir öngörüde bulunmuş, ancak ne yazık ki gerçek tahrif edilmişti; Büyük modellerin neden olduğu yapay zeka dalgası altında, "yapay zeka yutan uygulamalar" yavaş yavaş gerçeğe dönüşüyor.
"Yapay zekanın öngörücü gücü, terminalin sizin için oluşturulmuş olmasıyla birleştiğinde, terminali ve işletim sistemini, uygulamayı ve bulutu akıllı hale getiriyor."
Ammon, terminal yapay zeka + bulut yapay zekasından oluşan "hibrit yapay zekanın" insanların cihaz kullanma alışkanlıklarını nasıl değiştireceğini anlatıyor.
Şimdiye kadar Snapdragon platformunu kullanan terminal sayısı 3 milyara ulaştı.
Oryon CPU'nun gelecekte Qualcomm'un çeşitli ürün hatlarına gireceği gibi, terminal yapay zekasının yetenekleri de yakında PC'lerden ve cep telefonlarından XR ve akıllı araç cihazlarına aktarılacak - "hibrit yapay zekanın" her yerde olduğu bir gelecek.
Maui'nin yerel halkı, denizaşırı ülkelerden gelen yabancılar için özel bir tören olan Snapdragon Zirvesi'nin açılışı, benzersiz deniz kabuğu enstrümanları ve çağrıları aracılığıyla masumiyetlerini gösteriyor; Adadaki yerel halk, karşı tarafın kötü bir niyeti olmadığını ve güvenilir olduğunu doğrulamak için benzersiz bir "büyü" ile cevap verdi.
Bu hareketli tören, "hibrit yapay zekanın" geleceğini dünyaya getirmek için "terminal yapay zeka" ve "bulut yapay zekasının" yakınlaşmasına çok benziyor.