Meninju Apple, menendang Intel, chip Qualcomm adalah masa depan AI

Sumber asli: Geek Park

Sumber gambar: Dihasilkan oleh Unbounded AI

"Tunggu sebentar, tunggu sebentar, kamu ingin memotret PPT berikutnya lagi!"

Pada pagi hari tanggal 25 Oktober, waktu Beijing, dalam pidato pembukaan Qualcomm Snapdragon Summit 2023, Cristiano Amon, presiden dan CEO Qualcomm, dengan megah memperkenalkan CPU Snapdragon X Elite Oryon. Dalam presentasi PPT, CPU baru tidak hanya membayangi Apple M2 Max dan Intel i9-13980HX, dua prosesor paling kuat di dunia, tetapi juga memiliki konsumsi energi puncak yang lebih rendah daripada dua sebelumnya.

Di saat yang sama, selain membuat nama untuk X Elite di sisi PC, Qualcomm juga mengekspos prosesor Snapdragon 8 Gen 3 di hari yang sama. Sebagai chip seluler terbaru, Snapdragon 8 Gen 3 tidak hanya meningkatkan kinerja, tetapi juga mengoptimalkan pemrosesan AI generatif, dan bahkan dapat langsung menjalankan model dengan puluhan miliar parameter**.

Di dalam dan di luar pasar, CEO dan presiden raksasa elektronik konsumen seperti Microsoft, Meta, Google, HP, Lenovo, dan Xiaomi telah mendukung Qualcomm. Di antara mereka, Presiden Grup Xiaomi Lu Weibing tidak hanya mengekspos flagship Xiaomi 14 yang akan datang di tempat kejadian, tetapi juga secara resmi mempratinjau bahwa mobil Xiaomi akan diluncurkan pada tahun 2024.

Produk chip seri PC baru, chip Snapdragon 8 Gen 3, membuat "AI terminal" yang ditekankan oleh Qualcomm menjadi kenyataan dalam jangkauan.

01 Snapdragon X Elite, langsung ke Apple Intel

Fokus seluruh penonton hari itu tidak lain adalah Snapdragon X Elite.

Untuk mendukung tugas cerdas beban tinggi di masa depan, Qualcomm memperkenalkan prosesor komputasi paling kuat perusahaan hingga saat ini untuk PC: Snapdragon X Elite, dengan CPU Oryon yang secara langsung dikenakan pada Intel dan Apple.

Dibuat untuk AI, Snapdragon X Elite** mengintegrasikan CPU Qualcomm Oryon baru yang disesuaikan, mendukung model AI generatif dengan lebih dari 13 miliar parameter yang berjalan di sisi terminal**, memproses 4,5 kali lebih cepat daripada produk pesaing, dan dapat menghasilkan 30 token per detik untuk 7 miliar parameter model besar. Menurut Qualcomm, CPU komputasi mobile ini berkinerja dua kali lebih baik dari kompetisi, hanya mengkonsumsi sepertiga dari konsumsi daya pada kinerja puncak yang sama.

Snapdragon X Elite dapat menghasilkan 30 token per detik untuk 7 miliar parameter model besar

"Cepat dan ambil gambar." CEO Qualcomm Amon mengatakan pada pertemuan puncak bahwa kinerja single-threaded CPU Oryon melebihi Apple M2 Max dan Intel i9-13980HX, dan konsumsi daya kinerja puncak adalah 30% lebih rendah dari M2 Max dan 70% lebih rendah dari i9-13980HX.

Kinerja single-threaded CPU Oryon melampaui Apple M2 Max | Qualcomm

Kinerja single-threaded CPU Oryon melampaui Intel i9-13980HX |

Dalam hal kinerja multi-threaded, Qualcomm juga membandingkan Intel i7-1355U dan i7-1360P, mengatakan bahwa kinerja Snapdragon X Elite bisa dua kali lebih tinggi, dan konsumsi daya kinerja puncak bisa 68% lebih sedikit; Ada juga Intel i7-13800H, yang mengklaim melebihi itu dengan 60% dalam kinerja dan 65% lebih sedikit dalam konsumsi daya kinerja puncak. Selain itu, Qualcomm juga fokus membandingkan M2 Apple, menekankan bahwa kinerja Snapdragon X Elite melebihi 50%.

Kinerja Snapdragon X Elite melebihi Apple M2 sebesar 50% | Qualcomm

Kedar Kondap, Wakil Presiden Senior dan General Manager Compute &; Gaming di Qualcomm Technologies, mengatakan: "Snapdragon X Elite menandai lompatan kuantum ke depan dalam inovasi teknologi komputasi, dengan CPU Qualcomm Oryon kustom baru yang memberikan efisiensi energi yang luar biasa kepada konsumen dan membawa kreativitas dan produktivitas ke tingkat yang sama sekali baru. AI sisi akhir yang kuat akan memungkinkan multitasking yang mulus dan pengalaman pengguna baru yang intuitif, memberdayakan konsumen dan bisnis untuk berkreasi dan tumbuh."

Performa Snapdragon X Elite |

Dilaporkan bahwa produsen OEM diperkirakan akan meluncurkan PC yang dilengkapi dengan Snapdragon X Elite pada pertengahan 2024.

02 Snapdragon Generasi ke-3 8,1 detik untuk menghasilkan gambar Difusi Stabil

Di puncak, Qualcomm juga merilis platform seluler pertama yang dibuat dengan hati-hati untuk AI generatif: Snapdragon 8 Gen 3.

Dibandingkan dengan generasi sebelumnya, Snapdragon 8 generasi ketiga memiliki kinerja CPU 30% lebih tinggi, kinerja GPU 25% lebih tinggi, dan kinerja NPU 25% lebih tinggi, mendukung menjalankan model AI generatif dengan 10 miliar parameter. Seharusnya menjalankan Difusi Stabil pada perangkat smartphone, dibutuhkan kurang dari 1 detik untuk menghasilkan gambar dengan teks.

Kinerja Snapdragon 8 Generasi ke-3 | Qualcomm

Chris Patrick, wakil presiden senior dan manajer umum ponsel di Qualcomm Technologies, mengatakan, "Platform ini akan mengantarkan era baru AI generatif — memberdayakan pengguna untuk membuat konten unik, membantu meningkatkan produktivitas, dan memungkinkan kasus penggunaan terobosan lainnya."

Berdasarkan demo langsung, Snapdragon 8 Gen 3 akan mendukung beberapa alat kamera AI yang praktis dan kreatif, termasuk fitur seperti menghapus objek dari video, memperluas area foto, dan menghasilkan latar belakang virtual.

Sebagai pemimpin dalam SoC smartphone andalan Android, dilaporkan bahwa Snapdragon 8 generasi ketiga akan diadopsi secara luas di terminal OEM global dan merek smartphone, termasuk Asus, Honor, iQOO, Meizu, NIO, Nubia, OnePlus, OPPO, Realme, Redmi, Red Devil, Sony, vivo, Xiaomi dan ZTE.

Presiden Grup Xiaomi Lu Weibing juga muncul di KTT Hawaii untuk mendemonstrasikan rilis ponsel Mi 14 yang akan datang yang dilengkapi dengan Snapdragon 8 generasi ketiga, serta "pertumbuhan strategi AI jangka panjang" Xiaomi. Menurutnya, seri Xiaomi 14 akan membuat pemutaran perdana dunia platform seluler Snapdragon 8 generasi ketiga.

Presiden Xiaomi Lu Weibing di Hawaii Snapdragon Summit | Qualcomm

Selain Xiaomi, menurut eksekutif dari berbagai produsen, NIO dan Qualcomm berdasarkan platform Snapdragon dalam mobil dan ponsel kerjasama mendalam, ponsel e-sports Red Devil akan dilengkapi dengan Snapdragon 8 generasi ketiga, realme GT5 Pro yang akan datang juga akan dilengkapi dengan chip andalan ini, vivo dan iQOO akan merilis produk unggulan yang dilengkapi dengan Snapdragon 8 generasi ketiga, ZTE berdasarkan Snapdragon 8 generasi ketiga ponsel unggulan nubia akan segera tersedia.

Kinerja Snapdragon 8 Generasi ke-3 | Qualcomm

Menurut Qualcomm, terminal unggulan Android yang dilengkapi dengan Snapdragon 8 generasi ketiga diharapkan akan tersedia dalam beberapa minggu mendatang.

03 Era "AI terminal"

Mempromosikan AI generatif di berbagai kategori terminal, termasuk berbagai elektronik konsumen, telah menjadi tujuan terbesar Qualcomm tahun ini.

"Kami memasuki era AI, dan AI generatif sisi akhir sangat penting untuk menciptakan pengalaman yang kuat, cepat, dipersonalisasi, efisien, aman, dan sangat dioptimalkan. **," kata CEO Qualcomm Amon Anmeng.

Snapdragon X Elite, Snapdragon 8 generasi ketiga, diumumkan pada Snapdragon Summit, dikatakan mampu menangani tugas AI generatif dengan kecepatan ekstrem, misalnya, asisten obrolan sisi terminal untuk PC Windows 11 dapat memproses 30 token per detik, dan dibutuhkan kurang dari satu detik untuk menghasilkan gambar pada smartphone menggunakan Difusi Stabil.

Dari teks ke gambar, gambar ke video, dan teks ke 3D, munculnya AI multimodal mengubah cara manusia berinteraksi dengan perangkat, menurut Ziad Asghar, wakil presiden senior manajemen produk di Qualcomm, "Beroperasi penuh pada perangkat akhir, yang berarti Anda dapat terbang di pesawat terbang dan masih menggunakan AI generatif. " Dan, "ini jelas hanya awal dari revolusi ini."

Menurut Asghar, "AI generatif di cloud menghadapi banyak tantangan yang dapat diselesaikan dengan memproses pada perangkat." Misalnya, beberapa perusahaan mengintegrasikan kode kepemilikan ke dalam alat GPT untuk mendeteksi kesalahan kode. Di masa depan, PC mungkin dapat menggunakan informasi yang diketahui oleh perangkat, seperti status pengguna, preferensi, kalender, dan usia, dikombinasikan dengan kueri AI generatif untuk pengalaman AI generatif yang lebih baik yang "jauh lebih unggul dari cloud."

Selain itu, dibandingkan dengan gameplay interaktif di mana orang menyerahkan informasi pribadi ke berbagai chatbots, nilai jual terbesar AI yang berjalan di perangkat adalah: privasi, dan tidak perlu meneruskan informasi konteks pribadi ke cloud untuk diproses. Selain itu, ada manfaat dari kedekatan, yaitu Anda tidak perlu menunggu informasi kembali dari cloud.

Tetapi ada masalah utama lain dengan menjalankan AI di terminal, bagaimana jika inferensi model membutuhkan banyak perhitungan?

Menurut eksekutif Qualcomm, angka floating-point 16-bit atau 32-bit biasanya digunakan saat melatih model bahasa besar di cloud, menghasilkan komputasi intensif komputasi untuk setiap inferensi model. Sebaliknya, mereka telah berfokus pada mengompresi model, mengukur dan memangkas, seperti hanya menggunakan 4 bit, menghemat daya, dan mampu melakukan pemrosesan AI yang lebih bersamaan pada perangkat, mengatakan bahwa "pertumbuhan model bahasa besar selama beberapa bulan terakhir telah membuktikan strategi untuk membuat model lebih kecil dengan mengukurnya. "

Selain itu, seiring waktu, orang terus meningkatkan algoritma dan modelnya mulai semakin kecil. Pendekatan lain yang akan diambil orang adalah "model khusus domain," di mana model dilatih untuk aplikasi tertentu, "model bisa menjadi sangat kecil dan memiliki akurasi yang sangat tinggi."

"Berdasarkan penelitian dan pengembangan AI Qualcomm selama bertahun-tahun, termasuk kombinasi CPU, NPU dan GPU dengan kinerja yang sangat baik di terminal, dan dukungan kami untuk operasi lokal dari banyak model terkemuka, kami dapat membawa manfaat AI generatif kepada pengguna di seluruh dunia dan untuk kategori akhir yang berbeda, "kata Amon.

Pada saat yang sama, untuk memungkinkan terminal Snapdragon menggunakan Android, Windows, dan sistem operasi lain untuk menemukan satu sama lain dan mencapai kerja sama tanpa batas antara beberapa terminal, Qualcomm meluncurkan teknologi lintas platform Snapdragon Seamless di Snapdragon Summit.

Teknologi lintas platform Snapdragon Seamless |

Menurut Deloitte Connected Consumer Survey, setiap rumah tangga AS saat ini memiliki rata-rata 21 terminal digital, tetapi transfer informasi antara terminal yang berbeda, terutama antara terminal dari produsen yang berbeda, seringkali tidak mulus. Ini akan membatasi pilihan konsumen dan menyebabkan efek penguncian, di mana konsumen harus membeli produk hanya dari produsen yang sama untuk bekerja sama antara terminal mereka.

Dengan Snapdragon Seamless, beberapa terminal dapat beroperasi seolah-olah mereka adalah "satu unit", misalnya: mouse dan keyboard dapat digunakan dengan mulus di PC, ponsel, dan tablet; File dan jendela dapat diseret dan dijatuhkan di antara berbagai jenis terminal; Earbud dapat dialihkan secara cerdas sesuai dengan prioritas sumber suara; XR menawarkan fungsionalitas yang diperluas untuk smartphone.

Dilaporkan bahwa Snapdragon Seamless akan memperluas ke platform XR, otomotif dan IoT di masa depan. Perusahaan termasuk Microsoft, Android, Xiaomi, Asus, Honor, Lenovo dan OPPO bekerja sama dengan Qualcomm untuk mengadopsi Snapdragon Seamless, sebuah teknologi yang akan mendarat di platform terminal yang dirilis di seluruh dunia pada awal tahun ini.

Dari smartphone, perangkat augmented reality, mobil hingga komputer pribadi, penetrasi AI generatif ke berbagai perangkat akhir melalui chip telah dimulai. Qualcomm adalah langkah pertama dan terpenting yang paling penting dalam mempromosikan "AI terminal" kepada semua konsumen.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
0/400
Tidak ada komentar
  • Sematkan
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)