Produsen ponsel, yang sangat perlu menemukan roda gila baru, mengincar model besar.
Pada konferensi pengembang pada awal Agustus, Huawei mengumumkan bahwa mereka akan mengintegrasikan Xiaoyi, asisten AI di HarmonyOS 4, ke dalam model besar, dan mengundangnya untuk mengujinya pada akhir Agustus. Xiaomi juga membuka tes undangan asisten AI-nya Xiaoai untuk mengakses model besar pada waktu yang hampir bersamaan. OPPO dan vivo mengikuti, keduanya mulai bereksperimen dengan model ponsel besar pada bulan November.
"Memasukkan model besar ke dalam ponsel" bukanlah hal baru di industri,Belum lagi vivo, yang telah dipanaskan secara intensif sejak pertengahan Oktober,Rongmi O tiga telah mengungkapkan berita yang relevan pada konferensi pers yang diadakan tahun ini。 Pandangan umum di industri ini adalah bahwa bagian perangkat keras dari jalur smartphone hampir tidak dapat digulung, dan sebagian besar model besar yang berjalan di cloud hanyalah variabel yang bebas dari perangkat keras.
Perlu dicatat bahwa penyebaran sisi perangkat juga merupakan tren industri untuk trek model besar. Mengambil ChatGPT sebagai contoh, sebagai perwakilan khas dari model besar sisi cloud, pelatihan dan inferensinya berjalan di Microsoft Azure, dan pengguna mendapatkan hasil melalui browser atau aplikasi. Antara input-output dan bolak-balik, tidak hanya ada penundaan yang mempengaruhi pengalaman pengguna, tetapi juga biaya cloud seperti konsumsi energi dan daya komputasi.
Dari perspektif skenario dan kebutuhan aktual, banyak kebutuhan yang dapat dipenuhi oleh perangkat edge, terutama terminal yang banyak digunakan seperti ponsel, PC, dan kendaraan energi baru.
Akibatnya, penyebaran sisi akhir model besar secara bertahap menjadi konsensus, tidak hanya produsen ponsel yang terpaku pada upaya mereka untuk melatih model, tetapi juga Lenovo di jalur PC dan Qualcomm di jalur chip telah merilis solusi yang relevan untuk AI sisi akhir beberapa waktu lalu. Secara khusus, Qualcomm Snapdragon 8 Gen3 dan MediaTek Dimensity 9300 yang baru saja dirilis, peningkatan kinerja AI mereka dapat dikatakan sebagai dasar dari model besar di ponsel.
Kebutuhan industri dan kondisi perangkat keras telah terpenuhi, dan model besar akhirnya dapat masuk ke ponsel. Yang cukup mengejutkan adalah bahwa produsen ponsel pertama yang mengeluarkan "produk lengkap" adalah vivo.
**Bagaimana kondisi vivo model besar? **
Pada tanggal 1 November, vivo mengadakan konferensi pengembang, di mana ia merilis matriks model besar yang dikembangkan sendiri "BlueLM", termasuk 1 miliar, 10 miliar, 100 miliar dan skala parameter berbeda lainnya. Pada saat yang sama, ia juga merilis OriginOS 4, sistem operasi yang dikembangkan sendiri yang disesuaikan dengan model besarnya.
Di hadapan "tanah perjanjian" model-model besar, keinginan vivo hampir tertulis di wajahnya.
Menurut data terbaru yang dirilis oleh Canalys, sebuah lembaga riset pasar, pada 26 Oktober, pengiriman dan pengiriman vivo menurun, dan peringkatnya juga turun. vivo sangat membutuhkan model besar dan OriginOS 4 untuk membalikkan keadaan, dan tidak mengherankan bahwa itu akan menjadi yang pertama "membuka buku".
Dan dibandingkan dengan model besar, rentang pembaruan OriginOS 4 yang diluncurkan oleh vivo kali ini sedikit lemah. Dalam diskusi domain publik, tidak hanya iterasi kartu grafis virtualnya, ruang komputasi heterogen dan ringan tidak seperti yang diharapkan, tetapi juga modul seperti notifikasi atom, yang cukup keras di kalangan pengguna vivo, belum ditingkatkan. Dengan kata lain, model besar adalah protagonis dari konferensi ini.
Dari perspektif model bisnis, rute vivo pada konferensi pers ini mirip dengan pemain lain di industri sebelumnya, dengan asisten kecerdasan buatan sebagai operator, mengadopsi metode penyebaran hibrida sisi perangkat + sisi cloud, di mana model besar sisi perangkat, yang merupakan permainan utama, menyajikan karakteristik lokalisasi dan ringan yang jelas.
Tujuannya jelas, konsumsi daya dan daya komputasi yang disediakan oleh dunia kecil ponsel tidak sama dengan yang ada di ruang komputer. Hanya saja bagaimana menggabungkan kemampuan model dengan kedalaman ponsel telah menjadi "tahu bagaimana" yang sangat dibutuhkan oleh produsen ponsel.
Dalam hal ini, solusi vivo adalah meluncurkan model spesifikasi multi-parameter, di mana 1 miliar spesifikasi terutama untuk skenario teks dan 7 miliar spesifikasi untuk dialog alami dan pengetahuan Tanya Jawab telefoto adalah sorotan dari penyebaran sisi perangkat. Dalam pengantar resmi, 1 miliar spesifikasi secara terpisah berorientasi ke sisi perangkat, dan 7 miliar spesifikasi ditetapkan sebagai tujuan ganda untuk perangkat dan cloud, dan semuanya telah digunakan di cloud sejak 70 miliar, yang juga mencerminkan ide matriks vivo tentang "biarkan Tuhan kembali kepada Tuhan, dan Kaisar ke Kaisar" dalam kolaborasi perangkat-cloud.
Ini sama dengan konferensi pengembang I / O Google pada bulan Mei tahun ini, ketika Google merilis model besar PaLM2 dengan empat spesifikasi parameter, di mana model parameter kecil dapat memproses 20 token per detik dalam keadaan offline, yang cocok untuk penggunaan terminal offline.
Jika Anda berpikir bahwa vivo adalah "mencabut gigi orang", itu terlalu keras. Faktanya, vivo mulai membentuk tim AI internal pada awal 2017, dan hari ini, vivo AI Research Institute memiliki lebih dari 1.000 peneliti.
Meskipun curah hujan teknisnya umumnya lebih rendah daripada eselon pertama seperti Ali dan Baidu, keberadaan komunitas open source juga memungkinkan pemain yang memasuki pasar sedikit kemudian untuk segera mengejar ketinggalan dengan pasukan besar. Lembaga Penelitian Grafik Pengetahuan yang didirikan oleh vivo pada tahun 2018 juga dapat memperkuat kurangnya data pelatihan yang mungkin ditemuinya sebagai produsen ponsel sampai batas tertentu.
Sedangkan untuk kemampuan model, vivo menyerahkan lembar jawaban yang bagus selama periode pemanasan. Dilaporkan bahwa BlueLM memenangkan tempat pertama dalam kategori "model akses terbatas" dalam set evaluasi pihak ketiga C-model besar Cina. Menurut pengumuman resminya, BlueLM adalah model besar sisi perangkat 7B pertama di industri.
Namun, tidak sedikit model yang telah mencetak skor tinggi dalam evaluasi tetapi memiliki kinerja aktual yang tidak memuaskan, dan beberapa orang di industri mengatakan bahwa daftar ini telah "disingkirkan" dalam periode waktu yang lalu, yang hanya dapat mewakili kemampuan model untuk "melakukan pertanyaan" dan tidak dapat mencerminkan kemampuan penalaran, keamanan, dan kemampuan beradaptasi. Dari sudut pandang ini, jelas bahwa hasil bisnis vivo membutuhkan tes yang lebih praktis.
Selain itu, kemampuan model cloud vivo saat ini, seperti diagram dan interaksi Wensheng, belum melompat keluar dari perangkap model besar, dan kebaruannya terbatas. Selain itu, kemampuan model sisi perangkatnya sebagai permainan utama masih dalam tahap pengujian, dan tampilan kemampuan sisi akhir pasti dibatasi oleh perangkat keras ponsel.
Kami mengetahui bahwa banyak pengguna yang diundang untuk berpartisipasi dalam pengujian internal Blue Heart menggunakan ponsel andalan yang diwakili oleh X90 Pro, dan model ini juga merupakan yang tertinggi dalam jadwal adaptasi beta publik untuk aplikasi model skala besar yang dirilis oleh vivo.
Silakan masukkan diagram untuk mengatakan
Tidak ada keraguan bahwa model besar menjadi medan perang kedua bagi produsen ponsel untuk membuka kelas atas, dan mereka juga merupakan variabel penting untuk merevitalisasi pengguna dan mengaktifkan IoT. Meskipun demikian, masih ada banyak variabel dalam niat vivo untuk meningkatkan nilai produk kelas atas dengan mengandalkan model besar
Dalam analisis akhir, peluncuran model besar tidak hanya merupakan landasan baru vivo kelas atas, tetapi juga upayanya untuk menarik mesin baru dan produk kelas atas.
Model kelas bawah secara alami sulit untuk mengatasi perang kelas atas ini. Ambil model dasar Y100 yang dirilis oleh vivo sebelum konferensi pers ini sebagai contoh, ini adalah salah satu model terbaru dalam rencana adaptasi yang disebutkan di atas, dan di balik langkah "backstab" serupa adalah harapan "sempoa kecil" vivo untuk kembali ke tahta dengan produk kelas atas.
Meski begitu, peluncuran model-model besar masih belum menjadi nilai tambah bagi produk-produk high-end vivo.
Wang Yang (nama samaran), seorang pengusaha komunitas open-source dari model besar sisi perangkat, mengatakan kepada Photon Planet bahwa kemampuan model besar di sisi perangkat terletak pada kinerja AI yang dibawa oleh NPU (prosesor yang dirancang khusus untuk komputasi jaringan saraf dalam). Namun, pada model vivo sebelumnya, tidak memperhatikan kemampuan NPU, sehingga kemungkinan akan sulit bagi model lama untuk menjalankan model besar dengan lancar.
Adapun rilis yang akan datang, model baru seri vivo X100 yang dilengkapi dengan chip unggulan MediaTek Dimensity 9300 dan prosesor AI generasi baru mungkin dapat menggunakan kemampuan model dengan lancar, tetapi jika sudah ada aplikasi model besar seperti Wenxin Yiyan dan iFLYTEK Xinghuo di pasaran, ruang yang tersisa untuk ponsel tidak sebesar yang dibayangkan. Dibandingkan dengan kemampuan, mungkin gameplay yang diperlihatkan vivo kali ini lebih layak untuk dipelajari secara mendalam.
** Membuat ponsel Anda lebih pintar? **
Kevin Scott, CTO Microsoft, yang mendorong Microsoft untuk menjadi investor malaikat di OpenAI, telah secara terbuka menyatakan bahwa model itu sendiri bukanlah produk, tetapi infrastruktur. Implikasinya adalah bahwa setelah pelatihan menyempurnakan basis model, eksplorasi produktisasi adalah inti dari "kewirausahaan kedua" dari banyak pemain.
"Produksi-ulang" model besar pada ponsel adalah hal yang biasa, tetapi model besar yang digunakan pada ponsel masih perlu diproduksi lebih lanjut. Dilihat dari informasi yang diekspos sejauh ini, vivo akan mewujudkan kemampuan model besar melalui aplikasi bernama asisten Xiao V, dan rute arus utama saat ini di industri adalah menanamkan kemampuan model besar pada asisten kecerdasan buatan yang ada.
Pengguna smartphone memiliki kebutuhan nyata akan kemampuan untuk memahami model besar, apakah itu asisten pintar yang bercanda disebut "cacat intelektual buatan" atau aplikasi dan data yang semakin membengkak di bawah ledakan kapasitas, ponsel harus dapat lebih memahami interaksi dan membantu pengguna memilah informasi. Penambahan model besar pada dasarnya untuk membawa kemampuan pemahaman bahasa alami ke ponsel.
Dalam kasus implementasi yang tidak diterapkan, pengguna mengalami masalah seperti konsumsi daya, pembuangan panas, dan latensi yang mungkin terjadi pada model sisi perangkat dapat diabaikan untuk saat ini. Dalam pandangan Wang Yang, masalah utama yang dihadapi oleh model vivo adalah bagaimana membedakan batas kemampuan model yang berbeda dan bagaimana memanggil mereka ketika beberapa model digunakan bersama-sama, "yang terkait dengan bentuk dan presentasi produk akhir."
Dalam menghadapi sisi-C dengan skenario umum dan persyaratan kompleks, model yang dipanggil oleh persyaratan yang berbeda berbeda. Misalnya, model spesifikasi 1 miliar dan model spesifikasi 7 miliar di sisi perangkat perlu belajar dari data lokal pengguna dalam upaya untuk "memahami pengguna dengan lebih baik". Oleh karena itu, apakah kemampuan model dan OS yang disesuaikan dengannya dapat digunakan untuk menerapkan instruksi kompleks pada ponsel merupakan indikator penting.
Sejauh ini, fungsi perintah kompleks yang ditunjukkan oleh BlueLM cukup menonjol. Di bawah OriginOS 4 yang baru dirilis, V-assistant berada di sudut kanan bawah sidebar dan dapat muncul dengan mengkliknya. Tidak hanya logika operasi yang lebih pendek daripada model sisi cloud, yang lebih cocok untuk penggunaan ponsel, tetapi juga beberapa instruksi kompleks di OS, seperti pencarian cerdas untuk album, penyelesaian awal perintah Aplikasi pihak ketiga, dan pengaturan dalam OS.
Perlu disebutkan bahwa asisten V kecil diisolasi dari suara Jovi vivo yang ada dalam hal fungsi dan jalur, dan keduanya independen satu sama lain, yang jelas berbeda dari jalur model besar sisi perangkat yang diusulkan oleh produsen lain sebelumnya.
Dari sudut pandang fungsional, asisten V kecil pada dasarnya dapat mencapai cakupan penuh suara Jovi, sehingga tujuan membedakan keduanya kemungkinan besar untuk memudahkan pengguna merasakan perbedaan antara keduanya. Selain itu, logika produk asisten V kecil mirip dengan Copilot yang dibawa dalam ember keluarga Microsoft, dan dua jalur berbeda kemungkinan akan diintegrasikan di masa depan.
Ini juga mencerminkan bahwa BlueLM saat ini masih dalam tahap pengujian, dan bentuk produknya sulit untuk dikatakan matang.
Menurut umpan balik dari mereka yang berpartisipasi dalam pengujian internal BlueLM, dengan kemampuan model model andalan vivo, masih ada penundaan 2 detik ~ 5 detik dalam persyaratan pembuatan teks biasa dalam 20 token, yang bukan kabar baik untuk implementasi selanjutnya - penundaan model sisi cloud belum diselesaikan dengan baik. Ini dapat ditingkatkan dalam model yang dilengkapi dengan chip AI terbaru dari produsen chip, tetapi bagi konsumen, ini bukan merupakan alasan untuk mengganti ponsel mereka.
Selain itu, sebagai model ponsel pertama di industri, kemampuan model sisi cloud vivo juga menghadapi "pengepungan" banyak model besar vendor cloud.
Misalnya, vivo mengumumkan bahwa mereka akan meluncurkan robot percakapan Lanxin Qianxun di app store, dan spesifikasi parameter 175 miliar tidak mencolok dibandingkan dengan model besar di toko aplikasi saat ini. Di antara vendor cloud, Baidu telah mengenakan biaya untuk versi profesional Wenxin 4.0 yang baru-baru ini dirilis untuk menguji air, sementara Lanxin Qianxun tampaknya lebih merupakan anggota ekosistem model besar vivo yang tidak terlalu menarik, dan jalannya jelas obstruktif dan panjang.
Harus disebutkan bahwa vivo adalah pendatang baru, dan kesenjangan dalam presipitasi teknologi juga akan membatasi kemajuan lebih lanjut dari bisnis model skala besarnya.
Dalam hal perangkat lunak, model besar vivo telah menjadi bahan promosi platform pembelajaran mesin Pai Alibaba Cloud, dan kita bahkan dapat menemukan bayangan "Tongyi Qianwen" dari nama "Blue Heart Qianwen". Berjalan di cloud berarti biaya jangka panjang, dan ini paling jelas tercermin dalam OpenAI. Dari perspektif biaya, jika vivo ingin mengembangkan BlueLM menjadi ekosistem jangka panjang, IDC yang dibangun sendiri jelas lebih kondusif untuk pengembangan jangka panjang daripada migrasi cloud.
Dalam hal perangkat keras, Huawei dan Apple, dua produsen terkemuka, telah mengintegrasikan kemampuan NPU yang dikembangkan sendiri ke dalam lini produk mereka yang ada, sementara vivo masih perlu mengandalkan produsen chip. Meskipun hambatan tertentu dapat dibangun dalam pelatihan dan penyetelan model, kesenjangan perangkat keras sebagai inti masih mengarah ke beberapa posisi dengan produsen terkemuka.
Pertempuran Terminal Model Besar
Penambahan model besar membuat kita menyadari kembali bahwa esensi dari smartphone adalah terminal pintar yang mengintegrasikan beberapa kemampuan, dan memiliki pintu masuk perangkat keras dan OS. Kondisi yang unik membuat wajar jika ponsel dipadukan dengan model besar.
Jadi bisakah terminal lain juga dihubungkan ke model besar dan mendefinisikan kembali batas kemampuan terminal seperti mengulang aplikasi?
Eksplorasi masalah ini dapat ditelusuri kembali ke wabah jaringan pembelajaran mendalam, dan diskusi tentang kemungkinan model sisi akhir juga berasal dari masalah "klise" latensi, konsumsi energi, privasi, dan masalah lain di industri.
Bahkan, jauh sebelum dimulainya kegemaran resmi untuk memasukkan model besar ke dalam ponsel, kendaraan energi baru dengan mengemudi otonom telah menjadi terminal model besar. Tidak ada kekurangan imajinasi di industri bahwa perangkat pintar yang dapat dikenakan dilengkapi dengan model besar, tetapi ponsel tampaknya akan menjadi yang pertama dengan keragaman pemandangan dan kenyamanan jaringan.
Selanjutnya, ketika produsen ponsel secara intensif merilis model besar dan menggunakannya, itu akan menjadi tempat pelatihan yang sangat baik untuk model sisi akhir. Kita juga dapat membahas metodologi berbagai terminal yang dilengkapi dengan model besar dari pendaratan model besar ponsel.
Lagi pula, tidak peduli seberapa bagus model di ponsel, kinerja terbaik yang dapat dicapai dalam waktu singkat tidak lebih dari seorang "sekretaris" di bidang kehidupan pengguna. Imajinasi yang dibawa oleh model besar terminal pintar lainnya tidak diragukan lagi lebih besar.
Misalnya, ATM, yang secara bertahap menarik diri dari tahap historis karena pembayaran seluler, dapat mengandalkan model besar untuk memungkinkan pengguna melewati bank untuk mengantri untuk bisnis yang mendalam; Ini juga merupakan kamera pintar yang termasuk dalam skenario B-end, yang mengidentifikasi tanda-tanda dasar pasien di bidang medis, pemeriksaan kualitas cepat di bidang industri, dan irigasi cerdas di bidang pertanian. Sekarang, pasar B-end, yang belum dibuka secara luas dengan mengandalkan model cloud-side, juga dapat mengantarkan variabel sisi akhir.
Ini juga mengapa vivo akan menunjukkan sistem operasi Blue River (BlueOS) yang dilengkapi dengan vivo Watch baru pada konferensi pers ini ketika ekologinya tidak sesempurna Huawei dan Xiaomi. Sebagai sistem lintas terminal yang dikembangkan oleh vivo untuk era kecerdasan buatan umum, peluncurannya bertujuan untuk mendorong serangkaian produk IoT melalui ponsel, yang tentunya memiliki imajinasi yang baik.
vivo juga mengumumkan open-source dari model spesifikasi 7B dan meluncurkan kit pengembangan BlueKit, yang merupakan ambisi yang jelas untuk konstruksi ekologis. Mungkin saat ini, vivo baru mencapai tahap membiarkan IoT memahami instruksi, tetapi ini sangat penting untuk strategi high-end, ekologi, dan lainnya di masa depan vivo.
Kemampuan model ponsel tidak diketahui, dan ada banyak tantangan, dan setelah rilis dan pendaratan resmi, itu pasti akan membawa lebih banyak arah "volume terbuka" ke industri. Postur pendaratan yang lebih aneh sedang menunggu untuk dibuka oleh industri.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Ponsel ini diisi dengan model-model besar, dan itu baru permulaan
Sumber asli: Photon Planet
Produsen ponsel, yang sangat perlu menemukan roda gila baru, mengincar model besar.
Pada konferensi pengembang pada awal Agustus, Huawei mengumumkan bahwa mereka akan mengintegrasikan Xiaoyi, asisten AI di HarmonyOS 4, ke dalam model besar, dan mengundangnya untuk mengujinya pada akhir Agustus. Xiaomi juga membuka tes undangan asisten AI-nya Xiaoai untuk mengakses model besar pada waktu yang hampir bersamaan. OPPO dan vivo mengikuti, keduanya mulai bereksperimen dengan model ponsel besar pada bulan November.
"Memasukkan model besar ke dalam ponsel" bukanlah hal baru di industri,Belum lagi vivo, yang telah dipanaskan secara intensif sejak pertengahan Oktober,Rongmi O tiga telah mengungkapkan berita yang relevan pada konferensi pers yang diadakan tahun ini。 Pandangan umum di industri ini adalah bahwa bagian perangkat keras dari jalur smartphone hampir tidak dapat digulung, dan sebagian besar model besar yang berjalan di cloud hanyalah variabel yang bebas dari perangkat keras.
Perlu dicatat bahwa penyebaran sisi perangkat juga merupakan tren industri untuk trek model besar. Mengambil ChatGPT sebagai contoh, sebagai perwakilan khas dari model besar sisi cloud, pelatihan dan inferensinya berjalan di Microsoft Azure, dan pengguna mendapatkan hasil melalui browser atau aplikasi. Antara input-output dan bolak-balik, tidak hanya ada penundaan yang mempengaruhi pengalaman pengguna, tetapi juga biaya cloud seperti konsumsi energi dan daya komputasi.
Dari perspektif skenario dan kebutuhan aktual, banyak kebutuhan yang dapat dipenuhi oleh perangkat edge, terutama terminal yang banyak digunakan seperti ponsel, PC, dan kendaraan energi baru.
Akibatnya, penyebaran sisi akhir model besar secara bertahap menjadi konsensus, tidak hanya produsen ponsel yang terpaku pada upaya mereka untuk melatih model, tetapi juga Lenovo di jalur PC dan Qualcomm di jalur chip telah merilis solusi yang relevan untuk AI sisi akhir beberapa waktu lalu. Secara khusus, Qualcomm Snapdragon 8 Gen3 dan MediaTek Dimensity 9300 yang baru saja dirilis, peningkatan kinerja AI mereka dapat dikatakan sebagai dasar dari model besar di ponsel.
Kebutuhan industri dan kondisi perangkat keras telah terpenuhi, dan model besar akhirnya dapat masuk ke ponsel. Yang cukup mengejutkan adalah bahwa produsen ponsel pertama yang mengeluarkan "produk lengkap" adalah vivo.
**Bagaimana kondisi vivo model besar? **
Pada tanggal 1 November, vivo mengadakan konferensi pengembang, di mana ia merilis matriks model besar yang dikembangkan sendiri "BlueLM", termasuk 1 miliar, 10 miliar, 100 miliar dan skala parameter berbeda lainnya. Pada saat yang sama, ia juga merilis OriginOS 4, sistem operasi yang dikembangkan sendiri yang disesuaikan dengan model besarnya.
Di hadapan "tanah perjanjian" model-model besar, keinginan vivo hampir tertulis di wajahnya.
Menurut data terbaru yang dirilis oleh Canalys, sebuah lembaga riset pasar, pada 26 Oktober, pengiriman dan pengiriman vivo menurun, dan peringkatnya juga turun. vivo sangat membutuhkan model besar dan OriginOS 4 untuk membalikkan keadaan, dan tidak mengherankan bahwa itu akan menjadi yang pertama "membuka buku".
Dan dibandingkan dengan model besar, rentang pembaruan OriginOS 4 yang diluncurkan oleh vivo kali ini sedikit lemah. Dalam diskusi domain publik, tidak hanya iterasi kartu grafis virtualnya, ruang komputasi heterogen dan ringan tidak seperti yang diharapkan, tetapi juga modul seperti notifikasi atom, yang cukup keras di kalangan pengguna vivo, belum ditingkatkan. Dengan kata lain, model besar adalah protagonis dari konferensi ini.
Dari perspektif model bisnis, rute vivo pada konferensi pers ini mirip dengan pemain lain di industri sebelumnya, dengan asisten kecerdasan buatan sebagai operator, mengadopsi metode penyebaran hibrida sisi perangkat + sisi cloud, di mana model besar sisi perangkat, yang merupakan permainan utama, menyajikan karakteristik lokalisasi dan ringan yang jelas.
Tujuannya jelas, konsumsi daya dan daya komputasi yang disediakan oleh dunia kecil ponsel tidak sama dengan yang ada di ruang komputer. Hanya saja bagaimana menggabungkan kemampuan model dengan kedalaman ponsel telah menjadi "tahu bagaimana" yang sangat dibutuhkan oleh produsen ponsel.
Dalam hal ini, solusi vivo adalah meluncurkan model spesifikasi multi-parameter, di mana 1 miliar spesifikasi terutama untuk skenario teks dan 7 miliar spesifikasi untuk dialog alami dan pengetahuan Tanya Jawab telefoto adalah sorotan dari penyebaran sisi perangkat. Dalam pengantar resmi, 1 miliar spesifikasi secara terpisah berorientasi ke sisi perangkat, dan 7 miliar spesifikasi ditetapkan sebagai tujuan ganda untuk perangkat dan cloud, dan semuanya telah digunakan di cloud sejak 70 miliar, yang juga mencerminkan ide matriks vivo tentang "biarkan Tuhan kembali kepada Tuhan, dan Kaisar ke Kaisar" dalam kolaborasi perangkat-cloud.
Ini sama dengan konferensi pengembang I / O Google pada bulan Mei tahun ini, ketika Google merilis model besar PaLM2 dengan empat spesifikasi parameter, di mana model parameter kecil dapat memproses 20 token per detik dalam keadaan offline, yang cocok untuk penggunaan terminal offline.
Jika Anda berpikir bahwa vivo adalah "mencabut gigi orang", itu terlalu keras. Faktanya, vivo mulai membentuk tim AI internal pada awal 2017, dan hari ini, vivo AI Research Institute memiliki lebih dari 1.000 peneliti.
Meskipun curah hujan teknisnya umumnya lebih rendah daripada eselon pertama seperti Ali dan Baidu, keberadaan komunitas open source juga memungkinkan pemain yang memasuki pasar sedikit kemudian untuk segera mengejar ketinggalan dengan pasukan besar. Lembaga Penelitian Grafik Pengetahuan yang didirikan oleh vivo pada tahun 2018 juga dapat memperkuat kurangnya data pelatihan yang mungkin ditemuinya sebagai produsen ponsel sampai batas tertentu.
Sedangkan untuk kemampuan model, vivo menyerahkan lembar jawaban yang bagus selama periode pemanasan. Dilaporkan bahwa BlueLM memenangkan tempat pertama dalam kategori "model akses terbatas" dalam set evaluasi pihak ketiga C-model besar Cina. Menurut pengumuman resminya, BlueLM adalah model besar sisi perangkat 7B pertama di industri.
Namun, tidak sedikit model yang telah mencetak skor tinggi dalam evaluasi tetapi memiliki kinerja aktual yang tidak memuaskan, dan beberapa orang di industri mengatakan bahwa daftar ini telah "disingkirkan" dalam periode waktu yang lalu, yang hanya dapat mewakili kemampuan model untuk "melakukan pertanyaan" dan tidak dapat mencerminkan kemampuan penalaran, keamanan, dan kemampuan beradaptasi. Dari sudut pandang ini, jelas bahwa hasil bisnis vivo membutuhkan tes yang lebih praktis.
Selain itu, kemampuan model cloud vivo saat ini, seperti diagram dan interaksi Wensheng, belum melompat keluar dari perangkap model besar, dan kebaruannya terbatas. Selain itu, kemampuan model sisi perangkatnya sebagai permainan utama masih dalam tahap pengujian, dan tampilan kemampuan sisi akhir pasti dibatasi oleh perangkat keras ponsel.
Kami mengetahui bahwa banyak pengguna yang diundang untuk berpartisipasi dalam pengujian internal Blue Heart menggunakan ponsel andalan yang diwakili oleh X90 Pro, dan model ini juga merupakan yang tertinggi dalam jadwal adaptasi beta publik untuk aplikasi model skala besar yang dirilis oleh vivo.
Tidak ada keraguan bahwa model besar menjadi medan perang kedua bagi produsen ponsel untuk membuka kelas atas, dan mereka juga merupakan variabel penting untuk merevitalisasi pengguna dan mengaktifkan IoT. Meskipun demikian, masih ada banyak variabel dalam niat vivo untuk meningkatkan nilai produk kelas atas dengan mengandalkan model besar
Dalam analisis akhir, peluncuran model besar tidak hanya merupakan landasan baru vivo kelas atas, tetapi juga upayanya untuk menarik mesin baru dan produk kelas atas.
Model kelas bawah secara alami sulit untuk mengatasi perang kelas atas ini. Ambil model dasar Y100 yang dirilis oleh vivo sebelum konferensi pers ini sebagai contoh, ini adalah salah satu model terbaru dalam rencana adaptasi yang disebutkan di atas, dan di balik langkah "backstab" serupa adalah harapan "sempoa kecil" vivo untuk kembali ke tahta dengan produk kelas atas.
Meski begitu, peluncuran model-model besar masih belum menjadi nilai tambah bagi produk-produk high-end vivo.
Wang Yang (nama samaran), seorang pengusaha komunitas open-source dari model besar sisi perangkat, mengatakan kepada Photon Planet bahwa kemampuan model besar di sisi perangkat terletak pada kinerja AI yang dibawa oleh NPU (prosesor yang dirancang khusus untuk komputasi jaringan saraf dalam). Namun, pada model vivo sebelumnya, tidak memperhatikan kemampuan NPU, sehingga kemungkinan akan sulit bagi model lama untuk menjalankan model besar dengan lancar.
Adapun rilis yang akan datang, model baru seri vivo X100 yang dilengkapi dengan chip unggulan MediaTek Dimensity 9300 dan prosesor AI generasi baru mungkin dapat menggunakan kemampuan model dengan lancar, tetapi jika sudah ada aplikasi model besar seperti Wenxin Yiyan dan iFLYTEK Xinghuo di pasaran, ruang yang tersisa untuk ponsel tidak sebesar yang dibayangkan. Dibandingkan dengan kemampuan, mungkin gameplay yang diperlihatkan vivo kali ini lebih layak untuk dipelajari secara mendalam.
** Membuat ponsel Anda lebih pintar? **
Kevin Scott, CTO Microsoft, yang mendorong Microsoft untuk menjadi investor malaikat di OpenAI, telah secara terbuka menyatakan bahwa model itu sendiri bukanlah produk, tetapi infrastruktur. Implikasinya adalah bahwa setelah pelatihan menyempurnakan basis model, eksplorasi produktisasi adalah inti dari "kewirausahaan kedua" dari banyak pemain.
"Produksi-ulang" model besar pada ponsel adalah hal yang biasa, tetapi model besar yang digunakan pada ponsel masih perlu diproduksi lebih lanjut. Dilihat dari informasi yang diekspos sejauh ini, vivo akan mewujudkan kemampuan model besar melalui aplikasi bernama asisten Xiao V, dan rute arus utama saat ini di industri adalah menanamkan kemampuan model besar pada asisten kecerdasan buatan yang ada.
Pengguna smartphone memiliki kebutuhan nyata akan kemampuan untuk memahami model besar, apakah itu asisten pintar yang bercanda disebut "cacat intelektual buatan" atau aplikasi dan data yang semakin membengkak di bawah ledakan kapasitas, ponsel harus dapat lebih memahami interaksi dan membantu pengguna memilah informasi. Penambahan model besar pada dasarnya untuk membawa kemampuan pemahaman bahasa alami ke ponsel.
Dalam kasus implementasi yang tidak diterapkan, pengguna mengalami masalah seperti konsumsi daya, pembuangan panas, dan latensi yang mungkin terjadi pada model sisi perangkat dapat diabaikan untuk saat ini. Dalam pandangan Wang Yang, masalah utama yang dihadapi oleh model vivo adalah bagaimana membedakan batas kemampuan model yang berbeda dan bagaimana memanggil mereka ketika beberapa model digunakan bersama-sama, "yang terkait dengan bentuk dan presentasi produk akhir."
Dalam menghadapi sisi-C dengan skenario umum dan persyaratan kompleks, model yang dipanggil oleh persyaratan yang berbeda berbeda. Misalnya, model spesifikasi 1 miliar dan model spesifikasi 7 miliar di sisi perangkat perlu belajar dari data lokal pengguna dalam upaya untuk "memahami pengguna dengan lebih baik". Oleh karena itu, apakah kemampuan model dan OS yang disesuaikan dengannya dapat digunakan untuk menerapkan instruksi kompleks pada ponsel merupakan indikator penting.
Sejauh ini, fungsi perintah kompleks yang ditunjukkan oleh BlueLM cukup menonjol. Di bawah OriginOS 4 yang baru dirilis, V-assistant berada di sudut kanan bawah sidebar dan dapat muncul dengan mengkliknya. Tidak hanya logika operasi yang lebih pendek daripada model sisi cloud, yang lebih cocok untuk penggunaan ponsel, tetapi juga beberapa instruksi kompleks di OS, seperti pencarian cerdas untuk album, penyelesaian awal perintah Aplikasi pihak ketiga, dan pengaturan dalam OS.
Perlu disebutkan bahwa asisten V kecil diisolasi dari suara Jovi vivo yang ada dalam hal fungsi dan jalur, dan keduanya independen satu sama lain, yang jelas berbeda dari jalur model besar sisi perangkat yang diusulkan oleh produsen lain sebelumnya.
Dari sudut pandang fungsional, asisten V kecil pada dasarnya dapat mencapai cakupan penuh suara Jovi, sehingga tujuan membedakan keduanya kemungkinan besar untuk memudahkan pengguna merasakan perbedaan antara keduanya. Selain itu, logika produk asisten V kecil mirip dengan Copilot yang dibawa dalam ember keluarga Microsoft, dan dua jalur berbeda kemungkinan akan diintegrasikan di masa depan.
Ini juga mencerminkan bahwa BlueLM saat ini masih dalam tahap pengujian, dan bentuk produknya sulit untuk dikatakan matang.
Menurut umpan balik dari mereka yang berpartisipasi dalam pengujian internal BlueLM, dengan kemampuan model model andalan vivo, masih ada penundaan 2 detik ~ 5 detik dalam persyaratan pembuatan teks biasa dalam 20 token, yang bukan kabar baik untuk implementasi selanjutnya - penundaan model sisi cloud belum diselesaikan dengan baik. Ini dapat ditingkatkan dalam model yang dilengkapi dengan chip AI terbaru dari produsen chip, tetapi bagi konsumen, ini bukan merupakan alasan untuk mengganti ponsel mereka.
Selain itu, sebagai model ponsel pertama di industri, kemampuan model sisi cloud vivo juga menghadapi "pengepungan" banyak model besar vendor cloud.
Misalnya, vivo mengumumkan bahwa mereka akan meluncurkan robot percakapan Lanxin Qianxun di app store, dan spesifikasi parameter 175 miliar tidak mencolok dibandingkan dengan model besar di toko aplikasi saat ini. Di antara vendor cloud, Baidu telah mengenakan biaya untuk versi profesional Wenxin 4.0 yang baru-baru ini dirilis untuk menguji air, sementara Lanxin Qianxun tampaknya lebih merupakan anggota ekosistem model besar vivo yang tidak terlalu menarik, dan jalannya jelas obstruktif dan panjang.
Harus disebutkan bahwa vivo adalah pendatang baru, dan kesenjangan dalam presipitasi teknologi juga akan membatasi kemajuan lebih lanjut dari bisnis model skala besarnya.
Dalam hal perangkat lunak, model besar vivo telah menjadi bahan promosi platform pembelajaran mesin Pai Alibaba Cloud, dan kita bahkan dapat menemukan bayangan "Tongyi Qianwen" dari nama "Blue Heart Qianwen". Berjalan di cloud berarti biaya jangka panjang, dan ini paling jelas tercermin dalam OpenAI. Dari perspektif biaya, jika vivo ingin mengembangkan BlueLM menjadi ekosistem jangka panjang, IDC yang dibangun sendiri jelas lebih kondusif untuk pengembangan jangka panjang daripada migrasi cloud.
Dalam hal perangkat keras, Huawei dan Apple, dua produsen terkemuka, telah mengintegrasikan kemampuan NPU yang dikembangkan sendiri ke dalam lini produk mereka yang ada, sementara vivo masih perlu mengandalkan produsen chip. Meskipun hambatan tertentu dapat dibangun dalam pelatihan dan penyetelan model, kesenjangan perangkat keras sebagai inti masih mengarah ke beberapa posisi dengan produsen terkemuka.
Pertempuran Terminal Model Besar
Penambahan model besar membuat kita menyadari kembali bahwa esensi dari smartphone adalah terminal pintar yang mengintegrasikan beberapa kemampuan, dan memiliki pintu masuk perangkat keras dan OS. Kondisi yang unik membuat wajar jika ponsel dipadukan dengan model besar.
Jadi bisakah terminal lain juga dihubungkan ke model besar dan mendefinisikan kembali batas kemampuan terminal seperti mengulang aplikasi?
Eksplorasi masalah ini dapat ditelusuri kembali ke wabah jaringan pembelajaran mendalam, dan diskusi tentang kemungkinan model sisi akhir juga berasal dari masalah "klise" latensi, konsumsi energi, privasi, dan masalah lain di industri.
Bahkan, jauh sebelum dimulainya kegemaran resmi untuk memasukkan model besar ke dalam ponsel, kendaraan energi baru dengan mengemudi otonom telah menjadi terminal model besar. Tidak ada kekurangan imajinasi di industri bahwa perangkat pintar yang dapat dikenakan dilengkapi dengan model besar, tetapi ponsel tampaknya akan menjadi yang pertama dengan keragaman pemandangan dan kenyamanan jaringan.
Selanjutnya, ketika produsen ponsel secara intensif merilis model besar dan menggunakannya, itu akan menjadi tempat pelatihan yang sangat baik untuk model sisi akhir. Kita juga dapat membahas metodologi berbagai terminal yang dilengkapi dengan model besar dari pendaratan model besar ponsel.
Lagi pula, tidak peduli seberapa bagus model di ponsel, kinerja terbaik yang dapat dicapai dalam waktu singkat tidak lebih dari seorang "sekretaris" di bidang kehidupan pengguna. Imajinasi yang dibawa oleh model besar terminal pintar lainnya tidak diragukan lagi lebih besar.
Misalnya, ATM, yang secara bertahap menarik diri dari tahap historis karena pembayaran seluler, dapat mengandalkan model besar untuk memungkinkan pengguna melewati bank untuk mengantri untuk bisnis yang mendalam; Ini juga merupakan kamera pintar yang termasuk dalam skenario B-end, yang mengidentifikasi tanda-tanda dasar pasien di bidang medis, pemeriksaan kualitas cepat di bidang industri, dan irigasi cerdas di bidang pertanian. Sekarang, pasar B-end, yang belum dibuka secara luas dengan mengandalkan model cloud-side, juga dapat mengantarkan variabel sisi akhir.
Ini juga mengapa vivo akan menunjukkan sistem operasi Blue River (BlueOS) yang dilengkapi dengan vivo Watch baru pada konferensi pers ini ketika ekologinya tidak sesempurna Huawei dan Xiaomi. Sebagai sistem lintas terminal yang dikembangkan oleh vivo untuk era kecerdasan buatan umum, peluncurannya bertujuan untuk mendorong serangkaian produk IoT melalui ponsel, yang tentunya memiliki imajinasi yang baik.
vivo juga mengumumkan open-source dari model spesifikasi 7B dan meluncurkan kit pengembangan BlueKit, yang merupakan ambisi yang jelas untuk konstruksi ekologis. Mungkin saat ini, vivo baru mencapai tahap membiarkan IoT memahami instruksi, tetapi ini sangat penting untuk strategi high-end, ekologi, dan lainnya di masa depan vivo.
Kemampuan model ponsel tidak diketahui, dan ada banyak tantangan, dan setelah rilis dan pendaratan resmi, itu pasti akan membawa lebih banyak arah "volume terbuka" ke industri. Postur pendaratan yang lebih aneh sedang menunggu untuk dibuka oleh industri.