مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود
يتطلع مصنعو الهواتف المحمولة ، الذين يحتاجون بشكل عاجل إلى العثور على دولاب الموازنة الجديد ، إلى الطرز الكبيرة.
في مؤتمر المطورين في أوائل أغسطس ، أعلنت Huawei أنها ستدمج Xiaoyi ، مساعد الذكاء الاصطناعي في HarmonyOS 4 ، في النموذج الكبير ، ودعتها لاختباره في نهاية أغسطس. فتحت Xiaomi أيضا اختبار دعوة مساعدها الذكاء الاصطناعي Xiaoai للوصول إلى الطراز الكبير في نفس الوقت تقريبا. تبع ذلك OPPO و vivo ، وكلاهما بدأ في تجربة نماذج كبيرة من الهواتف المحمولة في نوفمبر.
"حشو النماذج الكبيرة في الهواتف المحمولة" ليس شيئا جديدا في الصناعة ،ناهيك عن الجسم الحي ، الذي تم تسخينه بشكل مكثف منذ منتصف أكتوبر ،كشف Rongmi O Three عن الأخبار ذات الصلة في المؤتمر الصحفي الذي عقد هذا العام。 الرأي العام في الصناعة هو أن جزء الأجهزة من مسار الهاتف الذكي غير قابل للطي تقريبا ، ومعظم الطرز الكبيرة التي تعمل في السحابة هي مجرد متغير خال من الأجهزة.
وتجدر الإشارة إلى أن النشر من جانب الجهاز هو أيضا اتجاه صناعي لمسارات النماذج الكبيرة. بأخذ ChatGPT كمثال ، كممثل نموذجي للنموذج الكبير من جانب السحابة ، يتم تشغيل تدريبه واستدلاله على Microsoft Azure ، ويحصل المستخدمون على النتائج من خلال المتصفحات أو التطبيقات. بين المدخلات والمخرجات وذهابا وإيابا ، لا يوجد تأخير يؤثر فقط على تجربة المستخدم ، ولكن أيضا تكاليف السحابة مثل استهلاك الطاقة وقوة الحوسبة.
من منظور السيناريوهات والاحتياجات الفعلية ، يمكن تلبية العديد من الاحتياجات بواسطة أجهزة الحافة ، وخاصة المحطات الطرفية المستخدمة على نطاق واسع مثل الهواتف المحمولة وأجهزة الكمبيوتر ومركبات الطاقة الجديدة.
ونتيجة لذلك ، أصبح النشر النهائي للطرز الكبيرة إجماعا تدريجيا ، ولم يقم مصنعو الهواتف المحمولة فقط بتركيز جهودهم لتدريب النماذج ، ولكن أيضا Lenovo على مسار الكمبيوتر الشخصي و Qualcomm على مسار الرقائق قد أصدروا حلولا ذات صلة للجانب النهائي الذكاء الاصطناعي منذ بعض الوقت. على وجه الخصوص ، تم إصدار Qualcomm Snapdragon 8 Gen3 و MediaTek Dimensity 9300 للتو ، ويمكن القول أن تحسين أدائهما الذكاء الاصطناعي هو أساس النموذج الكبير على الهاتف المحمول.
تم تلبية احتياجات الصناعة وشروط الأجهزة ، ويمكن للنموذج الكبير أخيرا الدخول إلى الهاتف المحمول. ما يثير الدهشة هو أن أول مصنع للهواتف المحمولة يخرج "منتجا كاملا" هو vivo.
**ما هي حالة طراز فيفو الكبير؟ **
في 1 نوفمبر ، عقدت vivo مؤتمرا للمطورين ، أصدرت فيه مصفوفة النماذج الكبيرة المطورة ذاتيا "BlueLM" ، بما في ذلك 1 مليار و 10 مليارات و 100 مليار وغيرها من مقاييس المعلمات المختلفة. في الوقت نفسه ، أصدرت أيضا OriginOS 4 ، وهو نظام تشغيل مطور ذاتيا يتكيف مع طرازه الكبير.
في مواجهة "الأرض الموعودة" للنماذج الكبيرة ، يكاد يكون حرص vivo مكتوبا على وجهه.
وفقا لأحدث البيانات الصادرة عن Canalys ، وهي وكالة أبحاث السوق ، في 26 أكتوبر ، انخفضت شحنات وشحنات vivo ، وانخفض الترتيب أيضا. تحتاج vivo بشكل عاجل إلى نماذج كبيرة و OriginOS 4 لتحويل المد ، وليس من المستغرب أن تكون أول من "يفتح الكتاب".
وبالمقارنة مع الطراز الكبير ، فإن فترة تحديث OriginOS 4 التي أطلقتها vivo هذه المرة ضعيفة بعض الشيء. في مناقشة المجال العام ، ليس فقط تكرار بطاقة الرسومات الافتراضية الخاصة بها ، ومساحة الحوسبة غير المتجانسة والوزن الخفيف ليس كما هو متوقع ، ولكن أيضا الوحدات النمطية مثل الإخطار الذري ، وهو مرتفع جدا بين مستخدمي الجسم الحي ، لم تتم ترقيتها. وبعبارة أخرى، فإن النموذج الكبير هو بطل الرواية في هذا المؤتمر.
من منظور نموذج الأعمال ، يشبه مسار vivo في هذا المؤتمر الصحفي مسار اللاعبين الآخرين في الصناعة من قبل ، مع مساعد الذكاء الاصطناعي كناقل ، يتبنى طريقة نشر هجينة من جانب الجهاز + من جانب السحابة ، حيث يقدم النموذج الكبير من جانب الجهاز ، وهو اللعب الرئيسي ، الخصائص الواضحة للتوطين وخفيفة الوزن.
الغرض من ذلك واضح ، استهلاك الطاقة وقوة الحوسبة التي يوفرها العالم الصغير للهواتف المحمولة ليست هي نفسها الموجودة في غرفة الكمبيوتر. انها مجرد كيفية الجمع بين قدرة النموذج مع عمق الهاتف المحمول أصبح "معرفة كيف" أن الشركات المصنعة للهواتف المحمولة بحاجة ماسة لاختراق.
في هذا الصدد ، يتمثل حل vivo في إطلاق نموذج مواصفات متعدد المعلمات ، منها 1 مليار مواصفات مخصصة بشكل أساسي لسيناريوهات النص و 7 مليارات مواصفات للحوار الطبيعي والمعرفة سؤال وجواب تليفوتوغرافي هي أبرز ما في النشر من جانب الجهاز. في المقدمة الرسمية ، يتم توجيه مواصفات المليار بشكل منفصل إلى جانب الجهاز ، وتم تعيين مواصفات 7 مليارات لتكون ثنائية الغرض للجهاز والسحابة ، وقد تم نشرها جميعا في السحابة منذ 70 مليار ، وهو ما يعكس أيضا فكرة مصفوفة vivo "دع الله يعود إلى الله ، وقيصر إلى قيصر" في التعاون بين الجهاز والسحابة.
هذا هو نفس مؤتمر مطوري الإدخال / الإخراج من Google في مايو من هذا العام ، عندما أصدرت Google نموذجا كبيرا PaLM2 بأربعة مواصفات معلمة ، حيث يمكن لنموذج المعلمة الصغيرة معالجة 20 رمزا في الثانية في حالة عدم الاتصال بالإنترنت ، وهو مناسب للاستخدام غير المتصل للمحطات الطرفية.
إذا كنت تعتقد أن الجسم الحي "يقطف أسنان الناس" ، فهو قاس للغاية. في الواقع، شرعت فيفو في إنشاء فريق الذكاء الاصطناعي داخلي في وقت مبكر من عام 2017، واليوم، يضم معهد أبحاث الذكاء الاصطناعي فيفو أكثر من 1000 باحث.
على الرغم من أن هطول الأمطار الفني بشكل عام أدنى من المستوى الأول مثل Ali و Baidu ، إلا أن وجود مجتمع المصادر المفتوحة يسمح أيضا للاعبين الذين يدخلون السوق بعد ذلك بقليل باللحاق بسرعة بالجيش الكبير. يمكن لمعهد أبحاث الرسم البياني المعرفي الذي أنشأته vivo في عام 2018 أن يعزز أيضا نقص بيانات التدريب التي قد يواجهها كشركة مصنعة للهواتف المحمولة إلى حد ما.
أما بالنسبة لقدرة النموذج ، فقد سلمت vivo ورقة إجابة جيدة خلال فترة الإحماء. يذكر أن BlueLM فازت بالمركز الأول في فئة "نموذج الوصول المقيد" في مجموعة تقييم الطرف الثالث C-of Chinese Large model. وفقا لإعلانها الرسمي ، فإن BlueLM هو أول طراز كبير من جانب جهاز 7B في الصناعة.
ومع ذلك ، لا يوجد عدد قليل من النماذج التي سجلت درجات عالية في التقييم ولكن لديها أداء فعلي غير مرض ، ويقول بعض الأشخاص في الصناعة إن هذه القائمة قد "تم تجاهلها" في الفترة الزمنية الماضية ، والتي يمكن أن تمثل فقط قدرة النموذج على "القيام بالأسئلة" ولا يمكن أن تعكس القدرة على التفكير والسلامة والقدرة على التكيف. من وجهة النظر هذه ، من الواضح أن نتائج أعمال vivo تحتاج إلى المزيد من الاختبارات العملية.
علاوة على ذلك ، فإن قدرات نموذج السحابة الحالية لشركة vivo ، مثل مخطط Wensheng والتفاعل ، لم تقفز من فخ النماذج الكبيرة ، والجدة محدودة. علاوة على ذلك ، لا تزال قدرتها على نموذج جانب الجهاز كلعبة رئيسية في مرحلة الاختبار ، وعرض قدرات الجانب النهائي محدود حتما بأجهزة الهاتف المحمول.
علمنا أن العديد من المستخدمين الذين تمت دعوتهم للمشاركة في الاختبار الداخلي ل Blue Heart يستخدمون هواتف رائدة يمثلها X90 Pro ، وهذه النماذج هي أيضا الأعلى في جدول التكيف التجريبي العام لتطبيقات النماذج واسعة النطاق التي أصدرتها vivo.
الرجاء إدخال الرسم البياني ليقول
ليس هناك شك في أن النماذج الكبيرة أصبحت ساحة المعركة الثانية لمصنعي الهواتف المحمولة لفتح متطورة ، كما أنها متغير مهم لتنشيط المستخدمين وتفعيل إنترنت الأشياء. على الرغم من ذلك ، لا يزال هناك العديد من المتغيرات في نية vivo لزيادة قيمة المنتجات الراقية من خلال الاعتماد على نماذج كبيرة
في التحليل النهائي ، فإن إطلاق النموذج الكبير ليس فقط حجر الزاوية الجديد لشركة vivo الراقية ، ولكن أيضا محاولتها لسحب آلات جديدة ومنتجات راقية.
من الصعب بطبيعة الحال التعامل مع هذه الحرب الراقية النماذج المنخفضة. خذ النموذج الأساسي Y100 الذي أصدرته vivo قبل هذا المؤتمر الصحفي كمثال ، هذا هو أحد أحدث النماذج في خطة التكيف المذكورة أعلاه ، ووراء هذه الخطوة "الخلفية" المماثلة ، يأمل "العداد الصغير" لشركة vivo في العودة إلى العرش بمنتجات راقية.
ومع ذلك ، فإن إطلاق الطرز الكبيرة لا يزال ليس ميزة إضافية لمنتجات vivo الراقية.
أخبر وانغ يانغ (اسم مستعار) ، وهو رائد أعمال مجتمعي مفتوح المصدر للنموذج الكبير من جانب الجهاز ، Photon Planet أن قدرة النموذج الكبير على جانب الجهاز تكمن في الأداء الذكاء الاصطناعي الذي جلبته NPU (المعالج المصمم خصيصا لحوسبة الشبكة العصبية العميقة). ومع ذلك ، في نماذج vivo السابقة ، لم تهتم بقدرات NPU ، لذلك من المحتمل أن يكون من الصعب على الطرز القديمة تشغيل الطرز الكبيرة بسلاسة.
أما بالنسبة للإصدار القادم ، فقد يتمكن الطراز الجديد vivo X100 series المجهز بشريحة MediaTek Dimensity 9300 الرائدة وجيل جديد من معالج الذكاء الاصطناعي من استخدام قدرات الطراز بسلاسة ، ولكن في حالة وجود تطبيقات نموذجية كبيرة بالفعل مثل Wenxin Yiyan و iFLYTEK Xinghuo في السوق ، فإن المساحة المتبقية للهاتف المحمول ليست كبيرة كما يتصور. بالمقارنة مع القدرة ، ربما تكون طريقة اللعب التي أظهرتها vivo هذه المرة أكثر جدارة بالدراسة المتعمقة.
**اجعل هاتفك أكثر ذكاء؟ **
صرح كيفن سكوت ، كبير مسؤولي التكنولوجيا في Microsoft ، الذي دفع Microsoft لتصبح مستثمرا ملاكا في OpenAI ، علنا أن النموذج نفسه ليس منتجا ، ولكنه بنية تحتية. المعنى الضمني هو أنه بعد أن يضبط التدريب قاعدة النموذج ، فإن استكشاف الإنتاج هو جوهر "ريادة الأعمال الثانية" للعديد من اللاعبين.
إن "إعادة إنتاج" الطرز الكبيرة على الهواتف المحمولة أمر طبيعي ، لكن النماذج الكبيرة المنتشرة على الهواتف المحمولة لا تزال بحاجة إلى مزيد من الإنتاج. انطلاقا من المعلومات التي تم الكشف عنها حتى الآن ، ستدرك vivo قدرة النموذج الكبير من خلال تطبيق يسمى Xiao V Assistant ، والمسار السائد الحالي في الصناعة هو تضمين قدرة النموذج الكبير على مساعد الذكاء الاصطناعي الحالي.
يحتاج مستخدمو الهواتف الذكية إلى القدرة على فهم النماذج الكبيرة ، سواء كان مساعدا ذكيا يطلق عليه مازحا "الإعاقة الذهنية الاصطناعية" أو تطبيقا وبيانات متضخمة بشكل متزايد في ظل انفجار السعة ، يجب أن تكون الهواتف المحمولة قادرة على فهم التفاعل بشكل أفضل ومساعدة المستخدمين على فرز المعلومات. إن إضافة نماذج كبيرة هو في الأساس جلب قدرات فهم اللغة الطبيعية للهواتف المحمولة.
في حالة التنفيذ غير المنفذ ، يمكن تجاهل مشكلات تجربة المستخدم مثل استهلاك الطاقة وتبديد الحرارة وزمن الوصول التي قد تحدث في طراز جانب الجهاز في الوقت الحالي. من وجهة نظر وانغ يانغ ، فإن المشكلة الأساسية التي يواجهها نموذج الجسم الحي هي كيفية التمييز بين حدود القدرة للنماذج المختلفة وكيفية الاتصال بها عند استخدام نماذج متعددة معا ، "وهو ما يتعلق بشكل المنتج النهائي وعرضه".
في مواجهة الجانب C مع السيناريوهات المعممة والمتطلبات المعقدة ، تختلف النماذج التي يتم استدعاؤها بواسطة متطلبات مختلفة. على سبيل المثال ، يحتاج نموذج المواصفات 1 مليار ونموذج المواصفات 7 مليارات على جانب الجهاز إلى التعلم من البيانات المحلية للمستخدم في محاولة "لفهم المستخدم بشكل أفضل". لذلك ، ما إذا كان يمكن استخدام قدرة النموذج ونظام التشغيل الذي تم تكييفه معه لتنفيذ تعليمات معقدة على الهاتف المحمول هو مؤشر مهم.
حتى الآن ، فإن وظيفة القيادة المعقدة التي أظهرتها BlueLM هي تسليط الضوء تماما. تحت OriginOS 4 الذي تم إصداره حديثا ، يوجد V-Assistant في الركن الأيمن السفلي من الشريط الجانبي ويمكن ظهوره بالنقر فوقه. ليس فقط منطق التشغيل أقصر من نموذج جانب السحابة ، وهو أكثر ملاءمة لاستخدام الهاتف المحمول ، ولكن أيضا بعض الإرشادات المعقدة في نظام التشغيل ، مثل البحث الذكي عن الألبومات ، والإكمال الأولي لأوامر تطبيقات الجهات الخارجية ، والإعدادات داخل نظام التشغيل.
تجدر الإشارة إلى أن مساعد V الصغير معزول عن صوت Jovi الحالي في vivo من حيث الوظيفة والمسار ، والاثنان مستقلان عن بعضهما البعض ، وهو ما يختلف بوضوح عن مسار النموذج الكبير من جانب الجهاز الذي اقترحته الشركات المصنعة الأخرى من قبل.
من وجهة النظر الوظيفية ، يمكن لمساعد V الصغير أن يحقق تغطية كاملة لصوت Jovi ، لذلك من المرجح أن يكون الغرض من التمييز بين الاثنين هو تسهيل شعور المستخدمين بالفرق بين الاثنين. علاوة على ذلك ، فإن منطق المنتج الخاص بمساعد V الصغير مشابه لمنطق Copilot المحمول في دلو عائلة Microsoft ، ومن المرجح أن يتم دمج المسارين المختلفين في المستقبل.
يعكس هذا أيضا أن BlueLM الحالي لا يزال في مرحلة الاختبار ، ومن الصعب القول إن شكل المنتج ناضج.
وفقا للتعليقات الواردة من أولئك الذين شاركوا في الاختبار الداخلي BlueLM ، مع قدرة النموذج للنموذج الرئيسي لشركة vivo ، لا يزال هناك تأخير قدره 2s ~ 5s في متطلبات إنشاء النص العادي في حدود 20 رمزا ، وهي ليست أخبارا جيدة للتنفيذ اللاحق - لم يتم حل تأخير نموذج جانب السحابة بشكل جيد. قد يتم تحسين ذلك في الطرز المجهزة بأحدث شرائح الذكاء الاصطناعي من الشركات المصنعة للرقائق ، ولكن بالنسبة للمستهلكين ، لا يشكل هذا سببا لتغيير هواتفهم.
بالإضافة إلى ذلك ، باعتبارها أول طراز للهاتف المحمول في الصناعة ، تواجه قدرة نموذج vivo السحابي أيضا "تطويق" العديد من النماذج الكبيرة لبائعي السحابة.
على سبيل المثال ، أعلنت vivo أنها ستطلق روبوت المحادثة Lanxin Qianxun في متجر التطبيقات ، ومواصفات المعلمات البالغ عددها 175 مليار ليست واضحة مقارنة بالنماذج الكبيرة في متاجر التطبيقات الحالية. من بين بائعي السحابة ، فرضت Baidu بالفعل رسوما على الإصدار الاحترافي Wenxin 4.0 الذي تم إصداره مؤخرا لاختبار المياه ، في حين يبدو أن Lanxin Qianxun عضو غير ملفت للنظر في النظام البيئي للنموذج الكبير vivo ، ومن الواضح أن طريقه معرقل وطويل.
تجدر الإشارة إلى أن vivo متأخر ، وأن الفجوة في هطول الأمطار التكنولوجية ستحد أيضا من التقدم الإضافي لأعمالها النموذجية واسعة النطاق.
من حيث البرامج ، أصبح نموذج vivo الكبير المادة الترويجية لمنصة التعلم الآلي Pai من Alibaba Cloud ، ويمكننا حتى العثور على ظل "Tongyi Qianwen" من اسم "Blue Heart Qianwen". يعني التشغيل على السحابة تكاليف طويلة الأجل ، وينعكس هذا بشكل واضح في OpenAI. من منظور التكلفة ، إذا أرادت vivo تطوير BlueLM إلى نظام بيئي طويل الأجل ، فمن الواضح أن IDC المبني ذاتيا أكثر ملاءمة للتطوير طويل الأجل من الترحيل السحابي.
فيما يتعلق بالأجهزة ، قامت Huawei و Apple ، وهما المصنعان الرائدان ، بالفعل بدمج قدرات NPU المطورة ذاتيا في خطوط الإنتاج الحالية ، بينما لا تزال vivo بحاجة إلى الاعتماد على مصنعي الرقائق. على الرغم من أنه يمكن بناء حواجز معينة في تدريب النموذج وضبطه ، إلا أن فجوة الأجهزة باعتبارها النواة لا تزال تؤدي إلى العديد من المواقف مع الشركات المصنعة الرائدة.
** معركة طرفية نموذج كبير **
تجعلنا إضافة النموذج الكبير ندرك من جديد أن جوهر الهاتف الذكي هو محطة ذكية تدمج إمكانات متعددة ، ولها مداخل للأجهزة ونظام التشغيل. الظروف الفريدة تجعل من الطبيعي دمج الهواتف المحمولة مع الطرز الكبيرة.
فهل يمكن أيضا توصيل المحطات الطرفية الأخرى بالنموذج الكبير وإعادة تعريف حدود قدرة الجهاز تماما مثل إعادة التطبيق؟
يمكن إرجاع استكشاف هذه المشكلة إلى اندلاع شبكات التعلم العميق ، وتنبع مناقشة إمكانية نماذج الجانب النهائي أيضا من المشاكل "المبتذلة" المتمثلة في الكمون واستهلاك الطاقة والخصوصية وغيرها من القضايا في الصناعة.
في الواقع ، قبل وقت طويل من البداية الرسمية لهذا الجنون لحشو النماذج الكبيرة في الهواتف المحمولة ، أصبحت مركبات الطاقة الجديدة ذات القيادة الذاتية بالفعل محطة للنماذج الكبيرة. لا يوجد نقص في الخيال في الصناعة بأن الأجهزة الذكية القابلة للارتداء مجهزة بنماذج كبيرة ، ولكن يبدو أن الهواتف المحمولة على وشك أن تأتي أولا مع تنوع المشاهد وراحة الشبكة.
علاوة على ذلك ، عندما يقوم مصنعو الهواتف المحمولة بإصدار نماذج كبيرة بشكل مكثف ووضعها قيد الاستخدام ، ستكون ساحة تدريب ممتازة للنماذج الطرفية. يمكننا أيضا مناقشة منهجية مجموعة متنوعة من المحطات الطرفية المجهزة بنماذج كبيرة من هبوط نماذج كبيرة للهاتف المحمول.
بعد كل شيء ، بغض النظر عن مدى جودة النموذج على الهاتف ، فإن أفضل أداء يمكن تحقيقه في فترة زمنية قصيرة ليس أكثر من "سكرتير" في مجال حياة المستخدم. الخيال الذي يجلبه النموذج الكبير للمحطات الذكية الأخرى أكبر بلا شك.
على سبيل المثال ، يمكن لأجهزة الصراف الآلي ، التي تنسحب تدريجيا من المرحلة التاريخية بسبب الدفع عبر الهاتف المحمول ، الاعتماد على نماذج كبيرة للسماح للمستخدمين بتخطي البنك للوقوف في طوابير للحصول على أعمال متعمقة. كما أنها كاميرا ذكية تنتمي إلى سيناريو B-end ، والتي تحدد العلامات الأساسية للمرضى في المجال الطبي ، وفحص الجودة السريع في المجال الصناعي ، والري الذكي في المجال الزراعي. الآن ، قد يؤدي سوق B-end ، الذي لم يتم فتحه على نطاق واسع من خلال الاعتماد على نموذج الجانب السحابي ، إلى ظهور متغير الجانب النهائي.
هذا هو السبب أيضا في أن vivo ستعرض نظام التشغيل Blue River (BlueOS) المجهز بساعة vivo Watch الجديدة في هذا المؤتمر الصحفي عندما لا تكون بيئتها مثالية مثل Huawei و Xiaomi. كنظام عبر المحطات طورته vivo لعصر الذكاء الاصطناعي العام ، يهدف إطلاقه إلى دفع سلسلة من منتجات إنترنت الأشياء من خلال الهواتف المحمولة ، والتي تتمتع بلا شك بخيال جيد.
أعلنت vivo أيضا عن المصدر المفتوح لنموذج مواصفات 7B الخاص بها وأطلقت مجموعة تطوير BlueKit ، وهو طموح واضح للبناء البيئي. ربما في الوقت الحاضر ، وصلت vivo فقط إلى مرحلة السماح لإنترنت الأشياء بفهم التعليمات ، ولكن هذا مهم جدا لاستراتيجيات vivo المستقبلية المتطورة والبيئية وغيرها.
قدرات طراز الهاتف المحمول غير معروفة ، وهناك العديد من التحديات ، وبعد الإصدار الرسمي والهبوط ، لا بد أن يجلب المزيد من الاتجاهات "ذات الحجم المفتوح" إلى الصناعة. تنتظر أوضاع الهبوط الأكثر غرابة أن تفتحها الصناعة.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
الهاتف محشو بالموديلات الكبيرة وهي مجرد البداية
المصدر الأصلي: كوكب الفوتون
يتطلع مصنعو الهواتف المحمولة ، الذين يحتاجون بشكل عاجل إلى العثور على دولاب الموازنة الجديد ، إلى الطرز الكبيرة.
في مؤتمر المطورين في أوائل أغسطس ، أعلنت Huawei أنها ستدمج Xiaoyi ، مساعد الذكاء الاصطناعي في HarmonyOS 4 ، في النموذج الكبير ، ودعتها لاختباره في نهاية أغسطس. فتحت Xiaomi أيضا اختبار دعوة مساعدها الذكاء الاصطناعي Xiaoai للوصول إلى الطراز الكبير في نفس الوقت تقريبا. تبع ذلك OPPO و vivo ، وكلاهما بدأ في تجربة نماذج كبيرة من الهواتف المحمولة في نوفمبر.
"حشو النماذج الكبيرة في الهواتف المحمولة" ليس شيئا جديدا في الصناعة ،ناهيك عن الجسم الحي ، الذي تم تسخينه بشكل مكثف منذ منتصف أكتوبر ،كشف Rongmi O Three عن الأخبار ذات الصلة في المؤتمر الصحفي الذي عقد هذا العام。 الرأي العام في الصناعة هو أن جزء الأجهزة من مسار الهاتف الذكي غير قابل للطي تقريبا ، ومعظم الطرز الكبيرة التي تعمل في السحابة هي مجرد متغير خال من الأجهزة.
وتجدر الإشارة إلى أن النشر من جانب الجهاز هو أيضا اتجاه صناعي لمسارات النماذج الكبيرة. بأخذ ChatGPT كمثال ، كممثل نموذجي للنموذج الكبير من جانب السحابة ، يتم تشغيل تدريبه واستدلاله على Microsoft Azure ، ويحصل المستخدمون على النتائج من خلال المتصفحات أو التطبيقات. بين المدخلات والمخرجات وذهابا وإيابا ، لا يوجد تأخير يؤثر فقط على تجربة المستخدم ، ولكن أيضا تكاليف السحابة مثل استهلاك الطاقة وقوة الحوسبة.
من منظور السيناريوهات والاحتياجات الفعلية ، يمكن تلبية العديد من الاحتياجات بواسطة أجهزة الحافة ، وخاصة المحطات الطرفية المستخدمة على نطاق واسع مثل الهواتف المحمولة وأجهزة الكمبيوتر ومركبات الطاقة الجديدة.
ونتيجة لذلك ، أصبح النشر النهائي للطرز الكبيرة إجماعا تدريجيا ، ولم يقم مصنعو الهواتف المحمولة فقط بتركيز جهودهم لتدريب النماذج ، ولكن أيضا Lenovo على مسار الكمبيوتر الشخصي و Qualcomm على مسار الرقائق قد أصدروا حلولا ذات صلة للجانب النهائي الذكاء الاصطناعي منذ بعض الوقت. على وجه الخصوص ، تم إصدار Qualcomm Snapdragon 8 Gen3 و MediaTek Dimensity 9300 للتو ، ويمكن القول أن تحسين أدائهما الذكاء الاصطناعي هو أساس النموذج الكبير على الهاتف المحمول.
تم تلبية احتياجات الصناعة وشروط الأجهزة ، ويمكن للنموذج الكبير أخيرا الدخول إلى الهاتف المحمول. ما يثير الدهشة هو أن أول مصنع للهواتف المحمولة يخرج "منتجا كاملا" هو vivo.
**ما هي حالة طراز فيفو الكبير؟ **
في 1 نوفمبر ، عقدت vivo مؤتمرا للمطورين ، أصدرت فيه مصفوفة النماذج الكبيرة المطورة ذاتيا "BlueLM" ، بما في ذلك 1 مليار و 10 مليارات و 100 مليار وغيرها من مقاييس المعلمات المختلفة. في الوقت نفسه ، أصدرت أيضا OriginOS 4 ، وهو نظام تشغيل مطور ذاتيا يتكيف مع طرازه الكبير.
في مواجهة "الأرض الموعودة" للنماذج الكبيرة ، يكاد يكون حرص vivo مكتوبا على وجهه.
وفقا لأحدث البيانات الصادرة عن Canalys ، وهي وكالة أبحاث السوق ، في 26 أكتوبر ، انخفضت شحنات وشحنات vivo ، وانخفض الترتيب أيضا. تحتاج vivo بشكل عاجل إلى نماذج كبيرة و OriginOS 4 لتحويل المد ، وليس من المستغرب أن تكون أول من "يفتح الكتاب".
وبالمقارنة مع الطراز الكبير ، فإن فترة تحديث OriginOS 4 التي أطلقتها vivo هذه المرة ضعيفة بعض الشيء. في مناقشة المجال العام ، ليس فقط تكرار بطاقة الرسومات الافتراضية الخاصة بها ، ومساحة الحوسبة غير المتجانسة والوزن الخفيف ليس كما هو متوقع ، ولكن أيضا الوحدات النمطية مثل الإخطار الذري ، وهو مرتفع جدا بين مستخدمي الجسم الحي ، لم تتم ترقيتها. وبعبارة أخرى، فإن النموذج الكبير هو بطل الرواية في هذا المؤتمر.
من منظور نموذج الأعمال ، يشبه مسار vivo في هذا المؤتمر الصحفي مسار اللاعبين الآخرين في الصناعة من قبل ، مع مساعد الذكاء الاصطناعي كناقل ، يتبنى طريقة نشر هجينة من جانب الجهاز + من جانب السحابة ، حيث يقدم النموذج الكبير من جانب الجهاز ، وهو اللعب الرئيسي ، الخصائص الواضحة للتوطين وخفيفة الوزن.
الغرض من ذلك واضح ، استهلاك الطاقة وقوة الحوسبة التي يوفرها العالم الصغير للهواتف المحمولة ليست هي نفسها الموجودة في غرفة الكمبيوتر. انها مجرد كيفية الجمع بين قدرة النموذج مع عمق الهاتف المحمول أصبح "معرفة كيف" أن الشركات المصنعة للهواتف المحمولة بحاجة ماسة لاختراق.
في هذا الصدد ، يتمثل حل vivo في إطلاق نموذج مواصفات متعدد المعلمات ، منها 1 مليار مواصفات مخصصة بشكل أساسي لسيناريوهات النص و 7 مليارات مواصفات للحوار الطبيعي والمعرفة سؤال وجواب تليفوتوغرافي هي أبرز ما في النشر من جانب الجهاز. في المقدمة الرسمية ، يتم توجيه مواصفات المليار بشكل منفصل إلى جانب الجهاز ، وتم تعيين مواصفات 7 مليارات لتكون ثنائية الغرض للجهاز والسحابة ، وقد تم نشرها جميعا في السحابة منذ 70 مليار ، وهو ما يعكس أيضا فكرة مصفوفة vivo "دع الله يعود إلى الله ، وقيصر إلى قيصر" في التعاون بين الجهاز والسحابة.
هذا هو نفس مؤتمر مطوري الإدخال / الإخراج من Google في مايو من هذا العام ، عندما أصدرت Google نموذجا كبيرا PaLM2 بأربعة مواصفات معلمة ، حيث يمكن لنموذج المعلمة الصغيرة معالجة 20 رمزا في الثانية في حالة عدم الاتصال بالإنترنت ، وهو مناسب للاستخدام غير المتصل للمحطات الطرفية.
إذا كنت تعتقد أن الجسم الحي "يقطف أسنان الناس" ، فهو قاس للغاية. في الواقع، شرعت فيفو في إنشاء فريق الذكاء الاصطناعي داخلي في وقت مبكر من عام 2017، واليوم، يضم معهد أبحاث الذكاء الاصطناعي فيفو أكثر من 1000 باحث.
على الرغم من أن هطول الأمطار الفني بشكل عام أدنى من المستوى الأول مثل Ali و Baidu ، إلا أن وجود مجتمع المصادر المفتوحة يسمح أيضا للاعبين الذين يدخلون السوق بعد ذلك بقليل باللحاق بسرعة بالجيش الكبير. يمكن لمعهد أبحاث الرسم البياني المعرفي الذي أنشأته vivo في عام 2018 أن يعزز أيضا نقص بيانات التدريب التي قد يواجهها كشركة مصنعة للهواتف المحمولة إلى حد ما.
أما بالنسبة لقدرة النموذج ، فقد سلمت vivo ورقة إجابة جيدة خلال فترة الإحماء. يذكر أن BlueLM فازت بالمركز الأول في فئة "نموذج الوصول المقيد" في مجموعة تقييم الطرف الثالث C-of Chinese Large model. وفقا لإعلانها الرسمي ، فإن BlueLM هو أول طراز كبير من جانب جهاز 7B في الصناعة.
ومع ذلك ، لا يوجد عدد قليل من النماذج التي سجلت درجات عالية في التقييم ولكن لديها أداء فعلي غير مرض ، ويقول بعض الأشخاص في الصناعة إن هذه القائمة قد "تم تجاهلها" في الفترة الزمنية الماضية ، والتي يمكن أن تمثل فقط قدرة النموذج على "القيام بالأسئلة" ولا يمكن أن تعكس القدرة على التفكير والسلامة والقدرة على التكيف. من وجهة النظر هذه ، من الواضح أن نتائج أعمال vivo تحتاج إلى المزيد من الاختبارات العملية.
علاوة على ذلك ، فإن قدرات نموذج السحابة الحالية لشركة vivo ، مثل مخطط Wensheng والتفاعل ، لم تقفز من فخ النماذج الكبيرة ، والجدة محدودة. علاوة على ذلك ، لا تزال قدرتها على نموذج جانب الجهاز كلعبة رئيسية في مرحلة الاختبار ، وعرض قدرات الجانب النهائي محدود حتما بأجهزة الهاتف المحمول.
علمنا أن العديد من المستخدمين الذين تمت دعوتهم للمشاركة في الاختبار الداخلي ل Blue Heart يستخدمون هواتف رائدة يمثلها X90 Pro ، وهذه النماذج هي أيضا الأعلى في جدول التكيف التجريبي العام لتطبيقات النماذج واسعة النطاق التي أصدرتها vivo.
ليس هناك شك في أن النماذج الكبيرة أصبحت ساحة المعركة الثانية لمصنعي الهواتف المحمولة لفتح متطورة ، كما أنها متغير مهم لتنشيط المستخدمين وتفعيل إنترنت الأشياء. على الرغم من ذلك ، لا يزال هناك العديد من المتغيرات في نية vivo لزيادة قيمة المنتجات الراقية من خلال الاعتماد على نماذج كبيرة
في التحليل النهائي ، فإن إطلاق النموذج الكبير ليس فقط حجر الزاوية الجديد لشركة vivo الراقية ، ولكن أيضا محاولتها لسحب آلات جديدة ومنتجات راقية.
من الصعب بطبيعة الحال التعامل مع هذه الحرب الراقية النماذج المنخفضة. خذ النموذج الأساسي Y100 الذي أصدرته vivo قبل هذا المؤتمر الصحفي كمثال ، هذا هو أحد أحدث النماذج في خطة التكيف المذكورة أعلاه ، ووراء هذه الخطوة "الخلفية" المماثلة ، يأمل "العداد الصغير" لشركة vivo في العودة إلى العرش بمنتجات راقية.
ومع ذلك ، فإن إطلاق الطرز الكبيرة لا يزال ليس ميزة إضافية لمنتجات vivo الراقية.
أخبر وانغ يانغ (اسم مستعار) ، وهو رائد أعمال مجتمعي مفتوح المصدر للنموذج الكبير من جانب الجهاز ، Photon Planet أن قدرة النموذج الكبير على جانب الجهاز تكمن في الأداء الذكاء الاصطناعي الذي جلبته NPU (المعالج المصمم خصيصا لحوسبة الشبكة العصبية العميقة). ومع ذلك ، في نماذج vivo السابقة ، لم تهتم بقدرات NPU ، لذلك من المحتمل أن يكون من الصعب على الطرز القديمة تشغيل الطرز الكبيرة بسلاسة.
أما بالنسبة للإصدار القادم ، فقد يتمكن الطراز الجديد vivo X100 series المجهز بشريحة MediaTek Dimensity 9300 الرائدة وجيل جديد من معالج الذكاء الاصطناعي من استخدام قدرات الطراز بسلاسة ، ولكن في حالة وجود تطبيقات نموذجية كبيرة بالفعل مثل Wenxin Yiyan و iFLYTEK Xinghuo في السوق ، فإن المساحة المتبقية للهاتف المحمول ليست كبيرة كما يتصور. بالمقارنة مع القدرة ، ربما تكون طريقة اللعب التي أظهرتها vivo هذه المرة أكثر جدارة بالدراسة المتعمقة.
**اجعل هاتفك أكثر ذكاء؟ **
صرح كيفن سكوت ، كبير مسؤولي التكنولوجيا في Microsoft ، الذي دفع Microsoft لتصبح مستثمرا ملاكا في OpenAI ، علنا أن النموذج نفسه ليس منتجا ، ولكنه بنية تحتية. المعنى الضمني هو أنه بعد أن يضبط التدريب قاعدة النموذج ، فإن استكشاف الإنتاج هو جوهر "ريادة الأعمال الثانية" للعديد من اللاعبين.
إن "إعادة إنتاج" الطرز الكبيرة على الهواتف المحمولة أمر طبيعي ، لكن النماذج الكبيرة المنتشرة على الهواتف المحمولة لا تزال بحاجة إلى مزيد من الإنتاج. انطلاقا من المعلومات التي تم الكشف عنها حتى الآن ، ستدرك vivo قدرة النموذج الكبير من خلال تطبيق يسمى Xiao V Assistant ، والمسار السائد الحالي في الصناعة هو تضمين قدرة النموذج الكبير على مساعد الذكاء الاصطناعي الحالي.
يحتاج مستخدمو الهواتف الذكية إلى القدرة على فهم النماذج الكبيرة ، سواء كان مساعدا ذكيا يطلق عليه مازحا "الإعاقة الذهنية الاصطناعية" أو تطبيقا وبيانات متضخمة بشكل متزايد في ظل انفجار السعة ، يجب أن تكون الهواتف المحمولة قادرة على فهم التفاعل بشكل أفضل ومساعدة المستخدمين على فرز المعلومات. إن إضافة نماذج كبيرة هو في الأساس جلب قدرات فهم اللغة الطبيعية للهواتف المحمولة.
في حالة التنفيذ غير المنفذ ، يمكن تجاهل مشكلات تجربة المستخدم مثل استهلاك الطاقة وتبديد الحرارة وزمن الوصول التي قد تحدث في طراز جانب الجهاز في الوقت الحالي. من وجهة نظر وانغ يانغ ، فإن المشكلة الأساسية التي يواجهها نموذج الجسم الحي هي كيفية التمييز بين حدود القدرة للنماذج المختلفة وكيفية الاتصال بها عند استخدام نماذج متعددة معا ، "وهو ما يتعلق بشكل المنتج النهائي وعرضه".
في مواجهة الجانب C مع السيناريوهات المعممة والمتطلبات المعقدة ، تختلف النماذج التي يتم استدعاؤها بواسطة متطلبات مختلفة. على سبيل المثال ، يحتاج نموذج المواصفات 1 مليار ونموذج المواصفات 7 مليارات على جانب الجهاز إلى التعلم من البيانات المحلية للمستخدم في محاولة "لفهم المستخدم بشكل أفضل". لذلك ، ما إذا كان يمكن استخدام قدرة النموذج ونظام التشغيل الذي تم تكييفه معه لتنفيذ تعليمات معقدة على الهاتف المحمول هو مؤشر مهم.
حتى الآن ، فإن وظيفة القيادة المعقدة التي أظهرتها BlueLM هي تسليط الضوء تماما. تحت OriginOS 4 الذي تم إصداره حديثا ، يوجد V-Assistant في الركن الأيمن السفلي من الشريط الجانبي ويمكن ظهوره بالنقر فوقه. ليس فقط منطق التشغيل أقصر من نموذج جانب السحابة ، وهو أكثر ملاءمة لاستخدام الهاتف المحمول ، ولكن أيضا بعض الإرشادات المعقدة في نظام التشغيل ، مثل البحث الذكي عن الألبومات ، والإكمال الأولي لأوامر تطبيقات الجهات الخارجية ، والإعدادات داخل نظام التشغيل.
تجدر الإشارة إلى أن مساعد V الصغير معزول عن صوت Jovi الحالي في vivo من حيث الوظيفة والمسار ، والاثنان مستقلان عن بعضهما البعض ، وهو ما يختلف بوضوح عن مسار النموذج الكبير من جانب الجهاز الذي اقترحته الشركات المصنعة الأخرى من قبل.
من وجهة النظر الوظيفية ، يمكن لمساعد V الصغير أن يحقق تغطية كاملة لصوت Jovi ، لذلك من المرجح أن يكون الغرض من التمييز بين الاثنين هو تسهيل شعور المستخدمين بالفرق بين الاثنين. علاوة على ذلك ، فإن منطق المنتج الخاص بمساعد V الصغير مشابه لمنطق Copilot المحمول في دلو عائلة Microsoft ، ومن المرجح أن يتم دمج المسارين المختلفين في المستقبل.
يعكس هذا أيضا أن BlueLM الحالي لا يزال في مرحلة الاختبار ، ومن الصعب القول إن شكل المنتج ناضج.
وفقا للتعليقات الواردة من أولئك الذين شاركوا في الاختبار الداخلي BlueLM ، مع قدرة النموذج للنموذج الرئيسي لشركة vivo ، لا يزال هناك تأخير قدره 2s ~ 5s في متطلبات إنشاء النص العادي في حدود 20 رمزا ، وهي ليست أخبارا جيدة للتنفيذ اللاحق - لم يتم حل تأخير نموذج جانب السحابة بشكل جيد. قد يتم تحسين ذلك في الطرز المجهزة بأحدث شرائح الذكاء الاصطناعي من الشركات المصنعة للرقائق ، ولكن بالنسبة للمستهلكين ، لا يشكل هذا سببا لتغيير هواتفهم.
بالإضافة إلى ذلك ، باعتبارها أول طراز للهاتف المحمول في الصناعة ، تواجه قدرة نموذج vivo السحابي أيضا "تطويق" العديد من النماذج الكبيرة لبائعي السحابة.
على سبيل المثال ، أعلنت vivo أنها ستطلق روبوت المحادثة Lanxin Qianxun في متجر التطبيقات ، ومواصفات المعلمات البالغ عددها 175 مليار ليست واضحة مقارنة بالنماذج الكبيرة في متاجر التطبيقات الحالية. من بين بائعي السحابة ، فرضت Baidu بالفعل رسوما على الإصدار الاحترافي Wenxin 4.0 الذي تم إصداره مؤخرا لاختبار المياه ، في حين يبدو أن Lanxin Qianxun عضو غير ملفت للنظر في النظام البيئي للنموذج الكبير vivo ، ومن الواضح أن طريقه معرقل وطويل.
تجدر الإشارة إلى أن vivo متأخر ، وأن الفجوة في هطول الأمطار التكنولوجية ستحد أيضا من التقدم الإضافي لأعمالها النموذجية واسعة النطاق.
من حيث البرامج ، أصبح نموذج vivo الكبير المادة الترويجية لمنصة التعلم الآلي Pai من Alibaba Cloud ، ويمكننا حتى العثور على ظل "Tongyi Qianwen" من اسم "Blue Heart Qianwen". يعني التشغيل على السحابة تكاليف طويلة الأجل ، وينعكس هذا بشكل واضح في OpenAI. من منظور التكلفة ، إذا أرادت vivo تطوير BlueLM إلى نظام بيئي طويل الأجل ، فمن الواضح أن IDC المبني ذاتيا أكثر ملاءمة للتطوير طويل الأجل من الترحيل السحابي.
فيما يتعلق بالأجهزة ، قامت Huawei و Apple ، وهما المصنعان الرائدان ، بالفعل بدمج قدرات NPU المطورة ذاتيا في خطوط الإنتاج الحالية ، بينما لا تزال vivo بحاجة إلى الاعتماد على مصنعي الرقائق. على الرغم من أنه يمكن بناء حواجز معينة في تدريب النموذج وضبطه ، إلا أن فجوة الأجهزة باعتبارها النواة لا تزال تؤدي إلى العديد من المواقف مع الشركات المصنعة الرائدة.
** معركة طرفية نموذج كبير **
تجعلنا إضافة النموذج الكبير ندرك من جديد أن جوهر الهاتف الذكي هو محطة ذكية تدمج إمكانات متعددة ، ولها مداخل للأجهزة ونظام التشغيل. الظروف الفريدة تجعل من الطبيعي دمج الهواتف المحمولة مع الطرز الكبيرة.
فهل يمكن أيضا توصيل المحطات الطرفية الأخرى بالنموذج الكبير وإعادة تعريف حدود قدرة الجهاز تماما مثل إعادة التطبيق؟
يمكن إرجاع استكشاف هذه المشكلة إلى اندلاع شبكات التعلم العميق ، وتنبع مناقشة إمكانية نماذج الجانب النهائي أيضا من المشاكل "المبتذلة" المتمثلة في الكمون واستهلاك الطاقة والخصوصية وغيرها من القضايا في الصناعة.
في الواقع ، قبل وقت طويل من البداية الرسمية لهذا الجنون لحشو النماذج الكبيرة في الهواتف المحمولة ، أصبحت مركبات الطاقة الجديدة ذات القيادة الذاتية بالفعل محطة للنماذج الكبيرة. لا يوجد نقص في الخيال في الصناعة بأن الأجهزة الذكية القابلة للارتداء مجهزة بنماذج كبيرة ، ولكن يبدو أن الهواتف المحمولة على وشك أن تأتي أولا مع تنوع المشاهد وراحة الشبكة.
علاوة على ذلك ، عندما يقوم مصنعو الهواتف المحمولة بإصدار نماذج كبيرة بشكل مكثف ووضعها قيد الاستخدام ، ستكون ساحة تدريب ممتازة للنماذج الطرفية. يمكننا أيضا مناقشة منهجية مجموعة متنوعة من المحطات الطرفية المجهزة بنماذج كبيرة من هبوط نماذج كبيرة للهاتف المحمول.
بعد كل شيء ، بغض النظر عن مدى جودة النموذج على الهاتف ، فإن أفضل أداء يمكن تحقيقه في فترة زمنية قصيرة ليس أكثر من "سكرتير" في مجال حياة المستخدم. الخيال الذي يجلبه النموذج الكبير للمحطات الذكية الأخرى أكبر بلا شك.
على سبيل المثال ، يمكن لأجهزة الصراف الآلي ، التي تنسحب تدريجيا من المرحلة التاريخية بسبب الدفع عبر الهاتف المحمول ، الاعتماد على نماذج كبيرة للسماح للمستخدمين بتخطي البنك للوقوف في طوابير للحصول على أعمال متعمقة. كما أنها كاميرا ذكية تنتمي إلى سيناريو B-end ، والتي تحدد العلامات الأساسية للمرضى في المجال الطبي ، وفحص الجودة السريع في المجال الصناعي ، والري الذكي في المجال الزراعي. الآن ، قد يؤدي سوق B-end ، الذي لم يتم فتحه على نطاق واسع من خلال الاعتماد على نموذج الجانب السحابي ، إلى ظهور متغير الجانب النهائي.
هذا هو السبب أيضا في أن vivo ستعرض نظام التشغيل Blue River (BlueOS) المجهز بساعة vivo Watch الجديدة في هذا المؤتمر الصحفي عندما لا تكون بيئتها مثالية مثل Huawei و Xiaomi. كنظام عبر المحطات طورته vivo لعصر الذكاء الاصطناعي العام ، يهدف إطلاقه إلى دفع سلسلة من منتجات إنترنت الأشياء من خلال الهواتف المحمولة ، والتي تتمتع بلا شك بخيال جيد.
أعلنت vivo أيضا عن المصدر المفتوح لنموذج مواصفات 7B الخاص بها وأطلقت مجموعة تطوير BlueKit ، وهو طموح واضح للبناء البيئي. ربما في الوقت الحاضر ، وصلت vivo فقط إلى مرحلة السماح لإنترنت الأشياء بفهم التعليمات ، ولكن هذا مهم جدا لاستراتيجيات vivo المستقبلية المتطورة والبيئية وغيرها.
قدرات طراز الهاتف المحمول غير معروفة ، وهناك العديد من التحديات ، وبعد الإصدار الرسمي والهبوط ، لا بد أن يجلب المزيد من الاتجاهات "ذات الحجم المفتوح" إلى الصناعة. تنتظر أوضاع الهبوط الأكثر غرابة أن تفتحها الصناعة.