مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود
عند فتح واجهة الكاميرا ، يلتقط مقدم العرض صورة للمشهد أمامه. في الألبوم ، ابحث عن هذه الصورة وحدد وظيفة "توسيع" ، ولكن الجزء المحيطي الذي لم يتم التقاطه في الصورة قد تم "توسيعه" بطريقة سحرية إلى المحيط.
من ناحية أخرى ، يبدو أن الهاتف المحمول يستخدم لالتقاط صور سيلفي للزوار ، وعندما تدخل منطقة الكاميرا الأمامية ، ستجد أن خلفية صورة الشخص في الصورة يتم استبدالها في الوقت الفعلي ، حتى إذا استمر شخص السيلفي في الحركة ، فإن الخلفية الافتراضية ليست مهترئة ، ولا يتم الشعور بالتأخير تقريبا.
تعديل خلفية الصورة الشخصية في الوقت الحقيقي |
وإذا نظرت عن كثب ، فستجد أن جميع الهواتف المستخدمة للعرض التوضيحي في وضع الطائرة - أي أن جميع التعقيدات المذكورة أعلاه تعمل على الشريحة المحلية للهاتف.
هذه هي قاعة التجربة التجريبية لقمة Qualcomm Snapdragon لعام 2023 ، وتعتمد الوظائف الذكاء الاصطناعي التي أظهرتها الهواتف المحمولة المذكورة أعلاه على قوة الحوسبة لشريحة معالج Snapdragon 8 Gen 3 (الجيل الثالث من Snapdragon 8) التي تم الكشف عنها للتو في المؤتمر.
في الوقت الذي تحظى فيه الذكاء الاصطناعي النماذج الكبيرة بشعبية ، أصدرت كوالكوم منتجين جديدين في المؤتمر الصحفي لهذا العام ، شرائح Snapdragon X Elite و Snapdragon 8 Gen 3 ، على التوالي ، على الأجهزة المحمولة التي تمثلها أجهزة الكمبيوتر والهواتف الذكية ، وتحقيق التشغيل المحلي لعشرات المليارات من النماذج الكبيرة المعلمات ، مما يجعل القدرة السحرية للتوليدية الذكاء الاصطناعي "وظيفة مدمجة" للأجهزة المحمولة.
بالإضافة إلى "الذكاء الاصطناعي السحابية" ، مع التطور السريع للرقائق ، تم تحقيق "الذكاء الاصطناعي الطرفية" ، وربما وصل عصر "الذكاء الاصطناعي الهجين" الذي يعمل فيه الاثنان معا.
01 الذكاء الاصطناعي، من مركز البيانات إلى الهواتف المحمولة وأجهزة الكمبيوتر
"لقد رأينا للتو بداية التحول التالي ، وهو بعيد المدى. **」
قدم كريستيانو آمون ، الرئيس والمدير التنفيذي لشركة Qualcomm ، هذا التنبؤ ب "الذكاء الاصطناعي الهجين" الذي يجمع بين الأجهزة والسحابة عند وصف الهاتف المحمول من الهواتف العادية إلى الهواتف الذكية ثم إلى المستقبل.
في قمة كوالكوم أنف العجل ، أوضح عمون أن عصر "المحطة الذكاء الاصطناعي" قد وصل | Geek Park
قد لا تكون الذكاء الاصطناعي في السحابة ، مثل العديد من تطبيقات المحادثة الذكاء الاصطناعي التوليدية اليوم ، غريبة ، ولكن تنفيذ الذكاء الاصطناعي الطرفية له متطلبات عالية للأجهزة ، وهذا هو السبب في أن الشريحتين الجديدتين في المؤتمر الصحفي لشركة Qualcomm - Snapdragon X Elite و Snapdragon 8 Gen 3 - لافتة للنظر بشكل خاص.
ربما كان الشيء الأكثر إثارة في اليوم هو أن وحدة المعالجة المركزية Ryon على Snapdragon X Elite لم تتفوق فقط على شريحة M2 MAX من Apple ** و i9-13980HX من Intel من حيث الأداء على مؤشر ترابط واحد ، ولكنها استهلكت أيضا طاقة أقل بنسبة 70٪ من الأخيرة على نفس الأداء.
علاوة على ذلك ، يمكن لوحدة المعالجة المركزية Oryon القوية و Hexagon NPU و Adreno GPU ، بدعم من محرك الذكاء الاصطناعي غير المتجانس من X Elite ، تحقيق قوة حوسبة إجمالية تبلغ 75 TOPs في ثلاث وحدات معالج.
تسمح قوة الحوسبة الفائقة بتنفيذ تجربة المحادثة الذكاء الاصطناعي التوليدية ، والتي كانت متوفرة في السابق فقط في السحابة ، بنجاح في البيئة المحلية للكمبيوتر المجهز بشريحة Snapdragon X Elite ، والتي يمكنها تشغيل نماذج لغوية كبيرة مع ما يصل إلى 13 مليار معلمة على جانب الكمبيوتر الشخصي ، وتصل سرعة توليد الرمز المميز إلى 30 رمزا في الثانية ، وهي أسرع من سرعة قراءة المستخدم ؛ في الوقت نفسه ، تكون الصور التي تم إنشاؤها باستخدام الانتشار المستقر سريعة بشكل مدهش في أقل من 1 ثانية.
تعد سرعة وحدة المعالجة المركزية Oryon التي تم إطلاقها حديثا واستهلاك الطاقة من بين الأفضل في العالم
في الحقل ، عندما تنقر على زر الإنشاء بإصبعك ويمكن إكمال الصورة في لحظة ، تكون التجربة مذهلة ، لأن الناس اعتادوا منذ فترة طويلة على انتظار الحوار التوليدي لإنتاج صورة ، من الضبابية إلى الواضحة.
باعتبارها شريحة الهاتف الذكي الرائدة ، فإن Snapdragon 8 Gen 3 ليس بعيدا عن X Elite ، ومن حيث الذكاء الاصطناعي ، لا يمكنه فقط تشغيل نموذج كبير بعشرات المليارات من المعلمات محليا ، ولكن أيضا إنشاء صور في أقل من 0.6 ثانية.
في الربع الأول من هذا العام وحده ، كان العرض التوضيحي لشركة Qualcomm قادرا فقط على تشغيل نموذج كبير بمعلمة 1 مليار محليا ، وتم التحكم في سرعة توليد الصور إلى 15 ثانية. ما نوع "السحر" الذي تستخدمه كوالكوم لجعل "الذكاء الاصطناعي الطرفية" تحقق قفزات كبيرة؟
في حالة Snapdragon 8 Gen 3 ، تقوم Qualcomm ** أولا بقياس نموذج كبير مثل Llama 2 ، وضغطه باستخدام مجموعة برامج الذكاء الاصطناعي ، وتحميل النموذج الكمي في ذاكرة DDR فائقة السرعة ** ، والتي يمكنها إدخال النموذج في Hexagon NPU مع إنتاجية فائقة السرعة للعمل.
تم تحسين محرك الذكاء الاصطناعي من Qualcomm خصيصا ل الذكاء الاصطناعي |
أدخلت كوالكوم تحسينات كبيرة على البنية الدقيقة. بالإضافة إلى ترقية أجهزة الاستدلال microslice ، أضاف الفريق أيضا مسارات منفصلة لتوصيل الطاقة إلى مسرع الموتر للحصول على الأداء الأمثل وكفاءة الطاقة. في الوقت نفسه ، زادت Qualcomm من سرعة الساعة للمسرعات العددية والمتجهة وضاعفت عرض النطاق الترددي للذاكرة المشتركة الكبيرة. هذه التحسينات على Hexagon NPU تجعلها مسرعا رائدا للاستدلال على النموذج الكبير.
تستخدم كوالكوم أيضا تقنية "فك التشفير المضاربة" في المحادثات الصوتية ، والتي يتم استخدامها أيضا لأول مرة على محطة طرفية. تستخدم هذه التقنية خوارزمية "مسودة نموذج" تقارب نصف حجم النموذج الأصلي ، وتولد بسرعة 3 رموز مضاربة بعد إجراء قدر كبير من الاستدلال على وحدة المعالجة المركزية.
يعالج النموذج الرئيسي جميع علامات 3 في وقت واحد ويقرر أي منها يقبل. يتنبأ نموذج المسودة الجيد بالرمز المميز التالي بمعدل قبول مرتفع ، مما يضاعف معدل إنشاء الرمز المميز مع الحفاظ على الدقة. أخيرا ، يتم إنشاء الصوت الذي تم إنشاؤه بواسطة مساعد الذكاء الاصطناعي بواسطة نموذج الذكاء الاصطناعي تحويل النص إلى كلام يعمل على وحدة المعالجة المركزية.
هذه هي عملية Qualcomm الذكاء الاصطناعي Engine ، أو NPU ، جنبا إلى جنب مع وحدة المعالجة المركزية ووحدة معالجة الرسومات و Qualcomm Sensor Hub والذاكرة فائقة السرعة ، والتي تعمل معا لإكمال حالة استخدام الذكاء الاصطناعي من جانب الجهاز.
ومع ذلك ، وراء حالات تطبيق الذكاء الاصطناعي التوليدية المعقدة والفعالة ، يوجد تراكم واستكشاف طويل لشركة Qualcomm في اتجاه الذكاء الاصطناعي من جانب الجهاز.
02 تطور المحطة الطرفية الذكاء الاصطناعي
إذا تحدثنا عن تطور أجهزة الذكاء الاصطناعي السحابية في سيناريو مركز البيانات ، فإن الرمز هو بطاقة رسومات NVIDIA ؛ ثم يتم تمييز تطوير الذكاء الاصطناعي على جانب الجهاز بمحرك Qualcomm الذكاء الاصطناعي ، بالطبع ، الجزء الأكثر أهمية في مستوى الأجهزة هو معالج Snapdragon Hexagon NPU المتطور باستمرار.
مرة أخرى في عام 2007 ، قدمت كوالكوم أول معالج Hexagon على منصة Snapdragon.
في عام 2015 ، دمجت كوالكوم تقنية الذكاء الاصطناعي في معالجاتها ، باستخدام الذكاء الاصطناعي لتحسين حوسبة الصور والصوت وأجهزة الاستشعار.
في عام 2017 ، قدمت كوالكوم Hexagon 685 DSP في شريحة Snapdragon 845 ، والتي تمكن الهواتف الذكية من أداء مهام الذكاء الاصطناعي المعقدة مثل التعرف على الصور ومعالجة الصوت بسرعة أكبر.
في العام التالي ، في عام 2018 ، قام Snapdragon 855 بترقية محرك الذكاء الاصطناعي من الجيل الرابع ، مضيفا مسرعات موتر إلى معالج Hexagon ، مما أدى إلى زيادة الأداء بمقدار 3 أضعاف في معالجة الذكاء الاصطناعي.
في Snapdragon 865 ، تم تقديم Hexagon 698 DSP ، مما يوفر أداء وكفاءة أكثر الذكاء الاصطناعي. يؤكد هذا الإصدار على تسريع الذكاء الاصطناعي ويحسن تنفيذ نماذج الذكاء الاصطناعي لتشغيل التطبيقات الذكاء الاصطناعي بشكل أسرع في الهواتف الذكية. يوفر Hexagon 780 DSP في Snapdragon 888 في نهاية عام 2020 ما يصل إلى 26TOPS من الأداء الذكاء الاصطناعي.
بعد أكثر من عقد من التطور ، نمت القدرات الذكاء الاصطناعي لمنصة الحوسبة Snapdragon بمقدار 100 ضعف
حتى الآن ، تمكنت رقائق Snapdragon X Elite و 8 Gen 3 من توفير 75 TOPs من قوة الحوسبة - إذا قمت بعمل رسم بياني لقوة المعالجة الذكاء الاصطناعي لرقائق Qualcomm في السنوات السبع الماضية ، يمكنك أن ترى أن "منحنى الذكاء الاصطناعي" قد أظهر اتجاها تصاعديا حادا ، وما زال لم يتوقف.
بالإضافة إلى الأجهزة ، لا غنى أيضا عن جهود Qualcomm على مستوى البرامج الذكاء الاصطناعي لتحسين قدرات الذكاء الاصطناعي الطرفية. تدمج مجموعة برامج Qualcomm الذكاء الاصطناعي جميع منتجات برامج الذكاء الاصطناعي الخاصة بها في حل موحد. يمكن لمصنعي المعدات الأصلية والمطورين إنشاء تطبيقات الذكاء الاصطناعي وتحسينها ونشرها استنادا إلى منتجات Qualcomm ، مع الاستفادة الكاملة من أداء Qualcomm الذكاء الاصطناعي Engine ، مما يسمح لمطوري الذكاء الاصطناعي بإنشاء نماذج الذكاء الاصطناعي مرة واحدة ونشرها عبر منتجات مختلفة.
في قمة Snapdragon ، كشفت Qualcomm أيضا عن نماذج مكدس برامج الذكاء الاصطناعي - وهي مجموعة من الطرز التي تلبي احتياجات المطورين التي تم تحسينها واختبارها والتحقق من صحتها بالكامل بواسطة Qualcomm لدعم الجيل الثالث من منصات Snapdragon 8 و Snapdragon X Elite.
تقع SDK لمعالجة الشبكة العصبية من Qualcomm و Qualcomm الذكاء الاصطناعي Engine Direct في قلب مجموعة برامج Qualcomm الذكاء الاصطناعي ، حيث تربط الشريحة بجميع أطر الذكاء الاصطناعي الرئيسية. مع النماذج المدارة TF Lite و ONNX RT ، يمكن للمستخدمين أيضا استخدام Tensorflow و ONNX مباشرة ، مما يمنح المطورين حرية اختيار بيئة العمل المفضلة لديهم.
تقوم كوالكوم ببناء نظام بيئي الذكاء الاصطناعي المحطة الطرفية مع العديد من الشركات العملاقة والشركات النموذجية الكبيرة
دخلت كوالكوم في شراكة مع عدد من الشركات العملاقة والشركات الناشئة الكبيرة، وفي وقت إصدار نموذج مكدس برامج الذكاء الاصطناعي من كوالكوم، كان هناك بالفعل أكثر من 30 طرازا كبيرا مدعوما، ولا يزال العدد في ازدياد، وسيظهر نموذج مكدس البرامج أيضا على منصة استضافة النماذج الشهيرة Hugging Face.
الآن في جيلها الثامن ، يتيح محرك الذكاء الاصطناعي من Qualcomm ، والذي يتكون من مكونات متعددة للأجهزة والبرامج ، تسريع الذكاء الاصطناعي من جانب الجهاز على منصات Snapdragon و Qualcomm.
يمكن ملاحظة ذلك ** استنادا إلى الأجهزة الأساسية للرقاقة ، تقوم Qualcomm بتوحيد عدد كبير من الشركاء لإنشاء نظام بيئي "الذكاء الاصطناعي طرفي" **.
لماذا تعتبر "المحطة الذكاء الاصطناعي" مهمة للغاية ، ويجب على كوالكوم وشركائها ألا يدخروا جهدا للاستثمار فيها؟
03 مستقبل "الذكاء الاصطناعي الهجين"
في المتصفحات ، في تطبيقات الأجهزة المحمولة ، يستخدم العديد من الأشخاص تطبيقات الذكاء الاصطناعي التوليدية ، ويبدو أن هذا النوع من "الذكاء الاصطناعي السحابية" قد لبى احتياجات الناس. ما هي مزايا الذكاء الاصطناعي على الجهاز عبر الذكاء الاصطناعي السحابية؟
الأول هو الاستجابة الفورية. في الماضي ، حاول المطورون ضغط نموذج الانتشار المستقر لإنشاء صور على كمبيوتر Mac الدفتري ، ويتم قياس النتائج بالساعات. ومع ذلك ، إذا تم تنفيذ العملية المحلية على الجهاز ، في العرض التوضيحي الذي أظهرته Qualcomm ، فقد تم تقليل سرعة الانتشار السريع ** المستقر لإنشاء الصور إلى أقل من 1 ثانية **.
خاصة في السيناريوهات ذات متطلبات زمن الوصول العالية ، مثل البشر الافتراضيين والخلفيات الافتراضية في الوقت الفعلي ، يتم تسليط الضوء على فورية الحوسبة المحلية للمحطات الطرفية الذكاء الاصطناعي.
بالإضافة إلى ذلك ، في حالة الشبكات الضعيفة ، تصبح القدرات الذكاء الاصطناعي للجهاز المحلي هي الخيار الوحيد للمستخدمين.
يمكن لشريحة Snapdragon 8 من الجيل الثالث تحقيق قدرات توسيع الصور محليا على الهاتف|Qualcomm
في الوقت نفسه ، عندما تعمل البيانات محليا على الجهاز ، يكون الأمان أيضا أكثر أمانا من السحابة. على سبيل المثال ، يدعم Snapdragon X Elite أحدث أمان شامل ، مما يحمي جميع نقاط النهاية في المؤسسة ، من الشريحة إلى السحابة. تدعم وحدة المعالجة الآمنة المخصصة من Qualcomm بنية أمان Microsoft Pluton وهي مصممة لتخزين البيانات الحساسة.
أخيرا ، يمكن أن يؤدي تحسين قدرات الذكاء الاصطناعي النهائية إلى منح مساعدي الذكاء الاصطناعي فرصة للتخلص من وصمة "الإعاقة الذهنية الاصطناعية" وأن يصبحوا حقا مساعدا ذكيا شخصيا مؤهلا وشخصيا للغاية. تماما مثل العرض التوضيحي المباشر ، بمساعدة المعلومات الشخصية وعادات الاستخدام والبيانات الأخرى المسجلة والمخزنة على جانب المحطة ، يمكن للمساعد الذكي حجز الفنادق وتذاكر الطيران مباشرة بعد تلقي الأوامر الصوتية ، بدلا من القفز في تطبيقات مختلفة على الهاتف المحمول. هذه كلها لا مثيل لها من قبل الذكاء الاصطناعي في السحابة.
منذ حوالي عشر سنوات ، تنبأ مارك أندرسون ، مؤسس a16z ، ذات مرة بأن "البرامج ستبتلع العالم" ، ولكن للأسف تم تزوير الواقع. في ظل موجة الذكاء الاصطناعي التي تسببها النماذج الكبيرة ، أصبحت "تطبيقات التهام الذكاء الاصطناعي" حقيقة واقعة تدريجيا.
ستغير الذكاء الاصطناعي السحابية Terminal الذكاء الاصطناعي + النموذج المرتكز على التطبيق للهواتف الذكية | Geek Park
"إن القوة التنبؤية ل الذكاء الاصطناعي ، إلى جانب حقيقة أن المحطة مصممة لك ، تجعل المحطة ونظام التشغيل ، بالإضافة إلى التطبيق والسحابة ، ذكية."
يصف عمون كيف أن "الذكاء الاصطناعي الهجين" المكون من الذكاء الاصطناعي الطرفية + الذكاء الاصطناعي السحابية سيغير عادات الناس في استخدام الأجهزة.
حتى الآن ، بلغ عدد المحطات التي تستخدم منصة Snapdragon 3 مليارات.
تماما كما ستدخل وحدة المعالجة المركزية Oryon خطوط إنتاج Qualcomm المختلفة في المستقبل ، سيتم نقل قدرات الذكاء الاصطناعي الطرفية قريبا من أجهزة الكمبيوتر والهواتف المحمولة إلى أجهزة XR وأجهزة السيارات الذكية - وهو مستقبل يكون فيه "الذكاء الاصطناعي الهجين" في كل مكان.
الذكاء الاصطناعي سوف تجد طريقها إلى جميع أنواع الأجهزة
افتتاح قمة أنف العجل ، وهو حفل خاص للسكان المحليين في ماوي ، الغرباء من الخارج ، من خلال أدوات المحارة الفريدة والمكالمات ، تظهر براءتهم ؛ رد السكان المحليون في الجزيرة ب "تعويذة" فريدة لتأكيد أن الطرف الآخر ليس لديه نية خبيثة وأنه جدير بالثقة.
يشبه هذا الحفل المؤثر إلى حد كبير التقارب بين "الذكاء الاصطناعي الطرفية" و "الذكاء الاصطناعي السحابية" لجلب مستقبل "الذكاء الاصطناعي الهجين" إلى العالم.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
يتم وضع النموذج الكبير على الهاتف المحمول ، وفتح الستار على الذكاء الاصطناعي لتغيير العالم
المصدر الأصلي: المهوس بارك
المؤلف: جينغ يو
عند فتح واجهة الكاميرا ، يلتقط مقدم العرض صورة للمشهد أمامه. في الألبوم ، ابحث عن هذه الصورة وحدد وظيفة "توسيع" ، ولكن الجزء المحيطي الذي لم يتم التقاطه في الصورة قد تم "توسيعه" بطريقة سحرية إلى المحيط.
من ناحية أخرى ، يبدو أن الهاتف المحمول يستخدم لالتقاط صور سيلفي للزوار ، وعندما تدخل منطقة الكاميرا الأمامية ، ستجد أن خلفية صورة الشخص في الصورة يتم استبدالها في الوقت الفعلي ، حتى إذا استمر شخص السيلفي في الحركة ، فإن الخلفية الافتراضية ليست مهترئة ، ولا يتم الشعور بالتأخير تقريبا.
وإذا نظرت عن كثب ، فستجد أن جميع الهواتف المستخدمة للعرض التوضيحي في وضع الطائرة - أي أن جميع التعقيدات المذكورة أعلاه تعمل على الشريحة المحلية للهاتف.
هذه هي قاعة التجربة التجريبية لقمة Qualcomm Snapdragon لعام 2023 ، وتعتمد الوظائف الذكاء الاصطناعي التي أظهرتها الهواتف المحمولة المذكورة أعلاه على قوة الحوسبة لشريحة معالج Snapdragon 8 Gen 3 (الجيل الثالث من Snapdragon 8) التي تم الكشف عنها للتو في المؤتمر.
في الوقت الذي تحظى فيه الذكاء الاصطناعي النماذج الكبيرة بشعبية ، أصدرت كوالكوم منتجين جديدين في المؤتمر الصحفي لهذا العام ، شرائح Snapdragon X Elite و Snapdragon 8 Gen 3 ، على التوالي ، على الأجهزة المحمولة التي تمثلها أجهزة الكمبيوتر والهواتف الذكية ، وتحقيق التشغيل المحلي لعشرات المليارات من النماذج الكبيرة المعلمات ، مما يجعل القدرة السحرية للتوليدية الذكاء الاصطناعي "وظيفة مدمجة" للأجهزة المحمولة.
بالإضافة إلى "الذكاء الاصطناعي السحابية" ، مع التطور السريع للرقائق ، تم تحقيق "الذكاء الاصطناعي الطرفية" ، وربما وصل عصر "الذكاء الاصطناعي الهجين" الذي يعمل فيه الاثنان معا.
01 الذكاء الاصطناعي، من مركز البيانات إلى الهواتف المحمولة وأجهزة الكمبيوتر
"لقد رأينا للتو بداية التحول التالي ، وهو بعيد المدى. **」
قدم كريستيانو آمون ، الرئيس والمدير التنفيذي لشركة Qualcomm ، هذا التنبؤ ب "الذكاء الاصطناعي الهجين" الذي يجمع بين الأجهزة والسحابة عند وصف الهاتف المحمول من الهواتف العادية إلى الهواتف الذكية ثم إلى المستقبل.
قد لا تكون الذكاء الاصطناعي في السحابة ، مثل العديد من تطبيقات المحادثة الذكاء الاصطناعي التوليدية اليوم ، غريبة ، ولكن تنفيذ الذكاء الاصطناعي الطرفية له متطلبات عالية للأجهزة ، وهذا هو السبب في أن الشريحتين الجديدتين في المؤتمر الصحفي لشركة Qualcomm - Snapdragon X Elite و Snapdragon 8 Gen 3 - لافتة للنظر بشكل خاص.
ربما كان الشيء الأكثر إثارة في اليوم هو أن وحدة المعالجة المركزية Ryon على Snapdragon X Elite لم تتفوق فقط على شريحة M2 MAX من Apple ** و i9-13980HX من Intel من حيث الأداء على مؤشر ترابط واحد ، ولكنها استهلكت أيضا طاقة أقل بنسبة 70٪ من الأخيرة على نفس الأداء.
علاوة على ذلك ، يمكن لوحدة المعالجة المركزية Oryon القوية و Hexagon NPU و Adreno GPU ، بدعم من محرك الذكاء الاصطناعي غير المتجانس من X Elite ، تحقيق قوة حوسبة إجمالية تبلغ 75 TOPs في ثلاث وحدات معالج.
تسمح قوة الحوسبة الفائقة بتنفيذ تجربة المحادثة الذكاء الاصطناعي التوليدية ، والتي كانت متوفرة في السابق فقط في السحابة ، بنجاح في البيئة المحلية للكمبيوتر المجهز بشريحة Snapdragon X Elite ، والتي يمكنها تشغيل نماذج لغوية كبيرة مع ما يصل إلى 13 مليار معلمة على جانب الكمبيوتر الشخصي ، وتصل سرعة توليد الرمز المميز إلى 30 رمزا في الثانية ، وهي أسرع من سرعة قراءة المستخدم ؛ في الوقت نفسه ، تكون الصور التي تم إنشاؤها باستخدام الانتشار المستقر سريعة بشكل مدهش في أقل من 1 ثانية.
في الحقل ، عندما تنقر على زر الإنشاء بإصبعك ويمكن إكمال الصورة في لحظة ، تكون التجربة مذهلة ، لأن الناس اعتادوا منذ فترة طويلة على انتظار الحوار التوليدي لإنتاج صورة ، من الضبابية إلى الواضحة.
باعتبارها شريحة الهاتف الذكي الرائدة ، فإن Snapdragon 8 Gen 3 ليس بعيدا عن X Elite ، ومن حيث الذكاء الاصطناعي ، لا يمكنه فقط تشغيل نموذج كبير بعشرات المليارات من المعلمات محليا ، ولكن أيضا إنشاء صور في أقل من 0.6 ثانية.
في الربع الأول من هذا العام وحده ، كان العرض التوضيحي لشركة Qualcomm قادرا فقط على تشغيل نموذج كبير بمعلمة 1 مليار محليا ، وتم التحكم في سرعة توليد الصور إلى 15 ثانية. ما نوع "السحر" الذي تستخدمه كوالكوم لجعل "الذكاء الاصطناعي الطرفية" تحقق قفزات كبيرة؟
في حالة Snapdragon 8 Gen 3 ، تقوم Qualcomm ** أولا بقياس نموذج كبير مثل Llama 2 ، وضغطه باستخدام مجموعة برامج الذكاء الاصطناعي ، وتحميل النموذج الكمي في ذاكرة DDR فائقة السرعة ** ، والتي يمكنها إدخال النموذج في Hexagon NPU مع إنتاجية فائقة السرعة للعمل.
أدخلت كوالكوم تحسينات كبيرة على البنية الدقيقة. بالإضافة إلى ترقية أجهزة الاستدلال microslice ، أضاف الفريق أيضا مسارات منفصلة لتوصيل الطاقة إلى مسرع الموتر للحصول على الأداء الأمثل وكفاءة الطاقة. في الوقت نفسه ، زادت Qualcomm من سرعة الساعة للمسرعات العددية والمتجهة وضاعفت عرض النطاق الترددي للذاكرة المشتركة الكبيرة. هذه التحسينات على Hexagon NPU تجعلها مسرعا رائدا للاستدلال على النموذج الكبير.
تستخدم كوالكوم أيضا تقنية "فك التشفير المضاربة" في المحادثات الصوتية ، والتي يتم استخدامها أيضا لأول مرة على محطة طرفية. تستخدم هذه التقنية خوارزمية "مسودة نموذج" تقارب نصف حجم النموذج الأصلي ، وتولد بسرعة 3 رموز مضاربة بعد إجراء قدر كبير من الاستدلال على وحدة المعالجة المركزية.
يعالج النموذج الرئيسي جميع علامات 3 في وقت واحد ويقرر أي منها يقبل. يتنبأ نموذج المسودة الجيد بالرمز المميز التالي بمعدل قبول مرتفع ، مما يضاعف معدل إنشاء الرمز المميز مع الحفاظ على الدقة. أخيرا ، يتم إنشاء الصوت الذي تم إنشاؤه بواسطة مساعد الذكاء الاصطناعي بواسطة نموذج الذكاء الاصطناعي تحويل النص إلى كلام يعمل على وحدة المعالجة المركزية.
هذه هي عملية Qualcomm الذكاء الاصطناعي Engine ، أو NPU ، جنبا إلى جنب مع وحدة المعالجة المركزية ووحدة معالجة الرسومات و Qualcomm Sensor Hub والذاكرة فائقة السرعة ، والتي تعمل معا لإكمال حالة استخدام الذكاء الاصطناعي من جانب الجهاز.
ومع ذلك ، وراء حالات تطبيق الذكاء الاصطناعي التوليدية المعقدة والفعالة ، يوجد تراكم واستكشاف طويل لشركة Qualcomm في اتجاه الذكاء الاصطناعي من جانب الجهاز.
02 تطور المحطة الطرفية الذكاء الاصطناعي
إذا تحدثنا عن تطور أجهزة الذكاء الاصطناعي السحابية في سيناريو مركز البيانات ، فإن الرمز هو بطاقة رسومات NVIDIA ؛ ثم يتم تمييز تطوير الذكاء الاصطناعي على جانب الجهاز بمحرك Qualcomm الذكاء الاصطناعي ، بالطبع ، الجزء الأكثر أهمية في مستوى الأجهزة هو معالج Snapdragon Hexagon NPU المتطور باستمرار.
مرة أخرى في عام 2007 ، قدمت كوالكوم أول معالج Hexagon على منصة Snapdragon.
في عام 2015 ، دمجت كوالكوم تقنية الذكاء الاصطناعي في معالجاتها ، باستخدام الذكاء الاصطناعي لتحسين حوسبة الصور والصوت وأجهزة الاستشعار.
في عام 2017 ، قدمت كوالكوم Hexagon 685 DSP في شريحة Snapdragon 845 ، والتي تمكن الهواتف الذكية من أداء مهام الذكاء الاصطناعي المعقدة مثل التعرف على الصور ومعالجة الصوت بسرعة أكبر.
في العام التالي ، في عام 2018 ، قام Snapdragon 855 بترقية محرك الذكاء الاصطناعي من الجيل الرابع ، مضيفا مسرعات موتر إلى معالج Hexagon ، مما أدى إلى زيادة الأداء بمقدار 3 أضعاف في معالجة الذكاء الاصطناعي.
في Snapdragon 865 ، تم تقديم Hexagon 698 DSP ، مما يوفر أداء وكفاءة أكثر الذكاء الاصطناعي. يؤكد هذا الإصدار على تسريع الذكاء الاصطناعي ويحسن تنفيذ نماذج الذكاء الاصطناعي لتشغيل التطبيقات الذكاء الاصطناعي بشكل أسرع في الهواتف الذكية. يوفر Hexagon 780 DSP في Snapdragon 888 في نهاية عام 2020 ما يصل إلى 26TOPS من الأداء الذكاء الاصطناعي.
حتى الآن ، تمكنت رقائق Snapdragon X Elite و 8 Gen 3 من توفير 75 TOPs من قوة الحوسبة - إذا قمت بعمل رسم بياني لقوة المعالجة الذكاء الاصطناعي لرقائق Qualcomm في السنوات السبع الماضية ، يمكنك أن ترى أن "منحنى الذكاء الاصطناعي" قد أظهر اتجاها تصاعديا حادا ، وما زال لم يتوقف.
بالإضافة إلى الأجهزة ، لا غنى أيضا عن جهود Qualcomm على مستوى البرامج الذكاء الاصطناعي لتحسين قدرات الذكاء الاصطناعي الطرفية. تدمج مجموعة برامج Qualcomm الذكاء الاصطناعي جميع منتجات برامج الذكاء الاصطناعي الخاصة بها في حل موحد. يمكن لمصنعي المعدات الأصلية والمطورين إنشاء تطبيقات الذكاء الاصطناعي وتحسينها ونشرها استنادا إلى منتجات Qualcomm ، مع الاستفادة الكاملة من أداء Qualcomm الذكاء الاصطناعي Engine ، مما يسمح لمطوري الذكاء الاصطناعي بإنشاء نماذج الذكاء الاصطناعي مرة واحدة ونشرها عبر منتجات مختلفة.
في قمة Snapdragon ، كشفت Qualcomm أيضا عن نماذج مكدس برامج الذكاء الاصطناعي - وهي مجموعة من الطرز التي تلبي احتياجات المطورين التي تم تحسينها واختبارها والتحقق من صحتها بالكامل بواسطة Qualcomm لدعم الجيل الثالث من منصات Snapdragon 8 و Snapdragon X Elite.
تقع SDK لمعالجة الشبكة العصبية من Qualcomm و Qualcomm الذكاء الاصطناعي Engine Direct في قلب مجموعة برامج Qualcomm الذكاء الاصطناعي ، حيث تربط الشريحة بجميع أطر الذكاء الاصطناعي الرئيسية. مع النماذج المدارة TF Lite و ONNX RT ، يمكن للمستخدمين أيضا استخدام Tensorflow و ONNX مباشرة ، مما يمنح المطورين حرية اختيار بيئة العمل المفضلة لديهم.
دخلت كوالكوم في شراكة مع عدد من الشركات العملاقة والشركات الناشئة الكبيرة، وفي وقت إصدار نموذج مكدس برامج الذكاء الاصطناعي من كوالكوم، كان هناك بالفعل أكثر من 30 طرازا كبيرا مدعوما، ولا يزال العدد في ازدياد، وسيظهر نموذج مكدس البرامج أيضا على منصة استضافة النماذج الشهيرة Hugging Face.
الآن في جيلها الثامن ، يتيح محرك الذكاء الاصطناعي من Qualcomm ، والذي يتكون من مكونات متعددة للأجهزة والبرامج ، تسريع الذكاء الاصطناعي من جانب الجهاز على منصات Snapdragon و Qualcomm.
يمكن ملاحظة ذلك ** استنادا إلى الأجهزة الأساسية للرقاقة ، تقوم Qualcomm بتوحيد عدد كبير من الشركاء لإنشاء نظام بيئي "الذكاء الاصطناعي طرفي" **.
لماذا تعتبر "المحطة الذكاء الاصطناعي" مهمة للغاية ، ويجب على كوالكوم وشركائها ألا يدخروا جهدا للاستثمار فيها؟
03 مستقبل "الذكاء الاصطناعي الهجين"
في المتصفحات ، في تطبيقات الأجهزة المحمولة ، يستخدم العديد من الأشخاص تطبيقات الذكاء الاصطناعي التوليدية ، ويبدو أن هذا النوع من "الذكاء الاصطناعي السحابية" قد لبى احتياجات الناس. ما هي مزايا الذكاء الاصطناعي على الجهاز عبر الذكاء الاصطناعي السحابية؟
الأول هو الاستجابة الفورية. في الماضي ، حاول المطورون ضغط نموذج الانتشار المستقر لإنشاء صور على كمبيوتر Mac الدفتري ، ويتم قياس النتائج بالساعات. ومع ذلك ، إذا تم تنفيذ العملية المحلية على الجهاز ، في العرض التوضيحي الذي أظهرته Qualcomm ، فقد تم تقليل سرعة الانتشار السريع ** المستقر لإنشاء الصور إلى أقل من 1 ثانية **.
خاصة في السيناريوهات ذات متطلبات زمن الوصول العالية ، مثل البشر الافتراضيين والخلفيات الافتراضية في الوقت الفعلي ، يتم تسليط الضوء على فورية الحوسبة المحلية للمحطات الطرفية الذكاء الاصطناعي.
بالإضافة إلى ذلك ، في حالة الشبكات الضعيفة ، تصبح القدرات الذكاء الاصطناعي للجهاز المحلي هي الخيار الوحيد للمستخدمين.
في الوقت نفسه ، عندما تعمل البيانات محليا على الجهاز ، يكون الأمان أيضا أكثر أمانا من السحابة. على سبيل المثال ، يدعم Snapdragon X Elite أحدث أمان شامل ، مما يحمي جميع نقاط النهاية في المؤسسة ، من الشريحة إلى السحابة. تدعم وحدة المعالجة الآمنة المخصصة من Qualcomm بنية أمان Microsoft Pluton وهي مصممة لتخزين البيانات الحساسة.
أخيرا ، يمكن أن يؤدي تحسين قدرات الذكاء الاصطناعي النهائية إلى منح مساعدي الذكاء الاصطناعي فرصة للتخلص من وصمة "الإعاقة الذهنية الاصطناعية" وأن يصبحوا حقا مساعدا ذكيا شخصيا مؤهلا وشخصيا للغاية. تماما مثل العرض التوضيحي المباشر ، بمساعدة المعلومات الشخصية وعادات الاستخدام والبيانات الأخرى المسجلة والمخزنة على جانب المحطة ، يمكن للمساعد الذكي حجز الفنادق وتذاكر الطيران مباشرة بعد تلقي الأوامر الصوتية ، بدلا من القفز في تطبيقات مختلفة على الهاتف المحمول. هذه كلها لا مثيل لها من قبل الذكاء الاصطناعي في السحابة.
منذ حوالي عشر سنوات ، تنبأ مارك أندرسون ، مؤسس a16z ، ذات مرة بأن "البرامج ستبتلع العالم" ، ولكن للأسف تم تزوير الواقع. في ظل موجة الذكاء الاصطناعي التي تسببها النماذج الكبيرة ، أصبحت "تطبيقات التهام الذكاء الاصطناعي" حقيقة واقعة تدريجيا.
"إن القوة التنبؤية ل الذكاء الاصطناعي ، إلى جانب حقيقة أن المحطة مصممة لك ، تجعل المحطة ونظام التشغيل ، بالإضافة إلى التطبيق والسحابة ، ذكية."
يصف عمون كيف أن "الذكاء الاصطناعي الهجين" المكون من الذكاء الاصطناعي الطرفية + الذكاء الاصطناعي السحابية سيغير عادات الناس في استخدام الأجهزة.
حتى الآن ، بلغ عدد المحطات التي تستخدم منصة Snapdragon 3 مليارات.
تماما كما ستدخل وحدة المعالجة المركزية Oryon خطوط إنتاج Qualcomm المختلفة في المستقبل ، سيتم نقل قدرات الذكاء الاصطناعي الطرفية قريبا من أجهزة الكمبيوتر والهواتف المحمولة إلى أجهزة XR وأجهزة السيارات الذكية - وهو مستقبل يكون فيه "الذكاء الاصطناعي الهجين" في كل مكان.
افتتاح قمة أنف العجل ، وهو حفل خاص للسكان المحليين في ماوي ، الغرباء من الخارج ، من خلال أدوات المحارة الفريدة والمكالمات ، تظهر براءتهم ؛ رد السكان المحليون في الجزيرة ب "تعويذة" فريدة لتأكيد أن الطرف الآخر ليس لديه نية خبيثة وأنه جدير بالثقة.
يشبه هذا الحفل المؤثر إلى حد كبير التقارب بين "الذكاء الاصطناعي الطرفية" و "الذكاء الاصطناعي السحابية" لجلب مستقبل "الذكاء الاصطناعي الهجين" إلى العالم.