بالنظر إلى استمرار ChatGPT في الانفجار لعدة أشهر ، دخلت خلالها عمالقة التكنولوجيا مثل Microsoft و Google و Meta إلى اللعبة واحدًا تلو الآخر ، فقد أعلنت شركة Intel أخيرًا عن "منافستها" رسميًا.
خلال عطلة نهاية الأسبوع ، في المؤتمر الدولي للحوسبة الفائقة (ISC) عالي الأداء (HPC) في هامبورغ ، ألمانيا ، لم تظهر إنتل ريادتها في أعباء عمل HPC و AI فحسب ، بل أعلنت أيضًا عن خطة مفاجئة: تعاونت Tribute National Laboratory على تطوير نموذج الذكاء الاصطناعي التوليدي Aurora genAI مع الكمبيوتر الفائق Aurora ، وسيصل عدد المعلمات إلى 1 تريليون!
اعلم أن حجم معلمة ChatGPT يبلغ 175 مليار فقط ، أي أن نموذج Aurora genAI سيكون أكبر 5 مرات منه على الأقل.
(صورة من موقع إنتل الرسمي)
** سيتم تشغيل طراز AI بواسطة حوسبة Aurora الفائقة **
من المفهوم أن نموذج Intel Aurora genAI سيعتمد على إطارين: ميجاترون من NVIDIA و Microsoft DeepSpeed.
▶ ميجاترون: بنية للتدريب الموزع لنماذج لغوية واسعة النطاق ، مُحسَّنة خصيصًا لـ Transformer ، لا تدعم فقط توازي البيانات في التدريب الموزع التقليدي ، ولكنها تدعم أيضًا نموذج التوازي.
▶ DeepSpeed: ركز على تحسين تدريب نماذج التعلم العميق على نطاق واسع.من خلال تحسين المقياس والسرعة والتكلفة والتوافر ، فإنه يطلق القدرة على تدريب 100 مليار نموذج متغير ويعزز بشكل كبير تدريب النماذج واسعة النطاق.
بالإضافة إلى هذين الإطارين ، سيتم تشغيل نموذج Aurora genAI أيضًا بواسطة الكمبيوتر الفائق Aurora - وهو الكمبيوتر العملاق Intel المصمم لمختبر Argonne الوطني ، والذي تم تشكيله أخيرًا بعد تأخيرات مختلفة.
وفقًا للمعلومات العامة الحالية ، يتم تشغيل الكمبيوتر الفائق Aurora بواسطة شرائح Intel Xeon CPU Max و Xeon GPU Max ، بإجمالي 10،624 عقدة ، و 63،744 وحدة معالجة رسومات Ponte Vecchio ، و 21،248 Sapphire Rapids Xeon CPUs ، و 1،024 موزعًا غير متزامن لتخزين الكائنات (DAOS) ) عُقد التخزين و 10.9 بيتابايت من ذاكرة DDR5 Optane الثابتة.
بالإضافة إلى ذلك ، كشفت Intel أيضًا عن نتائج الأداء المبكرة للحاسوب الفائق Aurora: "تتميز الحوسبة الفائقة Aurora بأداء رائد في أحمال العمل العلمية والهندسية ، وأداء ضعف أداء وحدة معالجة الرسومات AMD MI250 ، وتحسين تطبيقات ميكانيكا الكم QMCPACK مقارنة بـ H100". 20٪ و تحجيم خطي تقريبًا لمئات العقد ".
من الجدير بالذكر أنه بالمقارنة مع الهدف الأصلي لـ 1 Exaflop ، من المتوقع أنه عند إطلاق الكمبيوتر العملاق Aurora هذا العام ، سيوفر أداء حوسبة نقطية عائمة مزدوجة الدقة لأكثر من 2 Exaflop - أكثر من Frontier ، والتي احتلت المرتبة الأولى مرارًا وتكرارًا في قائمة Top500 العالمية للحوسبة الفائقة ، كما أن الحواسيب العملاقة (1.194 Exaflop / s) أعلى من ذلك.
** نموذج الذكاء الاصطناعي التوليدي المركّز على العلم **
مع الأساس القوي للحوسبة الفائقة Aurora ، من المقدر ألا يكون حجم نموذج Aurora genAI صغيرًا. وفقًا لمقدمة Intel الرسمية ، يقود مختبر Argonne National Laboratory تعاونًا دوليًا لنموذج Aurora genAI.
قال ريك ستيفنز ، نائب مدير المختبر في أرغون: "يهدف هذا المشروع إلى تسخير الإمكانات الكاملة للحاسوب الفائق Aurora لتوليد مورد يمكن استخدامه في علم المصب في مختبرات وزارة الطاقة وبالتعاون مع وكالات أخرى".
بشكل عام ، يعد Aurora genAI نموذجًا توليديًا للذكاء الاصطناعي يركز على العلم ، لذلك سيتم تدريبه على نص عام ورمز ونص علمي وبيانات علمية من علم الأحياء والكيمياء وعلوم المواد والفيزياء والطب ، إلخ.
يمكن استخدام نماذج الذكاء الاصطناعي الناتجة ، مع ما يصل إلى 1 تريليون معلمة ، بدءًا من تصميم الجزيئات والمواد إلى المعرفة المشتركة لملايين المصادر ، في مجموعة متنوعة من التطبيقات العلمية: بيولوجيا الأنظمة ، وأبحاث السرطان ، وعلوم المناخ ، وأبحاث علم الكونيات ، كيمياء البوليمر والمواد ، إلخ. إلى جانب العلم ، يمكن استخدام نماذج Aurora genAI في مجالات أخرى ، مثل النمذجة المالية ، ومعالجة اللغة الطبيعية ، والترجمة الآلية ، والتعرف على الصور ، والتعرف على الكلام ، من بين أمور أخرى.
** مخطط لإنجازه في عام 2024 **
بالإضافة إلى ذلك ، لم يتم إفساد المزيد من المعلومات حول طراز Aurora genAI حتى الآن ، ولكن وفقًا لتقارير وسائل الإعلام الأجنبية ، تخطط Intel لتطوير وإكمال نموذج Aurora genAI في عام 2024 - إذا سارت الأمور على ما يرام ، فربما لن ننتظر طويلاً.
جذب إصدار هذا الخبر انتباه العديد من الأشخاص ، وأعلن دخول إنتل في نموذج الذكاء الاصطناعي عن بدء تريليون معلمة ، مما يجعل الناس يتطلعون إلى التطوير المستقبلي للمنتجات المنافسة مثل GPT-4:
▶ "يجب أن تكون معلمة التريليون حدًا خاصًا ، ولكن يمكنك أيضًا أن تكون متشككًا وتقول إنه مجرد رقم صحيح ضخم يجب الاهتمام به. لا شك في أنه إذا كان هذا النموذج مشابهًا لـ GPT-4 ، فسيؤدي ذلك إلى إضافة نقطة بيانات . ولكن مع إعلان الشركات عن ذلك والإعلان عن ذلك ، أتساءل عما إذا كنا سنبلغ ذروتها في يونيو ".
▶ "يقوم الأشخاص ببناء أنظمة جديدة باستخدام H100 ، وهناك بالفعل وحدات معالجة رسومات AI أفضل بكثير ، وإذا استمر ذلك ، فقد تحتاج NVIDIA إلى الإعلان عن بطاقة جديدة في وقت أقرب للبقاء في المقدمة."
▶ "أعتقد أن GPT-4 لن يستمر في الحفاظ على SOTA (يشير إلى أفضل طريقة أو نموذج في مهمة محددة) في العديد من الاختبارات المعيارية قريبًا ، وربما سيكون كذلك في العالم في المستقبل. أسرع كمبيوتر فائق للتدريب. كمرجع ، يحتوي كمبيوتر OpenAI العملاق على حوالي 10000 وحدة معالجة رسومات ، بينما يحتوي Aurora على 63744 وحدة معالجة رسومات. "
ارتباط مرجعي:
شاهد النسخة الأصلية
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
5 مرات أكبر من ChatGPT! أعلنت إنتل رسميًا عن نموذج كبير للذكاء الاصطناعي بحجم 1 تريليون متغير ، ومن المقرر أن يكتمل في عام 2024
تنظيم | Zheng Liyuan
القائمة | CSDN (المعرف: CSDNnews)
بالنظر إلى استمرار ChatGPT في الانفجار لعدة أشهر ، دخلت خلالها عمالقة التكنولوجيا مثل Microsoft و Google و Meta إلى اللعبة واحدًا تلو الآخر ، فقد أعلنت شركة Intel أخيرًا عن "منافستها" رسميًا.
خلال عطلة نهاية الأسبوع ، في المؤتمر الدولي للحوسبة الفائقة (ISC) عالي الأداء (HPC) في هامبورغ ، ألمانيا ، لم تظهر إنتل ريادتها في أعباء عمل HPC و AI فحسب ، بل أعلنت أيضًا عن خطة مفاجئة: تعاونت Tribute National Laboratory على تطوير نموذج الذكاء الاصطناعي التوليدي Aurora genAI مع الكمبيوتر الفائق Aurora ، وسيصل عدد المعلمات إلى 1 تريليون!
اعلم أن حجم معلمة ChatGPT يبلغ 175 مليار فقط ، أي أن نموذج Aurora genAI سيكون أكبر 5 مرات منه على الأقل.
** سيتم تشغيل طراز AI بواسطة حوسبة Aurora الفائقة **
من المفهوم أن نموذج Intel Aurora genAI سيعتمد على إطارين: ميجاترون من NVIDIA و Microsoft DeepSpeed.
▶ ميجاترون: بنية للتدريب الموزع لنماذج لغوية واسعة النطاق ، مُحسَّنة خصيصًا لـ Transformer ، لا تدعم فقط توازي البيانات في التدريب الموزع التقليدي ، ولكنها تدعم أيضًا نموذج التوازي.
▶ DeepSpeed: ركز على تحسين تدريب نماذج التعلم العميق على نطاق واسع.من خلال تحسين المقياس والسرعة والتكلفة والتوافر ، فإنه يطلق القدرة على تدريب 100 مليار نموذج متغير ويعزز بشكل كبير تدريب النماذج واسعة النطاق.
بالإضافة إلى هذين الإطارين ، سيتم تشغيل نموذج Aurora genAI أيضًا بواسطة الكمبيوتر الفائق Aurora - وهو الكمبيوتر العملاق Intel المصمم لمختبر Argonne الوطني ، والذي تم تشكيله أخيرًا بعد تأخيرات مختلفة.
وفقًا للمعلومات العامة الحالية ، يتم تشغيل الكمبيوتر الفائق Aurora بواسطة شرائح Intel Xeon CPU Max و Xeon GPU Max ، بإجمالي 10،624 عقدة ، و 63،744 وحدة معالجة رسومات Ponte Vecchio ، و 21،248 Sapphire Rapids Xeon CPUs ، و 1،024 موزعًا غير متزامن لتخزين الكائنات (DAOS) ) عُقد التخزين و 10.9 بيتابايت من ذاكرة DDR5 Optane الثابتة.
من الجدير بالذكر أنه بالمقارنة مع الهدف الأصلي لـ 1 Exaflop ، من المتوقع أنه عند إطلاق الكمبيوتر العملاق Aurora هذا العام ، سيوفر أداء حوسبة نقطية عائمة مزدوجة الدقة لأكثر من 2 Exaflop - أكثر من Frontier ، والتي احتلت المرتبة الأولى مرارًا وتكرارًا في قائمة Top500 العالمية للحوسبة الفائقة ، كما أن الحواسيب العملاقة (1.194 Exaflop / s) أعلى من ذلك.
** نموذج الذكاء الاصطناعي التوليدي المركّز على العلم **
مع الأساس القوي للحوسبة الفائقة Aurora ، من المقدر ألا يكون حجم نموذج Aurora genAI صغيرًا. وفقًا لمقدمة Intel الرسمية ، يقود مختبر Argonne National Laboratory تعاونًا دوليًا لنموذج Aurora genAI.
قال ريك ستيفنز ، نائب مدير المختبر في أرغون: "يهدف هذا المشروع إلى تسخير الإمكانات الكاملة للحاسوب الفائق Aurora لتوليد مورد يمكن استخدامه في علم المصب في مختبرات وزارة الطاقة وبالتعاون مع وكالات أخرى".
بشكل عام ، يعد Aurora genAI نموذجًا توليديًا للذكاء الاصطناعي يركز على العلم ، لذلك سيتم تدريبه على نص عام ورمز ونص علمي وبيانات علمية من علم الأحياء والكيمياء وعلوم المواد والفيزياء والطب ، إلخ.
يمكن استخدام نماذج الذكاء الاصطناعي الناتجة ، مع ما يصل إلى 1 تريليون معلمة ، بدءًا من تصميم الجزيئات والمواد إلى المعرفة المشتركة لملايين المصادر ، في مجموعة متنوعة من التطبيقات العلمية: بيولوجيا الأنظمة ، وأبحاث السرطان ، وعلوم المناخ ، وأبحاث علم الكونيات ، كيمياء البوليمر والمواد ، إلخ. إلى جانب العلم ، يمكن استخدام نماذج Aurora genAI في مجالات أخرى ، مثل النمذجة المالية ، ومعالجة اللغة الطبيعية ، والترجمة الآلية ، والتعرف على الصور ، والتعرف على الكلام ، من بين أمور أخرى.
** مخطط لإنجازه في عام 2024 **
بالإضافة إلى ذلك ، لم يتم إفساد المزيد من المعلومات حول طراز Aurora genAI حتى الآن ، ولكن وفقًا لتقارير وسائل الإعلام الأجنبية ، تخطط Intel لتطوير وإكمال نموذج Aurora genAI في عام 2024 - إذا سارت الأمور على ما يرام ، فربما لن ننتظر طويلاً.
جذب إصدار هذا الخبر انتباه العديد من الأشخاص ، وأعلن دخول إنتل في نموذج الذكاء الاصطناعي عن بدء تريليون معلمة ، مما يجعل الناس يتطلعون إلى التطوير المستقبلي للمنتجات المنافسة مثل GPT-4:
▶ "يجب أن تكون معلمة التريليون حدًا خاصًا ، ولكن يمكنك أيضًا أن تكون متشككًا وتقول إنه مجرد رقم صحيح ضخم يجب الاهتمام به. لا شك في أنه إذا كان هذا النموذج مشابهًا لـ GPT-4 ، فسيؤدي ذلك إلى إضافة نقطة بيانات . ولكن مع إعلان الشركات عن ذلك والإعلان عن ذلك ، أتساءل عما إذا كنا سنبلغ ذروتها في يونيو ".
▶ "يقوم الأشخاص ببناء أنظمة جديدة باستخدام H100 ، وهناك بالفعل وحدات معالجة رسومات AI أفضل بكثير ، وإذا استمر ذلك ، فقد تحتاج NVIDIA إلى الإعلان عن بطاقة جديدة في وقت أقرب للبقاء في المقدمة."
▶ "أعتقد أن GPT-4 لن يستمر في الحفاظ على SOTA (يشير إلى أفضل طريقة أو نموذج في مهمة محددة) في العديد من الاختبارات المعيارية قريبًا ، وربما سيكون كذلك في العالم في المستقبل. أسرع كمبيوتر فائق للتدريب. كمرجع ، يحتوي كمبيوتر OpenAI العملاق على حوالي 10000 وحدة معالجة رسومات ، بينما يحتوي Aurora على 63744 وحدة معالجة رسومات. "
ارتباط مرجعي: