مؤخرًا، كنت أستكشف Grok بعمق ولاحظت شيئًا مثيرًا حول كيفية توسع البنية التحتية. قام مزود رئيسي لاستنتاجات الذكاء الاصطناعي بتفعيل مجموعة Colossus 2—تعمل بطاقة 1 جيجاوات. هذا حقًا مثير للإعجاب. كثافة الطاقة التي يديرونها على هذا المقياس تنافس الشبكات الصغيرة. لأي شخص يتابع اتجاهات نشر نماذج اللغة الكبيرة، فإن هذا النوع من بناء البنية التحتية مهم. إنه يشير إلى تصاعد سباق الحوسبة. القدرة على الحفاظ على 1 جيجاوات من الطاقة المستمرة لأعباء عمل الذكاء الاصطناعي ليست مهمة سهلة؛ فهي تتطلب تحسينات جادة عبر التبريد، الشبكات، وتوزيع الطاقة. إذا كنت تراقب كيف تتعامل منصات الذكاء الاصطناعي مع الحمل المستخدمين المتزامن، فهذا هو النوع من العمود الفقري الذي يمكّن ذلك. من الجدير مراقبته مع استمرار تسارع طلبات الاستنتاج.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 14
أعجبني
14
5
إعادة النشر
مشاركة
تعليق
0/400
Whale_Whisperer
· منذ 4 س
1gw تشغيل هذا الشيء حقًا مذهل، كيف تم تصميم حل تبديد الحرارة؟
---
القياس في colossus 2 فعلاً مبالغ فيه، المنافسة على القدرة الحاسوبية أصبحت تتجه مباشرة إلى البنية التحتية
---
انتظر، تكلفة الاستدلال المستمر بقوة 1gw ستكون مرعبة جدًا...
---
سباق التسلح في البنية التحتية قد بدأ بالفعل، المشاريع الصغيرة حقًا لا يمكنها المنافسة
---
هذه هي الحصن الحقيقي، لا تنظر إلى تعديل النماذج، البنية التحتية هي الحصن المنيع
تشغيل 1 جيجاوات من Colossus 2 حقًا مذهل، هكذا يجب أن يكون سباق التسلح في الذكاء الاصطناعي
شاهد النسخة الأصليةرد0
wagmi_eventually
· منذ 4 س
1GW تشغيل Colossus 2؟ هل حقًا أصبح سباق القدرة الحاسوبية هذا مثيرًا جدًا
---
فيما يخص البنية التحتية، ببساطة هو سباق تسلح رأس مال
---
المستثمرون الأفراد لا يستطيعون مجاراة هذا الوتيرة، فقط يمكنهم مشاهدة المؤسسات الكبرى تجمع القدرة الحاسوبية
---
التبريد وتوزيع الطاقة هما فعلاً العقبة الحقيقية، وليس مجرد كلام
---
طلب الاستدلال يتزايد بشكل انفجاري، كيف يمكن للمصنعين الصغار البقاء على قيد الحياة
---
كم يكلف استهلاك الكهرباء لمدة سنة واحدة، هل أحد حسب ذلك
---
كان من المفترض أن نركز على هذا الجانب منذ زمن، فالبنية التحتية وراء شرائح الذكاء الاصطناعي هي الرهان الحقيقي
---
كم من الوقت يستغرق بناء مجموعة بهذا المستوى، سنة أم سنتان؟
---
قليلون هم من يستطيعون التعامل مع هذا الحجم من التوازي
شاهد النسخة الأصليةرد0
AltcoinTherapist
· منذ 4 س
1GW من Colossus 2، هذا هو حقًا سباق التسلح للبنية التحتية.
---
القدرة الحاسوبية تتفوق على كل شيء، التبريد هو الزعيم النهائي.
---
القدرة على التحكم في كثافة استهلاك الطاقة إلى هذا الحد... يمكن، لقد أظهرت الصناعة سقفها الحقيقي.
---
زيادة الطلب على الاستنتاجات بهذه الجنون، بدون هذه البنية التحتية الضخمة كانت ستنفجر منذ زمن.
---
تكلفة التشغيل المستمرة لاستهلاك الطاقة بقدرة 1GW تعتبر جنونية، لكن يبدو أنها لا تزال تستحق العناء.
---
البنية التحتية هي حقًا ساحة المعركة الخفية في سباق التسلح للذكاء الاصطناعي، لا أحد يناقشها لكنها الأهم.
---
نظام التبريد، توزيع الطاقة... الفجوات التقنية المختبئة في التفاصيل هي المخيفة حقًا.
---
الجميع يركز على قدرات LLM، لكن لا يدركون أن البنية التحتية مثل Colossus 2 هي الجوهر الحقيقي.
---
أنا متفائل بشأن مسار استنتاج الذكاء الاصطناعي، البنية التحتية تتقدم، والقصة لم تبدأ بعد.
مؤخرًا، كنت أستكشف Grok بعمق ولاحظت شيئًا مثيرًا حول كيفية توسع البنية التحتية. قام مزود رئيسي لاستنتاجات الذكاء الاصطناعي بتفعيل مجموعة Colossus 2—تعمل بطاقة 1 جيجاوات. هذا حقًا مثير للإعجاب. كثافة الطاقة التي يديرونها على هذا المقياس تنافس الشبكات الصغيرة. لأي شخص يتابع اتجاهات نشر نماذج اللغة الكبيرة، فإن هذا النوع من بناء البنية التحتية مهم. إنه يشير إلى تصاعد سباق الحوسبة. القدرة على الحفاظ على 1 جيجاوات من الطاقة المستمرة لأعباء عمل الذكاء الاصطناعي ليست مهمة سهلة؛ فهي تتطلب تحسينات جادة عبر التبريد، الشبكات، وتوزيع الطاقة. إذا كنت تراقب كيف تتعامل منصات الذكاء الاصطناعي مع الحمل المستخدمين المتزامن، فهذا هو النوع من العمود الفقري الذي يمكّن ذلك. من الجدير مراقبته مع استمرار تسارع طلبات الاستنتاج.