Coinbase: خفضت الإنفاق على الذكاء الاصطناعي بنحو 50%، وتحاول اعتماد نموذج الأوزان المفتوحة افتراضيًا.

robot
إنشاء الملخص قيد التقدم
أخبار من 深潮 TechFlow، في 27 يونيو، نشر الرئيس التنفيذي لـ Coinbase، Brian Armstrong، مقالاً يقدم أحدث التطورات في تحسين تكاليف الذكاء الاصطناعي لدى الشركة.
وقال أرمسترونغ إنه مع استمرار زيادة استخدام الذكاء الاصطناعي واستهلاك الرموز (Token)، فإن مفتاح التحكم في التكاليف ليس تقييد استخدام الموظفين أو إرسال تذكيرات الميزانية بشكل متكرر، بل تحسين اختيار النماذج الافتراضية وآليات توجيه المهام واستراتيجيات التخزين المؤقت.
وكشف أن Coinbase تحاول من خلال بوابة LLM الداخلية استخدام نماذج الوزن المفتوح مثل GLM 5.2 وKimi 2.7 كخيارات افتراضية، مع السماح للمهندسين باختيار نماذج أخرى حسب احتياجات المهام المحددة. وأظهرت البيانات أن 91% من موظفي الشركة لم يصلوا أبدًا إلى الحد الأقصى لاستخدام الذكاء الاصطناعي، لذلك لم تختر Coinbase تشديد الحصص، بل قامت بتحسين الكفاءة الإجمالية من خلال حلول نماذج أقل تكلفة.
فيما يتعلق بتوجيه النماذج، تقوم Coinbase بمعالجة مسبقة للنصوص التحفيزية (prompts)، وتقوم تلقائيًا بتعيين المهام للنموذج الأنسب بناءً على معدل إصابة التخزين المؤقت وتسعير النماذج المختلفة. ويرى أرمسترونغ أن المهام المعقدة مثل التخطيط والاستدلال قد تحتاج إلى دعم من النماذج المتطورة، لكن المهام التنفيذية لا تحتاج بالضرورة إلى استدعاء نماذج أكثر تكلفة. في المستقبل، يجب أن تكون عملية اختيار النموذج آلية بشكل أكبر بواسطة الذكاء الاصطناعي بدلاً من الاعتماد على القرارات البشرية.
بالإضافة إلى ذلك، أشار إلى أن معدل إصابة التخزين المؤقت هو أحد العوامل المهمة التي تؤثر على تكاليف الذكاء الاصطناعي. لقد قامت Coinbase بإدماج آلية مراعاة التخزين المؤقت في عملية الطلب لزيادة معدل إعادة استخدام النتائج التاريخية. على سبيل المثال، في LibreChat، بعد تحسين إستراتيجية التخزين المؤقت، ارتفع معدل إصابة التخزين المؤقت من 5% إلى 60%.
وقال أرمسترونغ أيضًا إن الشركة تطلب من المهندسين الحفاظ على السياق موجزًا قدر الإمكان، بما في ذلك بدء جلسة جديدة عند التبديل بين المهام، وتقليل نطاق سياق الملف، وإغلاق الأدوات غير المستخدمة، لتقليل استهلاك الرموز غير الضروري.
وبحسب ما كشف عنه، فقد نجحت Coinbase من خلال هذه الإجراءات في خفض إنفاقها على الذكاء الاصطناعي بنحو 50%، مع استمرار استهلاك الرموز في النمو.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت