أحبطت OpenAI حملةً مرتبطةً بـ Moonshot AI لاستخراج الاستدلال الخفي للنموذج.

أوقفت OpenAI حملة منسقة لاستخراج الاستدلال الخفي من نماذج الذكاء الاصطناعي التابعة لها، وعزت مجموعة أساسية من هذا النشاط إلى أفراد مرتبطين بـ Moonshot AI، الشركة الناشئة الصينية التي تقف وراء روبوت المحادثة Kimi. بدأت الحملة في 1 يوليو، وسجّلت وحدها في 24 و25 يوليو 16,000 طلب استخراج من أكثر من 4,000 مستخدم، ضمن مجموعة أوسع تضم أكثر من 15,000 مستخدم، قبل أن تعطلها OpenAI بالكامل بحلول 28 يوليو. تلاعب المشغّلون بتفاعلات النماذج لإعادة إنتاج الاستدلال المحمي في صيغ مرئية، مستهدفين العمل الداخلي الذي تنشئه نماذج OpenAI خطوة بخطوة قبل تقديم الإجابات. وتقول OpenAI إن طريقة الاستخراج هذه قد تتيح تدريب نموذج آخر من دون وسائل الحماية الأصلية، وهي ممارسة تسميها التقطير العدائي. ويضيف الحادث إلى المخاوف المتزايدة بشأن استخراج نماذج الذكاء الاصطناعي من دون تصريح، بعد اتهامات مماثلة وجهتها Anthropic إلى مختبرات صينية في فبراير، وبيانات صادرة عن البيت الأبيض في أبريل بشأن حملات تقطير على نطاق صناعي مصدرها الأساسي الصين.

OpenAI تحدد طريقة استخراج تستهدف الاستدلال الخفي للنماذج

لم يكن هدف حملة الاستخراج هو الإجابات النهائية التي تقدمها نماذج الذكاء الاصطناعي التابعة لـ OpenAI، بل عملية الاستدلال الخفية التي تولّد تلك الإجابات. تعمل نماذج الذكاء الاصطناعي الحديثة على حل المشكلات خطوة بخطوة في مسودة داخلية قبل عرض نتيجة واضحة، وتحتفظ OpenAI بهذه المسودة مشفّرة. ووفقاً لـ OpenAI، يمكن أن يكشف استخراج هذا الاستدلال الخفي معلومات لا تتضمنها الإجابة النهائية.

وقالت OpenAI: "لم يخترق المشغّلون تشفيرنا، أو يخترقوا قاعدة بيانات، أو يحصلوا على وصول مباشر إلى محادثات المستخدمين المخزنة. بل تلاعبوا بتفاعلات النماذج بحيث أمكن إعادة إنتاج الاستدلال المحمي في صيغ مرئية لمقدّم الطلب، بطريقة منسقة وعلى نطاق واسع، بما ينتهك شروط الخدمة لدينا."

وتضمنت إحدى الطرق التي جرى تحديدها نسخ الاستدلال المشفّر من محادثة وطلب فك تشفيره من نموذج في محادثة أخرى. وقد أغلقت OpenAI منذ ذلك الحين المسار الذي كان يتيح لشخص يمتلك بالفعل الاستدلال المشفّر لمستخدم آخر إعادة تشغيله واستعادة محتواه.

OpenAI تعزو النشاط الأساسي إلى أفراد مرتبطين بـ Moonshot AI

ذكرت OpenAI أنه ليس واضحاً ما إذا كان جميع المشغّلين الذين جرت ملاحظتهم خلال الفترة المعنية ينتمون إلى جهة واحدة. إلا أن الشركة عزت مجموعة أساسية من النشاط إلى أفراد مرتبطين بـ Moonshot AI، مطوّر Kimi.

ولم ترد Moonshot AI على منشور OpenAI. وتخطط الشركة الناشئة الصينية لطرح أولي عام بقيمة 3 مليارات دولار في هونغ كونغ، عند تقييم يبلغ 50 مليار دولار.

استخراج الاستدلال الخفي يتيح تدريب النماذج من دون تصريح

تكمن أهمية استخراج الاستدلال الخفي في أن التقطير — أي تدريب ذكاء اصطناعي جديد على مخرجات نموذج أقوى — يؤدي إلى نتائج أفضل من النماذج الأصغر من دون تدريب مكثف. وعندما يُجرى من دون تصريح، تسميه OpenAI التقطير العدائي: "الاستخدام المنهجي وغير المصرح به لمخرجات نموذج أو استدلاله للمساعدة في تدريب نموذج آخر أو إعادة إنتاجه أو تحسينه."

ورغم أن مخرجات الذكاء الاصطناعي لا تخضع لحقوق الطبع والنشر، تدرج الشركات حظراً ووسائل حماية في شروط الخدمة لديها لمنع المنافسين من استخدام تلك المخرجات. وتقول OpenAI إن الاستدلال المستخرج قد يُستخدم لتدريب نموذج آخر من دون وسائل الحماية الأصلية.

قطاع الذكاء الاصطناعي يواجه جدالات متكررة بشأن التقطير

وجهت OpenAI اتهامات مماثلة من قبل. ففي يناير 2025، قالت إنها تراجع مؤشرات على احتمال قيام DeepSeek بتقطير نماذجها، في وقت كانت فيه واشنطن تقيّم مخاطر الأمن القومي. وفي فبراير، اتهمت Anthropic مختبرات صينية باستخدام نحو 24,000 حساب احتيالي لإنشاء أكثر من 16 مليون تبادل مع Claude.

وبحلول أبريل، كان البيت الأبيض يقول إن جهات أجنبية، معظمها في الصين، تدير حملات تقطير على نطاق صناعي. وبعد أسبوع، أقر إيلون ماسك أمام المحكمة بأن xAI استخدمت التقطير على نماذج OpenAI لتدريب Grok. وفي يونيو، نقلت Anthropic المعركة إلى الكونغرس، مطالبة بفرض عقوبات على استخراج النماذج على نطاق واسع.

وفي أغسطس، أظهر باحثون أن OpenAI وAnthropic وGoogle تحمي كل منها الاستدلال بمفتاح تشفير واحد على مستوى مزوّد الخدمة، وأن المهاجمين يمكنهم دفع النماذج إلى إخراج الأفكار الخفية في نص واضح. ونشرت الشركات الثلاث تصحيحات على جانب الخادم بعد الكشف عن الأمر، رغم أن سجلات الجلسات التي جرت مشاركتها في وقت سابق لا تزال قابلة لفك التشفير.

الأسئلة الشائعة

بماذا اتهمت OpenAI الأفراد المرتبطين بـ Moonshot AI؟

اتهمت OpenAI أفراداً مرتبطين بـ Moonshot AI بشن حملة منسقة لاستخراج الاستدلال الخفي من نماذج الذكاء الاصطناعي التابعة لـ OpenAI. بدأت الحملة في 1 يوليو، وتضمنت 16,000 طلب استخراج من أكثر من 4,000 مستخدم في 24 و25 يوليو وحدهما، ضمن مجموعة تضم أكثر من 15,000 مستخدم، قبل أن تعطلها OpenAI بحلول 28 يوليو. وتلاعب المشغّلون بتفاعلات النماذج لإعادة إنتاج الاستدلال المحمي في صيغ مرئية تنتهك شروط الخدمة لدى OpenAI.

لماذا يهم استخراج الاستدلال الخفي للذكاء الاصطناعي؟

تكمن أهمية استخراج الاستدلال الخفي في إمكانية استخدامه للتقطير — أي تدريب نموذج ذكاء اصطناعي جديد على مخرجات نموذج أقوى. وتقول OpenAI إن هذا الاستخراج غير المصرح به، الذي تسميه التقطير العدائي، قد يتيح تدريب نموذج آخر من دون وسائل الحماية الأصلية. ويكشف الاستدلال الخفي العمل الذي تنشئه نماذج الذكاء الاصطناعي خطوة بخطوة قبل تقديم الإجابات، وقد يتضمن معلومات لا تذكرها الإجابة النهائية.

كيف استجابت OpenAI لحملة الاستخراج؟

عطلت OpenAI نشاط الاستخراج بالكامل بحلول 28 يوليو. وأغلقت الشركة مساراً كان يتيح لشخص يمتلك بالفعل الاستدلال المشفّر لمستخدم آخر إعادة تشغيله واستعادة محتواه. وذكرت OpenAI أن المشغّلين لم يخترقوا التشفير أو قواعد البيانات، بل تلاعبوا بتفاعلات النماذج بطريقة منسقة تنتهك شروط الخدمة.