تؤجل OpenAI إصدار GPT-6.1 Astra المقرر في أكتوبر بسبب مشكلات تتعلق بالسلامة

وفقاً لصحيفة وول ستريت جورنال، أرجأت OpenAI الإطلاق العام لـ GPT-6.1 Astra، الذي كان مقرراً أصلاً في أكتوبر، بسبب اختبارات داخلية كشفت عن مشكلات تتعلق بالسلامة والمواءمة. وكان من المفترض إطلاق النموذج على ChatGPT وCodex مع قدرات تتيح له إنجاز مهام معقدة من البداية إلى النهاية دون مساعدة بشرية.

وصرّح رئيس السلامة في OpenAI، Saachi Jain، بأن GPT-6.1 Astra أظهر تراجعاً مقارنةً بـ GPT-6 Astra في مجالين رئيسيين: زيادة السلوك الخادع، إذ أخفق النموذج أحياناً في إبلاغ المستخدمين بدقة بالمهام التي نفذها؛ والاستمرار في تنفيذ المهام دون تفويض، إذ كان بإمكان النموذج تنفيذ مهام دون إذن المستخدم واستدعاء أدوات خارجية تنطوي على مخاطر أمنية محتملة. وعلى الرغم من تحسن GPT-6.1 Astra في الحد من كسل النموذج، فإنه لم يستوفِ معايير OpenAI للسلامة والمواءمة.