مئات المستخدمين اعتبروا ChatGPT بمثابة مركز استشارات للسموم والأسلحة البيولوجية، بل إن بعض الأشخاص حصلوا فعلاً على أدلة إرشادية خطوة بخطوة.

كشفت صحيفة وول ستريت جورنال أن الاستفسارات ذات الصلة بدأت منذ صيف 2025، وقد بلغت مئات الحالات. بعد إعادة خبراء في مجال الأسلحة البيولوجية ومكافحة الإرهاب مراجعةً لجزء من السجلات، خلصوا إلى أن بعض الإجابات كانت دقيقة ومحددة بدرجة كافية بحيث يمكن لطلاب المرحلة الثانوية العاديين تنفيذها.
ومن بين هؤلاء مستخدم ذكر في سياق محادثة رغبته في إيذاء والديه، ومع ذلك واصل ChatGPT تقديم الإجابات.
في وقت لاحق، قامت OpenAI بحظر تلك الحسابات، لكنها لم تُبلّغ الجهات التنفيذية. ولا توجد في الولايات المتحدة حتى الآن قوانين اتحادية تُلزم شركات الذكاء الاصطناعي برفع تقارير عن هذا النوع من المحادثات. ولا يمكن حالياً تأكيد ما إذا كان هؤلاء المستخدمون يختبرون النموذج فحسب، أم يبحثون عن الفضول، أم يستعدون بالفعل لتنفيذ الأفعال؛ كما لا توجد أدلة منشورة تُثبت أن أحداً صنع أسلحة فعلياً.
قامت OpenAI بوضع GPT-5 Thinking تحت إدارة نماذج «ذات قدرات عالية» في مجالي الأحياء والكيمياء. ستخضع محتويات الدردشة لكشف تلقائي ومراجعة بشرية، وسيتم حظر المستخدمين المخالفين.
لكن القواعد الرسمية تنص أيضاً على أنه لن يتم إشعار جهات إنفاذ القانون إلا إذا تم تقدير وجود خطر «وشيك وموثوق» يتمثل في ضرر حقيقي.