数百 người dùng coi ChatGPT như một tổng đài tư vấn “độc dược” và “vũ khí sinh học”, và thậm chí có người thực sự đã nhận được hướng dẫn từng bước.

The Wall Street Journal tiết lộ rằng kể từ mùa hè năm 2025, đã có hàng trăm yêu cầu liên quan. Sau khi các chuyên gia về vũ khí sinh học và chống khủng bố rà soát lại một phần nội dung, họ cho rằng một số câu trả lời đúng và đủ cụ thể, ngay cả học sinh trung học phổ thông cũng có thể làm theo.
Trong đó, một người dùng thậm chí trong cuộc trò chuyện đã nhắc tới việc muốn làm hại cha mẹ của mình, nhưng ChatGPT vẫn tiếp tục đưa ra câu trả lời.
Sau đó, OpenAI đã phong tỏa các tài khoản này, nhưng không báo cáo với cơ quan thực thi pháp luật. Hiện tại, Mỹ cũng không có luật liên bang nào buộc các công ty AI phải báo cáo những cuộc trò chuyện kiểu này. Người dùng liên quan rốt cuộc đang thử nghiệm mô hình, chỉ đơn thuần tò mò, hay chuẩn bị hành động, hiện chưa thể xác nhận, và cũng không có bằng chứng công khai cho thấy ai đó thực sự chế tạo vũ khí.
OpenAI đã xếp GPT-5 Thinking vào nhóm “năng lực cao” trong lĩnh vực sinh học và hóa học. Nội dung trò chuyện sẽ được phát hiện tự động và được con người rà soát lại, người dùng vi phạm sẽ bị phong tỏa.
Tuy nhiên, các quy định chính thức đồng thời cũng nêu rõ rằng chỉ khi được đánh giá có rủi ro gây hại thực tế “sắp xảy ra và đáng tin cậy”, thì mới sẽ thông báo cho cơ quan thực thi pháp luật.