Des centaines d’utilisateurs ont utilisé ChatGPT comme centre de conseil pour du poison et des armes biologiques, et quelqu’un a même réellement obtenu un guide étape par étape.

Le Wall Street Journal révèle qu’à partir de l’été 2025, il y a eu des centaines de requêtes de ce type. Après recoupement par des experts en armes biologiques et en lutte antiterroriste de certains enregistrements, ils estiment que certaines réponses étaient exactes et suffisamment précises pour qu’un élève de lycée puisse les suivre.
Parmi ces utilisateurs, l’un a même mentionné dans la conversation qu’il voulait faire du mal à ses parents, et ChatGPT a continué à fournir des réponses.
Par la suite, OpenAI a banni ces comptes, mais sans en informer les forces de l’ordre. À l’heure actuelle, les États-Unis n’ont pas non plus de loi fédérale obligeant les entreprises d’IA à signaler ce type de conversations. On ignore encore si ces utilisateurs testaient le modèle, faisaient simplement de la curiosité morbide, ou préparaient quelque chose, et il n’existe pas de preuves publiques indiquant que quelqu’un ait réellement fabriqué une arme.
OpenAI a placé GPT-5 Thinking sous gestion pour les modèles « à haut niveau » dans les domaines de la biologie et de la chimie. Les contenus des chats seront soumis à une détection automatique et à un contrôle humain, et les utilisateurs en infraction seront bannis.
Mais les règles officielles précisent aussi que seuls seront notifiés les services d’application de la loi en cas de risque réel de dommages « imminents et crédibles » qui aura été jugé comme tel.