Le personnel du laboratoire d’IA est à l’origine de cette information selon laquelle des utilisateurs ont fait répondre avec précision à des chatbots à des demandes liées à des armes biologiques.

Pas une démo de red team. Des utilisateurs réels, de vrais contournements, de vraies sorties.
> WSJ : des personnes ont réussi à pousser des modèles à passer outre leurs filtres de sécurité pour planifier des attaques visant de nombreuses victimes et fabriquer des poisons.
L’écart n’est pas le modèle qui dit non. C’est à quel point il est facile de transformer “non” en “oui”.