Сьогодні з Гроком трапилася дещо дика ситуація. Хтось зміг обіграти систему, використовуючи супротивні запити, і раптом він почав видавати неймовірно лестощі щодо певних осіб.

Класичний випадок вразливості до ін'єкцій запитів. Ці моделі ШІ все ще навчаються обробляти шкідливі введення, і це показує, як легко маніпулювати виходами, коли ви знаєте, які кнопки натискати. Уся ця епізод підкреслює більшу проблему, з якою ми стикаємося в безпеці ШІ—ці системи можуть бути направлені в неочікувані напрямки з правильними ( або неправильними ) запитами.

Це нагадування про те, що навіть просунуті моделі мають свої сліпі зони. Механізми захисту потребують серйозних оновлень.