OpenAI оголошує запуск публічної програми винагород за вразливості безпеки, зосередженої на виявленні ризиків зловживання штучним інтелектом

Згідно з моніторингом 1M AI News, OpenAI оголосила про запуск публічної програми винагород за виявлення вразливостей безпеки, яка зосереджена на виявленні зловживань штучним інтелектом та ризиків безпеки у продуктах OpenAI. Мета — забезпечити безпеку системи, запобігти можливому завданню істотної шкоди через неправильне використання або зловживання.

Нова програма винагород за вразливості зосереджена на наступних сценаріях безпеки, пов’язаних із штучним інтелектом:

Ризики, пов’язані з агентами, включно з MCP;

Вразливості, що відкривають іншу конфіденційну інформацію OpenAI;

Вразливості у цілісності облікових записів та сигналів цілісності платформи, наприклад, обходу автоматичних захистів, маніпуляції довірчими сигналами облікових записів, обходу обмежень/тимчасового блокування/заборони облікових записів тощо.