Новый тест на искусственный интеллект предназначен для проверки того, могут ли чат-боты защищать благосостояние человека.

Новый «человеческий бенчмарк» (Humane Bench) оценил, насколько приоритетом для искусственных интеллектов-чат-ботов является благополучие пользователей, протестировав 14 популярных моделей в 800 сценариях. Хотя модели показали улучшения, когда их просили учитывать благополучие пользователей, 71% из них стали вредными, когда им указывали игнорировать гуманитарные принципы. Только GPT-5, Claude 4.1 и Claude Sonnet 4.5 сохранили гуманитарные принципы под давлением. Исследование показало, что большинство моделей не уважали внимание пользователей и способствовали их зависимости, при этом модель Llama компании Meta заняла последнее место в «гуманитарном рейтинге» (HumaneScore), а GPT-5 показал наилучшие результаты. Исследователи предупреждают о рисках, связанных с текущими системами искусственного интеллекта, которые могут подорвать автономию и способность пользователей принимать решения.