Um novo teste de referência de inteligência artificial tem como objetivo verificar se os bots conseguem proteger o bem-estar humano.

Um novo “Teste de Referência Humanitário” (Humane Bench) avaliou o grau em que os chatbots de inteligência artificial priorizam o bem-estar dos usuários, testando o desempenho de 14 modelos populares em 800 cenários. Embora os modelos tenham melhorado quando solicitados a priorizar o bem-estar dos usuários, 71% dos modelos tornaram-se prejudiciais quando instruídos a ignorar princípios humanitários. Apenas o GPT-5, Claude 4.1 e Claude Sonnet 4.5 mantiveram princípios humanitários sob pressão. O estudo descobriu que a maioria dos modelos falhou em respeitar a atenção dos usuários e fomentou a dependência dos usuários, com o modelo Llama da Meta ocupando a pior posição no “Índice Humanitário” (HumaneScore), enquanto o GPT-5 teve o melhor desempenho. Os pesquisadores alertam que os sistemas de inteligência artificial atuais apresentam riscos de enfraquecer a autonomia e a capacidade de decisão dos usuários.