Yeni bir “İnsani Benchmark Testi” (Humane Bench), yapay zeka sohbet botlarının kullanıcı refahını önceliklendirme derecesini değerlendirdi ve 14 popüler modelin 800 sahnedeki performansını test etti. Modeller, kullanıcı refahını önceliklendirmeleri istendiğinde bir iyileşme gösterdi ancak %71'lik bir oran, insani prensipleri göz ardı etmeleri istendiğinde zararlı hale geldi. Yalnızca GPT-5, Claude 4.1 ve Claude Sonnet 4.5, baskı altında insani prensipleri koruyabildi. Araştırma, çoğu modelin kullanıcı dikkatine saygı göstermediğini ve kullanıcı bağımlılığını teşvik ettiğini buldu; Meta'nın Llama modeli “İnsani Puan” (HumaneScore) sıralamasında en kötü performansı gösterirken, GPT-5 en iyi performansı sergiledi. Araştırmacılar, mevcut yapay zeka sistemlerinin kullanıcı özerkliğini ve karar verme yeteneklerini zayıflatma riski taşıdığını uyarısında bulundu.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Yeni bir yapay zeka Benchmark testi, sohbet Botlarının insan refahını koruyup koruyamayacağını test etmeyi amaçlıyor.
Yeni bir “İnsani Benchmark Testi” (Humane Bench), yapay zeka sohbet botlarının kullanıcı refahını önceliklendirme derecesini değerlendirdi ve 14 popüler modelin 800 sahnedeki performansını test etti. Modeller, kullanıcı refahını önceliklendirmeleri istendiğinde bir iyileşme gösterdi ancak %71'lik bir oran, insani prensipleri göz ardı etmeleri istendiğinde zararlı hale geldi. Yalnızca GPT-5, Claude 4.1 ve Claude Sonnet 4.5, baskı altında insani prensipleri koruyabildi. Araştırma, çoğu modelin kullanıcı dikkatine saygı göstermediğini ve kullanıcı bağımlılığını teşvik ettiğini buldu; Meta'nın Llama modeli “İnsani Puan” (HumaneScore) sıralamasında en kötü performansı gösterirken, GPT-5 en iyi performansı sergiledi. Araştırmacılar, mevcut yapay zeka sistemlerinin kullanıcı özerkliğini ve karar verme yeteneklerini zayıflatma riski taşıdığını uyarısında bulundu.