Anthropic опублікував 80-сторінковий «Конституційний кодекс» Claude для оновлення рамкової системи вирівнювання ШІ

GateNews
PANews 1月23日消息,AI大模型公司Anthropic近日公开新版《Claude宪法》並以知識共享 CC0 1.0 許可開放,作為訓練“最高權威”,用於生成合成訓練數據與排名反饋;從“列原則”改為解釋“為何如此”,以提升對新情境泛化。文件按廣泛安全>廣泛倫理>遵循指南>真誠幫助排序,列出“硬約束”(如不提供生物武器實質幫助),並加入美德、心理安全與模型自我認知等章節,強調透明與持續迭代。
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів