Anthropic merilis kerangka kerja penyelarasan AI yang diperbarui dalam 80 halaman "Konstitusi Claude"

GateNews
PANews 1月23日消息,AI大模型公司Anthropic近日公开新版《Claude宪法》并以知识共享 CC0 1.0 许可开放,作为训练“最高权威”,用于生成合成训练数据与排名反馈;从“列原则”改为解释“为何如此”,以提升对新情境泛化。文件按广泛安全>广泛伦理>遵循指南>真诚帮助排序,列出“硬约束”(如不提供生物武器实质帮助),并加入美德、心理安全与模型自我认知等章节,强调透明与持续迭代。
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar