2026-06-18 05:22:14
中国农业银行董事长在 6 月 18 日概述了 AI 大型语言模型的三类主要风险
据中国农业银行董事长谷树所称,在 6 月 18 日举行的陆家嘴论坛上,他表示,人工智能大型语言模型在实际应用中面临三类主要风险。第一类风险源自庞大的参数规模,这会降低模型可解释性——当参数达到万亿级别时,非线性矩阵运算会构建出难以解释的隐蔽决策机制。第二类风险涉及概率性生成,从而损害准确性;模型不再进行线性推理,而是基于从训练数据中得出的统计概率模式生成输出,当证据不足时,模型很容易产生自洽的幻觉。第三类风险来自自主推理与决策能力,它能够绕过传统软件约束,从而放大流程的不确定性并提高结果的不可预测性。