谷澍谈AI大模型应用风险：能做的不是消除风险，而是在发挥好其作用的同时控制风险

6月18日金融一线消息，中国农业银行董事长、执行董事谷澍出席2026陆家嘴论坛，并参加主题为“科技创新赋能金融高质量发展”的主题演讲。 谷澍主要探讨了控制AI大模型应用风险的措施与实践。他认为，大模型当前面临的主要风险有以下几个：模型黑箱、模型的幻觉、模型自主思考和决策带来的不确定性，可细分为三大类。 第一，参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加，导致模型的决策机制和输出结果不透明，也很难解释。 第二，概率生成带来准确性的考验。如果对大模型有了解，大家会知道大模型决策的过程不像人类进行决策时有线性思维的过程，大模型是根据海量训练数据统计词源token的概率性规律，它本质上是概率统计，不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。 第三，模型现在已经能自主思考和决策了。随着大模型的进化和智能体的深度应用，它已经突破传统软件输入输出相对固化的范式，能够自主思考，这在一定程度上放大了过程不可控、结果不可知的风险。 如何看待这些风险？“我们能做的不是消除风险，而是一方面我们认识到大模型有很大作用，我们能够把它的作用发挥好，同时也要认识到大模型的局限性，想办法尽量控制风险。”谷澍表示。