【大河财立方 记者 杨萨】2026年6月17日至18日，2026陆家嘴论坛在上海举行。在“科技创新赋能金融高质量发展”主题论坛上，中国农业银行董事长、执行董事谷澍分享了控制AI大模型应用风险的做法和实践。
谷澍表示，金融业在应用大模型过程中，主要面临风险模型黑箱、模型的幻觉、模型自主思考和决策带来的不确定性。
首先，参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别，海量参数的矩阵运算和生成非线性叠加，导致模型的决策机制和输出结果不透明，也很难解释。
其次，概率生成带来准确性的考验。大模型决策的过程不像人类进行决策时有线性思维的过程，大模型是根据海量训练数据统计词元token的概率性规律，它本质上是概率统计，不是逻辑性的事实推导。当数据和事实依据不足时，容易产生自洽的幻觉。
随着大模型的进化和智能体的深度应用，一定程度上放大了过程不可控、结果不可知的风险。
“我们能做的不是消除风险，而是想办法尽量控制风险。”谷澍结合具体实践从四个方面总结了应对之策。
一是分类施策推进场景适配。对不同场景建立模型黑箱的分级管控机制。信贷决策属于强监管场景，使用模型蒸馏技术将大模型能力迁移至小模型；投研分析属于高认知场景，强化思维链设计；产品营销场景则更灵活，充分发挥模型创造力。
二是设置标尺约束。针对幻觉和自由发挥问题，建立业务标尺和参数控制。以AI赋能信贷调查报告生成为例，通过模型互检、反思及业务数据校准进行自动校验，最终由业务人员审核把关。
三是以AI手段应对AI风险，以AI对抗AI，建立纵深防御体系，增强AI对抗能力。
四是强化银行内部AI治理体系，健全覆盖全生命周期、风险与创新并重的治理机制。
“对大模型的应用，特别是现在随着智能体范式的推广，对工具接口的调用，大模型的应用风险是在扩大的。对于银行而言，既要把大模型用好，也要把大模型应用过程中的风险防好。”谷澍表示。
针对当前热门的智能体（Agent）应用，谷澍表示，目前行业对智能体的定义和规范尚未统一，各家银行披露的智能体数量从几百个到上万个不等，差异巨大。
“最终使用几百个还是几万个智能体并不是最重要的，关键还是要看实际的业务结果。”谷澍建议，行业应加快规范标准建设，帮助各机构找准定位、取长补短。同时，将功能单一、业务流程固定的智能体做成“标准件”，避免重复开发，实现反复调用，从而将更多精力聚焦于具备自主规划和决策能力的高价值智能体研发。
责编:刘安琪 | 审校:张翼鹏 | 审核:李震 | 监审:古筝
宏赢策略提示：文章来自网络，不代表本站观点。
