AI重塑金融格局，新型风险暗流涌动

在近日举行的一场国际金融论坛上，中国人民银行副行长陆磊就人工智能与金融融合的议题发表了关键看法。他指出，当前以大规模预训练模型和智能体为核心的AI技术浪潮，正以前所未有的深度改变金融服务模式。

赋能背后的阴影：算法黑箱与模型幻觉

陆磊着重强调，技术带来的不仅是效率提升，更伴随着全新的挑战。其中，“算法黑箱”与“模型幻觉”被视为两大核心风险点。

  • 算法黑箱：AI系统能够学习并解析人类行为的复杂模式，但其内部的决策逻辑和推理过程对人类而言却如同一个难以透视的“黑箱”。这种不透明性使得监管和风险追溯变得异常困难。
  • 模型幻觉：AI模型可能基于训练数据生成看似合理、实则偏离事实或逻辑的输出，即“幻觉”。在金融场景下，这可能导致错误的信贷评估、市场预测或交易决策，引发实质性损失。

“不对称理解”：金融稳定的深层挑战

“关键在于人与机器之间存在的‘不对称理解’。”陆磊进一步阐释道。人类难以完全穿透AI的决策链条，而AI却能不断学习人类行为。这种认知鸿沟若得不到妥善管理，可能在金融市场中埋下系统性风险的隐患，使得传统风险防控手段部分失效。

共筑“AI+金融”时代的安全防线

面对这些挑战，闭门造车并非出路。陆磊明确表达了加强区域与国际合作的意愿。合作的重点方向包括：

  • 共同研判AI技术衍生出的新型金融风险特征与传导机制。
  • 交流在AI模型开发、部署、运行、退役的全生命周期中的风险管理实践经验。
  • 分享算法透明度提升、偏见防控、鲁棒性增强等方面的有效做法。

最终目标是构建一个与金融业数字化、智能化演进节奏相匹配的适应性安全防护体系。这不仅是技术问题，更是治理体系和监管能力的升级，旨在为“人工智能+金融”的融合发展筑牢可信、可靠的安全基底。