尚福林：人工智能的算法“黑箱”、数据污染、模型缺陷等潜在风险问题不容忽视

北京商报讯（记者 刘四红）4月10日，以“人工智能与金融未来”为主题的国民财富发展研究合作平台2025春季峰会正式召开。中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林出席并发表主旨演讲。

尚福林指出，要关注人工智能提升效率与加剧风险的双重效应，当前，我国人工智能发展的总体态势良好，正处在加强人工智能布局、加快数字化智能化转型的历史机遇期。算力、算法和数据是大模型应用的三大支撑要素。同时也要清醒看到，人工智能的算法“黑箱”、数据污染、模型缺陷等潜在风险问题不容忽视。特别是在金融行业应用时，应关注人工智能带来的效率提升与风险加剧的双重效应。

其中，数据安全可靠与隐私保护是关注焦点。人工智能让数据的应用价值凸显，也让数据的安全防护变得更加复杂。

一方面，持续加强数据的隐私安全保护。金融机构和科技企业需要共同研究数据在采集、存储、传输和使用过程中的安全性问题。要在保障安全和隐私前提下，推动金融与公共服务领域信息互联互通，释放数据要素潜能。

另一方面，关注数据污染。金融机构每天都在处理海量的数据和复杂的交易，信息的准确性和可靠性至关重要。在金融行业，信息污染风险同样存在。如果虚假信息被灌入训练模型，有可能污染模型的训练数据。一旦部署到金融交易、风险分析当中，可能会引发连锁反应，造成难以估量的损失。