【人工智能】肖钢 - 人工智能不能消除金融风险 算法模型需建立治理体系

　　“智能金融的本质还是金融。”12月22日，中国中国证券监督管理委员会原主席肖钢在中国财富管理50人论坛2024年会“AI浪潮下的金融业应变”主题论坛上表示，虽然智能金融改变了传统金融的模式、增加了新的业态，但并未改变金融要服务实体经济和人民生活这个宗旨，无非是通过智能的要领来服务实体经济、服务科技创新、服务人民生活。

　　在肖钢看来， 人工智能 （AI）并没有分散或消除金融的危险，但极大地提高了金融机构识别预警和控制风险的能力。不过，作为智能金融当中重要组成部分，算法模型其实不是中立地存在，如今算法模型在金融领域的问题也开始显现。例如金融机构在利用算法模型进行风控时，已经遭遇到了黑灰组织模拟金融机构的风控模型，并反向灌输数据来进行信贷诈骗的案例。

　　“金融AI算法模型需要治理框架。”肖钢表示，算法治理应有三个目标：要建立可信任，要有信任、可依赖、负责任的 人工智能 系统；要讲究效能；要讲究安全。

　　肖钢认为，首先，应该完善相关法律法规，建立法律框架。其次，要做好算法模型治理务必要有专门的组织，大型金融机构应建立算法模型管理委员会。再次，金融机构要建立对模型效果的自主评估、审查，还要建立问责机制和救济机制。最后，还应建立算法模型的治理生态，让金融机构、科技公司、消费者、监管者、自律组织等都要参加治理活动。

　　其实，目前有金融机构已经建立了算法模型的治理体系。肖钢介绍了一家商业银行的做法值得借鉴。该银行设有模型管理委员会，制定算法模型开发应用的战略和政策规则，这是他们机构内部的。同时，该行建立了模型管理的规范，例如说对零售模型有需求、有设计、有开发、有验证。该行还设有模型风险管理平台，实现了实时展现模型参数的前景，跟进项目的进展，自动监控预警。

　　另外，肖钢还指出，算法模型还需要分级分类治理，其中，风控模型应该放到最优先的等级，在金融机构体系内价值较高、影响较大的模型要放到高等级，新模型也要放到高等级。