12月22日,中国中国证券监督管理委员会原主席肖钢在国民财富发展研究合作平台“AI+金融”峰会上表示, 人工智能 极大提高了金融机构识别预警和控制风险的能力,但并没有分散或消除金融风险。智能金融的本质还是金融,要遵循金融的基本规律,须加强金融AI算法模型治理。
肖钢指出,智能金融的本质是金融,其虽推翻了传统金融模式,增加了新业态,但并没有改变金融要服务实体经济和人民生活的宗旨,只是通过智能方法来服务实体经济、服务科技创新、服务人民生活。
“ 人工智能 是一把‘双刃剑’,它引领新一轮科技革命和产业变革,深刻改变社会生发生活,也创新了金融业态与模式,同时发生各种风险和复杂挑战。”肖钢指出,算法模型在中国金融机构的风控模型中遇到了一点问题。如我国一些金融机构现在已采用信贷风控模型,靠算法进行风控,但现在存现一批黑灰产组织,同样使用大模型模拟运行金融机构信贷风控模型参数,依据金融机构的顾客画像(客户放贷条件),为其灌输数据,进行信贷欺诈。
对于当前金融领域应用算法模型所引发的问题,肖钢指出,算法其实不是中性,算法的应用具有不确定性和不透明性。目前黑灰产组织已利用 人工智能 ,模拟金融机构客户画像,为其灌输数据,进行信贷欺诈,造成新算法和 大数据 成为金融机构进行风控的反制因素。而在量化投资中,则存在着算法黑箱、算法歧视等诸多问题,且高频交易影响了市场公平性。
肖钢认为,治理金融AI算法模型,首先应设立相关法律法规,构建治理的顶层设计。其次成立专门组织,作为模型管控平台,开展数据治理、算法模型解释和模型效果评估审查等工作。另外,还应建立模型算法的治理生态体系,由金融机构、科技公司、消费者、监管者、自律组织等共同参与。