商业热点 > 商业洞察 > 金融AI大模型应用带来哪些挑战?伦理规范该如何制定?业内大咖热议

【上海交通大学上海高级金融学院】金融AI大模型应用带来哪些挑战?伦理规范该如何制定?业内大咖热议

查看信息来源】   发布日期:5-29 15:30:27    文章分类:商业洞察   

  “在金融科技迅猛发展的今天,怎样在推动金融创新的同时,确保其应用的伦理和责任心,更好地服务于社会经济和民生,是每位金融界人士都需要深思和践行的课题。” 不久前,浙江数字金融科技联合会会长、浙江大学国际联合商学院院长贲圣林在“智行天下,责在人工:探索 人工智能 大模型负责任应用”座谈会上如此表示。

  “金融科技伦理是一条又长又厚的雪道,目前对金融伦理并没有展开真正意义上的讨论,只是在提出阶段。”华东师范大学长三角金融科技研究院院长陈琦伟认为,伦理问题的重要性就在于它是金融科技的“道”,唯有透过金融科技的“术”去观瞻它背后的哲理,才能够真正意义上提高现行金融机构工作模式的效率;同时,他指出,解决伦理问题,也有助于解决科技为何而进步的方向问题。

  中国社科院科学技术和社会研究中心主任、浙江金融科技伦理(专业)委员会委员段伟文提出,当前AI大模型伦理治理需要政府和行业主管部门为大模型的构建方式提供更为清晰和广泛的伦理标准。同时,其表示伦理规范不应局限于负面的、约束性的或是禁止性的调控措施,还需要实施一些补足的要领。

  上海金融与发展实验室主任曾刚表示,目前银行对 人工智能 的实践应用还处在非常初级的阶段。他指出,在金融大模型的监察管理侧,人们难以解释大模型如何运作;在用户与金融机构交互的进程中,诸如恶意投诉等全面的消费者责任问题始终存在;在国家对金融消费者保护的层面,应当持续关注负责任的金融理念和监管内容的细化。

  蚂蚁集团研究院院长李振华表示,金融是AI大模型创新应用的领域之一,或许将对金融领域全链路逻辑造成助力,赋能营销、投研、风控、承保与理赔等各类场景,造成一些全新应用。

  他表示,随着金融领域AI大模型应用的探索发展,新兴技术的应用也造成了一系列新的挑战,亟待政产学研保持深入沟通、推动形成更多的共识。

  对此,他提出三点思考和建议:一是数据收集训练的安全性需要有效解决。一方面要提升数据训练的效率,一方面也需要处理可能存在的隐私泄露、金融欺诈等风险,怎样在风险和效率之间取得很好的平衡是个重要的问题。

  二是大模型训练和应用成本需要降低。如果需要大规模应用,成本要进一步降低,对于大多数金融机构而言,更可行的方案是以大模型为底座构建垂直领域的模型。如何面向特定的场景、降低垂类模型的部署成本,也是一个重要课题。

  三是大模型稳定性和安全性需要有力保障。金融账户往往涉及高价值资产,对安全性的要求极高。因此,构建完善的安全保证机制来满足金融领域对于专业性、对客决策服务,还有准确性的切实需求,是大模型应用于金融领域的关键。

手机扫码浏览该文章
 ● 相关商业动态
 ● 相关商业热点
金融科技】  【奇富科技】  【金融机构】  【科技金融】  【住房公积金】  【资本市场】  【新华财经】  【刘海涛】  【数字化】  【物联网】  【生产力】  【研究院】  【供应链金融】  【数字金融】  【张健华】  【金融业】  【金融壹账通】  【解决方案】  【AI平台】  【技术赋能】  【数字化转型】  【余伟文】  【人工智能】  【人民币资产】  【香港金融管理局】