随着ChatGPT、Sora等生成式AI技术的不断发展，一些网络犯罪分子正在利用这些技术来提高他们的攻击能力。也为 网络安全 防御提出了新的挑战。

　　肯睿Cloudera大中华区副总裁刘汨春对《中国经营报》记者表示，亚洲迅速的数字化转型催生了大量在线服务，为消费者提供了更多便利，好比一些国家允许公民使用本国数字身份证注册银行服务、通过金融整合平台集中管理投资组合等。但这种互联性为网络犯罪分子提供了大量机会，一旦获得某项服务的访问权限，他们便能窃取大量个人数据。另外，日益普及的、易于获取的生成式AI在线工具也使网络坑骗行为（例如网络垂钓）对于普通用户更具迷惑性。

　　预防欺诈是一场“猫鼠游戏”

　　在数字化的浪潮中，企业创新及数字化转型的步伐正在持续加速。这时，网络犯罪分子攻击的行径也渐趋复杂，破坏着 数字经济 的条件。其中，勒索软件攻击的影响达到了空前绝后的规模，要挟着全球数以万计的企业，其中一些攻击者甚至以挟持关键基础设施为目的。

　　在过去的一年中，全球网络遭受了勒索软件攻击、重大供应链攻击和有组织的黑客行动的轮番轰炸，攻击目标遍及医疗、金融、制造业、电信及交通等重点行业。数据泄露的规模、漏洞存在的年限、影响设备的数量、破坏后果呈扩大趋势。

　　不仅如此，随着生成式AI技术的不断发展，网络犯罪分子正在利用这些技术来提高他们的攻击能力。 人工智能 面临的安全问题更加复杂，包含网络攻击、漏洞攻击、数据攻击，和内容安全问题等。尤其是当一大批 人工智能 研究领域的高科技公司将 人工智能 技术平民化后，新技术造成的定 时炸弹也在引起越来越多的重视。

　　刘汨春表示，近期报告显示，金融业已成为亚洲受攻击最频繁的行业。而且，这些攻击其实不是仅限于企业层面。2023年上半年，新加坡的诈骗案激增64.5%，主要因素是电商和线上渠道的犯罪活动增多。他分析道，对于许多金融机构和企业而言，在精准识别和打击借助AI实施的坑骗行为上遇到的困难和所需资源正日益增加。为了识别坑骗行为，调查人员不得不投入更多资源和时间，深入研究众多犯罪历史记录和实时行为特征。而且每当一种欺诈手段得到有效遏制，犯罪分子就会迅速转换到另一种攻击手法。

　　“预防欺诈是一场‘猫鼠游戏’。每当出现一个新的流行数字渠道，金融犯罪分子就会现身并找到实施欺诈的新途径。”刘汨春坦言。

　　丰富AI和ML（机器学习）是关键

　　尽管 人工智能 的发展丰富了网络攻击的行径，但同时也可以赋能 网络安全 ，推动攻防技术朝着主动化、自动化和智能化的方向不断演进。借助高算力和机器学习特性， 人工智能 可以深入分析 海量数据 ，并自动进行研判，进而在 网络安全 领域的预测、防范、检测和响应等环节实现自动化和智能化的提升。这不仅有效提高了防护速度和准确率，还明显降低了人为失误的发生和管理成本。

　　刘汨春表示，毋庸置疑的是，借助AI和机器学习（ML）手段可以助推企业更加智能和实时地发现欺诈迹象和模式。AI还能帮助调查人员自动进行行为分析、推理和预判，从而降低成本并提高工作效率。如果这些技术能够在全企业范围内的各个业务场景得到充分应用，企业的防欺诈能力将得到明显提升。

　　“不过，如果未使用高质量的数据训练AI和ML工具，调查人员最终得到的可能是AI幻觉和误报，这不仅浪费时间，还会削弱企业领导人对此类解决方案的信任。”刘汨春提醒道。

　　为了有效打击坑骗行为，企业务必制定综合全面的战略和政策使员工能够有效利用新工具。

　　在刘汨春看来，企业应建立一体化数据湖仓，整合传统数仓与算法分析领域的数据管理。AI模型需基于相关且完整的数据进行训练。企业应使用开放标准和互通的数据格式建立数据管道，自由收集、整合、处理数据，并移至训练数据集。

　　同时，刘汨春表示，企业要优化数据管理实践，保证AI使用可信干净的数据，而且AI务必实时使用数据来预测要挟。除此之外，企业要建设统一的模型管理平台，更好地协调反欺诈行动。

　　“在管理和治理跨全面的大量数据流，并训练和优化多个模型时，相关业务线共享策略和经验；在平台侧如何提高算力的利用率、降低整体成本。在以上这几方面的企业仍面临很大挑战。”刘汨春建议，“企业应使用数据管理平台，让利益相关方能够简化、集中并改进指挥与控制，同时还应该使用让利益相关者能够预见和管理合规风险的平台。”