当前,新一代 人工智能 与实体经济深度融合,广泛应用于社会民生领域,但 人工智能 造成的安全挑战也更加复杂。
6月5日,以“AI驱动安全”为主题的2024全球 数字经济 大会数字安全高层论坛暨北京 网络安全 大会战略峰会在北京国家会议中心开幕。
中央网信办 网络安全 协调局副局长王营康表示, 人工智能 造成的安全挑战和攻击要挟尤其值得关注,攻击者可利用 人工智能 技术生成网络攻击和网络垂钓工具, 网络安全 从人人对抗、人机对抗逐渐向基于 人工智能 的攻防对抗演化。
面对 人工智能 时代新的 网络安全 态势,2024年政府工作报告提到,“加强重点领域安全能力建设”“提高网络、数据等安全保证能力”。
国家网信办原副主任陈智敏在致辞中表示, 数据安全 是 人工智能 安全的前提和基础。要从 网络安全 守卫向 数据安全 守卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠基基础。
王营康建议,要统筹 网络安全 各方力量,构建大 网络安全 工作格局,推动形成体系化防御能力;要统筹高质量发展与高水平安全,推动形成 人工智能 综合治理体系;要坚持 网络安全 教育、技术、产业融合发展,推动形成人才培养、技术创新、产业发展的良性生态。
根据奇安信发布的《2024 人工智能 安全报告》,AI既放大现有 网络安全 要挟,又引入了新型要挟,引发 网络安全 事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的垂钓邮件数量增长了1000%。
全国工商联副主席、奇安信集团老总齐向东在演讲中提到,AI驱动安全是大势所趋,谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。他判断,当前 网络安全 格局正在被推翻重构,但这种推翻重构不仅造成新的安全挑战,也为 网络安全 行业造成空前绝后的战略机遇。
如何尽快施展AI赋能 网络安全 的积极作用?先进计算与关键软件( 信创 )海河实验室主任、中国新一代 人工智能 发展战略研究院执行院长龚克建议推进AI与 网络安全 融合创新。一方面, 人工智能 的发展推动了 网络安全 技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现,提高了 网络安全 的防护能力。另一方面, 人工智能 的自动化和智能化特性又可以大大提高 网络安全 管理的效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络要挟,减少潜在损失。