以大模型为代表的新一轮 人工智能 （AI）浪潮正以空前绝后的态势席卷千行百业。在这个推翻性技术变革时代，数字安全领域将面临怎样的机遇与挑战？5月18日，“C3安全大会·2024”在南京举行。在这场数字安全行业的顶级别闭门会议上，业界多方共同探索AI+时代的数字安全之道，为新时代安全生态建设提供了新的思路。
“随着去年ChatGPT的发布，AGI（通用 人工智能 ）技术让全球黑客开始狂欢。” 亚信安全 顶级副总裁陈奋在“安全AI未来”主旨演讲中的这番描述其实不是危言耸听。其实，AGI工具可以将黑客生成新要挟的时间由之前的数个月缩减至几小时甚至几分钟，这时，攻击者开始利用大模型迅速发现软件与服务中存在的漏洞，通过人脸深度伪造来实施网络诈骗犯罪的案例也越来越多。更有甚者，攻击者的目标正由以往的数字资产转向AI算力基础设施和大模型。“ 亚信安全 监测到，短短一年时间，针对大模型的攻击手段已涌现出数十种不一样的类型。”
专注AI安全攻防实战与对抗的 亚信安全 实验室模拟了去年发现的海绵样本攻击，大致原理是通过向大模型发布特殊的样本，让大模型的算力消耗急剧上升，原来短时间能做出响应的切实需求，现在则需要大量时间去计算。即便停止攻击，大模型返回结果的速度也变得很慢。“假如未来核心应用都是大模型驱动的AI原生应用，这种情景基本上就等同瘫痪了。”陈奋说。
这只是未来 网络安全 风险的“冰山一角”。与会专家学者形成共识的是，随着全球新一轮科技革命和产业变革的持续演进，以 人工智能 大模型为代表的新技术迅猛发展，数字化、网络化、智能化日新月异， 网络安全 面临的危险挑战不断增加， 网络安全 形势更加复杂严峻。
智谱AI总裁王绍兰介绍，从技术突破到应用落地明显加快、技术影响力显现裂变式扩散、规模化应用与前沿攻关并举，这是新一代AI技术浪潮的特点。上海垣信卫星科技有限公司顶级副总裁陆犇博士则透露，垣信拟于今年开始进行大规模的卫星组网建设，随着卫星互联网逐步建成，势必会为产业造成新的 大数据 源、新的分布式算力网络与快捷的 人工智能 分发途径。其间，包含通信的连接、数据的连接，和无处不在的智能泛在体，都将面临更为突出的安全问题。
“现在安全的范畴需要扩大。”中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤认为，新的 人工智能 是信息智能、物理智能和生物智能的融合，AI大模型的能力极其强大，未来可能创造出很多发展机遇，但也蕴含着很多潜在风险，包含信息智能的危险、AI本身隐含的安全风险和可控性、可信性、界限等诸多问题。其中，AI幻觉、深度伪造等诸多问题很有挑战性。“现在完全可以去仿造人的声音、图片和短视频且无法鉴别，而更大的危险是在物理世界、生物世界，当一个大模型可以控制上亿的车、 无人机 、 机器人 ，连接到金融体系、核心体系，甚至和人的大脑连在一起，失控和被利用的危险更大。”
“在推动大模型相关技术进步的同时，也应未雨绸缪地做好安全防范工作，确保技术向善。”张亚勤院士强调。
用AI对抗AI 网络安全 攻防升级
与会专家认为， 网络安全 的攻防从原来人和人之间的对抗，已经升级到AI和AI之间的对抗，只有AI驱动的 网络安全 防护检测技术才能识别AI驱动的黑客攻击技术。最典型的案例是深度伪造，人眼可能都看不出来的人脸替换，只有通过AI技术才能识别出来。
面对日益严峻的 网络安全 形势，全球科技企业都在加紧行动， 网络安全 范式正在革新。微软日前已经正式商用了可用自然语言交互的安全自动化解决方案Copilot for Security；谷歌去年也发布了 网络安全 大模型。全球 网络安全 企业Palo Alto、Crowd Strike已经在安全运营平台上集成了大模型能力。在AI技术浪潮推动下，Palo Alto已经成为全球第壹家市值突破千亿美元的安全公司，Crowd Strike的市值也迫近千亿美元。在中国，约80%以上的 网络安全 公司都在将大模型技术集成到 网络安全 产品中，近30%的企业已经开始做大模型安全的研究。
本次大会期间， 亚信安全 造成的“信计划”也包含了全新研发的保护算力云基础设施安全、大模型应用安全防护、大模型红蓝对抗测试等服务，并正式发布了 网络安全 行业领域自研大模型——信立方。据介绍，信立方大模型对于执行 网络安全 行业的精准问答、复杂的告警日志解读、深度的 网络安全 事件分析等专用场景都有独特的效果。
另外， 亚信安全 还在构想安全运营数字人，这是一个独立的大模型应用。用户每天会发生大量的安全事件，未来安全运营主管只要对数字人说：“帮我研究一下今天的安全态势怎么样？”数字人就会自动把当天的安全态势调出来。“今天哪些安全事件务必马上处理？”数字人可能会列举ABCD四个事件，只要告诉数字人处理哪个事件，这个事件就会被闭环处理，没有任何复杂的界面，完全是对话式的入口来完成过去很复杂的操作工作。
针对近期频发的网络勒索事件，本次大会上，网络勒索响应与治理中心暨猎狐计划正式启动。该中心由 亚信安全 、 中国联通 江苏分公司、 四川省 数字产业有限责任公司、人民数据管理有限公司联合发起，以防范网络勒索的持续恶意攻击为目标，建立区域性和行业性的网络勒索响应与治理中心，形成常态化一体化的网络勒索安全运营。猎狐行动计划则通过事前、事中、事后三个阶段完善处理“银狐”木马，这一计划的实施将为有效打击网络勒索行为提供更加坚实的保障。
产学研用协同多方共建安全生态
值得注意的是，本届C3安全大会上还举行了两项重磅签约仪式。其一是 亚信安全 和清华大学智能产业研究院联合研发行动升级计划，双方将进一步提高合作规模，实现科研实力与人力资源的优势结合，持续开展理论、技术、政策等方面的创新性研究工作；另一项则是 亚信安全 与华为终端的合作签约，双方将深度投入鸿蒙生态建设，结合领先行业的终端安全能力，为用户提供更加安全、可靠的终端环境，保障用户的信息安全。
产学研用加强协作正在成为业界的共识：只做大模型安全是无法解决大模型安全问题的，需要整个产业链、生态链多方融合，构建产品配套、软硬协同的产业生态。
“大模型产业链非常长，最终落地进程中会发现有更多企业参与进来，尤其是以大模型为基础的周围业态会更加丰富。” 亚信安全 顶级副总裁兼CDO吴湘宁说，“现在大伙都还在探索大模型生态安全的建设，可以明确的是整个生态链打开后，很多技术使用场景都会发生改变。”
在制造业，美的是较早把安全大模型落地到信息安全领域的企业。据 美的集团 首席信息安全官兼软件工程院院长刘向阳介绍：“过去做安全运营，安全日志每天80亿条，仅告警就有20万条，很难用人力处理。引入安全大模型后，把安全告警需要人工研判的数量从20万条降到了100至200条，这就是人工能够处理的水平了。”
谈及与 亚信安全 的合作，华为终端云开发者服务与平台部总裁望岳表示，鸿蒙操作系统是华为推出面向下一代端侧的操作系统，在华为设计理念里，“安全”排在所有因素之上。操作系统涉及计算、资源、通讯、图形图像等各个方面，安全体系特别庞大，安全面临的形势也尤为复杂，尤其是应用到各个行业，在制造业、家电行业、金融业等，涉及安全的课题和考量点完全不一样。“鸿蒙操作系统其实也是一个容器，需要像 亚信安全 这样的合作伙伴，把多年的经验、积累、能力放到鸿蒙操作全面的底层，以协同治理好整个全面的安全。”
“在新的时代，数据正在成为最重要的资产，大模型如同现代冶炼厂，在铸造出这个时代的‘钢铁’。操作系统、行业大模型与‘云网安’共同构成新时代数据的条件设施，应用开发者们在建造征服数据海洋的战舰。”亚信联合开创人田溯宁如今生动的比喻，勾勒出的正是当前正在建设之中的新时代安全生态。
