7月中旬，因为一款软件的错误更新，让微软发生了波及全球的蓝屏故障，全球多国的金融、航空、医疗、交通等行业因此停摆，造成的经济流失或超过10亿美元。

　　该事件也给整个社会再次敲响了警钟：数字世界与现实世界的距离不再遥远， 网络安全 风险将直接影响人们的生活。

　　然而经过多年发展， 网络安全 形势并未有所缓和，反而随着各行业数字化进程的不断提速变得愈发严峻。公开数据显示，与往年相比，2023年曝光的通用安全漏洞又创新高，其中包含了大量遭黑客积极利用的高风险漏洞。这时，网络黑灰产团伙也十分活跃，DDoS攻击、Web应用攻击、API攻击、网络爬虫、业务欺诈等几种活跃性攻击的 势头有增无减。

　　这时，大模型技术的快速发展，更是给 网络安全 行业造成了全新的挑战。在7月31日召开的第十二届互联网安全大会上，中国工程院院士吴世忠提出， 人工智能 的应用极大地改变了安全问题的内涵和外延。

　　“现有的 网络安全 ，已经变成传统安全，由 人工智能 技术造成的未知的、难以预测的新型安全问题，正成为新的挑战。”吴世忠说。

　　360集团开创人周鸿祎也表示，AI大模型的浪潮势不可当，这是新一轮产业革命，在这进程中，安全和AI也将紧密交织在一起。

　　但他强调，AI的确会造成更多的安全问题，可同时，AI也可以成为解决安全问题的新手段和技术。

　　攻击者的“武器”

　　网宿安全近日发布的《2023年互联网安全报告》（以下简称《报告》），直接揭示了生成式AI给 网络安全 行业造成的具体影响。

　　《报告》显示，2023年，网宿安全监测到的全球Web应用程序攻击数量达到7309亿次，同比增长30%，其中，很多网络攻击的增长是由生成式AI技术造成的。

　　根据《报告》，2023年，Web应用漏洞利用攻击为416亿次，同比增长8%。其中，“HTTP协议违背”依旧是位列第壹的因素，但相比2022年降低了3.8%。

　　“这说明该类攻击正逐步开脱一眼就能看破的低级攻击，转向利用自动化工具甚至生成式AI技术构造的更为聪明的攻击，这也推动了攻击数量的增长。”网宿安全顶级总监胡钢伟在接受21世纪经济报道采访时指出。

　　据其介绍，使用生成式AI，能够比常见的FUZZ工具在生成语法和逻辑结构上更加复杂和隐蔽地攻击Payload, 其中一部分已经能够绕过当前针对FUZZ工具的检测手段。

　　同样，生成式对抗网络(GANs) 也可以用来生成复杂的恶意软件变种，这让以往的基于签名的恶意软件检测方法失效。

　　另外，使用Transformer等自然语言处理技术，已经可以对已知的攻击策略和漏洞信息进行学习，进而生成专门针对新发现的漏洞的攻击代码，这让攻击代码的生成变得更加简单。

　　胡钢伟向记者表示，“生成式AI在提升效率的同时，已成为攻击者武器库的一部分。它能够让现有攻击更隐蔽、逃避检测，同时还能生成攻击代码，让自动化的攻击和漏洞利用的效率变得更高。”

　　以模制模

　　对于AI造成的安全挑战，周鸿祎认为主要包含两个方面：一是AI一定会成为坏人的工具，所以将来的 网络安全 不再是人跟人的对抗，而是变成人和机器，甚至是机器与机器的对抗；二是大模型自身的安全风险也会给行业造成空前绝后的挑战。

　　但他同时提出，AI也能解决安全行业的很多槽点，好比 海量数据 分析、快速安全处置、追踪溯源、安全专家人力不足等。

　　因此对安全行业而言，大模型技术是矛，也是盾。而要想解决大模型造成的安全问题，就得用“魔法打败魔法”——用大模型解决大模型的安全问题。

　　据胡钢伟介绍，针对Bot攻击，网宿安全基于AI的智能识别已经贡献了超40%的Bot识别率，而且这一比例还在上升。

　　而360则推出了国内首个安全大模型。据周鸿祎介绍，360安全大模型由攻击检测、运营处置、追踪溯源、知识管理、数据保护、代码安全等六大专家子模型组成，安全垂直能力已经超过GPT-4。

　　周鸿祎提出，作为大模型重要场景，安全行业2024年将迎来新革命，要“以模制模”重塑安全。他认为，缔造安全大模型是安全迈向“自动驾驶”的必由之路，“用AI升级安全要有类似自动驾驶L1-L5级别的目标，360安全大模型目前已具备L4级能力，相当于汽车的‘顶级自动驾驶’”。

　　另外值得强调的是，周鸿祎还宣布对所有购买360标准产品的用户免费提供大模型标准能力。“我们要把大模型拉下神坛，把‘免费’贯彻到底。我们不希望大模型成为少数厂商掌握在手里的挣钱利器。”周鸿祎说。