从2006年Hinton提出深度学习算法模型，到2016年AlphGO以4：1战胜围棋世界冠军李世石，AI用十年时间让人类第壹次切身感受到了它的强大。

　　直到2024年，AI技术的发展与应用极大地提升了媒介内容生产的效率和质量。通过自然语言处理、机器学习、图像识别等技术，AI可以自动化地生成文章、视频、图像等内容，甚至进行个性化推荐和优化，满足客户的多样化需求。

　　不可否认的是，数字内容的安全问题不仅没有随着技术进步消除，相反，其对社会的影响正在逐年上升。提升防护能力，筑牢安全基线，成为发展数智技术的关键。

　　7月6日，以“智见未来，护航AI”为主题的2024网易易盾AI数字内容风控大会在杭州顺畅举行。网易数智旗下网易易盾自研的安全大模型第壹次正式亮相，也是业内首个聚焦数字内容风控的垂直大模型。

　　有发展更需要有监管

　　应用安全大模型应运而生

　　在过去很长一段时期里，数字内容安全问题的治理，更多凭借的是经验。

　　抖音上这句话能不能发？小红书上这个问题能不能搜到？微博这个话题是否可以讨论？落到个体对每次详细情况的领会不同，最终体现在安全风控措施的领会上也非常不同。在这样复杂的特定场景中，较通用大模型更懂数字内容风控的垂直大模型也应运而生。

　　从刚开始服务于网易内部业务的安全部门到服务外部客户的完全商业化品牌，网易易盾既有天然的技术优势，又有丰富的场景实践经验。

　　“我们在经历一场底层安全范式的转变。信息流传技术的进步把内容安全问题的重要性升级了，需求端从原先的附加安全发生了到内生安全这一模式转变。作为服务者，我们不仅需要从理论、技术和工具上做准备，更需要从思维上主动拥抱变革。”网易易盾总经理朱浩齐这样说道。

　　自2016年立项以来，网易易盾累计数据检丈量超3万亿，覆盖终端数超32亿，服务客户审核效率提升超10倍。值得强调的是，应用安全大模型的数字内容风控通过大模型对风控标准的领会，对风险内容实现标签的自动、精准标识，提升人工审核效率。

　　目前，基于各种场景的测试情况，网易易盾安全大模型已经做到对部分色情疑难样本召回提升30%以上，助力广告对抗场景下的违法广告识别率达到97%以上，AIGC人脸风格化疑难案例的识别率超90%。另外，该安全大模型将风险对抗的时效提升到了小时级，并且辅助真人引流团伙检出量增长达3倍。

　　同时，在结合了网易易盾安全大模型的通用大模型问答场景中，基于安全大模型对用户输入的语义理解和对风控规则的领会，能够帮助各类通用大模型对于一些“看上去不好答”的题目，给予准确的回答。除少数几个极度敏感的议题外，帮助提供开放式问答的模型能够快速做到“应答尽答”。

　　以“模”治“模”

　　全行业都需要“安全管家”

　　其实，生成式 人工智能 （AIGC）的发展始终随同着对安全的疑惑。其中，大模型时代安全面临突出的问题在于 数据安全 、内容安全，其中包含业务安全、供应链安全、合规和道德伦理风险。这不只是互联网企业的问题，而是全行业都需要关注的话题。

　　在朱浩齐的印象里，网易易盾建立的早期曾有过一次深入的讨论：我们能不能基于我们对各行业实际落地的经验，去建立各行业内容风控的标准？而在实际落地进程中，发现标准仍还是非常的粗糙，与以往并没有根本性不同。直到大模型的兴起和应用，使网易易盾这个想法真正具备可行性。

　　然而，安全大模型的推广也其实不是一帆风顺。“在网易易盾业务推出的早期，很多客户对于这一领域的投入其实不十分理解。直到2017年，相关部门对于内容监管的逐步加强，产品责任人才意识到，企业在数字化转型进程中，数字内容安全还是要做到提前布局。从那个时候开始，我们的顾客也变得越来越多。”朱浩齐回忆道。

　　2021年，网易易盾开始着手研究大模型相关技术，通过让大模型学习理解不同场景下，不同内容的评判结果，让 人工智能 去建立各行各业、各个场景中内容风控的研判标准，进而完成数字内容的精细化治理。

　　安全，不是一朝一夕的事情。尤其是全新技术造成的既有“已知的未知”安全问题，也有“未知的未知”安全问题。

　　在朱浩齐看来， 人工智能 技术的快速更迭，给数字内容生产和流传效率造成的是几何倍数级别的增长，同样也催生着攻防双方的螺旋式的上升。在这样的背景之下，对于安全治理能力提升的要求，自然也只有 人工智能 才能满足。他表示“ 人工智能 能给人类造成更多的变革和机遇，而网易易盾要做的，就是将大模型的能力和行为与人类的价值观保持一致，确保 人工智能 够遵从人类的价值偏好和伦理底线。”