11月20日，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题的2024年世界互联网大会乌镇峰会在浙江乌镇开幕。
今年是世界互联网大会新十年的开始，AI成为重要方向，安全与发展是同等重要的命题。如何看待今年AI应用的迅速生长态势？大模型本身技术发展现状在安全领域的应用水平如何？围绕这些问题，21世纪经济报道记者采访了 安恒信息 顶级副总裁、研究院院长王欣。
王欣认为，一是AI垂直化趋势明显，AI技术正逐渐从通用型向更加专业化、垂直化的方向发展。
二是技术成熟度提升，AI在特定任务上的表现越来越接近甚至超过人类水平。这使得AI能够在更多领域得到实际应用，从理论研究走向商业落地。
三是生态系统逐渐完善，AI产业链上下游的合作日益紧密，形成了较为完整的生态系统。另外，用户对AI产品的接受度也在不断提高。政府和资本对AI技术的支援力度不断扩大，这为AI技术的研发和应用提供了良好的外部环境。
不过，随着 人工智能 的迅猛发展，Deepfake等伪造技术正在延展至经济、社会更广泛领域。在王欣看来，当前 人工智能 技术快速发展的环境下，确保 人工智能 技术的正向应用，防止其被用于不正当目的，已成为整个行业甚至社会共同面临的重大挑战。面对这一问题，利用AI技术本身来对抗潜在的滥用成了一种高效且必要的行径。
“从技术角度来审视，通过深度学习构建的检测模型能够自动从 海量数据 中学习伪造内容的独特特征，如图像或视频中的异常纹理、不自然的面部动作等。这不仅实现了高精度的伪造内容识别，而且随着训练数据量的增长，模型的性能将不断提升。”王欣说。
王欣重点提出，对于复杂的伪造内容，引入多模态分析尤为重要。虽然伪造技术可能在某一特定模态（如视觉或听觉）上达到高度真切的效果，但在多模态一致性方面往往存在缺陷。
例如，在Deepfake视频中，人物的脸色与语音之间可能会出现微妙的不协调。多模态分析通过整合视觉、听觉等多种信息源，有效提高了伪造内容检测的准确率。
另外，鉴于伪造技术的不断演进，检测方法也需持续更新以保持有效性。采用自适应学习机制可以使检测系统基于最新的伪造案例自动调整优化策略，从而确保对新型伪造技术的及时响应和高效对抗。这种动态防御策略对于维护网络空间的安全与诚信非常重要。
大模型本身技术发展现状在安全领域的应用水平如何？在王欣看来，大模型技术在 数据安全 中的应用和潜力是一个极为重要且具有广阔前景的领域。例如，数据分类分级智能体借助 AI 对行业和业务特性的领会，将效率提升30倍；API 智能体基于对 API 接口用途的深入理解，提升了 API 资产纯净度、风险准确率和研判效率；DLP 智能体则凭借对文档内容和敏感性的鉴别，实现大模型智能全自动识别，这些都彰显了 AI 在 数据安全 领域的强大力量。
智能体的广泛应用不仅提升了效率和智能化水平，还对 数据安全 、隐私保护和合规性提出了更高的要求。“这种服务方式和交付方式的变革，对 网络安全 行业具有推翻性的影响，促使我们务必更加重视高质量发展。这要求我们在技术创新的同时，强化安全管理，确保智能体的安全可靠。”王欣说。
