最近，平安证券发布研报称，在2024世界 人工智能 大会暨 人工智能 全球治理顶级别会议（以下简称“WAIC2024”）上，中国AI（ 人工智能 ）企业不仅在技术研发方面获得了明显成效，还在应用落地、生态构建等方面展现出强劲势头。中国AI企业在多个领域实现了突破，为全球AI治理和应用提供了珍贵的中国方案。

　　今年的WAIC2024，AI治理被置于空前绝后的高度，而AI安全正是其中的重中之重。

　　“AI与安全，是数字化转型与可持续发展的必修课。”7月6日，奇安信老总齐向东在大会相关论坛上表示，要积极构建高可靠 人工智能 安全体系，着力为用户提供有效的安全防护，既要用AI去驱动安全，又要做好AI自身安全，护航数字化转型与可持续发展。

　　“AI作为引领将来的战略新兴技术，已成为发展新质生产力、推动科技革命和产业升级的核心引擎。”中国数实融合50人论坛智库专家洪勇在接受《证券日报》记者采访时表示，随着AI的高速发展，尤其是生成式AI的突破，其复杂效应也不断显现，既释放巨大的技术红利，也衍生出超越以往范畴的挑战，涉及 数据安全 、伦理治理、算法歧视、能源环境、数字鸿沟等诸多问题。

　　AI安全受关注

　　技术发展，协同共治。面对挑战，全球AI安全治理的进程正加速推进，已形成各国政府主导、国际组织积极推进、企业协同治理的多方参与格局。全球AI界正积极平衡“发展”与“安全”这一体两面，推动AI“两翼齐飞”。

　　近年来，我国先后出台《生成式 人工智能 服务管理暂行办法》《互联网信息服务深度合成管理规定》等政策文件，构建针对大模型的“双备案系统”，推动 人工智能 安全、健康、规范发展。今年3月份，全国 网络安全 标准化委员会发布《生成式 人工智能 服务安全基本要求》，对前述政策文件中的数据来源合法、内容安全等合规要求的执行规则进行了细化，为生成式 人工智能 服务提供者在实践中开展安全评估提供了有效路径。

　　AI安全相关企业也抓住产业发展黄金机遇，乘势而上。聚焦国内， 深信服 、 天融信 、 启明星辰 、奇安信等公司均已发布安全大模型产品。腾讯、蚂蚁集团等也主动构建AI安全平台。放眼全球，微软在今年5月份已正式商用了MicrosoftCopilotforSecurity（一种基于生成式AI的安全产品），旨在“帮助用户以机器的速度进行防御”。谷歌去年也发布了 网络安全 专有大模型，并应用到了云安全能力中心。

　　据TheInsightPartner预测，2030年，全球AI安全市场规模将达到710亿美元，未来十年复合增速将达到29%。艾媒咨询数据显示，预计到2027年，我国 网络安全 市场规模有望增至884.4亿元人民币。

　　产业链公司在行动

　　 中金公司 认为，AI的安全风险涉及多个维度。AI体系安全是基础，包含软件、硬件等基础设施的供应安全，以庞大市场为基础的切实需求安全，应用部署安全等，需确保AI生态全面的独立性、完整性和抗攻击能力。 数据安全 是AI系统能否有效、高质量运行的关键。AI应用中广泛出现的错误与虚假信息、“信息茧房”、隐私泄露等诸多问题也会对社会安全造成挑战。

　　针对上述问题，产业链上市公司正在行动。

　　“公司缔造了以‘数据+AI’为核心，以‘应用场景’为依托的系列产品，形成了七大解决方案及产品线，其中就包含风险与合规产品线，涉及智能风控、监管报送等。公司 信创 及安全类产品也有益于降低信息安全风险。” 法本信息 相关人士在接受《证券日报》记者采访时表示。

　　 永信至诚 在投资者互动平台上称，公司发布AI大模型安全测评“数字风洞”平台，为AI大模型的持续演进和应用提供坚实的安全保证。在内容安全测评方面，平台借助检测插件，形成检测模板、检测场景分类和测评数据集，测评出各类安全风险；在系统安全测评方面，平台对目标系统进行深入的安全评估，帮助AI大模型系统迅速发现潜在的安全漏洞。

　　“除了在技术上推动AI全面的可解释性和可控性外，由于AI问题往往跨越国界，各方还应增进国际合作，建立全球共识，共享最佳实践。”洪勇如是说。

　　本届WAIC2024还发布了《 人工智能 全球治理上海宣言》，提倡共推发展、共护安全、共商治理、共汇民智、共享成果。呼吁各国加强交流和对话，推动 人工智能 更好地造福人类。