【徐工机械】大模型技术深度应用 齐向东详解人工智能安全发展路径 - 两会声音

　　作为新一轮科技革命和产业变革的核心驱动力， 人工智能 正成为我国经济结构优化和可持续发展的重要引擎，而随着近两年大模型技术的深度应用， 人工智能 的应用范围也越来越广，涌现出上百种场景和模式。

　　然而，正因为 人工智能 在生发生活中的作用日益凸显，其造成的安全问题也愈发不容忽视。在今年全国两会即将召开之际，第十四届全国政协委员、全国工商联副主席、奇安信科技集团（下称“奇安信”）老总齐向东建议，系统提升安全能力，确保 人工智能 安全发展。

　　当前面临三类安全问题

　　“创新是第壹动力，安全是底线要求。只有筑牢安全防线、守住合规底线，创新才有可能行稳致远。”齐向东如是说。

　　作为传统产业数字化转型中最重要的变革驱动力量， 人工智能 已在研发、生产、管理全环节广泛应用。但这时， 人工智能 也大幅提升了网络攻击的烈度和广度，网络攻击窗口不断扩大、网络攻击手段不断革新、网络犯罪门槛持续降低，给传统产业发展造成了新风险、新挑战，引发了社会高度关注。

　　齐向东对《华夏时报》记者表示， 人工智能 发展面临的安全问题大致可以分三类： 人工智能 大模型自身的安全问题、利用 人工智能 开展网络攻击的问题、通过攻击 人工智能 引发的“网络攻击大爆炸”。

　　有关 人工智能 大模型自身的安全问题，齐向东指出，开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。“开发方面，开源大模型要重点防范代码缺陷和预留后门等许多问题；应用方面要防‘内鬼’对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库袒露；基础环境方面要重点关注云、API、传统设备漏洞...。”

　　齐向东举例称，现在越来越多的企业、个人开始搭建DeepSeek大模型私有化部署，而将近90%的服务器都没有采取安全措施，服务运行和 数据安全 朝不保夕，未来随着 人工智能 大模型的条件设施地位越来越突出，针对性的恶意手段和风险场景也将激增，伴生的数据隐私、认知安全、基础设施等安全风险超乎想象。

　　而利用 人工智能 开展网络攻击的问题，在齐向东看来，因为 人工智能 增进了网络攻击手段的更新迭代，所以“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已经有的 网络安全 体系，而且 人工智能 还提升了“以假乱真”的能力，深度伪造、认知战、垂钓等要挟加剧，攻击者可利用 人工智能 “换脸变声”输出虚假信息，开展网络诈骗，或输出背离主流价值观的内容危害认知安全。

　　另外，通过攻击 人工智能 引发的“网络攻击大爆炸”，也需要引引关注。齐向东强调，未来 人工智能 会成为社会的条件设施，一旦遭到攻击可能会牵一发而动全身。

　　建议系统提升安全能力

　　针对这些安全问题，齐向东认为，要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保 人工智能 安全发展。

　　建立适配大模型的纵深防御体系，筑牢 人工智能 的安全根基，是第壹步。齐向东向本站记者介绍道，奇安信最近发布了业界首个大模型安全整体解决方案大模型安全盾，率先提出“大模型安全红域”概念，通过构筑覆盖终端、应用、数据、模型、红域的多维度核心防护能力，缔造适用于 人工智能 的立体纵深防御体系，并给予要挟情报、大网数据监测等情报赋能，实现“对外防攻击、对内防内鬼”，为 人工智能 大模型安全稳定运行保驾护航。

　　制定大模型安全强制合规要求，则是夯实 人工智能 安全发展的制度保障。齐向东指出，要明确大模型安全的组织架构，界定安全主体责任，对基础安全、 数据安全 、应用系统开发安全、运行安全等方面提出清晰的技术保障要求，同时做好大模型运行安全监测和内容风控，定期开展安全评估测试，完善应急响应机制，一旦发觉异常行为或潜在的安全事件，第壹时间进行处置，将安全要挟消除在萌芽状态。

　　另外，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路，也是确保 人工智能 安全的关键一步，随着 人工智能 应用的进一步铺开，要鼓励更多产业用上、用好“AI+安全”创新成果，提高千行百业的 网络安全 防护效能。

　　除了 人工智能 安全问题，齐向东还很重视软件产业健康发展。软件产业是支撑新技术发展的关键，也是助推 数字经济 发展的重要力量，但当前我国软件产业的高质量发展遇到了不小的挑战。

　　在齐向东看来，一方面，软件产业是“内卷式”竞争的重灾区，“内卷式”恶性竞争非常具有破坏性，在各行各业都有无底线“卷价格”、跟风式“卷赛道”、围剿式“卷人才”的情景，引发了很多负面的连锁反应；另一方面，软件产业的市场价值被严重低估。

　　齐向东建议，加快开展集中整治，从国家、行业、地方政府等层面系统性强化产业激励、行业自律、人才吸引力，全面优化营商环境。“好比相关部门出台适配不同产业的投标管理办法和实施细则，出台基金支持、税收补助等专项政策，各个行业进行全方位自我规范，地方政府高举‘人才大旗’，为重点民营企业提供政策倾斜、增强‘筑巢引凤’能力...。”