人工智能 （AI）是新一轮科技革命和产业变革的核心技术，将为推进中国式现代化注入强大动力。但随着AI技术不断发展，数据泄露、“深伪”诈骗等安全要挟加剧，针对和利用AI的网络攻击、AI武器化等安全问题日益凸显，安全防护难度激增。

　　《中国经营报》记者日前从齐安信(688561.SH)方面获悉，针对上述问题，全国政协委员、齐安信老总齐向东在2024年全国两会造成了《创新发展“AI+安全” 护航中国式现代化》的提案。

　　齐向东认为，网络和 数据安全 是 数字经济 发展的底板工程，他建议：针对AI造成的安全要挟、攻防失衡和军事要挟，应大力探索“AI+安全”创新应用，好比鼓励各行业头部企业与专业安全厂商结成创新联合体，并针对“AI+安全”发展设置专项基金。

　　AI攻防失衡要挟加剧

　　生成式AI 正在席卷全球，在为行业效率造成跨越式提升的同时也酝酿着安全风险。“眼见未必为实”成为常态，数据泄露、欺诈攻击、AI武器化等诸多问题开始显露。

　　齐向东在调研中发现，以ChatGPT为代表的生成式AI能快速生成垂钓邮件、编写恶意软件与代码等，已经造成攻击数量增加，AI欺诈事件频发。相关数据显示，与ChatGPT类似的生成式AI造成网络垂钓邮件攻击增长135%。

　　另外，生成式AI还造成了数据非法获取、数据泄露及恶意滥用等 数据安全 问题，如ChatGPT在对话交互进程中能获取用户数据，加剧数据泄露风险。非法分子还能利用“深度伪造”换脸变声、伪造视频，网络诈骗大增，甚至引发社会认知混乱。

　　另外，齐向东认为，随着针对AI的攻击雨后春笋， 网络安全 “易攻难守”。在AI恶意利用方面， 人工智能 大幅下降了网络攻击门槛，好比，利用AI制作恶意软件、生陈规避杀毒软件检测的代码等，网络攻击能力将出现跃升，由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

　　特别需要谨防的是，近年来AI武器化趋势开始冒头。目前越来越多国家开始探索AI在军事领域的应用。公开数据显示，2024财年，美国国防部计划增加与AI相关的 网络安全 投资，总额约2457亿美元，其中674亿美元用于网络IT和电子战能力。

　　“一方面， 人工智能 可以被用在 机器人 杀手等致命性自主武器(LAW)上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势；另一方面， 人工智能 可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广。”齐向东指出。

　　需求、供给、人才三管齐下

　　针对上述问题，齐向东认为，应该抓住三个关键，创新发展“AI+安全”，提高应对网络空间安全风险与不确定性的能力，护航中国式现代化。

　　从供给侧看，齐向东建议鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在要挟检测、漏洞挖掘、指挥研判等方面的应用，在实战中推动“AI+安全”进入越用越强的良性循环。

　　从需求侧看，积极的政策引导是推动新事物落地应用、成长壮大的催化剂。齐向东建议，像支持 新能源 汽车的发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破，实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予相应补助，推动“AI+安全”相关产业取得更多科技创新成果。

　　另外，从人才储蓄看，工信部数据显示， 人工智能 不同技术方向岗位的人才供需比均低于0.4，其中智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。

　　对此，齐向东建议，应充分施展民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多 大数据 、 人工智能 、 网络安全 等新兴产业领军人才，为我国抢抓 人工智能 机遇培育人才。

　　齐向东认为：新质生产力离不开数据和网络，高质量发展离不开高水平网络 数据安全 。面对新技术可能造成的安全风险，不仅要筑起一道用智能对抗智能的防线，更关键的是要做到人和机器的协同发展，既施展人的引领作用，也要充分利用机器强大的智能分析和自动研判能力。不能盲目陷入技术决定论，只有人与机器的力量有机结合，生产力才能真实的新质、高质。