据国家安全部微信公众号11月16日消息,当前, 人工智能 技术正广泛应用于金融、医疗、交通、制造业等领域,对社会发展和人类文明进步发生长远影响,给世界造成巨大机遇。同时,也不能忽视其蕴含的潜在风险挑战,很可能在不久的将来深刻改变现有国家安全格局。 人工智能 可能造成的国家安全领域的危险包含:数据窃取风险、网络攻击风险、经济安全风险、“数据投毒”风险、军事安全风险。对此,国家安全部提出以下化解办法:
·完善法律法规,聚焦 人工智能 重点领域安全应用、伦理道德约束等方面,制定更多更明确的法规政策、行业规范,保障 人工智能 研发和应用中的个人隐私与 数据安全 ,确保 人工智能 安全、可靠、可控。
·加强前瞻布局,支持以 人工智能 技术防范 人工智能 风险,积极发展用于 人工智能 治理的相关技术开发与应用,贯彻敏捷治理和多维治理原则,积极构建多方参与的 人工智能 治理体系。
·坚决惩戒犯罪,依法打击利用 人工智能 进行危害国家安全的犯罪表现,并督促 人工智能 行业和用户个人自觉提升防范意识、遵守法律法规,履行维护国家安全主体责任。
·推动全球治理,积极施展多边机制作用,拓展“以人为本”、“智能向善”共识,形成具有广泛共识的治理框架和标准规范,推动各国在 人工智能 治理中加强信息交流和技术合作,共同做好风险防范。
原文如下:
今年以来,以ChatGPT为代表的 人工智能 技术迅速发展,使人惊呼“未来已来”。当前, 人工智能 技术正广泛应用于金融、医疗、交通、制造业等领域,对社会发展和人类文明进步发生长远影响,给世界造成巨大机遇。同时,也不能忽视其蕴含的潜在风险挑战,很可能在不久的将来深刻改变现有国家安全格局。
这就引出一个国家安全的新领域—— 人工智能 安全。让我们瞧瞧 人工智能 可能造成哪些国家安全领域的危险,又应当如何化解?
——数据窃取风险。 人工智能 需要海量的数据来进行学习和训练,这些数据中可能包含用户大量敏感信息。如果这些信息被滥用或泄露,可能会对个人隐私、国家安全造成严重危害。
——网络攻击风险。 人工智能 可以成为破坏 网络安全 和管理的“帮凶”。在 人工智能 的组织协调下,网络攻击者可以随时随地对特定目标轻易发起针对性和隐蔽性很强的进攻,将互联网空间变成人人自危的“黑暗森林”。
——经济安全风险。 人工智能 技术在一定水平上会成为人力工作的“高效替代品”,进而对国家经济安全、社会安全甚至政治安全造成冲击; 人工智能 技术也可以被用来实施经济破坏活动,例如通过操作宣传造成金融市场恐慌。
——“数据投毒”风险。“数据投毒”是指在 人工智能 训练数据中投放恶意数据,干扰数据分析模型正常运行的表现。在智能汽车系统中“投毒”,可能造成交通事故;在舆论宣传中“投毒”,一些负面思想可以更加隐蔽地渗透到群众思想观念中。
——军事安全风险。一方面, 人工智能 可被用在致命性自主武器(LAW)上,通过自主识别攻击目标、远程自动化操作等,隐藏攻击者来源、建立对抗优势;另一方面, 人工智能 可以将网络、决策者和操作者相连接,让军事行动针对性更强、目标更明确、打击范围更广。
面对 人工智能 技术发展造成的新机遇和新挑战,如何应对 人工智能 风险并把握 人工智能 发展的战略主动,有效保障国家安全,是全球国家安全治理的重要议题。
——完善法律法规,聚焦 人工智能 重点领域安全应用、伦理道德约束等方面,制定更多更明确的法规政策、行业规范,保障 人工智能 研发和应用中的个人隐私与 数据安全 ,确保 人工智能 安全、可靠、可控。
——加强前瞻布局,支持以 人工智能 技术防范 人工智能 风险,积极发展用于 人工智能 治理的相关技术开发与应用,贯彻敏捷治理和多维治理原则,积极构建多方参与的 人工智能 治理体系。
——坚决惩戒犯罪,依法打击利用 人工智能 进行危害国家安全的犯罪表现,并督促 人工智能 行业和用户个人自觉提升防范意识、遵守法律法规,履行维护国家安全主体责任。
——推动全球治理,积极施展多边机制作用,拓展“以人为本”、“智能向善”共识,形成具有广泛共识的治理框架和标准规范,推动各国在 人工智能 治理中加强信息交流和技术合作,共同做好风险防范。
国家安全机关将强化科技赋能、数字赋能,不断推进国家安全体系和能力现代化,为应对 人工智能 的危险挑战筑牢国家安全屏障。