10月31日消息，据新华社报道，美国总统拜登于美国当地时间10月30日签署一项行政命令，为 人工智能 安全制定了新标准。

　　此次发布行政令，拜登政府动用《国防生产法》(Defense Production Act)的紧急权力，该行政令覆盖范围广泛，几乎涉及到 人工智能 技术的各个方面，其中安全被视为重中之重，包含 人工智能 技术影响下的美国国家安全、经济安全、公共卫生安全等，和与美国人隐私相关的公平、健康、教育等议题。

　　白宫在声明中称，此项行政令“具有里程碑意义”，将保护美国公民隐私，增进公平和公民权利，维护消费者和工作者权益，增进创新和竞争等。

　　该行政令要求，美国最强 人工智能 全面的研发人员需与政府分享其安全测试结果及其它关键信息；完善相关标准和测试工具，确保 人工智能 系统安全、可靠；制定严密的合成生物检查新标准，防范使用 人工智能 设计危险生物材料的危险；建立检测 人工智能 生成内容和验证官方内容的标准和最佳实践，以帮助民众防范 人工智能 驱动的欺诈；建立顶尖的 网络安全 计划，开发 人工智能 工具查找和修补关键软件漏洞；研发制定“国家安全备忘录”，指导 人工智能 和安全方面的进一步行动等。

　　值得注意的是，该行政令强制要求大型AI公司在开发任何对美国“国家安全、国家经济安全或国家公共健康和安全构成严重风险”的AI系统时向美国政府申报。

　　例如，行政令中加入对于外国人使用美国IaaS（基础设施即服务）来开发大型AI模型的规定，以解决外国人使用美国IaaS开发AI大模型时，该AI系统有潜在恶意网络活动能力的问题。如此的话，IaaS服务商须向美国商务部提交报告，汇报外国人身份信息、交易记录、网络地址等信息。

　　对于“有潜在恶意网络活动能力”的技术定义，该行政令暂时规定，如果模型期望的计算能力大于10^26的整数或浮点数计算能力，在某一计算集群上进行训练；同时，该模型所使用的计算集群有一组物理上位于单个 数据中心 的机器，使用了超过100Gbit/s网络速度，并且具备最大计算能力为每秒10^20整数或浮点数计算能力的情景，则符合行政令约束。

　　行政令还将审查美国外经销商转售美国IaaS服务，用于训练前述大模型，除非外国经销商向提供商提交一份报告，详细说明外国人与该经销商的相关云服务交易，和使用美国IaaS服务进行AI训练的每个 云计算 实例。

　　行政令还规定，在行政令发布之日起180天内，美国商务部长应提出法规，要求美国IaaS产品的外国经销商验证任何外国用户的身份。

　　此次美国签署行政令中对于IaaS服务商的有关规定，与此前该国对AI计算芯片出口限制保持一致，即以“国家安全”名义，进一步限制了美国外实体获取其 人工智能 技术的能力。就在本月中旬，美国更新芯片出口新规，除专用AI计算芯片外，第壹次覆盖到高端游戏显卡产品。具体来看，美国将参数规格的设定，改为“总处理性能”（Total processing performance）或“性能密度”（performance density），高于一定数值的芯片即受到出口管制。受影响的产品包含图形处理单元（GPU）、张量处理单元（TPU）、神经处理器、内存处理器等，

　　另外，美国国家标准与技术研究所将制定严格的 人工智能 “红队”标准。美国国土安全部将把这些标准应用于核心基础设施项目，并成立 人工智能 安全委员会。美国能源部和国土安全部将具体应对 人工智能 系统对关键基础设施的要挟，及其造成的化学、生物、放射性材料、核及 网络安全 风险。“红队”测试是 网络安全 的一项重要测试环节，由专家团队模拟真实世界的对手及其策略，以测试和增强全面的安全性。

　　该行政令还规定诸多 人工智能 相关内容，包含负责任地在健保和教育领域使用AI、建立汇报AI在健保方面造成伤害的机制；设立降低AI对工人的伤害并最大水平惠及工人的准则、汇报AI对劳工市场造成的潜在影响。和加速AI研究并为小公司提供更多资源、鼓励美国联邦贸易委员会（FTC）行使职权增进竞争性AI生态环境的建立、为关键领域的技术移民加速签证审批等。

　　最后，行政令意图扩大美国在国际影响力，确保美国在AI领域领先，包含增进在AI安全和标准方面的国际合作、推动负责任的全球AI研发，和建立一个强大的国际框架管理 人工智能 风险并利用 人工智能 等。