据了解，美国 人工智能 （AI）监管“里程碑”，在最后一刻被美国加利福尼亚州州长纽森（Gavin Newsom）否决了。这项名为SB 1047的法案此前被认为是美国最全面的AI安全管理政策之一。

　　“SB 1047法案”，全称“前沿 人工智能 模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。该法案于今年2月被提交给加州议会，引起很大争议。8月19日，加州立法机构公布了法案修订版。

　　纽森称这项立法是“善意的”，但他在一份声明中表示，它将“对最基本的功能实施严格的标准”。他说，监管应该基于“经验证据和科学”，并指出他自己签署的关于 人工智能 的行政命令和监管该技术的其它法案，这些法案围绕已知风险（如深度做假）对技术进行监管。

　　提出该法案的加州民主党参议员Scott Wiener称，纽森的否决“对所有相信监管大公司的人而言都是一个挫折”。他在X上发帖称，“结果我们都不那么安全了。”

　　何为SB 1047？

　　SB 1047法案旨在为训练成本超过1亿美元或达到一定算力的开发者制定安全标准，确保 人工智能 大模型的安全开发。该法案要求大型前沿 人工智能 模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安置 网络安全 保证，和为举报人提供保护等。

　　这是为了确保他们的技术不会造成“严重伤害”，好比大规模人员伤亡或5亿美元以上的财产损失。另外，在该州运营的 人工智能 软件开发商还需要概述在 人工智能 模型出现问题时关闭它们的要领，这其实是一个“强行终止开关”。

　　另外，该法案还赋予州检察长在开发商不遵守规按时提起诉讼的权力，尤其是在出现持续要挟的情景下，例如 人工智能 接管电网等政府系统；该法案还要求开发商聘请第叁方审计师来评估他们的安全实践，并为举报 人工智能 滥用行为的举报人提供额外保护。

　　争议频繁

　　在过去的几个月里，该法案遭到了许多主要科技领袖、草创公司和风险投资家的强烈反对。他们表示，这代表着政府对一项仍处于起步阶段的技术的过度关注，可能会抹杀该州的科技创新，并将 人工智能 公司赶出该州。

　　“ 人工智能 革命才刚刚开始，加州作为全球 人工智能 领导者的独特地位正在推动该州的经济活力，”OpenAI首席战略官Jason Kwon上个月在一封反对该立法的信中写道：“SB 1047法案将要挟到这种增长，减缓创新的步伐，并造成加州世界级的工程师和企业家离开加州，到其它地方寻找更大的机会。”

　　OpenAI认为这样的政策应该在联邦而不是州一级实施。纽森最近则表示，他担忧该法案可能会对 人工智能 发展发生“寒蝉效应”。

　　包含前众议院议长南希·佩洛西（Nancy Pelosi）、美国众议员Ro Khanna、旧金山市长London Breed等政界人士也对该法案表示反对，这与科技行业的担忧相呼应，即该法案可能会阻碍加州在 人工智能 创新方面的领导地位。

　　但该法案也赢得了 人工智能 领域一些主要企业的支持。例如，埃隆·马斯克出人意表地表达了他的支持，尽管他说这是一个“艰难的决定，会让一些人感到不安”。

　　参议员Wiener则针对批判人士为该法案进行了辩解，强调其条款仅适用于成本超过1亿美元的大型模型训练公司，这将豁免大多数较小的草创公司。

　　这位议员还表示，虽然他会支持联邦立法，但国会在监管科技方面一直行动缓慢，在缺乏国家行动的情景下，他认为加州有责任施展领导作用。