据媒体爆料,OpenAI内部有人向美国证券交易委员会(SEC)举报该公司要求员工签署保密性协议,要求员工放弃作为举报人获得赔偿的联邦权利,来保证公司的安全问题不被发现。
该举报信于7月1日发出,但上周六才展露于公众视野中,由美国国会爱荷华州参议员Chuck Grassley办公室提供。
Grassley表示, 人工智能 正在迅速改变人类的技术格局,而OpenAI的政策和做法要挟了举报人的言论自由和因勇敢披露问题而获得应有补偿的权利,造成了寒蝉效应。
希望从严审查
举报人在信中声称,OpenAI向其员工提供了极其苛刻的就业、遣散和保密协议,向美国政府提出OpenAI相关问题的员工将会受四处罚。且员工在向联邦机构反馈其个人担忧前,务必先获得OpenAI的许可。
举报人因此要求SEC对OpenAI的所有包含保密协议的合约进行审查,并对达成的每项不妥协议进行罚款。他们还写道,监管机构急需确保这个行业的从业人员明白,他们可以向联邦监管或执法机构提出投诉或表达担忧。
其警告,鉴于顶尖的 人工智能 系统可能对人类造成要挟,限制性的保密协议造成的影响尤其恶劣。
SEC主席Gary Gensler对此表示,希望SEC的委员会立即批准对OpenAI之前的保密协议进行调查,并审查该公司现有政策,以确保其完全遵守证券交易委员会的规则。
OpenAI讲话人则回应称,其举报人政策并未违反规定,保护了员工披露的自由。另外,OpenAI也认同对 人工智能 进行严谨讨论的必要性,并且已经对公司的离职流程进行了重大改变,删除了非贬损性条款。
此前,OpenAI的安全团队因联合开创人Ilya Sutskever和主要高管Jan Leike离职而解散,引发了外界对该公司安全流程的担忧。随后GPT-4o发布时被爆料其安全审查时间被急剧缩短至一周,加剧了对OpenAI模型安全性的怀疑。
5月时,OpenAI宣布成立安全委员会,由首席执行官奥尔特曼领导。但从内部举报人的措辞来看,OpenAI的心思可能不在预防安全隐患发生之上,而是用在如何让人类对 人工智能 安全问题保持缄默寂静之上。