安大互联
财经热点 > 财经资讯 > OpenAI宫斗大戏第二幕 - 核心安全团队解散 - 负责人自爆离职内幕
【OpenAI】OpenAI宫斗大戏第二幕 - 核心安全团队解散 - 负责人自爆离职内幕
浏览次数:【686】  发布日期:2024-5-19 17:45:31    文章分类:财经资讯   
专题:OpenAI】 【阿尔特】 【负责人
 

  OpenAI宫斗大戏第贰幕开场。

  不同于苏茨克维(Ilya Sutskever)离职时候的礼貌告别——“我相信OpenAI将在 阿尔特 曼等人的率领下构建既安全又有益的AGI”,和 阿尔特 曼温情脉脉的说辞——“这让我很难过……他(Ilya Sutskever)有一些个人意义重大的事情要去做,我永远感激他在这里所做的一切”。

  最新离职的OpenAI高管,超级对齐团队责任人Jan Leike直接撕破脸皮,揭露离职内幕—— 阿尔特 曼不给资源、力推商业化不顾安全。

  Leike同时也是OpenAI的联合开创人,属于“保守派”阵营,他在Sutskever宣布离职后仅几个小时就发帖:我辞职了。 image

  官宣离职次日,Leike连发十多条帖子,公开解释了离职原因——

  团队分配不到充分的资源:超级对齐团队过去几个月始终在“逆风航行”,在计算上很费劲,完成研究越来越困难;

  安全其实不是 阿尔特 曼的核心优先事项:过去几年,安全文化和流程已经让位于更耀眼的产品。“很长一段时期以来,我与OpenAI领导层对公司核心优先事项的意见始终不合,直到我们终于到了临界点。” image image

  这是OpenAI高管级别的人物第壹次公开承认公司重视产品开发胜过安全。

   阿尔特 曼的回应依旧体面,他表示,自己非常感谢JanLeike对OpenAI的一致性研究和安全文化所做的贡献,并且很遗憾看到他离开。“他说得对,我们还有许多事情要做,我们致力于做到这一点。我将在未来几天内发布一篇更长的帖子。” image

  ▍投资未来?不 阿尔特 曼选择把握现在

  OpenAI的超级对齐团队于2023年7月成立,由Leike和Sutskever领导,成员为OpenAI前校准部门的科学家和工程师和来自公司其它机构的科研人员,可以说是一帮技术人员组成的团队。该团队旨在确保 人工智能 与其制造者的目标保持一致,目标是在未来处理控制超级智能AI的核心技术挑战,“解决如果公司成功构建AGI,实际上会出现不同类型的安全问题。”

  说白了,超级对齐团队是在为更强大的AI模型、而非当下的AI模型缔造安全罩。

  正如Leik所说,“我相信我们应该投入更多的精力来为下一代模型做好准备,关注安全性、监控,做好准备、让AI具有对抗性的鲁棒性、(超级)对齐,关注保密性、社会影响等相关主题。这些问题很难做对,我很担忧我们没有朝着正确的方向前进。”

  Leik还指出,虽然目前超智能AI看似遥远,但可能在本十年内出现,管理这些风险需要新的治理机构和对齐技术,从而确保超智能AI系统遵循人类意图。

  站在 阿尔特 曼的立场,维护超级对齐团队是一项庞大的开支。OpenAI曾经承诺该团队将获得该公司20%的计算资源,这势必会削弱OpenAI新产品开发的资源,而投资超级对齐团队其实是在投资未来。

  据OpenAI超级对齐团队的一位人士透露,20%计算资源的承诺被揍了折扣,其中一小部分计算的要求我们时常被拒绝,这阻碍了团队的工作。

  ▍超级对齐团队解散然后呢?

  据《连线》等媒体透露,在Sutskever和Leike相继离职后,OpenAI的超级对齐团队已经被解散。其不再是一个专门的团队,而是一个松散的研究小组,分布在整个公司的各个部门。OpenAI的一位讲话人将其描述为“更深入地整合(团队)”。

  有消息称OpenAI的另一位联合开创人约翰舒尔曼(John Schulman)可能会接手关于与更强大模型相关的危险的研究。

  这不免让人疑问,Schulman当前的工作任务在于确保OpenAI当前产品的安全,他会重点盯着面向将来的安全团队么?

   阿尔特 曼另一被人诟病的地方在于“捂嘴”离职员工。

  自去年11月直到今天,OpenAI至少有7名重视安全的成员辞职或被开除,但离职员工大多不愿公开谈论此事。

  据Vox报道,部分起因是OpenAI会让员工在离职时签署带有非贬低条款的协议。如果拒绝签署,就将丢失此前拿到的OpenAI的期权,这意味着出来讲话的员工可能会损失一笔巨款。

  一位OpenAI前员工爆料,公司入职文件说明中包含一项:“在离开公司的六十天内,你务必签署一份包含‘一般豁免’的离职文件。假如你没有在60天内完成,你的股权获益将被取消。” image

   阿尔特 曼变相认可了此事,他回应称,该公司的离职文件中有一项关于离职员工“潜在股权取消”的条款,但从未付诸实践,“我们从未收回任何人的既得股权。”他还表示,公司正在更改离职协议条款,“如果任何签署了这些旧协议的前雇员对此感到担忧,他们可以联系我。” image

  回到OpenAI高层争执的原点,也是这场旷日持久的宫斗的核心矛盾点——“保守派”强调先安全再产品,“盈利派”希望尽快落实商业化。

  OpenAI将如何平衡产品的安全性与商业化?如何挽回愈发糟糕的公众形象?

  期待 阿尔特 曼未来几天内的“小作文”。

手机扫码浏览该文章
 ● 相关资讯推荐
2024-7-7【小红书】小红书商业化迷途 - 如何成为一台有温度的赚钱机器?
2024-7-6【无人驾驶】-无人驾驶-出租车来了!上海首批即将上路 L4级自动驾驶迈向商业化第一步
2024-7-6【WPS】聚焦场景应用 AI技术产业化、商业化进程加速推进 - 直击WAIC
2024-7-6【人形机器人】人形机器人在展馆出尽风头,商业化步伐比预期更快 - WAIC观察
2024-7-6【东方甄选】科技早报 - 俞敏洪回应东方甄选风波;原淘宝内容电商事业部负责人离职
2024-7-6【人形机器人】破解人形机器人商业化瓶颈
2024-7-6【中国移动】云手机加速落地 - 商业化前景几何
2024-7-6【大模型】深入链接千行百业 - 大模型商业化百花齐放
2024-7-5【微创医疗】微创医疗生物可吸收支架获批 - 商业化前景如何?
2024-7-5【药捷安康】药捷安康赴港上市 - 尚无产品商业化 两年研发支出6亿元账上现金流-告急-
 ● 相关资讯专题
小红书】  【商业化】  【无人驾驶】  【自动驾驶】  【WAIC】  【出租车】  【WPS】  【金山办公】  【人工智能】  【人形机器人】  【特斯拉】  【优必选】  【Figure】  【东方甄选】  【俞敏洪】  【负责人】  【中国移动】  【云计算】  【大模型】  【百花齐放】  【微创医疗】  【乐普医疗】  【生物可吸收支架】  【药捷安康】  【核心产品】  【Tinengotinib】  【现金流】  【赴港上市】 
  • 网络建设业务咨询

   TEl:13626712526