安大互联
财经热点 > 财经资讯 > 硅谷AI-老兵-看OpenAI内斗
【OpenAI】硅谷AI-老兵-看OpenAI内斗
浏览次数:【266】  发布日期:2023-11-21 18:32:08    文章分类:财经资讯   
专题:OpenAI】 【Brockman】 【Altman】 【Copilot】 【AGI
 

  备受全球瞩目的科技新贵突遭“逼宫”,炙手可热的新兴科技公司上演员工联署要挟集体出走,这是山姆·奥尔特曼(Sam Altman)及其开办的OpenAI过去数日经历的大戏剧情。

  OpenAI地震的关键问题是啥?未来事态发展还有哪些可能性?对人类社会来说AI到底意味着什么?有怎样的危险?

  AI训练数据服务公司澳鹏 (Appen)软件工程副总裁雷鸣在北美科技大厂拥有二十多年数据和机器学习工作经验,曾任谷歌广告机器学习系统技术责任人、Meta主任工程师,也曾在此次事件中饰演关键角色的微软担任过主任工程师等职务,是当之无愧的AI“老兵”。他在美国西雅图接受第壹财经记者视频专访时称,这次问题的核心是管理层在通用 人工智能 (AGI)发展速度上的分歧。

  同时,他认为AGI对人类组成的要挟巨大,AGI与过去的自动化存在本质的不同。他认为应该首先想明白如何规范AI再做进一步发展,但他担忧:“我们现在压根不晓得如何制定相关法律,来规范AI的研发、部署和使用。”

  另外,他还强调,去中心化和允许竞争可以降低风险。

  第壹财经:你怎么看这次OpenAI公司地震?关键问题是啥?

  雷鸣:我现在特别感兴趣的是,此事的本质矛盾是否在于通用 人工智能 (Artificial General Intelligence,AGI)的危险?OpenAI是否已经站在了AGI的门槛上?OpenAI董事会部分人士认为AGI存在危险,希望研发更加谨慎、安全为重,即便不停下,至少要减速,但另一派不愿放慢脚步,以奥尔特曼和布罗克曼(Greg Brockman)为主的管理层,采取更加激进的商业行为,这是形成冲突的核心。

  此次颇具戏剧性的“政变”不难看出,公司董事会部分成员不惜一切代价,即便冒着拆散公司的危险都要放慢AGI推进速度,尤其是商业化速度。而我我也支持减速,应该首先想明白如何规范再做进一步发展,不过现实是,我们知道模型的数学结构、算法,并准备相应的练习数据,但我们其实不清楚模型究竟是怎样发生某些结果的,尤其是那些反映人类水平的推理和规划的结果,鉴于此,我们现在压根不晓得如何制定相关法律,来规范AI的研发、部署和使用。

  第壹财经:未来事态发展有哪些可能性?

  雷鸣:我认为仍有三种可能的方向:一是奥尔特曼回归OpenAI,官复原职;二是他另起炉灶,成立一家新公司与OpenAI抗衡;三是此番挫折之后,OpenAI的很多员工将分散到不同科技公司。

  尽管微软总裁纳德拉(Satya Nadella)抛出橄榄枝,称奥尔特曼和布罗克曼将与其它一些同事一起加入微软,领导一个新的顶级 人工智能 研究团队。不过,在传统上,硅谷工程师对于总部办公地位于西雅图的微软和亚马逊其实不是特别感冒,因为硅谷和西雅图两地的文化和节奏还是有些不同,何况硅谷有许多大型科技公司,虎视眈眈盯着这群人才,所以一定会出现抢人大战。

  第壹财经:该如何理解“营利派”与“非营利派”?

  雷鸣:美国企业有营利与非营利组织之分,前者的主要目标是最大化商业利益,微软就属于这一类企业,而OpenAI宣称是非营利组织,理论上而言,其主要目标其实不是商业利益最大化,因此两者之间利益上其实不一样。

  OpenAI于今年10月更改了其“核心价值观”,更加强调AGI的发展,其实不意图通过AGI来实现利润。不过,若是依赖微软该类大公司来做非营利组织该做的事情,我认为也有一些不太实际,非营利组织的持续运营固然需要资金,但我认为资金来源其实不是一个很大的问题,例如盖茨基金会、大学基金会等许多非营利组织拥有充分的钱财支持开支。

  第壹财经:你怎么看当前AGI领域的竞争?

  雷鸣:行业竞争非常重要,通过立法限制垄断,这一点是可以做到的。好比整个上世纪90年代,美国政府始终在限制微软,才有了谷歌等许多互联网公司之后的逐渐诞生。我认为,去中心化和允许竞争可以降低风险,如果我们有许多不一样的生成式AI技术提供方,即便其中一个出现问题,还有其它选择,不至于全人类都因此受到影响。

  第壹财经:有一些分析称,奥尔特曼有意加速AGI商业化,这与坚持AI安全的科学家发生分歧,故引发此次“宫斗”大戏,业界对于商业化和AI伦理的关系持何种看法?相关风险如何影响未来AI的发展?

  雷鸣:我认为AGI对人类组成的要挟巨大,AGI与过去的自动化存在本质的不同,AI能够深度学习,且对人类的替代是全面的。其实现在你就能够看出来,很多行业,尤其是白领行业存在潜在的生产力冲击(Productivity Shock),我不是说生成式AI可以完全替代人类,但其可以提升一倍甚至两三倍的效能,意味着就业人数可能大幅减少,而企业发展速度可能还会提升,这就对劳动力市场造成冲击。

  另一方面,奥尔特曼我在5月出席国会听证会时明确表示,生成式AI非常具有说服力,可以建立令人信服的内容,影响人们的说法和行为,甚至制造虚假新闻、宣传,他还表示,生成式AI存在操作和坑骗的危险,敦促立法者制定法规,确保以道德和负责任的形式使用生成式AI,增进其对社会的积极潜力。不过,即便人类不被生成式AI所操作,也很有可能被其背后的控制者所操作,这将对人类社会构成一些要挟。

手机扫码浏览该文章
 ● 相关资讯推荐
2024-9-13【OpenAI】AI新时代揭幕!会-思考解题逻辑-的OpenAI推理大模型登场
2024-9-10【格灵深瞳】视觉模型底座超越OpenAI,格灵深瞳开启多模态落地的Scaling - Law
2024-9-8【英伟达】AI周报-xAI上线全球最大AI训练集群;谷歌高管警告称AI未必能影响生产力
2024-9-1【英伟达】AI周报 -英伟达、苹果与微软或联手投资 OpenAI;米哈游创始人建议普通游戏开发者转行
 ● 相关资讯专题
OpenAI】  【GPT】  【大模型】  【思考解题逻辑】  【格灵深瞳】  【多模态】  【英伟达】  【xAI】  【生产力】  【创始人】 
  • 网络建设业务咨询

   TEl:13626712526