安大互联
财经热点 > 财经资讯 > 推理能力接近类人水平?OpenAI神秘项目-草莓-被曝光!内部人士曾警告 - 可能威胁全人类
【人工智能】推理能力接近类人水平?OpenAI神秘项目-草莓-被曝光!内部人士曾警告 - 可能威胁全人类
浏览次数:【141】  发布日期:2024-7-13 7:24:50    文章分类:财经资讯   
专题:人工智能】 【OpenAI
 

  新近消息显示,OpenAI正在让 人工智能 (AI)大模型的能力更加接近类人的推理水平。

  据知情人士和媒体查询的内部文件,ChatGPT开发商OpenAI正在一个代号为“草莓”的项目中开发一种新的 人工智能 模型。该项目的细节此前从未被报道过,当前该公司正在努力展示其提供的模型类型能够提供顶级推理能力。这位知情人士说,即便在OpenAI内部,“草莓”的工作原理也是一个严格保密的秘密。

  知情人士还透露,该内部文件描述了一个使用Strawberry模型的项目,目标是使该公司的 人工智能 不仅能够生成查询的定论,而且能够提前做好充分的计划,自主、可靠地在互联网上导航,以执行OpenAI所说的“深度研究”。

  OpenAI被问及上述所说的草莓技术时,OpenAI的讲话人在一份声明中表示:“我们希望自身AI 模型能够像我们(人类)一样看待和理解世界。持续研究新的AI能力是业界的常见做法,大伙都相信这些全面的推理能力会随同着时间的推进而提高。”

  虽然该讲话人未直接回答有关草莓的问题,但媒体称,草莓项目此前名为Q*。而Q*正是去年被爆出OpenAI 总裁突然被解雇宫斗大戏的导火索。

  去年11月媒体称,OpenAI代号Q*的项目实现重大突破,让人类实现通用 人工智能 (AGI)的步伐大大提速,但OpenAI 总裁 奥特曼可能没有和董事会详细披露Q*的进展,这是董事会突然解雇奥特曼的一个因素。OpenAI的内部人士向董事会致信警告,Q*的重大发现可能要挟全人类。

  媒体称,Q*可能具备GPT-4所不具备的条件数学能力,或许意味着与人类智能相媲美的推理能力,网友推测,这可能代表OpenAI朝着其设定的AGI目标迈出了一大步。

  今年3月曝光的一份文件显示,OpenAI计划,在2027年之前,开发出人类水平的AGI。OpenAI 2022年就开始训练一个125万亿参数的多模态模型,该模型名为Arrakis或Q*,原本计划在2025年作为GPT-5发布,但因推理成本高而取消。OpenAI尔后计划,2027年发布的Q 2025(GPT-8)将实现完全的AGI。

   人工智能 (AI)研究者早就在争论用什么标准判断人类实现了通用 人工智能 (AGI)。OpenAI最近开发了一套系统,“自定义”AI进化等级,以此追踪开发人类级别AI的进展。

  美东时间7月11日周四,OpenAI的讲话人称,OpenAI在本周二的企业全体会议上与员工分享了新的分类系统,计划与投资者和公司外部人士分享这些等级的信息。

  OpenAI的系统划分了五个AI水平,按一到五的数字由低到高排列等级。OpenAI的高管告诉员工,公司认为目前自身产品处于第壹级,但即将达到第贰级,也就是,可以完成基本问题解决任务的系统,类似于拥有博士学位但无法使用任何工具的人。

  7月11日OpenAI的讲话人表示,OpenAI始终在内部测试新功能,这是业内的常见做法。

  对于OpenAI开发AI分级全面的消息,有网友表示,担忧AI超越人类可能造成的危险,不晓得那对经济和就业有何影响。

  今年5月,OpenAI发布新旗舰AI模型GPT-4o。它面向所有用户、包含免费用户,最快232毫秒响应音频输入,平均响应时间和人类相似;相比GPT-4 Turbo速度快两倍,成本降低50%,API速率限制提高五倍。

  上月传出GPT-5可能大幅推迟上线的消息。OpenAI首席技术官Mira Murati称,GPT-5有望在2025年底或2026年初推出。这一发布时间与早期传言有较大出入,市场曾预测GPT-5可能在2023年底或2024年夏季发布,

  不过,Murati透露GPT-5的性能将迎来重大飞跃,在特定任务中达到博士级智能水平。记者了解到,GPT-5内部代号为“Gobi”和“Arrakis”,是一个具有52万亿参数的多模态模型,上一代GPT-4参数约为2万亿。这一庞大的参数规模暗示了其潜在的强大能力。

  Murati将GPT-4到GPT-5的进步比作从高中水平到大学水平的跨越,表明新模型在复杂性和能力上将有明显提升。

  美东时间6月27日,OpenAI公布,其科研人员训练了一个基于GPT-4的模型,它被称为CriticGPT,用于捕捉ChatGPT代码输出中的错误。简单来说就是,CriticGPT让人能用GPT-4查找GPT-4的错误。它可以写出使用者对ChatGPT响应结果的批判评论,从而帮助人类训练者在RLHF期间发现错误。

  OpenAI发现,如果通过CriticGPT获得帮助审查ChatGPT编写的代码,人类训练师的审查效果比没有获得帮助的人强60%。OpenAI称,正着手将类似CriticGPT的模型集成到旗下RLHF标记管道中,为自己的练习师提供明确的AI帮助。

  OpenAI称,因为没有更好的工具,所以人们目前难以评估顶级的AI全面的表现。而CriticGPT意味着,OpenAI向能够评估顶级AI系统输出的目标迈进了一步。   相关报道

  OpenAI被曝内部开发“草莓”项目 遭马斯克嘲讽

手机扫码浏览该文章
 ● 相关资讯推荐
2024-8-19【OpenAI】OpenAI面临多个挑战 - 人才流失、财务压力与竞争对手的追赶
2024-8-18【人工智能】两周!衰退恐慌让位软着陆预期,美股-翻身-能否持续
2024-8-16【人工智能】生成式AI大模型高质量-竞速跑- 各路资本主动入局
2024-8-15【OpenAI】ChatGPT家族上新 OpenAI-草莓-落地?
2024-8-15【人工智能】联想集团 - 第一财季营收同比增长20% PC以外业务收入占比创历史新高
2024-8-15【操作系统】美股三大指数集体收涨 - 明星科技股涨跌不一 - 热门中概股普跌
2024-8-14【操作系统】21深度 - 霸主谷歌的-荆棘王冠-
2024-8-14【操作系统】谷歌-Her-抢跑落地 OpenAI语音AI仍在-hold on-
2024-8-14【李一舟】-消失-五个月的李一舟现身,这一次不卖AI课
2024-8-14【操作系统】24年来首次!美司法部据悉考虑拆分谷歌,全球约25亿设备使用的安卓系统恐被强制剥离
 ● 相关资讯专题
OpenAI】  【人工智能】  【Anthropic】  【软着陆】  【美联储】  【数据安全】  【竞速跑】  【ChatGPT】  【同比增长】  【联想集团】  【操作系统】  【美国司法部】  【热门中概股】  【荆棘王冠】  【李一舟】 
  • 网络建设业务咨询

   TEl:13626712526