安大互联
财经热点 > 财经资讯 > 推理能力接近类人水平?OpenAI神秘项目-草莓-被曝光!内部人士曾警告 - 可能威胁全人类
【人工智能】推理能力接近类人水平?OpenAI神秘项目-草莓-被曝光!内部人士曾警告 - 可能威胁全人类
浏览次数:【143】  发布日期:2024-7-13 7:24:50    文章分类:财经资讯   
专题:人工智能】 【OpenAI
 

  新近消息显示,OpenAI正在让 人工智能 (AI)大模型的能力更加接近类人的推理水平。

  据知情人士和媒体查询的内部文件,ChatGPT开发商OpenAI正在一个代号为“草莓”的项目中开发一种新的 人工智能 模型。该项目的细节此前从未被报道过,当前该公司正在努力展示其提供的模型类型能够提供顶级推理能力。这位知情人士说,即便在OpenAI内部,“草莓”的工作原理也是一个严格保密的秘密。

  知情人士还透露,该内部文件描述了一个使用Strawberry模型的项目,目标是使该公司的 人工智能 不仅能够生成查询的定论,而且能够提前做好充分的计划,自主、可靠地在互联网上导航,以执行OpenAI所说的“深度研究”。

  OpenAI被问及上述所说的草莓技术时,OpenAI的讲话人在一份声明中表示:“我们希望自身AI 模型能够像我们(人类)一样看待和理解世界。持续研究新的AI能力是业界的常见做法,大伙都相信这些全面的推理能力会随同着时间的推进而提高。”

  虽然该讲话人未直接回答有关草莓的问题,但媒体称,草莓项目此前名为Q*。而Q*正是去年被爆出OpenAI 总裁突然被解雇宫斗大戏的导火索。

  去年11月媒体称,OpenAI代号Q*的项目实现重大突破,让人类实现通用 人工智能 (AGI)的步伐大大提速,但OpenAI 总裁 奥特曼可能没有和董事会详细披露Q*的进展,这是董事会突然解雇奥特曼的一个因素。OpenAI的内部人士向董事会致信警告,Q*的重大发现可能要挟全人类。

  媒体称,Q*可能具备GPT-4所不具备的条件数学能力,或许意味着与人类智能相媲美的推理能力,网友推测,这可能代表OpenAI朝着其设定的AGI目标迈出了一大步。

  今年3月曝光的一份文件显示,OpenAI计划,在2027年之前,开发出人类水平的AGI。OpenAI 2022年就开始训练一个125万亿参数的多模态模型,该模型名为Arrakis或Q*,原本计划在2025年作为GPT-5发布,但因推理成本高而取消。OpenAI尔后计划,2027年发布的Q 2025(GPT-8)将实现完全的AGI。

   人工智能 (AI)研究者早就在争论用什么标准判断人类实现了通用 人工智能 (AGI)。OpenAI最近开发了一套系统,“自定义”AI进化等级,以此追踪开发人类级别AI的进展。

  美东时间7月11日周四,OpenAI的讲话人称,OpenAI在本周二的企业全体会议上与员工分享了新的分类系统,计划与投资者和公司外部人士分享这些等级的信息。

  OpenAI的系统划分了五个AI水平,按一到五的数字由低到高排列等级。OpenAI的高管告诉员工,公司认为目前自身产品处于第壹级,但即将达到第贰级,也就是,可以完成基本问题解决任务的系统,类似于拥有博士学位但无法使用任何工具的人。

  7月11日OpenAI的讲话人表示,OpenAI始终在内部测试新功能,这是业内的常见做法。

  对于OpenAI开发AI分级全面的消息,有网友表示,担忧AI超越人类可能造成的危险,不晓得那对经济和就业有何影响。

  今年5月,OpenAI发布新旗舰AI模型GPT-4o。它面向所有用户、包含免费用户,最快232毫秒响应音频输入,平均响应时间和人类相似;相比GPT-4 Turbo速度快两倍,成本降低50%,API速率限制提高五倍。

  上月传出GPT-5可能大幅推迟上线的消息。OpenAI首席技术官Mira Murati称,GPT-5有望在2025年底或2026年初推出。这一发布时间与早期传言有较大出入,市场曾预测GPT-5可能在2023年底或2024年夏季发布,

  不过,Murati透露GPT-5的性能将迎来重大飞跃,在特定任务中达到博士级智能水平。记者了解到,GPT-5内部代号为“Gobi”和“Arrakis”,是一个具有52万亿参数的多模态模型,上一代GPT-4参数约为2万亿。这一庞大的参数规模暗示了其潜在的强大能力。

  Murati将GPT-4到GPT-5的进步比作从高中水平到大学水平的跨越,表明新模型在复杂性和能力上将有明显提升。

  美东时间6月27日,OpenAI公布,其科研人员训练了一个基于GPT-4的模型,它被称为CriticGPT,用于捕捉ChatGPT代码输出中的错误。简单来说就是,CriticGPT让人能用GPT-4查找GPT-4的错误。它可以写出使用者对ChatGPT响应结果的批判评论,从而帮助人类训练者在RLHF期间发现错误。

  OpenAI发现,如果通过CriticGPT获得帮助审查ChatGPT编写的代码,人类训练师的审查效果比没有获得帮助的人强60%。OpenAI称,正着手将类似CriticGPT的模型集成到旗下RLHF标记管道中,为自己的练习师提供明确的AI帮助。

  OpenAI称,因为没有更好的工具,所以人们目前难以评估顶级的AI全面的表现。而CriticGPT意味着,OpenAI向能够评估顶级AI系统输出的目标迈进了一步。   相关报道

  OpenAI被曝内部开发“草莓”项目 遭马斯克嘲讽

手机扫码浏览该文章
 ● 相关资讯推荐
2024-9-11【人工智能】-财闻联播-外交部 - 反对美国大选拿中国说事!证监会 - 248家企业中期分红预计超1亿元
2024-9-10【东风本田】独家-知情人士讲述东风本田大裁员内幕
2024-9-10【格灵深瞳】视觉模型底座超越OpenAI,格灵深瞳开启多模态落地的Scaling - Law
2024-9-9【新能源汽车】9月9日晚市要闻
2024-9-10【网络安全】筑牢安全屏障 - 共建数字湾区
2024-9-9【英伟达】英伟达跌落-神坛-?小摩警告费城半导体指数走势呈明显-头肩顶结构-
2024-9-8【网络安全】2024国家网络安全宣传周在广州开幕 - 共绘网安新蓝图
2024-9-8【嘀嗒出行】科技周报 - 微信在苹果iOS系统上更新版本;淘宝明确9月12日后商家逐步开通微信支付
2024-9-8【人工智能】南财合规周报-第158期- 腾讯苹果大战破冰;14亿用户的个人信息去哪儿了?运营商隐私政策无法回答
2024-9-8【英伟达】AI周报-xAI上线全球最大AI训练集群;谷歌高管警告称AI未必能影响生产力
 ● 相关资讯专题
人工智能】  【无人驾驶】  【东风本田】  【新能源】  【格灵深瞳】  【大模型】  【多模态】  【OpenAI】  【新能源汽车】  【国企改革】  【阿里巴巴】  【网络安全】  【2024】  【英伟达】  【纳斯达克】  【半导体】  【指数走势】  【宣传周】  【嘀嗒出行】  【微信支付】  【运营商】  【xAI】  【生产力】 
  • 网络建设业务咨询

   TEl:13626712526