安大互联
财经热点 > 财经资讯 > 人形机器人-狂奔-,马斯克并非杞人忧天?AI安全观察①
【OpenAI】人形机器人-狂奔-,马斯克并非杞人忧天?AI安全观察①
浏览次数:【224】  发布日期:2024-3-18 17:56:54    文章分类:财经资讯   
专题:OpenAI】 【人工智能】 【人形机器人】 【马斯克】 【机器人】 【杞人忧天
 

  AI大模型疾行军,人形 机器人 所代表的硅基生物,行为越来越智能,恐怖谷效应也难以避免。

  据国际投行高盛预测,到2035年,人形 机器人 市场规模有望达到1540亿美元。

  科技巨头纷纷“用钱投票”人形 机器人 赛道的同时,技术的规范与安全,同样重要。

   机器人 的AI革命

  3月18日,芯片巨头英伟达的GTC大会举行,这是英伟达每年最重要的技术发布平台之一,被业界公认为“AI风向标”。今年,大会的关键议题也是人形 机器人

  就在上周,Figure 01人形 机器人 的演示视频,在全球的社交媒体刷屏。

  Figure 01 机器人 根据人类发出的口头指令,完成了一系列动作:将苹果递给人类,将“垃圾”归类并放入篮子,将杯子和盘子拿起来放到沥水架上。

  除了这些连贯的动作, 机器人 与人类之间的对话也相当清晰流畅,虽然其言行有相应的延时,但整体表现称得上“优异”。

  这款人形 机器人 由Figure AI公司开发。该公司由硅谷另一位传奇人物阿德科克在2022年建立,阿德科克被称为“青春版马斯克”。建立不足两年,今年2月,Figure AI接受英伟达等公司投资时,估值已达26亿美元。

  Figure 01接入了OpenAI提供的大模型。值得注意的是,该 机器人 的所有行为均来自其自主学习,其实不是远程操控。而Figure AI公司在3月1日才宣布与OpenAI合作,只有不足两周时间的练习。

  在这个进程中,由OpenAI提供视觉推理和语言理解,Figure 01的神经网络提供快速、低等级、灵巧的 机器人 动作。

  Figure 01接入OpenAI的成果,揭示了AI大模型在商业应用上的广阔前景,而且很有可能超乎想象。

  Figure AI和OpenAI均未透露该人形 机器人 接入的大模型是哪个版本,但可以确信的是,随着大模型能力的迅速迭代,人形 机器人 的思考、对话和行为也将得到大幅进化。

  就在Figure 01霸屏的几天前,一份54页的内部文件在硅谷流传,它描画的核心,是OpenAI正在开发的一个超级神秘项目,被命名为Q*(Q Star)。

  令人叹为观止的是,Q*多模态大模型拥有125万亿个参数,比现有GPT-4多60倍。可供比较的是,人脑有800-1000亿个神经元、100万亿个突触。

  业界纷纷猜想,Q*多模态大模型,正是模仿人类大脑设计的。

  其实,Q*准备走得更远。根据上述内部文件披露,OpenAI计划于2027年完成Q*训练,以GPT-7的名誉发布。Q*最终面世的时候,它将相当于一个智商145的人类。

  换而言之, GPT-7将成为第壹个真正具有初步自我意识的AGI模型,而且智商将高达145,超过了99%的人类。相信大伙都明白,爱因斯坦的智商是160,而拥有145智商的人物,在全球也是凤毛麟角。

  进步还是终结?

  巧合的是,与Q*项目文件泄露差不多同一天,OpenAI公布了“宫斗夺权事件”的调查报告。该报告由美国著名律师事务所WilmerHale完成。

  经过对OpenAI前董事会成员、高管及其它相关证人进行了数十次访谈、审阅文件3万余份,并评估各种公司行为之后,报告认为,前董事会解雇总裁山姆·奥特曼的决定,其实不是出于对产品安全、开发速度、公司财务情况或其向投资者、客户或业务合作伙伴声誉的担忧,而更多是二者之间的信任关系破裂。基于该调查报告,奥特曼“无罪”重返OpenAI董事会,并任命了来自外部的三名女性董事。

  奥特曼称得上是“完胜”,但该调查报告有意无意回避了一个重要问题,即前董事会指责奥特曼“不坦诚”。

  另外,人们还关心,目前已经离开公司的OpenAI前首席科学家、联合开创人Ilya Sutskever(伊尔亚·苏茨克维),去年11月发生内部“宫斗”时与奥特曼的重大分歧究竟是指什么,是不是传言中“伦理与商业的方向控制”?

  Q*项目文件或许揭开了谜底的一角。AI大模型初具自我意识,正是Ilya Sutskever担忧的,他要求 人工智能 与人类“对齐”,就是希望在商业伦理方面加强对它的控制,以确保OpenAI 不偏离其“ 人工智能 造福全人类”的建立初衷。

  这也是马斯克长期以来的担忧。这位OpenAI前开创人之一、捐助者之一,前不久发起了一项针对OpenAI的诉讼,其所公开宣称的目的,就是让OpenAI践行“ 人工智能 造福全人类”的初衷,而不是被微软等公司用于商业化。

  性格强悍、行事偏执的马斯克,是一位“人类至上主义者”,甭管是离开OpenAI再开办自己的AI公司xAI,还是建立火箭发射公司X SPACE,都是他核心观点的外化。前者是想确保人类不被 人工智能 机器人 控制,后者则是要为人类拓展新的星际生存空间。

  如果说Figure 01打开了大模型的商业化前景,预示着产业界祈盼多年的GAI奇点即将到来,那么,Q*项目训练中的智商145大模型则夹杂着一丝担忧,如何防止它在拥有自我意识之后失控,或反过来伤害人类甚至役使人类,这样的思路其实不是庸人自扰。

  工业革命以来,尝到科技转化甜头的人类,总是期望更高更强更新的技术,从而使碳基生物在地球上能生活(统治)得更舒适、更长久。这就是为啥人们普遍希冀多模态大模型最终能导向一次产业革命的原因所在。

  科学技术本身是中立的,没有善恶之分,但商业化路径却存在邪恶与良善。如果技术被不良理念主导,可能使科技走向无法收场。而且技术越先进,对人类潜在的伤害越大, 人工智能 换脸只是其中极小的案例。

  不过,业界已经行动起来了。3月13日,欧洲议会高票通过了《 人工智能 法案》,下一步是待欧盟理事会批准。相对于管控和责罚,这项法案更重在防范,好比要求微软、谷歌和OpenAI等公司在发展工人智能时额外增加透明度。

  当下,人类的确期待一次新的产业革命。但技术的运行,需要严格的规则与指引,使其运行在安全轨道上,防止技术脱缰。

手机扫码浏览该文章
 ● 相关资讯推荐
2024-9-19【人工智能】中国式体检20年 - 从例行公事到真的救命
2024-9-17【数据中心】铜价长期将飙升?必和必拓 - AI浪潮将加剧铜短缺
2024-9-14【新能源】携手清华解决可持续挑战 - 远景的又一次零碳试验
2024-9-15【人工智能】服贸会观察 - 大模型遇数据瓶颈、算力不足,电信运营商如何应对
2024-9-14【大模型】智谱AI狂奔!视频通话功能-首秀-,国产大模型解锁新能力 - 聚焦服贸会
2024-9-14【人工智能】人工智能板块,迎利好!
2024-9-14【马斯克】硬茬碰到了硬茬!马斯克,2400万元被没收
2024-9-14【人工智能】国家网信办 - 任何组织和个人不得恶意删除、篡改、伪造、隐匿人工智能生成合成内容标识
2024-9-14【人工智能】人工智能催收走热 - 面临双重合规挑战
2024-9-14【特斯拉】疑似-特斯拉Robotaxi谍照-浮出水面 网友们拿起放大镜寻找线索
 ● 相关资讯专题
人工智能】  【张黎刚】  【例行公事】  【数据中心】  【云计算】  【必和必拓】  【新能源】  【可持续】  【中国移动】  【中国电信】  【电信运营商】  【大模型】  【李飞飞】  【利雅得】  【马斯克】  【银行账户】  【互联网金融】  【特斯拉】  【Robotaxi】  【无人驾驶】  【激光雷达】  【放大镜】  【特斯拉Robotaxi谍照】 
  • 网络建设业务咨询

   TEl:13626712526