知情人士透露,在OpenAI首席执行官山姆·奥特曼(Sam Altman)被撤销4天之前,几位科研人员向董事会发出一封信,警告称一项强大的 人工智能 发现可能要挟人类——被称为Q*的模型。
这一消息得到了至少两家媒体的独立证实,但也有媒体援引知情人士的话称,董事会从未收到过有关此类突破的信,而且公司的研究进展并未对奥特曼的突然解雇发生影响。
两位知情人士告诉路透社,此前未披露的信件是董事会撤销奥特曼的一个关键导火索,是造成董事会众多不满的原因之一。
一位不愿透露姓名的知情人士称,OpenAI在Q*(发音为Q-Star)方面获得了进展,一些内部人士认为这可能是该草创公司寻找超级智能(也称为通用 人工智能 )的突破。OpenAI将通用 人工智能 (AGI)定义为比人类更聪明的 人工智能 系统。
鉴于拥有大量计算资源,新模型能够解决某些数学问题。知情人士称,虽然数学成绩仅达到小同学的水平,但在此类测试中取得好成绩让科研人员对Q*将来的成功非常乐观。
科研人员认为数学是生成式 人工智能 发展的前沿领域。目前,生成式 人工智能 擅长通过统计预测下一个单词来进行写作和语言翻译,而同一问题的定论可能会有很大不同。但征服数学的能力(只有一个正确答案)意味着 人工智能 将拥有类似于人类智能的更强推理能力。例如, 人工智能 科研人员认为,这可以应用于新颖的科学研究。
知情人士称,科研人员在给董事会的信中指出了 人工智能 的能力和潜在危险,但没有具体说明信中提到的具体安全问题。
值得注意的是,奥特曼被OpenAI董事会解雇前一天在旧金山出席亚太经合组织首席执行官峰会时,提到了OpenAI最近取得的一项技术进步。“在OpenAI的历史上已经有四次了,最近一次是在过去几周,当我们推开无知的面纱并向前推进发现的前沿时,我已经在房间里了,能够做到这一点是一生的职业荣誉。”他说。
随着后来OpenAI陷入混乱,这一神秘言论几乎没有引起注意。但一位不愿透露姓名的知情人士表示,一些OpenAI员工认为,奥特曼的言论指的是该公司今年早些时候的一项创新,该创新将使他们能够开发出更强大的 人工智能 模型。这项技术突破由OpenAI首席科学家伊利亚·苏茨克维(Ilya Sutskever)牵头,一些员工担忧OpenAI在将这种顶尖的 人工智能 模型商业化时没有适当的保障措施。
据一位不愿透露姓名的知情人士透露,OpenAI首席技术官米拉·穆拉蒂(Mira Murati)11月22日向员工提到了这个名为Q*的项目,并表示在上周末的人事震动之前董事会收到了一封信。但OpenAI讲话人林赛·海尔德·博尔顿(Lindsey Held Bolton)在与媒体分享的一份声明中驳斥了这一说法:“米拉告诉员工了解媒体透露的内容,但她没有对信息的准确性发表评论。”