OpenAI 总裁萨姆·奥尔特曼(Sam Altman)近日在Aspen Ideas Festival活动的访谈上提及GPT-5开发进展,谈及关于此前他被董事会解雇一事,并分享了他关于AI安全的意见。
就GPT-5开发进展,奥尔特曼称,开发GPT-5还需一些时间,希望GPT-5取得重大飞跃,而GPT-4还会出现很多错误,犯一些6岁小孩都不会犯的错误。就 人工智能 的前景, 奥尔特曼表示, 人工智能 是巨大的生产力驱动力,AGI(通用 人工智能 )可以创造100万亿美元的财富,可以让全球的GDP翻倍,或许只需要十年完成翻倍。
近期另有一些争议事件围绕着OpenAI,例如,OpenAI与苹果合作后, 特斯拉 总裁马斯克对苹果将用户数据交给外部公司的安全性问题表示疑问,称不允许苹果产品进入公司。就“不允许苹果产品进入公司”的言论,奥尔特曼表示“我怀疑这件事是否会发生,但我没有预料到(会如此)”,他认为这不代表其它科技公司的普遍反应,而更像是马斯克的反应。
奥尔特曼也对去年底他被董事会解雇一事表达看法。“这是非常痛苦的经历,但我的确理解前董事会为啥会如此焦虑,前董事会成员对 人工智能 的持续发展感到紧张,对我和我们所做的事有一些看法,尽管我非常强烈地反对他们的思路。他们是一些对未来感到紧张并试图理清楚如何取得好结果的好人。事件发生后,我不得不在震惊的情感下收拾残局。”奥尔特曼表示,现在新董事会成员经验丰富、(想法)富有建设性且乐于提供帮助。
奥尔特曼谈及人们对 人工智能 安全的焦虑。“( 人工智能 )将造成社会发生巨大的变化,我认为它与其它技术趋势不同。有一种可以明白的焦虑感,来自人们对 人工智能 将走向何方的疑虑。即便我们解决了每一个有关滥用的问题、找到了完美的监察管理制度,当 人工智能 工具变得越来越强大,当计算机不仅能理解我们、帮助我们的时候,生活会是样子?”奥尔特曼表示,或许未来可以让计算机去运营一家企业。OpenAI做了很多工作来保障 人工智能 的安全性,后续还将继续争取人们对 人工智能 全面的信任。
另一些与 人工智能 相关的争议事件引起广泛关注,例如,此前美国演员斯嘉丽·约翰逊指控ChatGPT使用类似她声音的AI语音,奥尔特曼此前曾回应称,他不认为那是约翰逊的声音。奥尔特曼此次表态,整个行业对于 人工智能 技术被用来伤害个人的事情,需要实施非常强硬的立场。“ 人工智能 技术达到能‘换脸’的水平是不可避免的,但这是我们社会监督和政府监管可以施展作用的地方。对于‘换脸’、虚假信息等不好的使用,我们需要划一条界线。”奥尔特曼称。
越来越多由人类创造的数据被用于 人工智能 训练,为了让大模型变得更加智能,是否 人工智能 公司将对数据越来越“贪得无厌”,并持续引发关于合理使用的争议?奥尔特曼对此回应称,目前还不确定未来如何让大模型变得越来越聪明,包含是否永远需要越来越多的数据,需要找到新的模式来获得数据并训练模型。
至于如何让计算机获得正确的价值观,奥尔特曼表示,虽然现在还不能说完全解决了 人工智能 对齐的问题,但在目前 人工智能 系统中,让系统学会如何按一套价值观行事的效果比他想象的更好。现在更难的问题是,谁来决定价值观,社会层面可以讨论 人工智能 的价值观应该是啥。奥尔特曼表示,GPT-4花了约8个月的时间进行红队测试和外部咨询,将来的大模型可能需要花更多时间。