人工智能 聊天 机器人 的背后需要海量高质量数据作为支撑。传统上, 人工智能 系统依赖于从各种网络来源(如文章、书籍和在线评论)中提取的大量数据来理解用户的查询并生成响应。
长期以来,如何获取更多的高质量数据成为 人工智能 公司的一大挑战。由于数据在互联网上的可用性是有限的,这促使 人工智能 公司正寻求一种替代解决方案——合成数据(Synthetic data)。
合成数据,即 人工智能 系统生成的人工数据。科技公司通过利用自己的 人工智能 模型,生成合成数据(这也被认为是虚假数据),然后将这些数据用以训练其全面的未来迭代。
谈及合成数据是怎样生成的,其过程包含为 人工智能 模型设置特定参数和提示以建立内容,这种方法可以更精确地控制用于训练 人工智能 全面的数据。
例如,微软的科研人员向 人工智能 模型列出了四岁孩子能够明白的3000个词汇,然后,他们要求该模型使用词汇表中的一个名词、一个动词和一个形容词来创造一个儿童故事。通过几天时间内数百万次的重复提示,模型最终发生了数百万个短篇故事。
虽然计算中的合成数据其实不是一个新概念,但生成式 人工智能 的兴起增进了大规模建立更高质量的合成数据。
人工智能 草创公司Anthropic首席执行官Dario Amodei将这种方法称为“无限数据生成引擎”,旨在避免与传统数据收集方法相关的一些版权、隐私等诸多问题。
现有用例与分歧观点
目前,Meta、谷歌和微软等主要 人工智能 公司已经开始使用合成数据开发顶级模型,包含聊天 机器人 和语言处理器。
例如,Anthropic使用合成数据为其聊天 机器人 Claude提供动力;谷歌DeepMind则使用这种方法来训练能够解决复杂几何问题的模型;这时,微软已经公开了使用合成数据开发的小型语言模型。
有支持者认为,如果适当实施,合成数据可以发生准确可靠的模型。
然而,一些 人工智能 专家对与合成数据相关的危险表示忧虑。著名大学的科研人员观察到了“模型溃散”的案例,即在合成数据上训练的 人工智能 模型出现了不可逆转的缺陷,并发生了荒谬的输出。另外,有人担忧合成数据可能会加剧数据集的偏差和错误。
剑桥大学博士Zakhar Shumaylov在一封Email中写道,“如果处理适当,合成数据会很有用。然而,对于如何才能处理适当,目前还没有明确的定论;有些偏见对于人类来说可能很难发觉。”
另外,围绕对合成数据的依赖存在一场哲学辩论,人们对 人工智能 的本质提出了疑问——如若使用机器合成的数据,那么 人工智能 是否还是模仿人类智能的机器?
斯坦福大学教授Percy Liang强调了将真实的人类智能融入数据生成过程的重要性,并强调了大规模建立合成数据的复杂性。他认为,“合成数据不是真实的数据,就像你做梦登上了珠穆朗玛峰其实不是真正登顶了一样。”
目前对于生成合成数据的最佳做法尚未达成共识,这突出表明需要在这一领域进一步研究和发展。随着该领域的不断发展, 人工智能 科研人员和领域专家之间的合作对于充分利用 人工智能 开发合成数据的潜力非常重要。