安大互联
财经热点 > 财经资讯 > AI-数据荒-如何办?微软、谷歌等公司正使用-合成数据-训练AI
【人工智能】AI-数据荒-如何办?微软、谷歌等公司正使用-合成数据-训练AI
浏览次数:【553】  发布日期:2024-5-12 10:51:24    文章分类:财经资讯   
专题:人工智能】 【数据荒】 【合成数据
 


K图 MSFT_0


K图 GOOGL_0


K图 GOOG_0

   人工智能 聊天 机器人 的背后需要海量高质量数据作为支撑。传统上, 人工智能 系统依赖于从各种网络来源(如文章、书籍和在线评论)中提取的大量数据来理解用户的查询并生成响应。

  长期以来,如何获取更多的高质量数据成为 人工智能 公司的一大挑战。由于数据在互联网上的可用性是有限的,这促使 人工智能 公司正寻求一种替代解决方案——合成数据(Synthetic data)。

  合成数据,即 人工智能 系统生成的人工数据。科技公司通过利用自己的 人工智能 模型,生成合成数据(这也被认为是虚假数据),然后将这些数据用以训练其全面的未来迭代。

  谈及合成数据是怎样生成的,其过程包含为 人工智能 模型设置特定参数和提示以建立内容,这种方法可以更精确地控制用于训练 人工智能 全面的数据。

  例如,微软的科研人员向 人工智能 模型列出了四岁孩子能够明白的3000个词汇,然后,他们要求该模型使用词汇表中的一个名词、一个动词和一个形容词来创造一个儿童故事。通过几天时间内数百万次的重复提示,模型最终发生了数百万个短篇故事。

  虽然计算中的合成数据其实不是一个新概念,但生成式 人工智能 的兴起增进了大规模建立更高质量的合成数据。

   人工智能 草创公司Anthropic首席执行官Dario Amodei将这种方法称为“无限数据生成引擎”,旨在避免与传统数据收集方法相关的一些版权、隐私等诸多问题。

  现有用例与分歧观点

  目前,Meta、谷歌和微软等主要 人工智能 公司已经开始使用合成数据开发顶级模型,包含聊天 机器人 和语言处理器。

  例如,Anthropic使用合成数据为其聊天 机器人 Claude提供动力;谷歌DeepMind则使用这种方法来训练能够解决复杂几何问题的模型;这时,微软已经公开了使用合成数据开发的小型语言模型。

  有支持者认为,如果适当实施,合成数据可以发生准确可靠的模型。

  然而,一些 人工智能 专家对与合成数据相关的危险表示忧虑。著名大学的科研人员观察到了“模型溃散”的案例,即在合成数据上训练的 人工智能 模型出现了不可逆转的缺陷,并发生了荒谬的输出。另外,有人担忧合成数据可能会加剧数据集的偏差和错误。

  剑桥大学博士Zakhar Shumaylov在一封Email中写道,“如果处理适当,合成数据会很有用。然而,对于如何才能处理适当,目前还没有明确的定论;有些偏见对于人类来说可能很难发觉。”

  另外,围绕对合成数据的依赖存在一场哲学辩论,人们对 人工智能 的本质提出了疑问——如若使用机器合成的数据,那么 人工智能 是否还是模仿人类智能的机器?

  斯坦福大学教授Percy Liang强调了将真实的人类智能融入数据生成过程的重要性,并强调了大规模建立合成数据的复杂性。他认为,“合成数据不是真实的数据,就像你做梦登上了珠穆朗玛峰其实不是真正登顶了一样。”

  目前对于生成合成数据的最佳做法尚未达成共识,这突出表明需要在这一领域进一步研究和发展。随着该领域的不断发展, 人工智能 科研人员和领域专家之间的合作对于充分利用 人工智能 开发合成数据的潜力非常重要。

手机扫码浏览该文章
 ● 相关资讯推荐
 ● 相关资讯专题
  • 网络建设业务咨询

   TEl:13626712526