新华财经伦敦10月26日电（记者郭爽）谷歌旗下“深层思维”公司的科研人员设计了一种“水印”，可以无形地标记 人工智能 生成的文本，并将其提供给数百万聊天 机器人 用户。该研究成果日前发表在英国《自然》杂志上。
随着大语言模型在质量、连贯性、覆盖范围和专业性方面的进步，区分其生成的高质量合成文本和人工书写文本变得越来越困难。鉴于大语言模型在教育、软件开发和网络内容生成中的广泛使用， 人工智能 生成文本的识别和归属对于确保安全和负责任使用该技术非常重要。
各国都期待通过水印来识别 人工智能 生成文本并限制意外或故意滥用问题，以帮助鉴别和打击虚假新闻和学术做假等，同时避免因使用 人工智能 生成内容训练而造成未来模型质量下降的问题。但迄今开发的水印都较容易被移除，或用于欺诈。
此前，“深层思维”公司已经开发出图像水印技术——SynthID，可以识别并应用在 人工智能 生成图像上。在此基础上该公司开发了一种被称为SynthID-Text的文本水印技术，可以将水印应用于文本。
该技术将水印整合到大语言模型本身文本生成的步骤中，以一种隐秘但公式化的形式标记模型选择的单词，而这可以用密钥检测到。与其它方法相比，这样引发的水印更容易被检测到，而且应用它不会减慢文本的生成速度和质量。另外，由于密钥复杂，移除水印或使用水印欺诈变得更加困难，即便使用第贰个大语言模型来解释文本，水印仍然可以被检测到。
目前，“深层思维”公司已将该水印技术开源，开发人员可以将这种水印应用于他们的模型。