眼前这篇论文是AI写的么?这篇稿子的信源是AI提供的么?大批 人工智能 创作工具广泛使用,网络内容治理、学术规范面临全新挑战。
12月9日, 人民网 正式发布“天目”智能识别系统,探索“用AI治理AI”的内容风控新模式。
“天目”由流传内容认知全国重点实验室( 人民网 )研发,能够对 人工智能 生成内容进行识别,对深度伪造内容进行检测,对合成手段进行追根溯源。公开测试数据显示,“天目”对国内外主要 人工智能 大模型生成中文文本的识别准确率达到93%。系统支持单次最多10万字的数据检测,对疑似AI生成句段明确标识,一键生成检测报告。同时,系统不留存、不转用任何检测数据,充分保护用户的数据隐私与安全。
图为天目系统检测页面
流传内容认知全国重点实验室首席科学家张勇东表示:“我们以语言模型的疑惑度、词频特征为切入点,研究发现AI生成模型倾向于采用高频词,而人类写作的选词则更具有随机性。”基于此, 人民网 研发了语义与风格特征融合的语言模型评价方法,推出“天目”系统,用于快速区分机器生成内容与人工创作内容。
“我们肯定AI的技术价值,积极研发,主动运用。我们也同样重视人的创新创作创意。” 人民网 内容风控责任人辛瑞佳表示,人类的灵感和创造力无法被机器替代,也不应被机器替代,过度依赖AI可能会削弱人的独特性。“识别AI生成的信息,从更深层讲,也是保护人类的创造价值。”
另外, 人民网 内容风控的另外一个智能产品“人民审校”,于近期同步升级4.0版本,新增了标识审校、地标审校、商标审校、版式审校等能力,优化自定义词库功能,在涉政信息表述审校精度和广度方面实现全面提升。
下一步, 人民网 将加大力度研发建设主流价值语料库,帮助国产AI系统建设安全合规的语料体系,更好实现价值观对齐,助力AI产业健康安全发展。