维辰

　　小红书平台的文案，有可能是AI写出来的——日前有媒体注意到，过去大半年，该平台很多站长都开始用AI生产图文内容，有性格测试类、知识科普类账号涨粉迅速。Kimi、通义千问、文心一言等一众大模型产品，基本都有专门针对小红书文案的AI撰写能力。

　　这是AI内容在整个互联网内容中占比变大的一个缩影。随着生成式 人工智能 （AIGC）蓬勃发展，AI越来越“聪明”，可以帮人们承担更多工作：资讯平台上，短短几秒就可以生成一篇文章；短视频平台上，从画面、字幕到人物的声音，都能由AI制作……凡此种种，其影响不得不谨慎评估。

　　去年年底，关于AI创作界限的讨论就已广泛展开。一个共识是，除了学术论文等领域，让AI做一些辅助工作，由人做最后的把关与调整，有益于将人从一些基础、繁琐的工作中解放出来。但根据现行有关规定，至少还要对AI生成内容进行明显标识。

　　这么做的必要性有二。其一，帮助其它用户区分虚拟与现实，降低用户理解成本；涉及专业行为等内容时，标识还相当于风险提示。有调查机构研究发现，AI虚假新闻和信息已经开始爆发性增加，背后的动机各异，包含依靠两极分化的内容吸引点击量，获取广告收入。也有媒体调查发现，AI虚假短视频越来越普遍，视频流传的所谓养生知识、人生哲理等，要么观点偏执、要么夹带广告“私货”，具有很强的误导性，另外，由于反复进行训练，AI内容准确性、个性化逐步提升，许多内容不再是“一眼假”，危害性不容易被发觉。

　　最近有个热门话题——关于“9.11和9.9哪个大”，记者实测了ChatGPT和当前国内的主流大模型，结果12个大模型中8个都答错了，袒露出AI在某些方面的短板。今年3月，两名律师用AI生成法律文书，其中的案例却是假的。专业人士指出，AI“一本正经地瞎说”即AI幻觉具有普遍性，会造成知识偏见与误解，甚至有时会造成安全风险、伦理和道德问题。虽说很多平台明确，发布者对AI内容引发的相应后果负责，但人难免有失察之时，有各种各样的动机与侥幸心理，AI有时也不如我们想象中“聪明”，添加一道“安全门”很有必要。

　　其二，区分人工内容和AI内容，是避免AI变“笨”的需求。有研究数据表明，使用AI生成的数据训练超过5次，模型就会发生溃散。如中国工程院院士沈昌祥所说，如果让未经证实的“AI语言”再次进入互联网，就会“弄脏”互联网，进一步被抓取作为训练AI的语料，AI大模型将会走向溃散，陷入“模型自噬”。2023年施行的《生成式 人工智能 服务管理暂行办法》专门提出要增强训练数据的可靠性、准确性、客观性、多样性，就是为了避免AI变得封闭、性能下降。随着生成式AI成本越来越低，AI内容同质化等诸多问题伴生而来，保持“数据清洁”需要引起更多重视。