【知识产权保护】合合信息董秘刘忱 - AIGC安全发展需多管齐下

　　新华财经上海1月15日电（记者王淑娟）上海合合信息科技股份有限公司董事、董事会秘书刘忱15日接受记者采访时表示，生成式 人工智能 技术（AIGC）迎来了爆发式增长，这一技术革新在为人们生活、工作造成极大便利的同时，由于缺乏科技伦理的规范与引导，滋生出诸多安全隐患，成为不法之徒实施网络犯罪的新工具。2025年上海地方两会期间，他将聚焦“以科技伦理为导向，科技助力AIGC安全发展”建言献策。

　　刘忱指出，AIGC短短两年便实现从文生文、文生图到深度伪造、文生视频的跨越发展，但也滋生了诸多安全隐患。一是生成式做假造成虚假舆论问题，数据显示，2023年基于AI的深度伪造欺诈数量暴增3000%，这一数据凸显诞生成式做假问题的严重性。

　　二是电信诈骗技术升级，根据专业安全技术公司对全球7个国家的7000多名被访者的调查，四分之一的成年人受访者经历过AI语音克隆骗局，70%的人难以分辨克隆声音与真实人声。

　　三是 知识产权 侵犯事件频发。AIGC模型的形成和完善依赖大量数据训练，而这些数据往往包含受版权法保护的内容。 人工智能 撰写的文章等AIGC作品存在著作权归属不清的困境，根源在于训练数据可能包含版权保护内容。这不仅可能造成使用AIGC技术创作的作品无法获得著作权保护，阻碍技术施展创作价值，还可能因海量摹写行为稀释既有作品权利人的独创性，要挟他人合法权益，对 知识产权 保护构成严峻挑战。

　　针对诸多安全隐患，刘忱呼吁，科技助力生成式 人工智能 安全发展需多管齐下，从治理机制构建、技术研究加强、伦理训练与数据集优化，到 知识产权 保护强化等多方面入手，方能引导科技向善，有效应对AIGC造成的安全挑战，推动行业良性发展。

　　他建议，第壹，多方联合，共同协作打击AIGC虚假新闻，构建各方共同参与、技管结合、分工协作的治理机制。研究机构应落实行业标准；平台机构应通过事前宣导，强化视频制作者的责任感，并开展违规内容检测，防止流传 AIGC 生成的违规信息。

　　第贰，鼓励企业研发AI防御与鉴伪技术。建议设立专项资金，鼓励科技企业关注技术在AIGC虚假信息“主动防御”“主动检测”中的应用。“主动防御”方面，利用 数字水印 技术实现AIGC合成内容追踪溯源，文本、图像、音频、视频等均可作为 数字水印 载体，验证者通过算法对文本中的 数字水印 进行验证，快速识别机器生成文本内容；“主动检测”方面，引入AI欺诈检测与鉴伪技术，精准识别伪造内容，实时监测并应对AIGC坑骗行为，以技术防御和人工干预相结合的形式，筑牢安全防线。

　　第叁，构建伦理训练与数据集体系。目前 AIGC 的导向掌握在训练模型的人类手中，算法偏见的根原本自数据。因此，构建更加公正的数据集是解决算法偏见的根本方法之一。同时，强化伦理训练，让AIGC生成内容更加符合社会伦理规范，避免因数据偏差或模型局限引发的虚假信息输出。

　　第四，用科技强化 知识产权 保护法律“武器”。为进一步规范AIGC领域的发展，对于发布内容，可从性质上区分营利与非营利。非营利性质需要联合平台，做好发布前的责任提示；如涉及营利性质，需进一步明确AIGC 知识产权 归属，细化侵权责任认定，强化数据 知识产权 保护，例如对模型训练的数据选择、结果输出等环节进行细致定义，降低流程中的数据侵权风险。执法进程中还可引入技术手段对AIGC生成的视频、图像进行版权标识和追踪，为原创作品提供确权服务，维护创作者合法权益，增进AIGC技术在尊重 知识产权 的条件下健康发展。