【知名人士】微信最新公告！账号关闭 - 永久封禁！打击利用AI仿冒知名人士进行营销宣传

　　12月15日，“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告。

　　内容如下：

　　近期有媒体透露网络存在利用AI技术仿冒名人进行不妥营销的现象。为守护用户权益，避免消费者挨坑被骗，结合用户举报、日常巡查等线索，微信平台赶快从严打击了一批利用AI仿冒知名人士进行不妥营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。直到今天，累计处置内容532条，关闭账号209个。典型案例如下：

　　下一步，微信平台将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提高技术治理能力和水平，维护良好生态。同时，微信平台也提倡广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的表现，平台欢迎广大仁人志士提供更多线索，共同构建清朗有序的网络环境。

　　当下，AI合成技术已经非常成熟且已经被频繁应用在短视频制作中。调取一段录像，输入一段语音，便能提取克隆相关的嗓音特质，并针对“自行设计”的台词，智能更改口型。

　　据央广网报道，利用AI技术炮制名人音视频作品以假乱真，甚至伪装成熟人、亲人实施精准诈骗的案例屡见不鲜。

　　对此， 北京市 京都律师事务所合伙人徐伟律师认为，未经授权使用AI换脸技术进行经营行为，已侵犯到当事人的肖像权。在这种情景之下，如果经营者有虚构产品功效、虚高产品价格的表现，消费者基于对当事人的信任而购买该产品，该行为还有可能构成诈骗罪。而且，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩办网络暴力违法犯罪的指导意见》中明确，对利用“深度合成”等生成式 人工智能 技术发布违法信息的，依法从重处罚。

　　“AI换脸”技术的应用中，从视频最终的内容角度考量，假如有人利用换脸软件对他人进行恶意丑化、玷辱式恶搞，或将他人的脸换到不雅视频中，还会侵犯他人的名誉权。

　　此类事件中，徐伟认为除了经营者，AI技术提供者和视频平台，也需要承担相应的责任。

　　徐伟介绍，根据《互联网信息服务深度合成管理规定》，要求深度合成服务提供者提供深度合成服务，可能造成公众混淆或误认的，务必在生成或编辑的信息内容的合理位置、区域进行明显标识，向公众提示深度合成情况。目前一些较大的视频平台在许多AI生成的真人换脸视频下方都含有提示信息，在用户刷到AI生成内容的视频时，会标注“AI生成内容”或“疑似包含AI创作信息，请注意甄别真实度”等提醒。如果被投诉的虚假视频发现没有该类提示性标注，则平台难辞其咎。

　　视频平台若是对平台使用者的这种侵权行为不予恰当处理，则可能承担连带责任。平台具有相应的审查、监督职责，在被告知或发现此类犯法行为后，应当积极响应权利人的要求，及时撤消、下架相关侵权图片、视频，中止相关直播等，避免恶劣影响的进一步扩大。相反，平台若是有意放纵此类行为的发生、继续，对相关投诉、举报等视若无睹则应当与侵权者承担连带责任。