商业洞察
【张文宏医生】微信公告 - 永久封禁!
【查看信息来源】 12-15 18:19:37
【导读】微信出手:关闭209个账号,其中多个账号被永久封禁!
中国基金报记者安曼
12月15日,“微信珊瑚安全”发布公告,近期有媒体透露网络存在利用AI技术仿冒名人进行不妥营销的现象。结合用户举报、日常巡查等线索,微信赶快从严打击了一批利用AI仿冒知名人士进行不妥营销、恶意博取流量的违规行为,并针对相关情况开展专项治理。
直到今天,累计处置内容532条,关闭账号209个。下一步,微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度。
张文宏被“AI带货”
最新回应:气到想报警
不久前,有网友向媒体反映,家中老人在网络卖货视频中看到“张文宏医师”在卖一种蛋白类的产品,老人信以为真,不仅下了单还转发给了很多群。
后来经核对,该视频其实不是张文宏医师我,而是利用AI技术合成的。在这段视频中,被合成的人像反复介绍一种产品,声音听起来也很像张文宏我,商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前,该账号已搜索不到。
对此,张文宏医师在回应媒体时表示,“这样的卖货账号不止一个,且始终在变,我屡次向平台投诉但屡禁不绝。很多云里雾里的 老百姓 、尤其是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。我看购买量在不一样的地方好像都有很多。我在发现这事后立即投诉过那个AI合成的视频,但他的账号始终在换,我最后也木有精力了。这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。其实,从平台投诉结果来看,我认为最终也难以处理问题。”
除了向平台方投诉,张文宏称自己也曾考虑过报警,但对方看不见摸不到,就像幽灵一般难以描述,只能寄希望于相关部门加强监管。“报警总要有个对象对吧,现在报警报谁呢?他一天换一个账号,而且全是虚拟的,我向谁报警?所以我认为,他侵犯的是消费者的利益,我认为相关部门应该处理。”张文宏说。
上海消保委发声:非常恶劣
12月12日,上海消保委副秘书长唐健盛表示,实际上这压根就不是张文宏老师在带货,这完全是用AI来做的,这事情非常恶劣。
首先这种做法其实已经构成了对消费者的欺诈,消费者如果说上当的,那么完全可以根据消费者权益保护法的限定,要求商家做出退一赔三,并且金额不足500元的要这个根据500元来赔。“另外,我们感觉相关的监察管理职能部门应该对这种恶劣的表现要采用非常严厉的要领进行处罚,因为这不只是涉及到消费者权益,它其实还涉及到整个社会的良心跟道德。”唐健盛提到。
多位知名人士遭遇“AI营销”
国家网信办已出手
其实,随着AI合成技术愈发成熟且已经被频繁应用在短视频制作中,AI合成冒充名人的精心骗局愈来愈频发。
据了解,今年11月,江西一位65岁老人到银行办理业务,声称要贷款200万元给男朋友“靳东”拍戏。经查发现,老人手机里的“靳东”出自AI合成的视频。
今年10月,老牌港星黄百鸣通过社交媒体郑重声明,有人盗用其过去影片,利用AI替换声音,代言一个不颇有知名度的药膏品牌。
其实,今年9月,国家网信办已经发布了《 人工智能 生成合成内容标识办法(征求建议稿)》,要求从视频制作和发布的源头做好信息管理。
该办法明确提出两种 人工智能 生成合成内容标识的种类,即“显式标识”与“隐式标识”,还明确了两类标识所应当适用的场景,将《深度合陈规定》第十七条所提出的“明显标识”与“显式标识”建立了直接的对应关系。另外,根据不同 人工智能 生成合成内容的载体与形式(如文本、音频、图片等),该办法还罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。
金杜律师事务所宁宣凤表示,该办法的出台标志着中国在 人工智能 领域规范管理方面迈出了重要一步。随同在生成合成的内容中添加显式或隐式标识举措的落地,互联网信息内容的透明度将明显提升,用户可以在此基础上直观识别内容是否由 人工智能 生成,有助于用户免受虚假内容的不良影响。
记者了解到,该办法仍然逐渐完善的进程中。随着《 人工智能 生成合成内容标识办法》正式落地,将为社会公众造成一个更加健康、透明和负责任的 人工智能 应用环境。