Deepfake最新受害者出现了——全球顶流,泰勒·斯威夫特(Taylor Swift,中文绰号“霉霉”)。
近乎是在一夜之间,X、Facebook等社交平台上便充溢了大量虚假“不雅相片”,而且浏览量已经高达上千万!尽管最早流传这些图片的账号已经被封禁,但相片的流传仍未完全阻断。
泰勒·斯威夫特我也已经得知此事,对此表示相当愤怒,粉丝们也自发组织了保护行动。
在X上,有网友直接@马斯克,喊话说这事马斯克你得出来管管了。
究其原因,事情要从泰勒·斯威夫特和美国NFL橄榄球运动员Travis Kelce的恋情说起。Kelce效力于堪萨斯城酋长队,两人的恋爱关系被曝光后,泰勒也成了该球队竞赛的常客。
于是便有人借题施展,用AI生成了以球场为背景,涉及泰勒和多名虚构“队员”的露骨相片。
而关于这些图片的流传过程,则存在多种传言,有说法是最早出现在某加密聊天群组当中。有报道则称,这些Deepfake相片一开始被传至一家不良网站,这个网站上充溢着大量以知名人士为主角的不雅相片。
除了泰勒,这家网站还收录了成百上千的名人,包含饰演芭比的Magrot Robbie也未能幸免。
“Taylor Swift AI”一度成了X上的热门话题,不过目前疑似已经被屏蔽。
直到今天,一些参与流传相片账号已经被各大平台逐渐封禁,但仍有很多漏网之鱼。
Facebook方面,母公司Meta也有一名讲话人称:这些内容违反了我们的政策,我们正在将其从我们的平台上删除,并对发布该内容的账户采取行动。
但也有网友说,这不是删除的问题,这些相片一开始就不应该出现在这些平台上。对此Meta也做出了回应,表示“会继续监测并及时删除违规内容”。
在26日白宫记者会上,讲话人让-皮埃尔被问及此事时表示,“我们对此类图像流传感到担忧,更确切地说,是虚假图像,这令人担忧。”
“虽然社交媒体公司在内容管理方面可以独立做出决定,但我们认为他们在执行自己规则方面可以施展关键作用,以防止错误信息和未经同意的真实人物私密图像流传。”让-皮埃尔说。
她还补充说,网络上的执法不严对女性影响更大,她们是受到网络骚扰和欺凌的主要目标。让-皮埃尔称,这其实不是新问题,是拜登和哈里斯政府从上任第壹天起就优先考虑的问题,“我们对此非常重视。再一次,这让我们感到担忧。”
值得强调的是,这不是泰勒·斯威夫特第壹次被AI整蛊。1月初,一则由 人工智能 生成的假泰勒·斯威夫特带货广告在社交媒体Facebook上流传。
“嘿你们好,我是泰勒·斯威夫特。由于包装犯错,有3000套Le Creuset(中文名译为‘酷彩’)炊具套装不能正常线下销售,转向线上出售。有一个好消息分享给你们,我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”
在这则广告中,斯威夫特坐在钢琴前,向大家推销法国高端炊具品牌Le Creuset,并表示作为她的“新年大放送”,会向20位粉丝免费赠送一套炊具。
其实,视频中的“霉霉”其实不是真的斯威夫特,而是AI“深度做假”技术合成了她的声音,并将声音与她的光辉形象和Le Creuset广告片段拼凑在一起。涉事公司对此迅速做出回应称,斯威夫特没有参与任何消费者赠品活动,所有关于产品促销的活动均来自官方社交活动。
啥是AI“深度做假”?
AI“深度做假”(Deepfake)技术再次引发关注。深度做假(Deepfake)是英文“Deep learning”(深度学习)和“Fake”(伪造)的混成词,指利用深度学习技术生成合成图像、音频或视频的技术。
美国布法罗大学“媒体取证实验室”的计算机科学教授吕思伟(Siwei Lyu)表示,“霉霉”这起“深度做假”诈骗活动有可能是利用文字转语音服务制作的。该类工具可将脚本转译成声音,并用唇语同步程序将其合成至视频片段。