“AI换脸”相信大伙都不陌生。只需要一张相片，通过 人工智能 深度合成技术，任何人都能成为视频中的主人公，甚至连脸色和动作都能以假乱真。

　　然而，这项新技术，却让一些人发生了不良想法。今日，话题#男子用AI伪造学生同事近7000张裸照#冲上热搜。

　　据央视新闻官方微博6月18日消息，犯罪嫌疑人白某某，原本是一家互联网公司的技术员。他用AI“一键去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元卖出。图片涉及女性人数多，包含学生、教师、同事。目前白某某已经被提起公诉。

　　男子用AI伪造学生同事近7000张裸照

　　据央视新闻客户端，一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员，他因为使用AI去衣技术，制作、兜售淫秽物品而涉嫌犯罪。

　　 北京市 海淀区人民检察院检察官助理郭树正表示：白某某用的这款 人工智能 软件，能很快对被害人的图片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的图片。

　　警方在白某某家的电脑里，查获了大量的涉案相片，都是经过“一键去衣”技术处理的。

　　郭树正：他在QQ上向351个人兜售过相关图片，图片数量将近7000张。

　　 北京市 海淀区人民检察院检察官李鹏表示：白某某在境外的社交媒体上发布了广告，内容就是“去衣”，1.5元一张。

　　这就是白某某发布的宣传广告帖，上面写着“电脑AI去衣，白菜价”“身边人、网红、明星皆可”。他的广揭发布后，有很多人联系白某某，给他发送相片并购买这项“去衣”服务。

　　郭树正：一张图片他卖1.5元，能迅速满足相关人的切实需求。这个时候就有许多人去浏览白某某在境外社交网站上发布的帖子，经过我们统计，浏览他发布广告的人有3万人左右。

　　AI去衣“究竟是怎样的一种技术呢？据白某某供述，这项技术其实不是真的”去衣，而是一种伪造、重绘的技术。

　　郭树正：其实我们可以把它解读为深度的图片伪造，它其实不是真的去掉别人相片上的衣服，其实都是针对已经有的模型和已经有的模组进行图片重绘。

　　而且，这项技术操作起来十分简单，去衣只需要一键就能完成，因此白某某定价不高，一张相片只需要1.5元，却可以利用低价吸引更多的订单。

　　短短几个月的时间，白某某就制作了几千张去衣的图片，挣了将近一万元钱。然而，他却没有意识到这一行为可能引发的严重后果。

　　有人用暗恋女生换脸

　　据央视新闻，2022年8月， 杭州市 萧山警方在互联网上巡查中获取一条线索，辖区内有人利用AI技术制作淫秽视频在互联网上进行大量流传，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至 杭州市 萧山区人民检察院审查起诉。

　　检察机关调查发现，虞某从2020年开始接触“AI换脸”软件，起初，他想通过在互联网上推广该项技术和相关的软件来获取利益，可是，一段时期过后关注他的人却很少，一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他也动起了类似念头。

　　据虞某供述，为了吸引更多的关注和流量，他在社交软件上建立了“浏览群”和“私人定制群”，“浏览群”主要用来流传“AI换脸”的淫秽视频吸引、招揽观看者，其中包含一些经过虞某换脸的视频，当有人提出“定制换脸”的切实需求，虞某会将这群人引入所谓“私人定制群”。

　　 杭州市 萧山区人民检察院第七检察部检察官助理陈禹尧：通过收取入（浏览）群费用的形式，一个198元、298元或398元。另外一个就是虞某还提供人脸视频定制服务，相当于客户如果需要定制一个换脸的视频，他可以根据时长，根据视频的难度大小收取相应的款项。

　　据检察机关调查，虞某一边通过流传换脸的淫秽视频来“吸粉引流”，同时又通过出售“AI换脸”软件和提供所谓“AI换脸”的私人定制服务，在不到半年的时间里就获取利益数万元。而被“AI换脸”侵害人脸敏感信息的受害者，不仅包含多位知名公众人物，还有许多不特定的普通人。

　　据检察机关调查，虞某根据“AI换脸”视频的长度、清晰度等难易条件，根据5分钟300元、10分钟500元等标准来收取定制的款项。虞某声称，“只要能看到脸的都能换”。

　　据检察机关了解，虞某的顾客要求“定制”换脸的对象不仅包含一些颇有知名度的公众人物，也有生活中的普通人，其中就有人提出想要定制自己暗恋女生的换脸视频，而对于这些未经同意就私自侵犯他人敏感信息的犯法行为，虞某也是来者不拒。

　　另外，虞某除了进行定制化的换脸服务，还将“AI换脸”软件分为初级、中级和顶级三个等级进行销售并传授使用教程，同时还提供网上非法收集的他人人脸素材。

　　2023年4月14日，杭州萧山区人民检察院决定对虞某“AI换脸”侵犯公民个人信息公益诉讼案立案，当日履行公告程序，公告期满，无适格主体提起诉讼。6月9日，检察机关依法对虞某提起民事公益诉讼。7月28日，该案在杭州互联网法院一审公开审理。

　　2023年11月， 杭州市 萧山区人民法院判决被告人虞某犯制作、流传淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。

　　专家建议：隐私不要随意发

　　任何利用新技术犯罪的表现，势必受到严厉责罚！以牟利为目的，制作、兜售、流传淫秽物品的表现，要承担哪些法律后果？

　　根据《中华人民共和国刑法》第叁百六十三条规定，以牟利为目的，制作、复制、出版、兜售、流传淫秽物品的，处三年以下有期徒刑、拘役或管制，并处罚金；事情严峻的，处三年以上十年以下有期徒刑，并处罚金；情节极其严峻的，处十年以上有期徒刑或无期徒刑，并处罚金或没收财产。

　　中国行政法学研究会常务理事、华东政法大学教授沈福俊建议提升全民个人信息保护意识，谨防隐私泄露。“甭管是在互联网上还是社交软件上，尽量避免过多地袒露自己的信息，在涉及转账交易等行为时，可以多角度询问身份信息，反复验证对方是否为我。”

　　专家建议大家尽量不要把个人的隐私数据随意发到公共互联网上，如果有一些非法分子想要对你的家人实施诈骗，收集到数据以后还是比较简单实现的。

　　据北京商报报道，当前AI换脸的一些技术弱点仍旧存在。中国信通院 人工智能 中心安全与元宇宙部主任石霖指出，一些换脸的视频会存在光照、脸色等不够自然、帧与帧之间不够连贯的问题，尽管随着模型能力的提升，这些换脸的痕迹已经做到几乎肉眼难以鉴别的水平，但我们仍然可以通过一些专用的检测算法进行鉴别。这些检测算法在训练进程中大量学习了换脸视频中伪造特征的形式，在使用的进程中逐帧提取特征，从而判断一段视频是否经过了换脸。当前，这些技术已经开始用在金融场景中，实现对诈骗等行为的识别。

　　那么，这些鉴别技术应用于反诈领域，前景如何？不得不承认，网络信号与算力仍是待解决的困扰。“由于这些技术仍然需要大量的计算资源尤其是GPU的支持，因此，通常在使用进程中，需要将相关的检测模型部署在服务器中。但假如想要将这些检测模型部署在手机、个人电脑中，或嵌入到社交、会议软件里，可能会对软硬件的使用体验造成较大的影响。近年来，很多技术企业已经开始尝试不断优化检测模型，探索将模型部署在端侧。”石霖说道。

　　每日经济新闻综合央视新闻客户端、央视新闻官方微博、北京商报