安大互联
财经热点 > 财经资讯 > 张欣怡团队开源Deepfake(深度伪造-攻防模型 不止是对技术滥用的反击
【Deepfake】张欣怡团队开源Deepfake(深度伪造-攻防模型 不止是对技术滥用的反击
浏览次数:【27】  发布日期:2024-9-6 7:44:31    文章分类:财经资讯   
专题:Deepfake】 【张欣怡
 

  最近,韩国曝出“深度伪造”(Deepfake)事件,被认为是采用新犯罪手段的“N号房”案件重现。一些犯罪群体利用社交媒体和工作环境中的相片进行非法合成,制作的虚假不雅内容,在社交媒体上广泛流传,参与用户多达22万人。受害者80%为女性,未成年人占比近六成。有多位韩国女性在中文社交平台发帖求助。“N号房2.0”“韩国deepfake”等词条迅速登上平台热搜榜。

  此事引起中科院女工程师张欣怡的关注,她在微博发文《我要怎么证明“我”不是我》,并关联#韩国女性回应在中国社交平台求助#话题。还在一则视频中表示,在与团队商议后,将参加全球Deepfake攻防挑战赛的AI模型面向全球开源,让有期望的人免费使用来对抗deepfake,为每一个可能受到伤害的人提供保护。“我们不会停止对该类行为的追究,更不会放弃对技术的探索和完善。”在一条评论中她还提到,后续会尽快开发相关应用,降低大家的使用门槛。

  或许同为女性,张欣怡更能共情女性面对“深伪”犯罪时的恐慌和无助,她的行动让“Girls help girls”具象化了。

  但同时,也有一些不解的声音:韩国的事,和我们有啥关系?其实,此次韩国“新版N号房”事件反映出的是女性正成为Deepfake犯罪侵害的重要目标群体。早在2020年, 网络安全 研究机构Sensity在报告中就提到,在Telegram的应用中,至少有10.48万名女性“被裸体”,而在分发这些相片的7个频道中,累计用户超过10万。而今,随着大模型技术的发展,网络流传环境的日趋复杂,“深度伪造”门槛变得越来越低,Deepfake犯罪也在增加。而除了合成不雅视频或图片,Deepfake技术还被应用在诈骗、制作虚假新闻中,甚至一些国家的政客也成为非法分子制造虚假视频的对象。可见,Deepfake技术的滥用不仅对个人造成伤害,还可能对社会秩序和国家安全构成要挟,而这些风险是不分性别,不分国界的。

  张欣怡及其团队开源Deepfake攻防模型,不仅是对Deepfake滥用的直接还击,也是对全球技术社区的一次鼓舞,鼓励更多的技术人员参与到对抗Deepfake恶意内容的行动中来。而将顶尖的技术用于社会公益,更展现了科技工作者的社会责任感,体现了科技向善的理念。

  同时,这也是对未来技术伦理的一次深刻反思。在技术日益进步的今天,如何确保技术不被滥用,如何保护每个人的基本权利,是每一个科技工作者都需要思考的问题。张欣怡女士及其团队的行动,也为我们提供了值得借鉴的范例——通过开源合作、技术共享,共同构建一个更加安全、健康的数字世界。

手机扫码浏览该文章
 ● 相关资讯推荐
2024-9-14【消费贷】从0到1 国内首个金融领域-Deepfake-检测标准来了
2024-9-8【受害者】杀猪盘已盯上朋友圈 - 花25元能看持续更新 15岁的-盘哥-借此开单
2024-9-7【人工智能】外滩大会参会规模创新高 - 人们都在关注如何防止AI作恶
2024-9-6【Deepfake】张欣怡团队开源Deepfake(深度伪造-攻防模型 不止是对技术滥用的反击
2024-9-5【人工智能】外滩大会首次举办全球Deepfake挑战赛 - 聚焦应用与安全问题 - 被AI迅速改变的世界
 ● 相关资讯专题
消费贷】  【数字化转型】  【Deepfake】  【受害者】  【杀猪盘】  【人工智能】  【AIGC】  【张欣怡】 
  • 网络建设业务咨询

   TEl:13626712526