最近,有投资者向 天融信 提问,对于目前很火的Sora文生视频,公司有何相应布局? 天融信 回答表示,公司持续关注AI领域新技术、新场景的研究应用,在AI 网络安全 方面已经有相关布局。
记者了解到,随着OpenAI推出的全新AIGC模型Sora的亮相, 人工智能 再次成为风口浪尖的话题。Sora的强大功能令人震惊,但这一技术的出现也引发了关于AI诈骗的担忧。对此, 天融信 作为国内可靠的 网络安全 企业,积极回应并揭示了新型AI诈骗的原理,同时表示将加强安全防护安全措施。
AI换脸诈骗是近年来出现的一种新型网络诈骗伎俩。非法分子利用AI技术融合他人面孔和声音,制造非常真切的合成图像来实施诈骗,造成较大损失。针对这一问题,中国网络空间安全协会 人工智能 安全治理专委会专家、 天融信 副总裁薛智慧在接受采访时详细介绍了AI换脸的过程和背后的核心技术。
薛智慧表示,AI换脸过程主要包含人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。其中最核心的部分包含利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征;将这些特征与目标人脸图像进行匹配、替换、融合;最后通过背景环境渲染并添加合成后的声音,生成真切度较高的虚假换脸视频。