如何快速识别AI换脸变声诈骗，深度鉴伪让AI换脸诈骗无处遁形。如何为“一老一小”构建安全通信环境，AI技术强力反制电信诈骗。昨日，2024年国家 网络安全 宣传周正式拉开序幕， 网络安全 博览会也同步举行。记者现场采访多位业内行家，探营博览会 数据安全 、个人信息保护、 网络安全 产品与服务等展区，了解网络新技术新应用，看“黑科技”如何筑牢 网络安全 屏障。
文/广州日报全媒体记者叶作林、侯翔宇
人脸“移花接木”李鬼变李逵
人工智能 技术造成了发展和机遇，也造成了风险和挑战。如今，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的犯法行为已很多见。早在去年，中国互联网协会便曾发文提示“AI换脸”新骗局。
在 天融信 科技集团股份有限公司展位，助理总裁张博向记者详细展示了AI换脸过程和原理，并对如何防范AI换脸诈骗提出建议。展位前，摄像头正捕捉一名职员的面部变化，这时，出现在屏幕上的却是另一张脸，两者脸色变化几近一致。“只需要输入一张正面静态图片，借助 人工智能 技术，便可以实时‘移花接木’。”
他进一步介绍，AI换脸的3大步骤原理：面部识别追踪、面部特征提取、面部变化融合。“整体的原理是通过计算机深度学习，精准识别人脸图像，然后提取眼睛、鼻子、嘴巴等重要的面部特征，把这些特征与目标人脸图像进行匹配、替换和融合。”
如今“AI 换脸”技术已经比较成熟，甚至能够实现视频通话的实时换脸，虽然单凭肉眼很难分辨，不过张博指出，只要稍加留心，“AI换脸”还是有明显破绽，“马脚”就在面部轮廓和光线。“如果接收到视频信息、视频通话，要仔细观察对方的面部轮廓是否存在异常的模糊，光线是否正常。”张博说道，“如果有必要的话，可以要求对方快速大幅度地抬头、点头，转头，然后来仔细观察这个过程当中，面部轮廓是否有异常模糊。”
不过张博指出，防止网络诈骗还是要从上游入手，第壹要避免个人信息的过度外泄。“需要收集面部信息的场景，市民群众还是需要额外留心网络环境和周围环境。”在遇到疑似AI换脸的场景中，可以选择通过更加直接的形式，例如说给当事人打个电话，确认对方身份是否真实。
用“魔法”打败“魔法” 深度鉴伪5秒辨真假
“AI换脸”逐渐成为一种新型的诈骗伎俩，虚构的内容难以被肉眼分辨出来。如何精准识别“AI换脸”成为一个亟待解决的问题。
在 中国移动 展位的现场，一个AI换脸视频被实时鉴伪技术精准识别为伪造，整个过程仅需5秒左右。深度合成换脸实时鉴伪体验区吸引了许多观众的围观，纷纷上手体验深度验鉴伪技术。“我们先是模拟诈骗分子AI换脸的过程，再去反向学习技术，进而升级迭代反制系统。” 中国移动 信息安全与管理运行中心副经理王晓晴介绍， 中国移动 在实名入网业务上开展了试点应用，基于鉴伪技术可实时检测实名验证进程中的AI人脸，主动防范AI换脸线上开卡、补卡等风险发生，鉴伪的精确率达90%以上。
“一旦鉴别为AI人脸就会弹窗警告，提醒相关用户存在的危险。”王晓晴表示，深度鉴伪技术还将在5G新通话等业务场景中试点应用，对新通话内容进行伪造检测、内容有害检测等，及时发现涉诈有害风险，有效预防涉诈等非法事件。
不仅如此，深度鉴伪技术还可为多业务场景赋能，包含金融领域中人脸认证环节检测AI人脸、互联网行业进行AI人脸检测及有害内容审核等。王晓晴表示，我们希望通过技术优化迭代能够赋能各行各业的发展，也能为AI技术发展筑起一道安全的铜墙铁壁。
精准识别25种骗局让“一老一小”放心通话
老年人和未成年人获得信息的渠道相对较为单一，对各种骗术了解不多，容易成为诈骗分子“下手”的对象。如何为“一老一小”构建安全通讯环境？通过通讯技术手段拦截电信网络诈骗电话或许是一种新的尝试。
记者在 中国移动 展位看到，一位观众体验名为羲和·防诈卫士的全场景防诈服务，运用这一服务远程临时停机用户家人的电话，防止诈骗电话继续轰炸。“当‘一老一小’接到诈骗电话轰炸时，用户可以给他的家人进行远程微停机——停机期间无法上网、没有通话功能，让骗子无从下手。”王晓晴介绍，该项服务通过AI自动检测到用户家人接听疑似诈骗电话时，将自动向用户及家人发送必达通知，实现识别预警。若家人处于通话中并未看到提醒消息，用户可向家人发送语音预警，直接在现今来电中插播语音提醒。同时用户可以远程临时停机家人的电话，防止诈骗电话继续轰炸。
“该系统是融合号、卡、消息、通话、 大数据 、AI、防诈险等资源天赋和特色能力，一条龙提供智能识诈、智能预警、智家联动的全场景防诈服务。”王晓晴表示，这一服务提供25种骗局套路文本的识别，目前准确率达到99%。
如何识别“换脸骗局”
如果接收到视频信息、视频通话，要仔细观察对方的面部轮廓是否存在异常的模糊，光线是否正常。
如果有必要的话，可以要求对方快速大幅度地抬头、点头，转头，然后来仔细观察这个过程当中，面部轮廓是否有异常模糊。
防止网络诈骗还是要从上游入手，第壹要避免个人信息的过度外泄。
在遇到疑似AI换脸的场景中，可以选择通过更加直接的形式，例如说给当事人打个电话，确认对方身份是否真实。
