随着AGI（通用 人工智能 ）等话题日益火热，AI安全的重要性也在快速提升。这背后，是全球范围内的企业、机构与个人对AI造成的技术恶用、滥用问题的注意与警惕。

　　6月21日，瑞莱智慧（下称“RealAI”）正式发布了全球首个可实时检测AI合成内容的工具RealBelieve。

　　这是一款针对个人用户的产品，可以提供主动实时检测防护。例如它可以鉴别视频通话中人脸的真伪，或是在用户浏览网页时提示内容是否由AI合成。目前，该产品已启动内测招募。

　　最近一段时期，AI技术在填补众多行业效率需求空缺的同时，也滋生了大量安全隐患，好比利用AI技术换脸、合成声音等的诈骗行为频发。

　　2024年年初，香港警方向社会公布了一起诈骗案件。在一场使用Deepfake技术“AI换脸”和AI音频合成的“高管会议”中，一家英国跨国企业香港分公司的职员受到视频内容的坑骗，向犯罪嫌疑人指定的本地账户逐渐汇出2亿港币，此事在五日后才被揭发并曝光。

　　面对这种新型高科技技术犯罪，大型机构尚且缺乏有效工具及时鉴别，遑论普通个体。

　　RealAI此前曾开展过AI合成检测技术研究和产品研发，推出了生成式 人工智能 内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品。

　　此次推出的RealBelieve主要提升了两方面能力，一是多模态检测能力，用户可以上传文本、图片、视频和音频等多种内容进行监测；二是把滞后的被动检测转变为主动检测，好比可以通过浏览器插件的形式提示用户所浏览网页中疑似AI合成的内容，并在视频通话进程中鉴别对方人脸是否存在AI合成风险。

　　RealAI联合开创人、算法科学家萧子豪对界面新闻表示，该产品背后的检测模型是基于贝叶斯深度学习技术开发，团队缔造了一系列多模态AIGC检测技术体系，根据各类AI合成线索进行不确定性推理决策。

　　在多模态AIGC（ 人工智能 生成内容）技术进化的进程中，生成技术与检测技术其实在同步发展。在GPT、LIama、DALL-E-3等模型和算法的不断升级下，AIGC技术得到了增进，这时，也有Detect GPT、De-Fake、Detect-Vocoder等相应的AI检测技术逐渐出现。这是AI安全领域一种必要的对抗。

　　不过，RealAI 总裁田天指出，在整个AI安全领域，对于AIGC内容的监控检测只是作为基础功能的一部分。除此之外，在AI的数据准备、模型训练和模型应用等各个环节，都有其各自的一系列安全问题。

　　总体而言，AI安全问题可以分为三个条理。第壹层是AI技术本身要安全可信；第贰层是AI技术的正义性，防止被滥用；第叁层是面向未来超级智能的AI安全。

　　OpenAI前首席科学家Ilya Sutskever曾表示，当前的AI安全问题已经到了非常迫切的水平，假如不采取相应措施，很可能就错过时机，而在这之后基本不存在亡羊补牢的存在性。

　　其实，Ilya Sutskever在OpenAI发起的“超级对齐”项目正是针对这一担忧。从OpenAI离职后，他建立了一家名为“安全超级智能”（SSI-Safe Superintelligence）的 人工智能 公司，计划开发出比人类更聪明但不危险的 人工智能 技术。

　　根据Ilya Sutskever之前接受采访的说法，未来超级智能看待人类的状态，很有可能就是现在人类看待动物的状态。而在人类几百万年与自然界交互的历程中，从未出现过一个智能水平更低的物种能够控制、约束智能水平更高物种的情形。

　　因此，商业公司在蒙眼狂奔的进程中，如果缺乏对AI安全治理的足够重视和投入，很可能在没有界限的情景下造成一系列潜在危害。

　　“随着超级智能越来越接近，在AI安全领域，我们要确保将来的超级智能体能够跟人类和谐相处。”田天说，“简单来说就是要让它更像人类，具备人类的价值观。”

　　相较于全球范围内的多个国家与企业对AI安全的注意与投入水平，田天表示，当前国内在这片产业上的整体投入仍然相对落伍，但阿里、腾讯、百度等大厂和智谱AI等创业公司，都在加大投入力度。