智东西

作者 | ZeR0

编辑 | 漠影

智东西6月21日报道，今日，瑞莱智慧（简称：RealAI）推出了全球首个可实时检测AI合成内容产品RealBelieve，中文名“尊嘟假嘟”，现已启动内测招募，通过申请后即可试用。

有了这一工具，普通人既可以自查图片是否是AI伪造的，又可以在日常视频通话时，实时检测和你聊天的究竟是本人还是被AI换脸的人。

与此前国内外AIGC检测产品被动上传检测不同，该产品面向终端用户，不仅支持文本、图片、视频和音频多种模态的文件上传检测服务，而且能够提供主动实时检测防护，可接入视频流鉴别人脸真伪，也可以通过浏览器插件的形式，实时提示用户所浏览网页的疑似AI合成内容。

▲文本、图片、视频和音频多模态文件拖拽上传即可检测，操作简便

▲浏览含AIGC合成内容网页实时检测效果

当前，人工智能（AI）的可控性和安全性已成为重要的发展议题。随着AI通用性和泛化性大幅提升，其内生及衍生安全问题也变得愈加复杂，带来的挑战和已经引起的各类风险事件也持续引起公众、企业和政府的关注，其中AI诈骗等AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。

针对日益加剧的AI诈骗问题，尊嘟假嘟RealBelieve为用户提供了视频通话AI合成实时监测防护。

在视频通话过程中，该产品会及时给用户发出预警内容，提示视频对方的人脸是否存在AI合成的风险。如果出现红框标记，则说明视频里的人脸可能是伪造的，需要提高警觉性，快速确认对方的身份，减少不必要的损失。

▲视频通话实时检测效果

相较被动上传视频的方式，用户无需特地手动录制和上传会议视频，界面使用简单，操作灵活，方便用户随时随地在“AI安全保障”下进行视频通话。

据RealAI联合创始人、算法科学家萧子豪透露，该产品背后的检测模型基于贝叶斯深度学习技术开发，团队构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性推理决策。

RealAI的使命是“智能向善，打造安全可信的通用人工智能”，专注于研发安全可信的通用人工智能平台，填补中国在AI安全上的空白。其团队自2018年成立起就已开展AI合成检测技术研究和产品研发，先后推出生成式AI内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品并持续迭代升级，已服务百余家政务、金融等领域客户。

RealAI团队认为AI安全面临三个层次的重要问题：一是信任，AI系统足够安全可信地完成基本任务，建立人对AI系统的信任，这是AI落地的基础门槛；二是正义，AI系统需符合人类价值观和合规要求，不能有偏见歧视，不能被用于欺骗，遵循规则和制度的约束；三是超级智能安全，实现AI与人和谐相处，让AI具备人类价值观，能够与人类进行交互并一起生活、生产。

伴随着AI发展，安全所处的优先位置会越来越靠前。