环新投顾 防范AI滥用！首个面向个人的AI实时鉴伪工具发布

6月21日，北京人工智能企业瑞莱智慧（以下简称“RealAI”）发布了全球首个可实时检测AI合成内容的AI鉴伪工具RealBelieve，中文名“尊嘟假嘟”。与此前国内外AIGC（生成式人工智能）检测产品被动上传检测不同，RealBelieve面向终端用户，能够提供主动的实时检测防护，可接入视频流鉴别人脸真伪，也能在用户浏览网页内容时提供AIGC合成可能性提示，现已启动内测招募。

当前，人工智能的可控性和安全性已成为重要的发展议题。随着人工智能通用性和泛化性大幅提升，其内生及衍生安全问题也变得愈加复杂，带来的挑战和已经引起的各类风险事件也持续引起公众、企业和政府的关注，其中AI诈骗等AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。

此次发布的尊嘟假嘟RealBelieve，不仅可以为个人用户提供文本、图片、视频和音频多种模态的文件上传检测服务，还可以通过浏览器插件的形式实时提示用户所浏览网页的疑似AI合成内容，变被动为主动。

据公开信息，近年来，我国AI诈骗案件数量及涉案金额均呈现指数级增长。2023年，我国被公开报道的AI诈骗案涉案金额已达数千万人民币。而2024年初，某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗，仅此一案就已导致该公司受损2亿港元。

针对AI诈骗这一AI滥用风险日益加剧态势，RealBelieve还可以为人们的视频通话提供AI合成实时监测防护。在视频通话时，系统会及时发出预警内容，提示视频对方的人脸是否存在AI合成的风险，通过实时的风险提示帮助人们快速确认对方的身份，减少不必要的损失。

视频通话实时检测效果

相较被动上传视频的方式，人们无需特地手动录制和上传会议视频，方便人们随时随地在AI安全保障之下进行视频通话。

据了解，RealAI团队在2018年已开展AI合成检测技术研究和产品研发，先后推出生成式人工智能内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品并持续迭代升级，已服务百余家政务、金融等领域客户。

公司联合创始人、算法科学家萧子豪透露，RealBelieve背后的检测模型基于贝叶斯深度学习技术开发，团队构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性推理决策。

目前，尊嘟假嘟RealBelieve已开启内测招募。用户通过https://realai.feishu.cn/share/base/form/shrcn1eh9njr28otbSZ9Xl1EPxb等渠道申请后，便能试用上述功能，系上AIGC时代的“安全带”。

记者：孙奇茹环新投顾