国家反诈中心App上线“AI内容鉴定”功能

 　　5月18日消息，据《央视新闻》报道，国家反诈中心App近期上线“AI内容鉴定”功能，用户可通过上传图片、视频、音频或文本来检测AI生成痕迹，主要用于识别诈骗场景中的伪造内容。

　　据网经社AI台(AI.100EC.CN)获悉，据报道，在网络上随机选取了十张商家宣称的疑似AI生成“售后图”，上传国家反诈中心App及多个AI鉴真工具，结果无一例外，均被系统判定为“图像含AI生成痕迹”。张先生提供的干枯无花果图片也被系统认定“图像含AI生成痕迹”。与之相对比，记者上传一张自己随手拍摄的照片，系统则提示“未检测到合成痕迹”。

　　某网络平台安全内容视觉算法负责人兰钧介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，比如文字有没有乱码;此外也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。

　　“我们希望它不要出现误识别。用户或者商家可以尝试外部的一些AI鉴真工具，来辅助进行判断。对于目前这种AIGC的技术生成内容还是比较有效的。”