AI造假有权威鉴定了——国家反诈中心“AI内容鉴定”功能上线

“AI内容鉴定”方便群众

“AI内容鉴定”功能有多个选项

网购时遇到商品问题，随手拍张照片申请售后，本是消费者维权的常规操作。可近期，不少电商商家反映，有买家使用AI伪造出来的“问题图”申请仅退款，不用退货还能白拿商品，这让商家叫苦不迭。近日，记者从泉州市反诈中心了解到，国家反诈中心App近期上线的“AI内容鉴定”功能，用户可通过上传图片、视频、音频或文本用于检测AI生成痕迹，主要用于识别诈骗场景中的伪造内容。

在AI生成图像泛滥的当下，如何精准鉴别真伪已成为绕不开的现实问题。反诈民警介绍，近期，国家反诈中心App正式上线“AI内容鉴定”功能，该功能支持图像、视频等内容的AI识别检测，与此同时，各互联网平台也在积极布局“AI鉴真工具”。市民可以在正规手机应用商店下载“国家反诈中心App”，首页中间就有“AI内容鉴定”功能。

记者在网购平台上随机挑选几张商家宣称的“售后图”，上传国家反诈中心App，多数被系统判定为“图像含AI生成痕迹”。与之相对比，记者上传一张自己随手拍摄的照片，系统则提示“未检测到合成痕迹”。

据了解，检测方法由两部分组成，一部分是小模型学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型关注内容本身，看有没有物理上的瑕疵，比如文字有没有乱码;此外也会看语义上是否出现不符合逻辑的问题。最终小模型和大模型结合给出判断。

反诈民警表示，应对AI造假，核心在于“以AI治AI”。目前较为成熟的鉴真工具几乎能不误伤真实内容，又能较为精准识别AI造假内容。

AI伪造图片骗取退款的行为，本质是民事欺诈，若不及时遏制，将威胁电子商务的正常秩序与健康发展。AI鉴真工具能大幅降低商家的辨别成本，既能震慑不法分子，也能作为商家与平台交涉、维护自身权益的有力证据。