鉴证 | AI诈骗，骗你没商量？

图片一键生成，音频三秒克隆，视频换脸以假乱真。如果AI技术被用来造假诈骗，我们还能相信什么？

（一）AI制图无中生有，该如何分辨？

当AI软件已经可以快速地生成图片音频，甚至是视频的今天，制作音视频的成本被大大节约了，同时网络上也出现了很多假的东西。AI制图技术究竟发展到了什么程度？

海量AI制图软件横空出世，门槛低，不耗时，输入需求和关键词就能一键闪电生成，甚至一些制图软件对自己的描述是创造一切。AI图片生成技术，真的有网友们说的如此神奇好用吗？为此我们邀请了一位测评博主来测评一下AI制图软件的神奇之处。

测试一：一键换脸

只需将目标图片和对象图片输入Midjourney软件中就能进行一键换脸。

测试二：底层扩充

需要进行测试的几张风景图片有点窄，我们的目标就是把局部进行延伸。点击PS Beta软件中的“创成式填充”，再点击生成。原来的一张很窄的图片，被AI技术左右延伸了，而且画面非常自然。

测试三：无中生有

如果用AI去创作一个现实世界中不存在的人物，该怎么办呢？非常简单，只需要用一段描述词，包含了这个人物的一些特征，比如说种族和性别是一个中国的女生。以及身高和拍摄所用的相机等等信息。在描述词进行了定位之后，直接按下回车，这组图片就生成出来了。非常真实，非常自然。

从测试员的测试来看，我们可以直观地感受到AI作图技术现在的成熟度非常高，一键图片变图骗已经是它的常规操作了。如果这些普通人肉眼无法分辨的假图混在了互联网海量的信息当中，我们又有什么方法去辨别呢？有人说可以用用魔法打败魔法，针对AI图片，现在已经开发出了不少“反侦查”的软件，问题是它们真的好用吗？

目前鉴别是不是AI作图的软件和网站很多，这里我们选择了一款普及度比较高的进行测试。首选，我们选取了一张在网上流行很广的AI生成图片，拖进软件的指定区域，几秒钟后在图片的右侧会出现一个测试结果，AI作图的可能性是87.6%。

为了测试软件的准确性，我们又挑选了一张鉴证组原创照片和AI生图照片，分别进行检测。该软件给出的结果却是AI作图可能性分别是17.5%和13.5%。

由此可以看出，此款软件对于鉴别是不是AI作图的判断存在一定的误差，并不是完全准确。

通过几轮的测试，我们已经深刻地感受到了AI制图的高效性和不断提升的逼真感。那么在海量数据的喂养之下，AI制图技术的迭代也会是越来越快。当然AI这种以假乱真的能力远不止于图片，业务范围早已经扩展到了声音领域，据说只要是拥有足够的声音素材，一个人的声音就可以被偷走。这一次它偷上了热搜。

（二）AI技术，“偷走”你的声音？

孙燕姿华语乐坛天后级原创女歌手，多次斩获各类华语Top级音乐奖项。激流勇退后近20年的时间里，孙燕姿很少出现在公众视野，而近期她再次翻红。原因竟是翻唱。我们看到的这些翻唱歌曲的作者均是AI孙燕姿。

网友评价，本人未曾开口轻而易举地占据华语乐坛半壁江山。目前某网站上以AI孙燕姿声音进行翻唱的歌曲还在大量涌现，总体播放量数据惊人。

就在AI孙燕姿在互联网爆火之际，5月22日孙燕姿本人发表文章，《我的AI》来回应该事件。

在文章中孙燕姿调侃自己的粉丝已经改换门庭，并且接受她成为了一名小众歌手的事实，而自己的AI角色已经成为了新的互联网顶流。最后孙燕姿无奈地表示，面对AI，思想纯净，做自己已然足够。

孙燕姿本人的回应我们既可感受到情绪上无奈和不争，又有某种警惕和担忧。而具体到有关AI声音的生成技术，其实她给出了几个很有代表性的描述。比如几分钟就能出一张专辑，未来也许连她都无法分辨出自己和AI的区别，任何人可能都会被模仿。但是网友们的描述比这个还夸张。

AI声音生成技术的门槛确实不算高，但是声音的获取在互联网世界中完全不存在壁垒。细思极恐，只要有足够的素材和准备时间，你的声音就会被偷走，而且可能成为伤害家人的工具，几乎没有成本的声音克隆危机正在席卷着全世界。

2023年5月，一家来自美国的安全检测数据机构McAfee发布了一份题为《冒名顶替者网络犯罪分子利用AI语音克隆进行新型诈骗》的调查报告。70%的受访者表示，他们并不能准确分辨出真实和伪造的声音。

而在有关语音骗局的调查中，近四分之一的受访者表示，身边有朋友经历过AI语音克隆骗局，十分之一的人表示亲身经历过此类骗局，而这些亲历者竟然有77%被骗了钱。

2023年1月，美国一家媒体就报道了一位女性被诈骗的经历。

（三）声音图像结合，AI诈骗防不胜防？

图片和声音都是能一键生成的，几乎没有技术壁垒，二者合二为一又会有一个什么效果呢？这个如果被偷的不仅仅是声音，而是你的脸，甚至是你的身份，那么我们还有什么能够相信呢？

原视频发布于2016年，扎克伯格讲述了关于美国大选被干预的一些情况，但是在这段视频当中就变成了讲述数据被盗的问题，从声音到口型都完美地匹配。但是这样的人脸微整形操作现在已经是完全不够看的了，换脸换头成了AI视频生成新的主流。

把自己的脸换成一张帅哥的脸，或者是美女的脸，这可能是一种新奇而且刺激的体验。但是如果别人顶着你的脸偷了你的身份，然后做一些违法的事情，你还会觉得这是新奇和刺激吗？就在大家忙着体验换脸技术的时候，有一些人已经动起了歪心思。

5月22日，内蒙古包头市公安局官方网站发布了一起使用智能AI技术进行电信诈骗的案件，受害人10分钟被骗走430万。

受害人郭先生是福州市一家公司的法人代表，4月20日他的好友突然通过微信视频联系他，提出需要430万保证金，要借郭先生的公司账户走一下账。郭先生在视频中看到对方确实是好友本人，就分两笔把430万打了过去。后来郭先生打朋友电话询问此事，对方说并没有这件事，原来骗子使用了智能AI换脸技术，佯装成好友对他实施了诈骗。

如此具有颠覆性的技术，却以这样的方式出现在我们的生活当中，是让人不寒而栗的。难道以后好友或者亲人打视频电话来，我们都得先想想对方到底是不是真人吗？其实，如果想制作成功一个完全能够在视频通话中以假乱真的模型，还是需要大量的素材和准备时间的。

但是诈骗往往是利用对方的熟悉心理和话术组合，把你放置在一个骗子创建的场景中，即使视频中的人有瑕疵，也往往可能被忽略。所以对视频诈骗来讲，模拟的精准程度要求并不高，也就是说对技术的要求确实也不算高，也正是因为这样，有人表示担心视频诈骗的热潮是不是要来了，我们真的防不胜防吗？就此类问题，我们采访到了在一线工作的反诈警察。

贾世昌（大同市公安局反诈民警）：“据统计以来，利用AI进行诈骗的案件，全国都不到10起，大家不必恐慌。它所需要的条件都比较复杂。第一点需要盗取你熟人之间的生活圈的联系。第二点要获取到朋友的通讯方式，也就是盗号。第三点是要获取到你朋友或者熟人的声纹和图像信息。最后第四点进行合成。所以这些流程非常复杂，比之前的电诈还要复杂。现在就是AI诈骗更精准，更有针对性。”