深度伪造李显龙宣传投资骗局的视频流出，凸显AI技术与传播陷阱

内容提要：

新加坡总理、美国总统、三星董事长，都被人恶意深度伪造视频，用于不正当用途。深度伪造AI面临着诈骗、诱导等危害社会的严重问题。我们应该如何识别、防范和打击深度伪造视频？

一、新加坡总理、美国总统、三星董事长，都被人恶意深度伪造视频，用于不正当用途。

12月28日，多个新加坡媒体披露了有人利用AI技术，深度伪造新加坡总理李显龙宣传投资骗局的一段视频，并被发布到Facebook、X等多个热门社交平台，欺诈用户点击进入投资骗局网站。

报道称，这段深度伪造的视频，是不法分子利用Deepfakes技术，将李显龙今年3月在新加坡接受中国新闻网CGTN主持人的采访的一段视频内容，包括声音与字幕，修改为李显龙与主持人讨论一个据称由新加坡政府批准的投资机会，称这个投资机会为“由埃隆·马斯克设计的革命性投资平台”。

视频快结束时，这段深度伪造的视频中的主持人，敦促观众点击链接注册该平台，以赚取“被动收入”。

新加坡总理办公室指出，此前滥用李显龙形象兜售投资机会的伪造视频较多。7月份之后，三星董事长李在镕的最新深度伪造视频在Facebook的帖子有所增加，

7月22日，李在镕也不得已出面辟谣说：“如果有视频使用我的形象向你推销产品，要求你投资某个计划，甚至用我的声音告诉你汇款，那不是我”。

12月27日，《海峡时报》还报道了一段据称是新加坡副总理黄循财宣传投资产品的深度伪造视频。该视频修改了《海峡时报》之前采访的黄某锋的镜头，并采用了该新闻平台的标志。

黄循财也被逼在Facebook帖子中解释说：“我为商业产品背书的视频系深度伪造，这些都是谎言。这些视频在各种网络上流传着虚假和错误信息，政府正在寻求清除机制“。

在已知的案例中，美国总统乔·拜登，也是各种深度伪造的常规目标。在10月的一段视频中，一段拜登宣布征兵的深度伪造视频片段，在以色列-哈马斯战争中期间在社交媒体中广告传播。

二、深度伪造AI面临著诈骗、诱导等危害社会的严重问题。

Deepfakes 是使用 AI 技术创建的，用于更改或操纵视觉和音频内容。

已经有很多研究人员提出警告：随着AI技术的发展和功能的愈加强大，整个社会对深度伪造视频、图片的恶意使用，在明显增加。Deepfake的创作者现在不仅可以针对名人和政治家等知名人士伪造视频内容，还可以针对普通公民，尤其是在金融诈骗的背景下。

当然，在社交媒体上，基于知名度对传播的影响，预计以政治领导人和其他社会名流为主角的深度伪造视频将越来越普遍。

我们需要提高警惕的，主要是恶意行为者准备利用这种深度伪造视频进行政治颠覆，旨在操纵公众舆论，制造欺骗性叙事并侵蚀对政治机构的信任。

与此同时，与涉及名人的深度伪造类似，那些以政治人物为主角的伪造视频，也可能被用于金融诈骗。比如深度伪造的李显龙这段视频。

深度伪造，包括利用政客、名人的视频伪造，肯定是AI技术和应用面临的一个重大问题。毕竟相当一部分普通人对深度伪造视频的认识有限，并且管理者往往倾向于高估他们从操纵媒体中辨别真实内容的能力。

根据分析人员的研究，在Facebook、X中，即使知道属于应该有能力鉴别深度伪造视频的人中，也有三分之一的人最后无意间分享了深度伪造视频，后来才意识到他们分享的内容在社交媒体上不是真实的视频。

因此，一方面迫切需要提高对深度伪造视频的认识和教育，另一方面平台应利用技术手段，鉴别深度伪造的视频，过滤带有恶意修改的伪造视频的传播。

三、我们应该如何识别、防范和打击深度伪造视频？

根据 Sumsub 2023 年身份欺诈报告的调查结果，仅去年一年，全球的深度伪造视频增加了五倍。

网络安全公司 Tenable 的高级研究工程师 Satnam Narang 说，深度伪造视频通常可从五个方面进行识别：

一是由于试图隐藏操纵，深度伪造视频的质量往往会受到影响并变得模糊。

二是观众还可以注意非典型面部运动或眨眼模式以及面部周围明显编辑形式的视觉和听觉异常。观众还应该仔细观察音频是否与嘴唇动作相匹配。

三是诈骗者倾向于依靠他们自己生成的脚本来创建深度伪造的视频和音频，这可能会暴露他们对语言的不当使用，

四是在 YouTube 和 Facebook 上遇到深度伪造或可疑视频时，您可以采取措施向平台举报。审核人员就可以评估被举报的视频，而那些经过培训的审核人员认为违反政策的视频也会被移除。

三郎认为，不能完全将深度伪造视频的防止工作交给无辜的用户。应该尽快对深度伪造视频建立法律制度。比如那些生产深度伪造视频工具的企业和个人，应该在生成视频时，在视频中留下借助某一种工具就可以看到的伪造标记。而所有的平台在发布这些视频时，应通过这个工具来识别视频是否真实，对所有由AI工具制造的视频，都应该在醒目位置予以标注，提醒观看者的注意，从源头上控制深度伪造视频对社会的危害。

【作者：徐三郎】