短视频平台深度伪造泛滥：用AI管AI

近日，郭德纲可以凭借一口“地道英语”说相声，引起全网狂欢。不仅如此，美国歌手泰勒·斯威夫特、马斯克、特朗普等名人也“说得”一口流利中文。

AI制作的名人“恶搞”视频已屡见不鲜，但近来关于日本首相岸田文雄和印尼总统佐科的两段以假乱真的视频，引起了多国关注和警惕。

据北京日报报道，12月12日，国内首例主张AI生成声音产品侵犯人格权的案件在北京互联网法庭审理。

随着“AI+”门槛越来越低、短视频运用范围愈加广泛，随之牵扯出的是内容造假、涉嫌侵权的问题，短视频严峻的监管问题亟待解决。

近年来，AI在短视频中的广泛应用，让自媒体平台本就同质化严重的短视频内容更加雪上加霜。不仅如此，短视频内还充斥着不少AI生成的虚假视频。据红星新闻报道，今年6月，一则“上虞工业园区发生火灾”的视频在某平台发布，短时间内视频浏览量迅速攀升，给当地造成不小的影响。然而，上虞警方经过核实，发现视频内容完全为虚假信息。

绍兴上虞工业园区发生火灾的虚假视频截图

图源：央视网

除此之外，AI短视频还引发了各类人格权的侵权行为，如AI换脸、AI换声。

主要有三个方面：一是著作权，例如相声、小品等都属于《中华人民共和国著作权法》保护的“作品”。网友用AI软件将相声、小品等“翻译”成其他语言，没有经过著作权人的授权。二是肖像权，网友没有经过他人同意就随意使用其肖像生成视频，并进行传播是违法行为。三是声音权，根据《中华人民共和国民法典》规定，对自然人声音的保护，参照适用肖像权保护的有关规定。而最近的“郭德纲讲英文段子，爱玛·沃特森、泰勒·斯威夫特中文流利”，这些大量AI生成的明星语言翻译视频都涉嫌侵犯了他人的声音权。

在Ai合成的视频里，郭德纲在讲英文段子

图源：上观新闻

B站CEO陈睿在视听大会上提到，过去一年，B站人工智能相关视频投稿同比增长超过86%，ChatGPT相关视频累计播放量超过2亿。

刚刚进入4月的第一天，部分B站UP主停更的消息引起大量关注，随之而来的“B站大UP主称AI创作正在打击原创”的话题登上了微博热搜。UP主在接受21世纪财经采访时表示，除了收入下滑之外，AI创作也是打击原创视频的一个原因。

AIGC工具的泛用化与“傻瓜化”已然大幅降低了其进入门槛，B站的舞蹈区里充斥着大量采用AI换头的热舞类视频，无论任何人只需要敲敲键盘，依靠大量现成的影视或互联网视频素材，经过高密度的剪辑与AI配音之后，即可批量上架。即便之前就有“AI换脸内容需要标注”的规定存在，平台多数时候依然是睁一只眼闭一只眼。

b站充斥着大量AI换脸跳舞视频

图源：b站截图

“AIGC让我们一天能生产10万条短视频。”时代涌现联合创始人茅旭超在亿邦峰会上表示。

平台出于对自身利益的考虑，目前对于AIGC工具的兴趣显然更多的是希望借助这些工具尽可能提高内容创作者的内容生产效率，从而最大化它们的商业价值，毕竟要想保持用户对平台的使用粘性，能够稳定持续输出的内容依然是核心。

但内容量暴增即意味着对应的成本同样会上涨，去年第二季度B站的财报显示其内容流量增长48%对应的则是服务器及带宽成本上升了15%。

创作者发布内容的随机性，让审核工作必须24小时待命。但审核员的数量跟庞大的网络信息相比无疑是蚂蚁和大象，人工审核的速度很难跟得上平台内容增加的速度。据澎湃新闻2022年报道，B站的审核员按12小时工作制计算，需要审1259条，即每60分钟需要审核至少104条视频，一条视频的审核时间绝对不能超过2分钟。

尽管像抖音等短视频平台早早就已经开始借助AI工具来进行内容审核，但监管环境的外部因素存在，对国内各大平台来说人工审查团队依然是不可或缺的。因此，相较于用AIGC工具来提升影视内容的生产效率，平台们更需要担心AIGC对平台内容生态、成本管理、审核机制的冲击。

前段时间，在互联网平台，“AI孙燕姿”翻唱的《发如雪》《下雨天》等走红，抖音平台上也出现了“AI孙燕姿”的合集。很快，“AI周杰伦”“AI王菲”等也都相继问世。“AI歌手”主要是利用AI技术提取歌手的音色特征，对其他歌曲进行翻唱。但“AI歌手”是否涉及侵权却并无定论，也无监管。

市面上有很多开放性的AI换脸工具，创作者使用软件对视频内容进行加工，轻易就能达到移花接木的效果。此前抖音有人疑似使用AI换脸变身俄罗斯美女，吸粉近200万后遭到平台封禁；B站上AI换脸更是创作者鬼畜整活的最常用手段，平台则会在相关视频下方给出警醒提示。

“在AI生成物的法律属性方面，我国司法实践中对AI生成物的可著作权性尚无统一判断标准，还需结合具体案情进行分析。”北京中伦（杭州）律师事务所合伙人、AIPPI中国分会数字经济委员会共同主席王红燕表示。

2023年7月，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，规定了生成式AI服务提供者应当依法承担网络信息内容生产者责任。

在生成式AI的法律规制方面，我国目前更多的是从宏观政策的角度加以支持与规范，仍然存在着效力层级不高、条款内容不够细化等问题。

媒资：

一、 澎湃新闻《AI“入侵”短视频，慌了谁》

二、澎湃新闻《潮声｜“人工智能嘴替”暗藏风险，AI技术滥用该如何监管》

三、红星新闻《浙江首例，用ChatGPT制作虚假视频，她被警方抓捕》

撰稿|谢凯莉

排版|谢凯莉

责编|沈清昀

副主编|危颖捷

主编|张雨婷

指导老师|黄洪波