AI换脸-深度伪造技术的法律风险

AI换脸属于“深度伪造技术”，该词语来自Deep Fake，是“深度学习”（Deep Learning）和“伪造”（Fake）的组合。深度伪造技术，在我国被称为“深度合成技术”。我国国家互联网信息办公室、工业和信息化部及公安部于2022年11月25日发布《互联网信息服务深度合成管理规定》（以下简称规定），该规定自2023年1月10日起施行。

该规定第二十三条对深度合成技术做出了明确的定义：

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：

（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；

（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；

（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；

（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；

（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；

（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。

也即，深度合成技术不仅局限在目前常见的AI换脸视频中，还存在于文本，图像，音频，虚拟场景等网络信息的制作中。其适用范围囊括诸如智能对话或者评论生成，数字生成语音的配音（小说、动画、导航系统等），数字人物音乐演出（初音未来等），服装或者化妆品虚拟体验，甚至包括我们经常说的电影及电视剧中应用的“五毛钱特效”，以及未来可能大范围应用的元宇宙虚拟空间沉浸式体验等。依据规定第二条，只要是在中华人民共和国境内应用深度合成技术提供互联网信息服务，都应当受到本规定的约束。

一、深度合成服务提供者，是指提供深度合成服务的组织、个人。

【守法尊德】提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。

【信息安全主体提供安全可控的技术保障措施】深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。

【管理责任及提示责任】深度合成服务提供者应当制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。

【使用者需要进行实名身份认证】深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

【对输入数据和合成结果进行审核】深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。

【识别违法和不良信息并建立特征库】深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。

【发现违法和不良信息的保存及报告义务，对使用者采取处置措施】深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。

【辟谣机制】深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。

【投诉及举报入口】深度合成服务提供者应当设置便捷的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理和反馈处理结果。

【深度和程蕾应用程序安全管理责任及处置措施】互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

【添加用户使用标识并保存日志信息】深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。

【显著标识提示深度合成情况以避免导致公众混淆或者误认】深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

【规模影响力备案手续】具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

二、深度合成服务技术支持者，是指为深度合成服务提供技术支持的组织、个人。

【训练数据管理】深度合成服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。

【加强技术管理】深度合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。

【法律责任】深度合成服务提供者和技术支持者违反本规定的，依照有关法律、行政法规的规定处罚；造成严重后果的，依法从重处罚。构成违反治安管理行为的，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

三、深度合成服务使用者，是指使用深度合成服务制作、复制、发布、传播信息的组织、个人。

【依法告知被编辑的个人并取得其单独同意】深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

【违法信息】任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

【虚假新闻】深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。

根据裁判文书的检索，目前全国范围内仅检索到三份“AI换脸”相关判决，分别为：

（2023）沪0115民初9795号王素萍与上海折耳根信息科技有限公司肖像权纠纷，（2022）沪0116民初10304号彭某某与上海鱼腥草信息科技有限公司肖像权纠纷，（2022）沪0116民初13856号廖某与上海鱼腥草信息科技有限公司肖像权纠纷。

以上三个案子的共同点在于，使用APP中的AI换脸技术在他人照片及视频中生成新的图片及视频系“未经肖像权人同意，不得制作、使用、公开肖像权人的肖像”，“被告未经原告授权同意，以营利性为目的使用含有原告肖像的视频，已经侵害了原告的肖像权”，法院认为，“被告将原告视频中的形象“换脸”后上架供其注册用户换脸使用，破坏了原告肖像的完整性，系利用信息技术手段伪造等方式侵害原告的肖像权，应当认定侵害了原告的肖像权。”最终做出“赔礼道歉，赔偿经济损失及维权合理支出”判决。