OpenAI的新AI视频生成器Sora引发专家对DeepFakes深度伪造技术的警示

OpenAI的最新人工智能创作Sora引发了专家对深度伪造技术的警示。Sora是一款使用人工智能从文本生成高质量视频的工具，这一功能让专家们对其潜在的深度伪造能力感到担忧。

专家认为，像Sora这样的生成式人工智能正在迅速发展，可能在几个月内就会公开发布，而缺乏必要的监管。他们担心这种技术的快速发展将导致深度伪造视频的大规模传播，这对2024年美国总统选举等重大事件可能带来严重影响，因为这些事件面临着由人工智能驱动的虚假信息的威胁。

专家指出，技术的发展速度远远超过了对这些工具的任何保障措施。“我们正在边飞行边建造这架飞机，”他说道，他认为Sora或类似的技术很可能在几个月内公开发布，而缺乏监管。虽然安全评估人员正在测试Sora以了解其被滥用的潜力，但目前还没有更广泛的监管机制。

Sora使任何人，甚至是业余爱好者，都能够轻松生成令人信服的虚假视频。这将赋予恶意行为者和欺诈者更大的能力，身份验证公司iProov的Andrew Newell博士警告说。依赖视频认证的银行等组织面临着来自深度伪造技术的更高风险，他们有责任开发强大的人工智能防御系统。

除了安全问题，Sora还对创意专业人士的工作构成威胁，因为它可以复制他们的技能。声优、视频游戏素材创作、市场营销等工作可能会因为人工智能生成的内容而受到重大冲击。媒体制作成本可能会因此降低。Sora甚至让那些缺乏艺术天赋的人制作可定制的“选择你自己的冒险”风格的视频。像Netflix这样的主要娱乐公司可以利用Sora的技术为用户提供简单的DIY内容创作工具。