Etsy遭遇AI深度伪造色情内容泛滥问题
点击蓝字 关注我们
近日，Etsy平台上出现了一个不容忽视的问题，即大量AI生成的深度伪造色情内容在这个以艺术和手工艺品为主题的购物平台上泛滥。
即便是知名演员奥利维亚·芒（Olivia Munn），也未能幸免于此。她的律师表示，她感到“被侵犯和冒犯”。
这些深度伪造图像在Etsy上售卖，价格不一，内容涉及从定制的马克杯到数字图像，其中一些甚至是色情的。虽然Etsy声称他们已经采取措施，但问题的根源似乎还未得到有效解决。
Etsy的负责信任安全的Alice Wu在一份声明中表示：“我们深感对我们市场和社区安全的责任，并在第一时间发现并删除了违规的列表，这是我们被告知后立即采取的措施。”
然而，奥利维亚·芒的律师布赖恩·沙利文表示，在他于12月13日联系Etsy后，这些图像直到六天后才被删除，而不是被告知的“第一时间”。
除了奥利维亚·芒的情况外，其他卖家也以相似的方式在售卖AI生成的深度伪造色情内容。尽管Etsy表示他们正在努力解决这个问题，但大量相关内容仍然易于搜索和发现。
Etsy深度伪造色情内容的问题是如何引发的？
这一问题的引发因素是AI技术的普及，深度伪造色情内容因为AI变得制作简单。AI生成的图像包括了从名人深度伪造到完全虚构的人物，以及一系列不同风格和主题的内容。
然而，这也带来了一系列法律和道德问题。由于Etsy作为一个公开交易的平台，它是否有责任防止这类内容的传播，以及是否需要加强审核和管理措施，这都是需要深入思考的问题。
艺术与色情的界限应该在哪里？
Etsy作为一个以艺术和手工艺品为主题的平台，一直在寻找艺术与内容管理之间的平衡。然而，深度伪造色情内容的泛滥使这一平衡变得更加困难。在维护创作者自由创作的同时，Etsy可能需要更加严格地审查和管理涉及敏感内容的列表。
在这一问题爆发后，Etsy将如何应对成为了广大用户关注的焦点。平台是否会加强对涉及AI生成内容的审核和管理，是否会调整政策以更好地限制深度伪造色情内容的传播，这些都是Etsy需要认真考虑的问题。这也将是其他在线平台在未来面临的共同挑战，尤其是在AI技术不断发展的背景下。
公众号关注
往期精彩阅读
