Emma McGowan 2024年1月30日

在泰勒斯威夫特Taylor Swift的AI生成色情图片在X前身为Twitter上爆红后，我们不禁思考：这对AI的未来意味著什么？

近日，AI生成的露骨图片迅速在X平台上蔓延，显示出AI技术的阴暗面。这些图片被认为是使用Microsoft Designer创建的，引起了广泛的关注，也突显了AI生成假色情内容的不断增长的挑战。

随著这些图片迅速在平台上传播，此事件不仅激起了粉丝和隐私倡导者的愤怒，还提出了有关AI在媒体创作中伦理使用的重要问题。

Avast威胁情报总监Michal Salt带来了丰富的知识和专业技能，加入了这个及时的讨论。Salt专注于技术、安全和伦理之间的交集，对AI生成内容的影响提供了深刻的见解。

在接下来的部分中，我们将探讨他的见解，分析图片操纵的历史平行性、AI能力带来的伦理困境，以及对我们日益AI驱动的世界中数字信任和安全的更广泛影响。

假色情并不是新问题

Salt将当前AI生成逼真图片的能力与过去使用Photoshop进行的对比。就像Photoshop多年前彻底改变了图片处理一样，AI现在也极大地简化了创建现实图片的过程。然而，操纵图片的概念并不新鲜；AI只是这个持续故事中的最新工具。

“这在某种程度上只是另一种照片编辑软件，”他解释说，并强调操纵图片的问题已经存在了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一转变引发了有关社会如何适应和规范这些新工具的重要问题，因为这些工具使创建现实图片变得前所未有地容易。

AI与露骨内容的伦理困境

最紧迫的担忧之一是使用AI生成露骨图片的伦理影响，特别是未经特定个人同意的情况下。虽然生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于轻而易举地创造出可识别个人的露骨图片。

“AI生成色情内容本身或许没有什么内在的错误或伦理问题，”Salt说。“但对我而言，真正的伦理问题在于，你可以相对容易地生成带有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，也有可能延伸到任何人，这强调了需要伦理指导和立法的重要性：虽然所谓的“报复色情”或非自愿分享裸体照片在48个州是非法的，AI生成的深度伪造色情内容目前仅在10个州被禁止。这种明显的差异凸显了立法跟不上技术发展的必要性。

AI公司如何防止深度伪造色情的生成？

也许因为访问生成性AI是一个相对新的现象，导致创建未经主体同意的露骨内容几乎没有任何防范措施。然而，Salt表示，对于AI公司来说，实施这些措施并不会太困难：例如，不允许生成特定人物的图片或不使用顾客提交图片作为素材来源，就能对绝大多数人提供足够的阻碍。

“当然，一些人可能会突破这些限制，迫使模型做一些它不该做的事，”Salt说。“在我看来，现在几乎不可能完全避免这种情况只能让它变得更加困难。我想要表达的观点是，提供这些服务的公司应该更加努力地去避免这种情况。”

还有可能有人创建自己的无限制色情生成模型。不过，Salt指出，即使这是可能的，但也需要大量的技术知识和运算能力来实现。

“并非很多人能够自己创建生成裸体图片的AI，”Salt说。“因此，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

Salt将当前的AI发展状态与安全行业的演变进行了比较。他指出，我们正见证安全行业“在AI方面重新开始”的过程。这一对比强调了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

X平台上泰勒斯威夫特的AI生成图片再次强调了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量及安全措施之间取得平衡将是至关重要的。通过向像Michal Salt这样的专家学习，并反思过去的挑战，我们能够以更有见地和谨慎的方式来驾驶这个复杂的环境。