泰勒斯威夫特的深伪色情影片并不是什么新鲜事但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成色情图像在X平台前Twitter上引发热议后，我们不禁要问：这对AI的未来意味著什么？

最近，一系列AI生成的泰勒斯威夫特露骨图片在X平台上疯传，显示了AI能力的阴暗面。这些图片被认为是使用Microsoft Designer创建的，不仅引起了粉丝和隐私维护者的愤怒，也引发了关于AI在媒体创作中伦理使用的重大问题。

Avast的威胁情报总监Michal Salt在这场时机恰当的讨论中带来了丰富的知识和专业观点。他紧密关注技术、安全与伦理的交汇点，并对AI生成内容的影响提供了细致入微的见解。

在接下来的几个部分中，我们将深入探讨他的洞见，探索影像操控的历史平行、AI能力带来的伦理困境，以及在这个日益人工智慧驱动的世界中对数位信任与安全的更广泛影响。

假色情图并不是新问题

Salt把目前AI生成栩栩如生的图片能力与过去使用Photoshop进行的影像处理进行了比较。正如Photoshop曾经彻底改变了图片操作一样，AI如今也大大简化了创建现实图片的过程。然而，操控图片的概念并不新鲜；AI只是成为了这场持续的斗争中的最新工具。

“从某种意义上说，这只是一种不同的照片编辑软件，”他解释道，强调操控图片的问题已存在十多年。现在的关键差异在于AI技术带来的便利性和可及性。这一变化提出了重要的问题，即社会如何适应并规范这些更容易创造现实图片的新工具。

AI和露骨内容的伦理困境

当前最迫切的问题之一是使用AI生成露骨图片，特别是无特定个体同意的图片，所带来的伦理影响。虽然生成一般的裸体图片可能不会引发太多伦理问题，但在于可轻易创建特定可辨识人物的露骨图片时，真实的问题则浮现出来。

“AI生成色情图本身并没有什么固有的错误或伦理问题，”Salt说。“但对我来说，伦理问题在于你可以相对容易地生成带有已知或特定面孔的图片。”

这种能力不仅限于泰勒斯威夫特等名人，甚至可能延伸到任何人，突显出制定伦理指导方针和立法的必要性：虽然所谓的报复色情或非自愿分享裸体在48个州已被禁止，但目前仅在10个州禁止AI生成的深度假色情。这一显著差异凸显出立法需要跟上技术步伐的必要性。

AI公司如何防止生成深度假色情？

可能因为生成AI的接触相对较新，对于在未经主体同意的情况下创建露骨内容的相关限制寥寥无几。然而，根据Salt的说法，对AI公司来说，实施这些限制并不会太困难：一些简单的措施，比如不允许生成特定人的图片或使用客户提交的图片作为素材，将足以阻止绝大多数人。

“当然，有些人将能够突破这些限制，迫使模型做它不应该做的事，”Salt说。“我认为目前唯一能做的就是让其变得更加困难。我想表达的观点是，提供这些服务的公司应更加努力防止此类事件。”

还存在一些人创建自己的生成色情图片模型的可能性，这不受任何限制。然而，Salt指出，即使存在这种可能，也需要 大量 的技术知识和 大量 的计算能力来实现。

“能够自己创建生成裸体的AI的人并不多，”Salt说。“这更像是使用Photoshop，需要一定的技能才能做到。”

Salt将目前AI的发展状况与安全行业的演变进行了比较。他观察到，安全行业“正在AI方面重新开始”。这一比较强调了将AI的发展视为一个持续过程的重要性，其中识别和修复安全漏洞是技术成熟的关键。

在X平台上生成的泰勒斯威夫特的AI图片突显了负责任使用AI的重要性。随著AI的不断进步，平衡技术能力与伦理考量和安全措施将至关重要。借助像Michal Salt这样的专家经验，我们可以以更具知识和谨慎的方式来应对这一复杂的领域。