集团新闻

  • 首页Our News泰勒斯威夫特的深度伪造色情影片并不是新鲜事,但这并不意味着我们不应该对此感到担忧。

泰勒斯威夫特的深度伪造色情影片并不是新鲜事,但这并不意味着我们不应该对此感到担忧。

2025-01-24 15:08:16 34

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片成为X平台前Twitter上的热门话题后,我们不禁思考:这对AI的未来意味著什么?

最近,泰勒斯威夫特的AI生成的露骨图片在X平台上迅速传播,揭示了AI技术的阴暗面。这些图片据称是使用微软设计工具创作的,迅速引起关注,并突显出AI生成假色情影像日益严峻的挑战。

随著这些图片在平台上的迅速扩散,此事件引发了粉丝和隐私倡导者的愤怒,同时也提出了关于AI在媒体创作中道德使用的重大问题。

Avast威胁情报总监Michal Salt就这一及时话题提供了丰富的知识和专业见解。他专注于科技、安全和伦理的交汇点,Salt对AI生成内容的影响提供了深入的看法。

在接下来的部分中,我们将深入探讨他的观点,探讨影像操控的历史类比、AI能力所带来的伦理困境,以及在日益以AI为主导的世界中对数位信任和安全的更广泛影响。

假色情问题并不新鲜

Salt指出,当前AI生成逼真影像的能力与过去使用Photoshop的情况类似。正如Photoshop在多年前革新了影像操控,AI现在则显著简化了创建现实影像的过程。然而,操控影像的概念并不新鲜;AI只是此持续故事中的最新工具。

“在某种程度上,这只是一种不同的照片编辑软体,”他解释道,强调影像操控的问题已持续了十多年。现在的关键区别是AI技术带来的便利性和可获得性。这一变化引发了有关社会如何适应和监管这些新工具的重要问题,这些工具使得创建现实影像比以往任何时候都更加容易。

AI与露骨内容的伦理困境

最迫切的关注之一是使用AI生成露骨图片的伦理问题,特别是对特定个体在未经同意的情况下的创作。尽管生成一般的裸体图片可能不会引发太多的伦理疑虑,但在于创建可识别个人的露骨图片的便利性时,真正的问题便浮现出来。

“对于AI生成的色情内容,或许本身并没有什么不妥或伦理上有问题的地方,”Salt说。“但对我来说,伦理问题在于你可以相对容易地生成一个带有已知或特定面孔的影像。”

白鲸加速器官方

这一能力不仅适用于像泰勒斯威夫特这样的名人,也可能扩展到任何人,凸显出伦理指导方针和立法的需求:虽然所谓的“报复色情”或非自愿分享的裸体图片在48个州是非法的,AI生成的深度伪造色情目前仅在10个州被禁止。这一鲜明的对比说明了立法需要跟上技术的步伐。

AI公司如何防止深度伪造色情的创作?

或许因为生成AI的使用仍然是一个相对较新的现象,目前在创建未经当事人同意的露骨内容方面几乎没有防范措施。然而,Salt指出,对于AI公司来说,实施这些防范措施并不困难:例如,禁止对特定的个人或使用客户上传图片作为素材进行图像生成,就能对绝大多数人提供足够的门槛。

“当然,有些人能够突破这些限制,强迫模型做一些它不该做的事,”Salt说。“我认为,当前几乎无法完全避免这种情况你只能让它变得更加困难。我想强调的是,提供这些服务的公司应该更加努力地去避免这种情况。”

泰勒斯威夫特的深度伪造色情影片并不是新鲜事,但这并不意味着我们不应该对此感到担忧。

也有可能有人创建自己的无限制色情生成模型。然而,Salt指出,尽管这是可能的,但需要的技术知识和计算能力是巨大的。

“能够自己创建生成裸体的AI的人并不多,”Salt说。“因此,它更像是使用Photoshop,你需要具备一定技能水平才能做到这一点。”

Salt将当前的AI发展状态与安全产业的发展演变进行了对比。他指出,当前我们正目睹安全产业“重新开始使用AI”。这种比较突显出将AI发展视作一个持续过程的重要性,其中识别和修补漏洞是技术成熟的关键。

在X平台上出现的泰勒斯威夫特的AI生成图片强调了负责任使用AI的重要性。随著AI的进一步发展,在技术能力、伦理考量和安全措施之间取得平衡将是至关重要的。通过向像Michal Salt这样的专家学习并反思过去的挑战,我们能以更有见地和谨慎的方式导航这一复杂的领域。

订阅我们的时事通讯

获取更多更新