Emma McGowan 2024年1月30日
在AI生成的泰勒斯威夫特色情图像在X平台前身为Twitter疯狂传播后,我们不禁思考:这对未来的AI意味著什么?
最近,AI生成的泰勒斯威夫特明显露骨的图像在X上广为流传,展示了AI能力的阴暗面。这些图像被认为是使用微软Designer创作的,引起了广泛关注,突显了AI生成的假色情内容所带来的日增挑战。
随著这些图像在平台上迅速扩散,此事件不仅激起了粉丝和隐私维护者的强烈不满,还引发了有关在媒体创作中伦理使用AI的重要问题。
Avast的威胁情报总监Michal Salt在这场及时的讨论中贡献了大量的知识和专业见解。Salt对技术、安全和伦理交汇处有著敏锐的观察能力,提供了对AI生成内容影响的深刻见解。
在接下来的部分中,我们将深入探讨他的见解,研究图像操纵的历史平行、AI能力所带来的伦理困境,以及在这个日益依赖AI的世界中,数字信任和安全性的更广泛影响。
外网加速器假色情并不是新问题
Salt将当前AI生成逼真图像的能力与过去的Photoshop使用进行了比较。就像多年前Photoshop革命了图像操纵,现在AI也显著简化了创建真实图像的过程。然而,操纵图像的概念并不新鲜;AI只不过是这场持续 saga 的最新工具。
“这在某种程度上只是一种不同的图片编辑软件,”他解释道,强调对图像操纵的担忧已经存在十多年。现在的关键不同是,AI技术带来的便利性和可及性。这一变化引发了社会如何适应和监管这些新工具的重要问题,因为这些工具使得创建逼真图像变得比以往任何时候都容易。
AI与露骨内容的伦理困境
当前最迫切的担忧之一是使用AI生成露骨图像的伦理影响,特别是对于特定个体而未经其同意的情况。虽然生成一般的裸体图像可能不会引发太多伦理疑问,但真正的问题在于如此轻松地创造出有辨识度的个人露骨图像。
“AI生成的色情内容本身没有什么根本错误或伦理问题,”Salt说。“但至少对我而言,伦理问题在于,你可以相对容易地生成一张带有已知或特定面孔的图像。”
这一能力不仅限于像泰勒斯威夫特这样的名人,有可能扩展到任何人,因此强调了对伦理准则和立法的需求:所谓的“报复色情”或非自愿分享裸体照在48个州已被禁止,而AI生成的深伪色情目前仅在10个州被禁止。这一明显的差异突显了立法必须跟上技术的需求。
AI公司如何防止深伪色情的创作?
或许是因为生成AI的使用相对较新,目前针对在未经当事人同意的情况下生成露骨内容的保护措施仍然很少。然而,Salt认为,对AI公司而言,实施这些措施并不会太困难:例如,可以简单地不允许生成特定人的图像或使用客户提交的图像作为资料源,就可以为绝大多数人提供足够的障碍。
“当然,一些人仍然可以打破这些限制,迫使模型执行不应该做的事情,”Salt表示。“在我看来,目前几乎不可能完全避免这种情况你只能让它变得更加困难。我想我想表达的观点是,提供这些服务的公司应该更努力地避免这种情况。”
还有创建自己的色情生成模型而没有任何限制的可能性。然而,Salt指出,尽管这有可能,但需要大量的技术知识和大量的计算能力来达成。
“能够自己创建生成裸体图像的AI的人并不多,”Salt说。“因此,这更像是使用Photoshop,你需要具备一定的技能才能做到这一点。”
Salt将当前AI发展的状态与安全行业的演变进行了比较。他观察到,我们正在目睹安全行业在AI面前“重新开始”。这一比较强调了在发展AI技术的过程中,识别和修复漏洞对于技术成熟的重要性。
在X平台上生成的泰勒斯威夫特的AI图像凸显了负责任使用AI的重要性。随著AI的进步,在技术能力、伦理考量和安全措施之间取得平衡将变得至关重要。通过向像Michal Salt这样的专家学习,并反思过去的挑战,我们可以以更具知识和谨慎的方式应对这项复杂的现状。