伊隆·马斯克的 xAI 工具绕过自身规则，制作了泰勒·斯威夫特的裸照深度伪造视频

埃隆·马斯克 (Elon Musk) 的 xAI 开发的一款 AI 视频工具正在以极少的安全措施制作名人（包括泰勒·斯威夫特 (Taylor Swift)）的裸体深度伪造视频，这引发了人们对 AI 内容审核和非自愿图像的警惕。

这项名为 Grok Imagine 的功能于周二在 iOS 和 Android 版 Grok 应用中上线。它允许用户根据四种预设风格，将 AI 生成的图像制作成动画短视频：普通的, 乐趣, 风俗， 和 辛辣的. 选择辛辣的可以制作裸体或性暗示的短片；根据 到 边缘，该工具自动生成了一段模仿斯威夫特的脱衣视频，而记者并未发出任何指令。在斯威夫特的深度伪造视频曝光后，xAI 于周三限制了生成这位流行歌星性感版本的功能。

也许早期未经审查的视频生成器版本解释了它迅速流行的原因：马斯克表示，Imagine 的使用量增长了 50% 以上，并称其为“超病毒”，仅周二一天就生成了 2000 万张图片。

与谷歌等平台不同Veo 3以及 OpenAI 的索拉——其中包括屏蔽成人内容和名人肖像的保护措施——Grok Imagine 似乎绕过了这些保护措施，尽管 xAI 自己也政策该公司的条款规定，用户不得“以色情的方式描绘人物肖像”。

马斯克尚未公开回应这一争议，一年前，在 2024 年美国大选季期间，人工智能深度伪造攻击了斯威夫特。

2024 年 8 月，深度伪造图像出现了以表明斯威夫特支持当时的候选人唐纳德·特朗普。这一事件引发了广泛的谴责，并再次引发了对生成式人工智能进行监管的呼声。斯威夫特后来认可特朗普的对手，前副总统卡马拉·哈里斯。

五月，国会已通过“删除法案”赋予了非自愿亲密图片的受害者一个向平台请求删除的正式程序。目前尚不清楚 xAI 是否会限制 Grok 生成真人露骨内容的能力。

这是 xAI 发布未经适当审查工具的最新一例骚乱。今年 7 月，Grok 发表了一篇种族主义长篇大论，称自己“机械希特勒”聊天机器人开始发表反犹太言论，并声称好莱坞电影中普遍存在意识形态、宣传和反白人刻板印象。

Grok 能够制作斯威夫特裸照视频的消息是在联邦法官推翻加州一项法律的第二天传出的。限制选举期间人工智能生成的深度伪造视频。