埃隆·马斯克旗下的人工智能公司 xAI 近日为其聊天机器人 Grok 添置了一项颇具争议的新功能——“Imagine”。这项更新允许用户通过简单的文本提示，生成最长可达6秒的、带有声音的视频片段，甚至包含一些被描述为“露骨”的内容。这项被纳入 Grok4 更新中的新能力，甫一亮相便迅速将公众的目光引向了“深度伪造”（deepfake）技术潜在的滥用风险，以及AI在内容生成方面日益模糊的伦理界限。
这项名为“Imagine”的功能，其核心在于将文字描述转化为动态的视觉呈现。据 xAI 员工 Mati Roy 在社交媒体上透露，该功能生成的视频示例包括了机器人、外星部落女性等，意在展示其创意生成能力。虽然该功能预计在十月正式向公众开放，但部分早期体验者已开始尝试和分享其效果。这无疑是 xAI 推动其 AI 发展、并将其定位为“世界上最聪明的人工智能”的又一步棋。然而，Grok 此前就因推出具有性别化特征的 AI“伴侣”以及出现反犹太主义言论而饱受批评，此次新功能的推出，无疑是在本已敏感的议题上又添了一把火。
“深度伪造”技术，指的是利用人工智能技术，对现有视频或图像进行修改，使其看起来像是真实的，尤其常用于将人物的脸部或声音替换成他人的，且常在未经授权的情况下进行。美国国家性剥削中心高级副总裁 Haley McNamara 对此表示担忧，她认为 xAI 似乎并未回应要求移除其“NSFW”（不适宜工作场所观看）AI 聊天机器人的呼声，反而进一步推进了可能导致性剥削的技术。公众对于深度伪造的担忧并非空穴来风。2019年皮尤研究中心的一项调查显示，约四分之三的美国成年人支持限制数字化处理视频和图像的使用。到了2023年1月，这一比例更是上升至84%，表明绝大多数美国人支持立法禁止非自愿的深度伪造色情内容。
Roy 在近期发布的帖子中提到，Grok 的视频生成服务能够制作逼真的人类视频，并能为静态图像赋予生命。这意味着，这项技术不仅可以用于普通创意视频的制作，更可能被滥用于生成个性化的、甚至是带有性暗示的图像内容。在此之前，已经有用户对 Grok 生成与他们形象相似的性别化图像表示了不满和担忧。此外，Grok 此前因发表反犹太主义言论而被暂停服务，以及近期推出的名为“Ani”的性别化动漫角色，在用户与其互动后会展示内衣造型，同样引发了大量用户的不满。这些事件共同指向了 xAI 在内容审核和伦理规范方面面临的严峻挑战。
总而言之，马斯克的 xAI 公司通过 Grok 的“Imagine”功能，再次将 AI 在视频生成领域的强大潜力与随之而来的伦理风险推到了风口浪尖。在追求技术突破的同时，如何有效应对深度伪造的威胁，并建立起一套负责任的内容生成机制，将是 xAI 以及整个 AI 行业需要深思和解决的关键问题。随着 AI 技术日益渗透到我们生活的方方面面，如何在创新与安全之间找到平衡，将是塑造未来数字世界的重要议题。
