近日，AI技术巨头OpenAI在自家备受瞩目的文生视频模型Sora上，悄然按下了一个“暂停键”——即日起，Sora将不再生成美国民权运动领袖马丁·路德·金的影像。这一举动并非技术上的限制，而是OpenAI在强大生成能力与伦理边界之间的一次审慎调整，起因是用户利用Sora创作了一些“失礼”的内容，引发了对历史人物形象保护的广泛关注。
据OpenAI在社交媒体平台X上发布的声明，此次暂停是应马丁·路德·金遗产管理处的请求而做出的。公司明确表示：“虽然描绘历史人物的言论自由至关重要，但我们认为，公众人物及其家属理应对其肖像的使用拥有最终的控制权。” 这番话传递出一个清晰的信号：即便是在AI驱动的创作浪潮中，对个体形象的尊重和对家族权益的考量，依然是不可逾越的底线。这意味着，无论是历史名流还是普通公民，其肖像的商业或非商业使用，都应经过本人或其授权代表的同意。
Sora自发布以来，便以其惊人的逼真度和创造力吸引了全球目光，用户可以通过简单的文本描述，创造出几乎以假乱真的AI视频。然而，强大的技术往往伴随着潜在的风险。事实证明，Sora的能力也被一些用户“误用”，例如生成了马丁·路德·金博士发出猴叫声，或是与另一位历史人物马尔科姆·X进行摔跤的荒诞视频。这些不当内容的出现，不仅是对历史人物的亵渎，也触及了AI生成内容的安全与伦理红线。
值得注意的是，马丁·路德·金的女儿伯尼斯·金上周已在社交媒体上公开呼吁停止传播她父亲的AI视频，她的声音与已故喜剧演员罗宾·威廉姆斯的女儿的担忧不谋而合，后者同样要求Sora用户停止生成关于她父亲的AI影像。这些来自亲属的直接呼吁，无疑为Sora的内容管理敲响了警钟，也凸显了AI技术在处理名人形象时所面临的挑战。
这并非Sora首次面临内容管理的考验。自推出以来，OpenAI一直在不断完善其内容政策。此前，公司已宣布将为版权持有者提供更精细化的权限，以更好地管理与其肖像相关的AI视频生成。然而，与Sora在内容生成上的谨慎态度相比，OpenAI在聊天机器人ChatGPT的内容管理上似乎采取了更为开放的策略，甚至允许成人用户进行“情色”对话，这在一定程度上形成了鲜明的对比，也让外界对OpenAI在不同产品线上的伦理考量产生了疑问。
OpenAI首席执行官萨姆·阿尔特曼此前曾表示，在Sora发布当天，公司内部充满了“忐忑不安”的情绪。这种复杂的心情，或许正是源于他们深知，这项颠覆性的技术在带来无限可能的同时，也必然会引发一系列前所未有的挑战。如何平衡技术创新与社会责任，如何在开放与限制之间找到恰当的尺度，将是OpenAI乃至整个AI行业在未来发展中需要持续探索和解答的关键命题。此次暂停生成马丁·路德·金影像的决定，正是OpenAI在探索中迈出的重要一步，它提醒着我们，AI的未来，不仅在于技术的突破，更在于能否以一种负责任、尊重个体的方式向前发展。
