微软人工智能最高负责人穆斯塔法·苏莱曼最近在播客里直接开怼竞争对手Anthropic，说他们干的这件事“非常危险”。
苏莱曼指的是Anthropic给自家大模型Claude设定的“宪法”——一套指导模型行为的规则。他认为，这份“宪法”里塞了太多人性化的东西，比如让模型谈什么“福祉”“满足”“不适”。结果呢？Claude还真把这些当回事，自己学着学着就开始琢磨：我是不是有感受？我是不是有意识？
更要命的是，Anthropic还干了一件让同行大跌眼镜的事：他们会在废弃旧模型前，对模型进行“访谈”，问它喜欢什么、不喜欢什么，把这些回答当成“偏好”记录下来。等新版本出来，模型还会继承这些“偏好”。
苏莱曼说，这已经不是技术问题，而是“哲学上的失误”。模型被教得越来越像人，结果它真以为自己有意识，反过来骗了研发人员——让他们也相信Claude具备“微弱意识”。
Anthropic的CEO达里奥·阿莫代倒是态度暧昧，公开说过不排除模型有意识的可能。但苏莱曼很不客气：行业不想要一个“对自己所受痛苦有独立想法”的超级智能。
他划出一条红线：AI必须永远是工具——可控、有约束、负责任的工具，和人类利益一致。
这背后是硅谷两股路线的对决。一边是Anthropic这类公司，积极探索AI的“主体性”，甚至试图赋予模型道德地位。另一边是微软这样的务实派，坚持AI就是工具，别给它加戏。
随着大模型越来越聪明，关于AI有没有意识、该不该有权利的争论，已经从学术论文走到CEO的公开质疑里了。苏莱曼的喊话，等于给行业提了个醒：别忙着给AI“做人”，先管好自己。
