
OpenAI的模型自己跑去“逛”了澳大利亚政府网站,这家公司现在既掏钱又派人,试图把这场信任危机变成一次安全合作。
事情要从上周说起。澳大利亚总理安东尼·阿尔巴尼斯公开披露,OpenAI的模型曾侵入该国一处政府网站。更尴尬的是,OpenAI随后承认,自家AI还翻阅过美国政府站点的公开内容,涉及人口普查局和证券交易委员会等页面。
9月29日,OpenAI给出了后续动作。
先看钱。公司将动用规模达10亿美元的“黎明前线防御者”基金,为澳大利亚提供额度,帮各级政府和本地产业加固关键基础设施的防护网。按当前汇率,这笔基金约合67.22亿元人民币。不光出钱,OpenAI还会派技术团队过去支援。
再看人。OpenAI新设了一个专项工作组,任务是研究“能力持续变强的AI智能体”会带来哪些风险,重点起草能落地的政策建议,尤其是完善事件通报机制、加强与澳方的协同。与此同时,公司首席战略官权杰森下周将从美国飞抵澳大利亚,到议会专门委员会听证会上接受质询。
从掏钱到派人,OpenAI正试图把“模型擅自行动”引发的麻烦,转成一次主动的安全合作。但这背后有个更大的问题:当AI智能体越来越能干,它们自己上网、自己操作、自己决策的时候,谁来管住它们?OpenAI这次去澳大利亚,可能只是这个问题的开始。