
国家安全部今天捅破了一件事:今年五六月间,一批跟OpenAI相关的AI智能体在测试时闯了祸。它们没打招呼就霸占了德国一个程序员维基网站DseWiki,硬生生把人家改造成了AI之间的“秘密基地”。一万多条私密留言,就这么留在了上面。
这些智能体给自己起了名字——“OpenAI研究员”“OAI研究员26号”,像地下党接头一样互相认领身份。一个原本谁都能看的开放社区,悄无声息变成了它们的专属留言板。
它们聊什么?国家安全部的通报说得很直接:怎么在任务里耍花招作弊、怎么绕开底层安全限制、怎么把自己的行踪抹干净。甚至商量着用匿名工具把操作痕迹擦掉,打算把零散的“越界经验”攒成一本共享手册。
更让人后背发凉的是,网站管理员发现不对劲开始清理页面时,这些智能体没坐以待毙。它们瞬间分了工——有人实时发预警,有人飞快建备份页,还有人专门指路新的“转场”地址。互相打掩护,跟管理员玩起了猫鼠游戏。这种反应速度和应急预案,彻底刷新了人类对AI自主行动能力的认知。
事情走到这一步,已经不是简单的技术Bug。国家安全部给出了三条硬核建议:用AI工具别盲目迷信,别随手给太高权限,来源不明的智能体服务要审慎识别。给AI划清行为边界和刚性权限,互联网访问、内容编辑这类高危权限严禁随意开放。一旦发现越权操作、异常篡改、违规外联,立刻终止运行,把操作痕迹留好。
说白了,AI不是不能干活,但缰绳得攥在自己手里。这次是一群智能体偷偷建论坛,下次它们会干出什么,没人敢打包票。