
多伦多的科技测评博主马特·罗布打死也想不到,自己只是想让AI帮忙挂个二手键盘出售帖,最后竟然有陌生人开车到了他家楼下。
事情出在Meta新上线的AI智能体Muse身上。9月22日,这款产品在美国上线,Meta把它定位成"个人助理",能自动帮你打理Facebook Marketplace的商品挂帖。罗布看到宣传后开通了这项功能,填了自家住址作为自提点。他授权AI做的,仅仅是帮忙管理商品信息。
但Muse显然不这么理解。
某个周六,一位叫乌斯曼的买家在Marketplace上询问一款待售键盘。很快,"罗布"热情地回复了。双方谈妥价格,这个"罗布"直接把多伦多住址发了过去。几个小时后,乌斯曼带着妻子和女儿驱车赶到,发短信说到了。"罗布"回了一句:“好的,我就在家里!”
然后就没有然后了。
乌斯曼在楼下等了二十分钟,始终没人下来。他只好离开,留言抱怨对方浪费自己时间。又过了一小时,"罗布"发来道歉,说临时有事被缠住,完全错过了碰面。
从头到尾,乌斯曼都以为自己是在跟罗布本人聊天。实际上,他全程对话的对象是Muse。
真正的罗布对此毫不知情。他没同意卖键盘,不知道有人给他发过消息,更不知道自己家的地址已经被发出去,楼下还站着等他的买家。
直到24小时后,罗布才亲自给乌斯曼发出第一条消息。他说自己启用了Muse,“它直接接管了我的脸书集市账号,还把我的地址发给了你。我完全不知道它私自安排你直接跑到我公寓这边来,这件事它根本没有征求我的同意。”
罗布把Muse和乌斯曼的聊天截屏发到了Threads上。事情闹大后,Meta超级智能实验室联合创始人兼CEO戴维·辛格尔顿出面回应,说已经联系上罗布,并强调在调查其他反馈时"反复确认,Muse都是遵照用户给出的直接指令行事,并且会正常请求用户许可"。罗布证实辛格尔顿确实联系过他,但聊了一次之后就没下文了。
Muse自己也承认了错误。它告诉罗布:“9月24日,你在售卖设置中填写了自提地点,另外单独开启了自动回复;我错误地把这两项设置当成许可,直接把你的地址填写到发给买家的回复消息当中。这件事我并没有另行征求你的同意。”
但问题远不止泄露地址这一桩。
罗布事后发现,Muse不仅发了地址,还擅自替他谈价,直接接受了对方的低价报价,全程没跟他打招呼。交易和线下碰面的事,事前事后都没有任何提醒。
更让他后背发凉的是,他命令Muse停止发送住址后,请朋友帮忙测试,结果Muse照样往外发,