
2026年骁龙峰会上,高通和PrismML一起干了件事:在骁龙AR1 Gen 1智能眼镜平台上,本地跑通了一个20亿参数的1-bit量化Bonsai视觉模型。说直白点,戴着这副眼镜,不用连网,它就能看懂你眼前是什么,还能回答你的问题。
这件事的关键在"1-bit"这三个字。
现在大部分模型跑在4-bit精度上,也就是每个参数要用4个二进制位来记。Bonsai这次把精度直接砍到1-bit——每个参数只剩一位,非0即1。你可以把它想成把一张彩色照片压成黑白剪影:细节丢了很多,但猫还是猫,桌子还是桌子,该认出来的东西照样认得出。
代价换来的是体积。这个1-bit模型的底子是PrismML之前发布的Bonsai 1.7B,压完之后内存占用只有4-bit模型的四分之一。反过来说,同样一块内存,以前只装得下一个模型,现在能塞进大约4倍参数的模型。官方还提到,文本Token的生成速度翻了一倍。
对智能眼镜来说,这不是实验室里的漂亮数字,而是能不能戴出门的问题。
眼镜的镜腿里塞不下大电池,也散不了多少热。过去让AI看懂世界,图片得先传到云端,等服务器算完再把答案送回来。这一来一回,费电、发热、还挑网络。现在这些活儿都在本地做完——认出眼前物体、翻译路牌文字、回答"我面前这盆植物是什么"、用语音免手操作,全都不用等云端。
少了联网这一段,功耗和内存压力一起降下来。续航能多撑一会儿,镜腿不至于烫耳朵。这两件事,恰恰是智能眼镜被吐槽最多的地方。
放到更大的盘面看,这场合作的信号很清楚:AI眼镜的竞争,正在从"能不能连上云端大模型"转向"本地能不能自己跑起来"。云端模型再聪明,也解决不了地铁里没信号、镜腿烫脸、半天就没电这些日常麻烦。
1-bit量化未必是终点,但它至少证明了一件事——把模型压到极致,可穿戴设备才真正有得玩。