摘要：
2026 年 9 月 23 日，PrismML 正式推出 1-bit Bonsai 端侧视觉语言模型，主打智能眼镜本地视觉理解与实时问答，凭借 1-bit 权重量化技术，让多模态... 2026 年 9 月 23 日，PrismML 正式推出 1-bit Bonsai 端侧视觉语言模型，主打智能眼镜本地视觉理解与实时问答，凭借 1-bit 权重量化技术，让多模态 AI 在内存、功耗受限的可穿戴硬件落地，不少 AI 模型导航站点已经收录这款开源模型。
1-bit Bonsai 基于 Bonsai 1.7B 迭代而来，整体模型规模 2B，由 1.7B 语言模型搭配 0.3B 视觉编码器构成，语言部分权重采用 1-bit 量化压缩。实测数据显示，该版本权重内存仅 0.43GB，对比 4-bit 版本 1.66GB，占用空间缩减近 3.83 倍，同等内存条件下可承载参数量提升约 4 倍，大幅降低可穿戴设备部署门槛。模型运行于骁龙 AR1 Gen1 平台，适配 Hexagon NPU，上下文窗口支持 1024 tokens。在 4GB 内存测试环境，模型生成速度可达每秒 15.36 tokens，相比 4-bit 版本性能提升约 2.06 倍。
它最大特点是完整端侧离线推理，视觉识别、问答推理全部在本地设备完成，画面和对话数据无需上传云端。佩戴智能眼镜时，模型可以实时识别眼前物体、解析场景信息并作答，兼顾隐私保护和低延迟交互。PrismML 联合高通完成硬件协同优化，高通 XR 业务高管表示，此次合作打通了轻量可穿戴设备本地多模态 AI 落地路径。
官方选取八项主流 AI 基准做评测，1-bit 版本和 4-bit 版本评测成绩基本持平，1-bit 压缩方案没有造成明显精度衰减。横向对比阿里 Qwen3 1.7B（4-bit 量化），二者参数量接近，但 1-bit Bonsai 同时支持视觉 + 语言双模态输入，内存占用更低、生成速度更快，是面向 AR 眼镜场景的差异化方案。同赛道还有 MiniCPM-V 4.6 等端侧模型，各自探索不同硬件适配路线。
该模型主要适配三类场景：智能眼镜本地视觉助手、可穿戴设备离线多模态推理，以及面向 NPU 硬件的低比特量化方案验证。目标受众为智能硬件产品团队、端侧 AI 应用开发者，还有研究模型压缩与软硬协同的科研人员。如果设备内存充足、优先追求更高精度，开发者可选择 Bonsai 系列 4B、8B 等高规格模型或是云端多模态方案。
开源方面，Bonsai 1.7B 未打包权重采用 Apache-2.0 协议，支持商用，权重文件上传至 HuggingFace，提供 GGUF 与原生两种格式，可在 llama.cpp、MLX 框架中测试。部署流程为下载权重、选定推理框架、针对 NPU 硬件编译，最后做实测验证。除 1-bit 版本，该系列还提供 4B、8B、27B 以及三元量化 Ternary Bonsai，适配不同算力需求，部署成本主要来自硬件与算子适配工作。
作为新一代轻量化多模态模型，1-bit Bonsai 为 AR 眼镜这类微型设备带来端侧视觉交互新选择，在离线 AI 模型导航资源中，也是低比特量化方向极具参考价值的开源项目。