2026 年 9 月 22 日,小米 MiMo 团队对外发布 HySparse2 技术论文,披露下一代长上下文基础模型 MiMo-V3 架构,主打长程智能体任务与多轮工具调用,凭借创新两级 KV 共享混合稀疏注意力,大幅降低百万 Token 场景下的算力与显存开销,不少 AI 模型导航站点已经收录这份前沿模型资料。
在智能体多轮交互场景,模型每轮只输出简短动作,但工具返回信息持续堆叠,长上下文检索精度、预填充计算成本、KV 缓存占用成为三大瓶颈,MiMo-V3 的 HySparse2 架构正是为破解该难题而生。该架构采用两级 KV 共享机制,外层 KV 桥接沿用 YOCO 思路,实现自解码器与交叉解码器之间的缓存复用;内层 KV 重用让混合块内稀疏层复用上一层全注意力层 KV 缓存与索引,省去大量重复计算。同时模型将原先块级选择升级为 token 级稀疏选择,并且把近期 Token 强制窗口合并进稀疏选择逻辑,全局与本地 token 共用一套 KV 缓存,长文本信息检索粒度更精细。
官方基于 80B-A3B MoE 验证模型给出实测数据:在 100 万 token 上下文条件下,预填充计算量压缩至前代的 1/5.02,KV 缓存占用缩减到前代的 1/4.5。长上下文评测指标 MRCR-v2、RULER-v2 相比前代获得提升,AgentPPL 与 LongPPL 指标更低。该模型基线为小米本月刚开源的 MiMo-V2.6,V2.6 采用混合滑窗注意力,同样支持百万级上下文窗口。
横向对比 DeepSeek V4.1 Flash、Gemini 3.8,MiMo-V3 现阶段仅公开架构论文,模型权重并未发布;DeepSeek 模型已开放权重,Gemini 3.8 则为闭源 API 服务。三者定位差异明显,MiMo-V3 聚焦长上下文智能体推理,DeepSeek V4.1 Flash 侧重原生多模态,Gemini 3.8 主打旗舰推理编码。在 AI 工具导航资源库中,MiMo-V3 属于前沿技术参考方案,暂时无法直接部署上线。
MiMo-V3 适配长程智能体交互、大型代码仓库理解、百万级长文档处理、智能体训练评测、多轮办公助手等场景,适合长对话下持续调用工具、跨文件查找代码依赖、长文本比对摘要。目标受众是研究长上下文智能体的模型研发团队、构建超长文本应用的工程人员,以及探索稀疏注意力方案的开发者。需要注意,模型本体尚未推出,仅适合技术调研,不建议直接用于生产环境。
现阶段开发者可以阅读 arXiv 论文掌握 HySparse2 完整设计,先基于开源 MiMo-V2.6 搭建基线,评估业务真实上下文需求,复现长文档召回效果,持续跟踪小米后续发布计划。目前 MiMo-V3 定价、开源许可均未官宣,不过上一代 MiMo-V2.6 采用 MIT 协议开源,也给行业留下较强预期。
简单来说,MiMo-V3 的技术突破,降低了百万 token 长上下文智能体的运行成本,为长会话 Agent 落地提供全新的稀疏注意力工程思路。
