198B参数只激活11B,阶跃星辰把视觉语言模型做成了高频智能体的“跑量款”

流云 2026-11-08 1341 0条评论
摘要: ...

视觉语言模型有个两难:参数堆大了,单次推理贵;压小了,复杂任务撑不住。阶跃星辰5月29日推出的Step 3.7 Flash走了第三条路——198B总参数保留容量,每token只激活约11B,用稀疏激活把高频调用的计算量压下来。Apache-2.0协议,权重已公开。

先把架构掰开看。198B总参数里语言主干196B、视觉编码器1.8B,每token激活约11B。官方公布吞吐上限约400 tokens/s,但这是特定硬件与推理配置下的指标,不等于你网页或接口调用时每次都能达到。发布页给的参照是Terminal-Bench与SWE-Bench一类长链路任务——这类任务的瓶颈通常不在单步质量,而在步数乘上单步耗时。智能体跑一百步,每步省一秒就是省一百秒。

三档推理强度是成本调节阀。低、中、高三档由调用方按任务难度指定,简单任务不必走满推理链。这一步省下的是输出token,对按量计费的接口来说,账单差别比参数规模差别更直接。格式转换、字段抽取这类明确任务用低档;需要多步检索核验或代码修改的用中高档。选定后建议固定下来,避免同一业务混用导致账单不可比。

原生图像理解有个细节值得单说。可读UI线框图、应用界面与数据图表并转成结构化代码;遇到信息不全的图,它会主动识别缺失项并调用检索补齐,再给结论。这种“缺图自查再补检索”的行为,比单纯提高视觉编码分辨率更贴近智能体工作流。

工具编排的轨迹稳定性是它的主打项。官方成绩里,ClawEval-1.1为67.1、同页次优为59.8;Toolathlon为49.5、HLE with Tool在发布页对比表中为47.2。这些都是官方给出的基准成绩,不是独立第三方复测结果,它们指向多轮工具调用中不跑偏、不违反系统约束,而不是单轮问答质量。

对比维度Step 3.7 FlashStep 5 PreviewKimi K2.8 Preview
参数结构198B稀疏MoE,激活约11B600B稀疏MoE,激活27B未公开
上下文窗口256K100万Token最高1M Token
推理档位低/中/高三档可切以官方配置为准以官方配置为准
权重开放Apache-2.0,四种量化格式按官方许可发布以官方发布说明为准
典型用途高频智能体、批量报表、并发编程旗舰任务与复杂推理长程编程与终端任务

在AI工具导航的智能体模型分类里,三款不是同档位的替代关系——Step 3.7 Flash跑量,Step 5 Preview攻坚,Kimi K2.8 Preview偏长程编程。选型时先看自己是要高频吞吐还是单次深度推理。

使用路径三条。官方平台最省事:网页版或App里用同一批业务样本试跑,确认中文表达与工具调用表现,再到开放平台创建API Key,模型名填Step 3.7 Flash,请求里指定推理强度档位。第三方托管适合已有统一网关的团队:OpenRouter的模型列表里找stepfun/step-3.7-flash,把base_url与模型名替换成托管方给的值,其余调用代码不用改,但注意缓存读取有单独计价。本机部署则要把量化和显存算清楚:精度优先取BF16,显存紧张时改用FP8或NVFP4;GGUF版本需通过官方适配的llama.cpp分支运行,官方给出的最低统一内存或显存约120GB,推荐128GB,普通消费级单卡跑不起来。

几个坑提前说。本地部署时显存需求按198B总参数量估算,而不是按激活的11B估算,还要计入权重精度、KV Cache、视觉模块、运行时开销与并行策略。部署前确认框架版本是否已支持该模型的MoE路由与视觉塔,否则会出现加载成功但输出异常。三档推理强度会改变输出长度,同一提示在不同档位下的费用差别可能超过模型选择本身的差别。发布页评测以英文基准为主,中文能力需自行用业务样本验证。

价格方面,权重与代码均以Apache-2.0在Hugging Face与GitHub发布,下载、商用与二次分发都不需要向阶跃星辰付费。OpenRouter上该模型标价为每百万输入token 0.20美元、每百万输出token 1.15美元,缓存读取每百万token 0.04美元——渠道挂牌价,会随渠道调整。发布页另给了一个更有参考价值的口径:开启Advisor模式后,单任务成本约0.19美元,同页对比对象为1.76美元。这是官方在特定评测任务上跑出的数字,换任务类型后不成立。

在AI模型库的选型语境里,Step 3.7 Flash的定位很明确:它不是万金油,而是“高频跑量款”。198B总参数保留模型能力,11B激活压住单步成本,三档推理强度再给一个成本调节阀——这三样串起来,视觉语言模型才有可能从“跑一次看看”走向“天天跑、批量跑”。但它不是万能,一次性复杂推理交给旗舰档更省事,本地部署的显存门槛也不低。智能体模型正在从“谁更聪明”走向“谁跑得起”,Step 3.7 Flash是这条路线上的一个务实样本。


文章版权及转载声明:

作者:流云本文地址:https://www.sanwenge.com/post/1567.html发布于 2026-11-08
文章转载或复制请以超链接形式并注明出处三文阁