198B参数每token只激活11B:阶跃星辰Step 3.7 Flash把智能体吞吐压进成本线

流云 2026-11-07 1042 0条评论
摘要: 视觉语言模型这两年有个默认的分岔:要么参数堆大去刷榜单,要么压小体量去省算力。阶跃星辰5月29日推出的Step 3.7 Flash走的是第三条路——198B总参数保留模型容量,每t...

视觉语言模型这两年有个默认的分岔:要么参数堆大去刷榜单,要么压小体量去省算力。阶跃星辰5月29日推出的Step 3.7 Flash走的是第三条路——198B总参数保留模型容量,每token只激活约11B,用稀疏激活把高频调用的计算量压下来。官方定位很直接:面向智能体生产环境的高吞吐视觉语言模型,不是榜单分数。

先说这个稀疏激活怎么落地。198B总参数里语言主干196B、视觉编码器1.8B,每token激活约11B。官方公布的吞吐上限约400 tokens/s,这是特定硬件与推理配置下的指标,不等于网页或接口调用时每次请求都能达到。发布页给的参照是Terminal-Bench与SWE-Bench一类长链路任务,这类任务的瓶颈通常不在单步质量,而在步数乘上单步耗时——说白了,智能体跑一百步,每步省一秒就是省一百秒。在AI工具导航的智能体模型分类里,这种“大容量低激活”的路线,和堆参数冲榜的旗舰模型形成了明确区隔。

三档推理强度是成本控制的另一个开关。低、中、高三档由调用方按任务难度指定,简单任务不必走满推理链。这一步省下的是输出token,对按量计费的接口来说,账单差别比参数规模差别更直接。格式转换、字段抽取这类明确任务用低档;需要多步检索核验或代码修改的用中高档。选定后建议固定下来,避免同一业务混用导致账单不可比。

原生图像理解有个细节值得说。结合视觉编码器与语言主干,可读UI线框图、应用界面与数据图表并转成结构化代码。遇到信息不全的图,它会主动识别缺失项并调用检索补齐,再给结论——发布页把这条列为视觉推理与检索增强的结合点。在AI模型库的多模态选型中,这种“缺图自查再补检索”的行为,比单纯提高视觉编码分辨率更贴近智能体工作流。

工具编排的轨迹稳定性是它的主打项。官方公布的成绩里,ClawEval-1.1为67.1、同页次优为59.8;Toolathlon为49.5、HLE with Tool在发布页对比表中为47.2。这些都是官方给出的基准成绩,不是独立第三方复测结果,它们指向多轮工具调用中不跑偏、不违反系统约束,而不是单轮问答质量。对于关注AI办公软件推荐的团队,如果业务涉及财报解析、多轮跨源检索或并发编程智能体,轨迹稳定性比单步跑分更能决定流程跑不跑得通。

使用路径三条,都通到同一个权重。官方平台最省事:网页版或App里用同一批业务样本试跑,确认中文表达与工具调用表现,再到开放平台创建API Key,模型名填Step 3.7 Flash,请求里指定推理强度档位。第三方托管适合已有统一网关的团队:OpenRouter的模型列表里找stepfun/step-3.7-flash,把base_url与模型名替换成托管方给的值,其余调用代码不用改,但注意缓存读取有单独计价,长对话场景应确认命中率再估账单。本机部署则要把量化和显存算清楚:精度优先取BF16权重,显存紧张时改用FP8或NVFP4版本;GGUF版本需通过官方适配的llama.cpp分支运行,硬件门槛不低——官方给出的最低统一内存或显存约120GB,推荐128GB,更适合高内存工作站与专业部署环境,普通消费级单卡跑不起来。

几个坑提前说。本地部署时显存需求按198B总参数量估算,而不是按激活的11B估算,同时还要计入权重精度、KV Cache、视觉模块、运行时开销与并行策略。部署前确认框架版本是否已支持该模型的MoE路由与视觉塔,否则会出现加载成功但输出异常。三档推理强度会改变输出长度,同一提示在不同档位下的费用差别可能超过模型选择本身的差别。发布页给出的评测以英文基准为主,中文能力需自行用业务样本验证。

价格方面,权重与代码均以Apache-2.0在Hugging Face与GitHub发布,下载、商用与二次分发都不需要向阶跃星辰付费,成本转移到了自己承担的算力上。走官方开放平台按token结算;OpenRouter上该模型标价为每百万输入token 0.20美元、每百万输出token 1.15美元,缓存读取每百万token 0.04美元,这两个数字是渠道挂牌价,会随渠道调整。发布页另给了一个更有参考价值的口径:开启Advisor模式后,单任务成本约0.19美元,同页给出的对比对象为1.76美元——这是官方在特定评测任务上跑出的数字,换任务类型后不成立。

Step 3.7 Flash的价值不在于参数规模,而在于它把“容量”和“吞吐”拆开了。198B总参数保留模型能力,11B激活压住单步成本,三档推理强度再给一个成本调节阀——这三样串起来,视觉语言模型才有可能从“跑一次看看”走向“天天跑、批量跑”。但它不是万金油,一次性复杂推理交给旗舰档更省事,本地部署的显存门槛也不低。智能体模型正在从“谁更聪明”走向“谁跑得起”,Step 3.7 Flash是这条路线上的一个务实样本。


文章版权及转载声明:

作者:流云本文地址:https://www.sanwenge.com/post/1563.html发布于 2026-11-07
文章转载或复制请以超链接形式并注明出处三文阁