3秒延迟、权重可下载:腾讯开源中英实时同传模型

流云 2026-10-28 1570 0条评论
摘要: 同声传译这件事,延迟和质量往往互相拉扯——想译得快,容易漏;想译得准,又得等。腾讯混元10月底开源的Hy-SimulMT,给出的数字是StreamLAAL约3秒,同时把权重放了出来...

同声传译这件事,延迟和质量往往互相拉扯——想译得快,容易漏;想译得准,又得等。腾讯混元10月底开源的Hy-SimulMT,给出的数字是StreamLAAL约3秒,同时把权重放了出来,Apache-2.0协议,可以本地部署。在AI工具导航的语音翻译分类里,开源权重加私有化部署这两项组合在一起,选择并不多。

先搞清楚两个变体,别下错权重

模型是30B总参数、3B激活的混合专家结构。变体分两类:一类只输出译文,另一类同时输出原文和译文。后者适合会议记录、双语字幕这种要对照的场景,排版和落盘格式由推理服务决定。两类各提供BF16、FP8、GGUF三个版本,共六个权重。BF16是基础版,量化版省显存,但译文质量得自己核对。别看到“同声传译”四个字就默认下了就能用——音色克隆和语音输出都需要另外配TTS服务,光下翻译权重拿不到完整语音能力。

四个测试集,三项居前一项落后

FLEURS 90.3、CoVoST2 75.5、ACL6060 81.2、RealSI-Sentence 84.7。FLEURS、ACL6060、RealSI-Sentence三项在同表开源模型里居前,但CoVoST2落后于Qwen3.8-LiveTranslate的82.1和Confucius4的76.8。官方自己也没把话说满,明确写了“四项并不构成全面领先”。这组数据的意义在于告诉你不同数据分布下表现不一致,选型时得对着自己的语料实测,别只看总分。

延迟3秒是什么口径

StreamLAAL衡量的是流式翻译的滞后程度,数值越低越好,但它不等于首字输出时间。官方在RealSI长音频测试集上测出约3秒,是同表参评系统里的最低值。实际会议里,长音频的上下文理解和系统负载还会影响表现。部署时SimulInfer默认占8080和8800两个端口,SGLang-Omni的端口是8000,同机部署前先对齐,别撞端口。

显存门槛:57GiB只是权重

官方SGLang-Omni说明里,BF16权重约占57GiB,这还不含KV Cache和运行时开销。单卡H200能满足,但实际部署要预留余量,按并发量和上下文配置评估。FP8和GGUF的显存占用官方没给对应数值,得自己实测。想省事可以先在Hy翻译App里试效果,用真实会议音频听音色能不能分辨,记录延迟和漏译情况,再决定值不值得投入部署成本。

和人工译员的对照,结论有边界

官方收集了18段中英文音频,每段约6分钟,覆盖演讲、访谈、会议和十个领域,请了六位有同传实战经验的译员对照,三位持CATTI一级、三位持二级,每个等级取最高成绩作基准。官方明确写了结论只适用于本次样本、参与译员和评测设置,不能推断模型在所有会议场景都达到或超过专业译员。高风险场景仍需译员参与——这句话不是客套,是使用边界。

谁适合用,谁再等等

适合需要中英双向实时字幕与语音、对音频出网有要求的企业和团队,也适合做跨国会议服务的技术供应商。私有化部署时,推理服务和TTS都不出网,音频才真正留在局域网内。但如果只需要把录好的音频转成文字稿,常规转写工具更省事;个人临时体验,Hy翻译App比自建划算。在AI办公软件推荐的语境里,这款模型的价值不在“替代译员”,而在“把实时双语能力装进内网”。

编辑判断

Hy-SimulMT的看点不是某一项分数登顶,而是把开源权重、3秒级流式延迟、中英双向这三样东西放在了一起。音色克隆需要额外配TTS,CoVoST2落后于两个对比系统,这些限制官方自己写得很清楚。对于有内网部署需求的会议服务团队,它是一个可实测的起点;对于只想快速出字幕的个人,App或成熟商业服务更直接。实时同传的开源生态还在早期,这款模型把门槛降了一档,但离“开箱即用”还有距离。

文章版权及转载声明:

作者:流云本文地址:https://www.sanwenge.com/post/1539.html发布于 2026-10-28
文章转载或复制请以超链接形式并注明出处三文阁