Wink Pings

NVIDIA语音转写登顶开源榜:4B激活参数很省,30B内存账单别忘了

Nemotron 3.5 Transcribe用2.8% WER并列开放权重第一,4B激活参数追平24B对手,但非流式、30B总参数和多语言场景仍有问号。

NVIDIA的Nemotron 3.5 Transcribe在Artificial Analysis的非流式语音转文字榜上拿到2.8%的AA-WER,和Mistral的Voxtral Small并列开放权重第一。它只有4B激活参数,总参数30B,属于MoE结构。评测方给出的对比很直接:Voxtral Small用了24B激活参数,Nemotron 3.5 Transcribe用6倍少的激活参数追平了WER。上一代NVIDIA最准模型Canary Qwen 2.5B是4.3%,Thinking Machines的Inkling是3.5%。

非流式语音识别错误率与激活参数散点图

榜单第一很漂亮,产品经理先别急着把实时语音助手接上去。关键词是非流式。Nemotron 3.5 Transcribe做的是离线转写,流式识别另说。有网友说,非流式对语音代理是个硬伤。这个提醒比标题更重要。

开放权重非流式模型WER柱状图

在Artificial Analysis的AA-AgentTalk数据集上,Nemotron 3.5 Transcribe拿到1.8% WER,领先Voxtral Small的2.3%。AA-AgentTalk是语音代理对话数据。这个数字好看,但别误读成能直接塞进实时语音代理。有网友翻出NVIDIA模型卡补充,Nemotron 3.5 Transcribe是离线模型,流式模型是单独的0.6B Nemotron 3.5 ASR。

不同数据集上的WER柱状图

速度和成本方面,Artificial Analysis在DeepInfra的托管端点上做了测试。Nemotron 3.5 Transcribe的Speed Factor是75x,1分钟音频不到1秒转完,价格是每1000分钟音频2美元。对批量转写、字幕归档、会议录音整理,这个组合有吸引力。

DeepInfra速度与成本图

但账要算全。4B激活参数不等于本地只占4B内存。有网友提醒,跑本地推理仍然要为30B总参数准备内存,便宜的是每个token的计算,模型体积另算。另有网友说,4B激活参数追平24B,本地跑字幕转写的可以准备换模型。这两句话不矛盾,一个看算力,一个看显存。

多语言也是问号。有网友追问德语和巴西葡萄牙语表现,并指出很多模型英语很好,其他语言会差不少。有网友提到土耳其语和代码切换,开发者会在句子里夹英文技术词,这种混合语音才是真实测试。还有网友想看口音、噪声电话录音、重叠语音上的表现,榜单在这些场景经常和现实脱节。

价格也有争议。每1000分钟2美元放在个人批处理上不算贵,放到高并发客服中心就是另一回事。有网友认为,规模化语音代理场景下这个价格仍然偏高。

有网友翻出NVIDIA模型卡补充:支持40种语言转写,其中31种可和英语互译,13种带说话人标签,最长处理1小时录音。这些能力适合离线批处理。要做实时听写和语音代理,先看流式版本,别拿非流式榜单第一硬套。

完整结果在Artificial Analysis的语音转文本页面,评测方法在这里。原始推文在这里。

发布时间: 2026-10-29 00:32