Wink Pings

CPU 上 50 倍实时的开源 TTS,先把测试条件说清楚

Blue TTS v3 开源,388 MB,MIT 许可,支持 7 种语言,号称 CPU 上 50 倍实时。有人实测 Mac Studio 跑通,也有人说在线 demo 只有 1.3 倍。数字、安装坑和音质取舍都在这。

Blue TTS v3 发布了,开源,MIT 许可,388 MB,输出 44.1 kHz,支持英语、德语、西班牙语、意大利语、俄语、希伯来语、意第绪语。作者 WeatherZealousideal5 在 r/LocalLLaMA 说,v2 之后几乎全改了,语音更自然,MOS 4.43/5,声音克隆也明显提升。最抓眼的是速度:CPU 上约 50 倍实时,不需要 GPU。粗略理解,生成 1 秒音频大约花 0.02 秒。

image

50 倍实时这个说法,得看测试条件。帖子没写用哪颗 CPU、单线程还是全核。跟帖里 slowtractor 直接问了这一点,他说多数 CPU TTS 数字只有知道这些才有意义。另一位 ShengrenR 通过网页 demo 测到约 1.3 倍,但他也提到自己的 CPU 不弱。slowtractor 回得挺实在:demo 空间大概率是共享服务器,1.3 倍更多说明队列和网络,本地跑 ONNX 权重才算公平测试。这个提醒对普通用户也成立,别把在线 demo 的延迟当成模型速度。

有个 Mac Studio 的实测值得看。toolman10 说他在 M5 Ultra、96 GB 内存、没有 NVIDIA 的机器上跑通,CPU 就行,不用 PyTorch。他让本地 Qwen3.8-FN agent 整理了过程,评论本身也被 AI 检测器标了,他直接承认了。安装的坑:英语发音引擎 polyg2p 只有 Linux wheel,Apple silicon 上要用 brew install rust 加 maturin build --release 自己编,数据文件从模型包里拿;blue-release.patch 可以跳过,main 已合并;克隆声音用 9 秒片段过 reference_encoder.onnx,耗时 0.05 秒,片段要 pad 到 3072 个采样点的整数倍,否则图会报 reshape 错误。

他把它换掉了原来跑 OmniVoice 的语音引擎。BlueV3 常驻内存约 1 GB,OmniVoice 约 3 GB;首段音频 290-340 ms,对比 310-440 ms;生成成本大约低一半,长回复流式播放更跟得上。准确率测试里,默认 8 步读完一整段没有丢词,OmniVoice 要 24 步。代价是音质更平,没那么精细,偶尔会在上下文里读错发音。这个取舍很清楚:要快速、稳定、常驻的助手声音,它合适;要最像真人的效果,别指望它。MIT 权重是加分项。

其他跟帖里,有人问 ggml/audio.cpp 实现,方便多后端部署;有人问新语言微调资源;有人问硬件要求;有人期待葡萄牙语;也有人吐槽 demo 链接坏了,作者修过一次,后来又有人遇到。还有人觉得声音像漏水浴室,另一位说这有 Skynet 味道。demo 链接和在线体验不稳定,想认真测还是本地拉权重。

代码和权重:

发布时间: 2026-11-18 03:29