本地语音识别模型实测:Qwen3、SenseVoice、Parakeet、Whisper 谁更准更快
我们用同一套语料,在 Mac 和 Windows 上实测音记AI 内置的本地语音识别模型:中文看字错率,英文看词错率,再看速度。测试方法、结论图表、局限和原始 JSON 全部公开,任何一个数字你都可以自己复算。
这篇不是排行榜。我们把音记AI 里能选到的几类本地语音识别模型,放在同一套音频上跑了一遍,记录它们错了多少字、花了多长时间。语料、评分方法、图表和原始结果都公开在本站上,任何一个数字你都可以自己复算。
如果你只想知道「中文用哪个、英文用哪个」,看下一节就够了。想知道这些数字靠不靠得住,请读完「我们怎么测的」和「局限」两节。
先说结论
| 你的需求 | 我们的建议 | 依据(见下文表格) |
|---|---|---|
| 中文为主,要又快又准 | SenseVoice,或中英 Zipformer | 中文字错率约 2%(两台机器几乎相同),1 小时音频 1.5~4 分钟 |
| 中文为主,准确率优先、不在乎多等 | Whisper Large-v3 Turbo 或 Qwen3-ASR | 字错率 0.33%(Mac)/ 0.99%(Win Vulkan);Qwen3 两台都是 0.66% |
| 英文为主,准确率优先 | Qwen3-ASR、Cohere Transcribe、Parakeet | 词错率 1.6%~2.1%,两台机器几乎相同,差距只有一两个词 |
| 英文为主,要快 | Moonshine、Whisper Base、Zipformer | 1 小时音频 1~6 分钟(Mac 更快),错误率是第一档的 1.7~5 倍 |
| 用 Apple 芯片的 Mac 跑 Whisper | Base 或 Small | 1 小时音频约 1.3~3 分钟 |
这些建议只对「干净、语速正常的单人或双人语音」成立。会议噪声、电话音、口音和中英混说,这次都没有测。
什么是字错率、词错率和 RTF
词错率(WER) 用于英文:把模型输出和标准稿逐词对齐,数出替换、漏掉、多出来的词,除以标准稿总词数。WER 2% 大约等于每 100 个词错 2 个。
字错率(CER) 用于中文:中文没有空格分词,按词算会失真,所以按字算。计算前去掉标点和空白,英文字母统一转小写。
RTF(实时率) 是转录耗时除以音频时长。RTF 0.1 表示 1 小时的音频大约 6 分钟转完;RTF 小于 1 才跟得上实时。RTF 只在同一台机器、同一类推理方式下可比。
我们怎么测的
两类模型,两种跑法
音记AI 的本地模型分成两类,跑法不同,所以分开测、分开列表,不能放在一张表里排名次:
- Qwen3-ASR、SenseVoice、Parakeet、Cohere Transcribe、FireRed、Moonshine、Zipformer:在应用里始终用 CPU 推理。
- Whisper(Base / Small / Large-v3 Turbo):支持 GPU 加速。Mac 用系统自带的 GPU 加速,Windows 可以选 Vulkan 或 CUDA。
正因为一条走 CPU、一条走 GPU,同样的音频上 Whisper 的耗时不能和非 Whisper 模型直接横比。
语料
一共 5 段音频,参考稿随音频一起提供:
| 片段 | 时长 | 语言 | 来源 |
|---|---|---|---|
| 应用内置性能测试片段 | 约 34.5 秒 | 英文 | 应用内置 |
| 带刻意停顿的长句 | 约 71.0 秒 | 英文 | 合成语音 |
| 带自我修正的对话 | 约 68.4 秒 | 英文 | 合成语音 |
| 技术播客风格独白 | 约 79.7 秒 | 英文 | 测试素材 |
| 两人技术播客对话,约 310 字 | 约 74.7 秒 | 中文 | 合成语音 |
有一点必须先说清楚:多数语料是合成语音,发音清晰、没有噪声。这类音频比真实会议容易得多,所以下面的错误率普遍偏低,只适合比较模型之间的相对差距,不代表你的录音能达到同样水平。
中文只有一段,约 310 个有效字。字错率 1% 大约就是错 3 个字,两个模型差 1% 可能只是差了三个字。
评分规则
- 参考稿里有汉字、假名或韩文时,用字错率;否则用词错率。
- 比对前统一规范化:全角转半角,统一大小写,去掉标点和符号,保留各语言的字母和数字(é、ü 这类字母不会被删掉)。
- 英文数字写法统一:twenty five 和 25 算同一个词,1,000 和 1000 相同,3.5 和 three point five 相同。
- 字错率:汉字、假名、韩文逐字比对,夹在中文里的英文单词和数字按整词比对,避免一个英文单词被拆成多个字母、稀释错误率。
- 没有处理的差异:中文数字和阿拉伯数字(二十五和 25)、繁体和简体,这两类会被算成错字。
- 每段音频还会记录插入率、删除率、替换率和重复率。重复率只统计转录结果里比参考稿多出来的紧邻重复(1 到 4 个词或字的循环),参考稿本来就有的重复不算。
- 切段方式与应用内文件转录保持一致;Whisper 在 Mac 上会并行解码,多路字幕行的到达顺序不等于时间顺序,评测按时间轴重排、夹紧重叠后再拼成全文,否则错误率会被顺序错乱抬到几十个百分点。
不支持某种语言的模型不会被强行测试。Parakeet、Moonshine 和英文 Zipformer 不覆盖中文,所以只有 4 段英文结果。Whisper Large-v3 和当时的中文社区微调版因两台机器都没有对应模型被跳过(中文微调版现已在应用内下架)。
硬件与参数
| 项目 | Mac | Windows |
|---|---|---|
| 处理器 | Apple M4,10 核(4 性能核 + 6 能效核) | AMD Ryzen Threadripper 3960X |
| 内存 | 16 GB | 128 GB |
| 显卡 | Apple M4 集成显卡(仅 Whisper 使用) | NVIDIA GeForce RTX 3080(仅 Whisper 使用) |
| 系统 | macOS 26.3.1 | Windows 11 Pro |
| 应用版本 | 音记AI 2.2.0 | 音记AI 2.2.0 |
Mac 是笔记本芯片、Windows 是台式机,两台机器的绝对耗时没有可比性,只适合看同一台机器内部的相对差距。
| 模型 | 体积 | 量化 |
|---|---|---|
| Cohere Transcribe | 2.7 GB | int8 |
| Qwen3-ASR | 942 MB | int8 |
| FireRed CTC | 742 MB | int8 |
| Parakeet | 639 MB | int8 |
| SenseVoice | 229 MB | int8 |
| Zipformer(英文) | 147 MB | int8 |
| Zipformer(中英) | 72 MB | int8 |
| Moonshine | 42 MB | quantized |
| Whisper Base | 141 MB | fp16 |
| Whisper Small | 465 MB | fp16 |
| Whisper Large-v3 Turbo | 1.5 GB | fp16 |
体积按 1 GB = 1024 MB 计,与应用内「下载体积」的十进制显示会差几个百分点。
英文结果
| 模型 | 词错率 Mac | 词错率 Windows | RTF Mac | RTF Windows |
|---|---|---|---|---|
| Qwen3-ASR | 1.64% | 1.76% | 0.140 | 0.319 |
| Cohere Transcribe | 2.04% | 2.04% | 0.207 | 0.391 |
| Parakeet | 2.06% | 2.06% | 0.065 | 0.148 |
| Whisper Small | 2.17% | 2.01% / 2.75% | 0.049 | 0.052 / 0.055 |
| Whisper Large-v3 Turbo | 2.41% | 2.69% / 3.28% | 0.056 | 0.064 / 0.060 |
| Moonshine | 3.07% | 2.95% | 0.019 | 0.036 |
| SenseVoice | 3.45% | 3.42% | 0.025 | 0.067 |
| Whisper Base | 3.55% | 3.11% / 3.94% | 0.020 | 0.036 / 0.039 |
| Zipformer(英文) | 8.23% | 8.23% | 0.030 | 0.103 |
| Zipformer(中英) | 8.43% | 8.67% | 0.028 | 0.073 |
| FireRed CTC | 10.67% | 10.79% | 0.126 | 0.267 |
Windows 一列里,Whisper 的两个数字是「Vulkan / CUDA」两个后端的结果;其它模型只有一个后端,所以是单个数字。
怎么读这张图:
- 英文最准的一档是 Qwen3-ASR、Cohere、Parakeet、Whisper Small 和 Whisper Large-v3 Turbo,两台机器上的错误率都在 1.6%~3.3%。4 段英文一共只有约 1500 个词,这一档之间差的就是十几个词,不必太在意排名。
- Whisper 的三个尺寸在两台机器上都胶着:Mac 上 Base 3.55%、Small 2.17%、Turbo 2.41%;Windows 上 Base 3.11%~3.94%、Small 2.01%~2.75%、Turbo 2.69%~3.28%。排名随机器略有浮动,属于「参数更多不等于这段语料更准」的典型。
- Moonshine 和 Zipformer 快得多,但错误率是第一档的 1.7 到 5 倍。适合要尽快拿到草稿的场合。
- FireRed 主要为中文设计,英文表现不是它的强项。
- Whisper 的数字来自 GPU,其它模型来自 CPU,RTF 不能直接横比。
中文结果
| 模型 | 字错率 Mac | 字错率 Windows | RTF Mac | RTF Windows |
|---|---|---|---|---|
| Whisper Large-v3 Turbo | 0.33% | 0.99% / 1.97% | 0.064 | 0.060 / 0.058 |
| Qwen3-ASR | 0.66% | 0.66% | 0.112 | 0.272 |
| SenseVoice | 1.97% | 1.97% | 0.024 | 0.058 |
| FireRed CTC | 2.30% | 2.96% | 0.114 | 0.257 |
| Zipformer(中英) | 2.63% | 2.63% | 0.024 | 0.060 |
| Whisper Base | 2.63% | 18.09% / 2.63% | 0.023 | 0.035 / 0.040 |
| Whisper Small | 2.96% | 1.32% / 3.29% | 0.056 | 0.055 / 0.060 |
| Cohere Transcribe | 7.89% | 7.89% | 0.171 | 0.361 |
Windows 一列里,Whisper 的两个数字是「Vulkan / CUDA」两个后端的结果;其它模型只有一个后端,所以是单个数字。
这段中文约 310 个字,换算成错字数会更直观:0.33% 约 1 个字,0.66% 约 2 个字,1.97% 约 6 个字,2.63% 约 8 个字,7.89% 约 24 个字。
- Whisper Large-v3 Turbo 在 Mac 上只错了 1 个字左右;Qwen3-ASR 两台机器都是约 2 个字。
- SenseVoice 和中英 Zipformer 多错四五个字,但速度快 4 到 5 倍(Mac 上 1.8 秒对 4.8~8.4 秒)。中文访谈要人工校对,这笔账通常算它们划算。
- Whisper Base 在 Windows Vulkan 下输出后半段混入繁体(「確實」「覺得」这类),评测不转换繁简,18.09% 几乎全是繁简差异;同一模型在 CUDA 下是 2.63%,与 Mac 一致。同一模型只换一个 GPU 后端就出现这么大差异,说明小模型的语言稳定性有限——Windows 上建议至少用 Small。
- Whisper Small 在 Windows Vulkan 上是 1.32%(约 4 个字),比 Mac 的 2.96% 还低,属于段落级波动,不要据此下结论。
- Cohere 在英文上属于第一档,到了这段中文却错了约 24 个字,是 Whisper Turbo 的二十多倍。「多语言」不等于每种语言都好,转中文就看中文结果。
速度:换算成你要等多久
CPU 推理的模型(Qwen3-ASR、SenseVoice 等)
| 模型 | Mac | Windows |
|---|---|---|
| Moonshine | 约 1.1 分钟 | 约 2.1 分钟 |
| SenseVoice | 约 1.5 分钟 | 约 3.9 分钟 |
| Zipformer(中英) | 约 1.6 分钟 | 约 4.2 分钟 |
| Zipformer(英文) | 约 1.8 分钟 | 约 6.2 分钟 |
| Parakeet | 约 3.9 分钟 | 约 8.9 分钟 |
| FireRed CTC | 约 7.4 分钟 | 约 15.9 分钟 |
| Qwen3-ASR | 约 8.0 分钟 | 约 18.6 分钟 |
| Cohere Transcribe | 约 12.0 分钟 | 约 23.1 分钟 |
Whisper(GPU 加速,Windows 两种后端)
| 模型 | Mac | Windows CUDA | Windows Vulkan |
|---|---|---|---|
| Whisper Base | 约 1.3 分钟 | 约 2.4 分钟 | 约 2.1 分钟 |
| Whisper Small | 约 3.0 分钟 | 约 3.4 分钟 | 约 3.1 分钟 |
| Whisper Large-v3 Turbo | 约 3.5 分钟 | 约 3.6 分钟 | 约 3.8 分钟 |
这是按短音频的 RTF 推算的,长音频还会受分段、内存和散热影响,只能当量级参考。另外每次转录都要加载一次模型,短音频的 RTF 里含这块固定开销,所以这里的数字比表格里按语种列的 RTF 略高一点。
Windows 上 CUDA 与 Vulkan 的差距很小(都在 10% 上下),这段测试里 Vulkan 反而略快一点点;如果你在 Windows 上遇到某个后端不稳定,换另一个后端的性能代价并不大。
同一模型在两台机器上的错误率几乎一样(Qwen3-ASR 中文两台都是 0.66%,SenseVoice 中文都是 1.97%),差别主要在速度,说明速度更多取决于机器和推理后端,准确率更多取决于模型。
按场景怎么选
- 中文会议、访谈,事后会人工校对:先用 SenseVoice 或中英 Zipformer。要逐字引用时,再用 Qwen3-ASR 或 Whisper Large-v3 Turbo 重跑关键段落。
- 英文播客、课程:Parakeet、Cohere 和 Qwen3-ASR 都在 2% 上下;更在意速度就用 Whisper Base 或 Moonshine。
- 只要快速草稿:Moonshine(英文)或 Zipformer(中英)。
- Apple 芯片的 Mac:Whisper 有系统 GPU 加速,Base 就够快(1 小时约 1.3 分钟);要中文逐字准就上 Large-v3 Turbo。
- 有 NVIDIA 显卡的 Windows:Whisper 的 CUDA 与 Vulkan 速度接近,可以按稳定性挑;这段中文上 Vulkan 的错字更少(Small 1.32% 对 CUDA 3.29%),可以先试 Vulkan。
- 内存吃紧的设备:Cohere Transcribe 光模型就 2.7 GB,Qwen3-ASR 接近 1 GB;Moonshine 只有 42 MB。
- 方言、粤语、小语种:这次没有测,请用自己的录音试。
不同模型在应用里的可用范围和套餐有关,以价格页和应用内模型列表为准。
公开榜单为什么不能直接对比
Whisper 论文、Sherpa-ONNX 预训练模型页和 Hugging Face Open ASR Leaderboard 用的是 LibriSpeech、Common Voice 等标准数据集,切分方式和我们这 5 段音频完全不同。榜单上的英文词错率不能拿来和这里的中文字错率比名次。
局限
- 语料只有 5 段,多数是合成语音,中文只有 1 段。
- 没有测会议噪声、远场、电话音、口音和中英混说。
- 除 Whisper 外的模型只测了 CPU:桌面版目前没有为它们启用 GPU 推理。
- Whisper 在两台机器上都只测了 Base / Small / Large-v3 Turbo;Large-v3 和中文社区微调版两台机器都缺少模型,被跳过(中文微调版现已在应用内下架)。
- Whisper Base 在 Windows Vulkan 下的中文输出混入繁体,18.09% 几乎全部来自繁简差异;评测刻意不做繁简转换(见「评分规则」),同一模型在 CUDA 下为 2.63%。
- Mac 和 Windows 是两台不同代际的机器,跨平台速度对比只能看趋势。
- Mac 这一轮是在日常桌面状态下跑的(后台有浏览器、编辑器等任务),速度数字会略低于完全空载的机器;Windows 一轮接近空载。
- 图表由原始数据直接生成、四舍五入到两位小数;要精确比对请看原始 JSON。
自己复现
原始结果(已去掉本机路径、机型标识和转录全文):
- ml-engine-mac-cpu.json(Mac,非 Whisper 模型)
- whisper-metal-mac.json(Mac,Whisper)
- ml-engine-win-cpu.json(Windows,非 Whisper 模型)
- whisper-vulkan-win.json(Windows,Whisper Vulkan)
- whisper-cuda-win.json(Windows,Whisper CUDA)
图表由这五份 JSON 生成:
引用本文时,请用 JSON 里的模型标识、语料标识和原始小数定位,不要只抄本文四舍五入后的表格。
常见问题
为什么错误率这么低,和我自己用的感觉不一样? 因为多数语料是发音清晰的合成语音。真实会议有噪声、抢话和口音,错误率会明显升高。这里的数字适合比较模型之间的差距,不适合预测你的录音效果。
Whisper 和其它模型哪个更好? 两类模型的实现、硬件和参数都不同,不能直接排名。有 GPU 可加速时 Whisper 很快;纯 CPU 上,SenseVoice 这类模型同样很快,体积还小得多。
Mac 上 Whisper 为什么第一次用很慢? 系统第一次加载 Whisper 模型时要先把它编译成本机格式,这一步很慢且只发生一次。评测对每个模型先跑一轮丢掉、只记第二轮,避免把编译时间算进耗时;你在应用里第一次用某个模型时也会有同样的等待。
中文为什么不看词错率? 中文没有天然分词,按词算会让结果失真。字错率按字比对,更接近人工校对时的感受。
怎么在自己的电脑上比? 挑一段 1 到 3 分钟、最能代表你工作的录音,用两三个候选模型各转一遍,数一下第一分钟的错误,再看耗时。方法详见本地转录工具横评最后的自测步骤。