Cactus Compute发布Whistle：超轻量级语音识别模型，性能超越Whisper

摘要：Cactus Compute推出了一款名为Whistle的语音识别（ASR）模型，专为超小型设备设计。Whistle在保持高性能的同时，文件大小仅为16.9MB，比Whisper基础版小9倍，速度快6倍，支持多语言处理。Whistle采用CQ2bit量化技术，在多个基准测试中表现优异，例如在LibriSpeech测试中，Whistle的WER（词错误率）显著低于Whisper。Whistle的开源版本已在Hugging Face发布，支持17种平台，包括桌面、移动设备和浏览器。

---

技术亮点解析

1. 超轻量化设计：Whistle模型仅有55M参数（36M活跃），通过CQ2bit量化技术，文件大小仅为16.9MB。这使得它非常适合在资源受限的设备上运行，例如预算手机、可穿戴设备、智能家居和微控制器。

2. 高性能表现：在LibriSpeech测试中，Whistle的WER（词错误率）在test-clean和test-other数据集上分别为4.31和10.49，优于Whisper基础版的4.9和11.0。在FLEURS和SPGISpeech等基准测试中，Whistle也表现出色。

3. 多语言支持：Whistle支持英语、德语、法语、西班牙语、意大利语、荷兰语和波兰语的多语言语音识别。

4. 创新架构：模型采用log-mel前端和卷积主干来馈音频编码器，Simple Attention + Hadamard MLP解码器通过门控交叉注意力机制逐层读取数据。解码器采用类似Needle的梯形结构，支持从2层深度开始的部署。

5. 关键词偏向：Whistle的关键词偏向功能可以识别用户实际说出的名称，并在束搜索过程中优先考虑这些名称，从而提高对罕见词汇的识别准确性。

6. 多平台支持：Whistle支持17种平台，包括macOS、Linux（x86-64、ARM64、ARMv7、RISC-V、MIPS32）、Windows（x64、ARM）、Android、iOS、watchOS、tvOS，以及通过WebAssembly和WASI组件在浏览器中运行。

行业影响与开发者建议

Whistle的发布标志着ASR技术在资源受限设备上的重大进步。其轻量化和高性能的特点使其成为开发预算友好型AI应用的有力工具。开发者可以利用Whistle在智能家居、可穿戴设备和其他嵌入式系统中实现高效的语音识别功能。此外，Whistle的开源性质也鼓励了社区的进一步开发和优化。

对于开发者而言，Whistle的轻量化和多语言支持使其成为跨平台应用开发的理想选择。建议开发者关注Whistle的更新和社区贡献，以充分利用其潜力。

---

消息来源：Reddit r/LocalLLaMA (2026-10-05)

—— 完 ——

主题标签： #Cactus Compute 关注 #Whistle 关注 #ASR 关注 #轻量化模型 关注 #多语言支持 关注