rmonsurate发布两款Qwen Flash Next微调模型：Victoria与Maple

摘要：Reddit用户rmonsurate发布了两款基于Qwen Flash Next的微调模型：Victoria和Maple。Victoria通过REAP技术将模型参数量减少44%，并采用4-bit NVFP4训练，在Terminal-Bench 2.1和HumanEval基准测试中表现优异。Maple则针对加拿大相关问题进行优化，在处理税收、福利和法规问题时显著提升了准确性和效率。

---

核心发布概述

Reddit用户rmonsurate在实验室中利用Dell B300服务器对Qwen Flash Next进行了两次微调，并发布了以下两款模型：

Victoria

• 技术亮点:
  • 模型压缩: 通过REAP技术将每层参数量从512减少到288，总参数量减少44%。
  • 训练方式: 采用4-bit NVFP4格式进行训练，确保模型在发布时的格式下得到优化，而非简单的量化处理。
  • 性能表现: 在Terminal-Bench 2.1测试中平均得分为70.0%，相较于之前的构建版本提升了7.5%。在HumanEval基准测试中得分为159/164。
  • 效率提升: 单流处理速度达到280 tok/s（带draft head），相比不带draft head的版本提升了107%。
  • 模型大小: 权重大小为48.0 GiB，n-gram表大小为95.4 GiB。GGUF Q4_K_M版本为49.17 GiB，在Terminal-Bench测试中得分为75.3%，在HumanEval测试中平均得分为93.2%。
  • 输出优化: 输出token数量相较于之前版本减少了35%。

Maple

• 技术亮点:
  • 领域优化: 针对加拿大相关问题进行微调，例如税收、福利和法规等。
  • 性能表现: 在600个保留问题中，引用加拿大官方来源的比例从6.0%提升至62.9%，完全正确回答的比例从6.6%提升至21.8%。
  • 用户适应性: 减少了对非加拿大用户的加拿大内容推荐，从2.9%降至1.0%。
  • 编程能力: 在HumanEval测试中得分为157/164。

行业影响与开发者建议

1. 领域特定优化: Maple的发布展示了针对特定领域进行模型微调的潜力，特别是在处理地区性法规和政策问题时，能够显著提升模型的准确性和用户满意度。

2. 模型压缩与效率: Victoria通过REAP技术实现了高效的模型压缩，同时保持了较高的性能表现，为资源受限的应用场景提供了可行的解决方案。

3. 开发者工具: 开发者可以利用Victoria和Maple进行更高效的自然语言处理任务，例如自动化客户服务、法律咨询和政策分析等。

4. 未来展望: 随着微调技术的不断进步，开发者可以期待更多针对特定领域和任务的模型发布，进一步提升AI的应用范围和效率。

结论

rmonsurate发布的Victoria和Maple模型展示了在模型压缩和领域特定优化方面的创新成果，为AI技术的实际应用提供了新的可能性。

---

消息来源：Reddit r/LocalLLaMA (2026-09-30)

—— 完 ——

主题标签： #Qwen Flash Next 关注 #模型微调 关注 #AI模型压缩 关注 #领域特定优化 关注