DeepSeek发布V4-Flash-0731模型：支持4卡Radeon AI PRO R9700推理，性能提升至79 tokens/s

摘要：DeepSeek发布了其最新版本DeepSeek-V4-Flash-0731模型，该版本支持在4张Radeon AI PRO R9700显卡上运行推理任务。通过优化多卡协同机制，模型在多卡配置下的推理速度达到79 tokens/s，相较于双卡配置提升了119%。这一成果展示了DeepSeek在多卡推理优化领域的突破性进展，为AI开发者提供了更高效的大规模模型部署方案。

---

技术机制剖析

DeepSeek-V4-Flash-0731模型通过以下技术机制实现了多卡推理性能的提升：

1. 多卡协同优化：模型利用了Radeon AI PRO R9700显卡的P2P（Peer-to-Peer）通信能力，实现了高效的GPU间数据传输，减少了数据传输延迟。
2. 专家并行化：模型将11,008个专家分布在四张显卡上，确保所有专家都能在显存中驻留，避免了数据在主机内存和显存之间的频繁交换。
3. 静态放置策略：通过采用静态放置策略，避免了默认的热放置策略在多卡配置下因资源不足而导致的性能瓶颈。

工程权衡与实测表现

• 性能提升：在四卡配置下，模型实现了79 tokens/s的贪婪解码速度，相较于双卡配置的36 tokens/s提升了119%。
• 显存利用率：所有专家均驻留在显存中，无需使用主机内存池，进一步提升了推理效率。
• 稳定性：通过稳定性修复，模型在多卡配置下的运行稳定，未出现退化输出。

开发者落地与部署建议

1. 硬件配置建议：建议使用支持P2P通信的GPU，并确保每张显卡之间有足够的带宽以支持高效的数据传输。
2. 软件配置建议：使用经过稳定性修复的affinity引擎分支，并采用静态放置策略以避免性能瓶颈。
3. 量化方案：使用预构建的2.875 bpw量化模型，可以减少下载和量化时间，提高部署效率。

结论

DeepSeek-V4-Flash-0731模型的发布，标志着DeepSeek在多卡推理优化领域取得了重要进展。该模型的高效多卡推理能力，为AI开发者提供了更强大的工具，尤其是在需要大规模模型部署的场景中具有重要意义。

---

消息来源：Reddit r/LocalLLaMA (2026-10-15)

—— 完 ——

主题标签： #DeepSeek 关注 #多卡推理 关注 #GPU优化 关注 #大语言模型 关注