IFM发布K2 Horizon：开源大模型舰队，涵盖0.9B至375B参数规模
文 / Mr.Xu
发布时间：
摘要：IFM（基础模型研究所）近日发布了一款名为K2 Horizon的开源大模型舰队，包含六种不同规模的模型，参数范围从0.9B到375B。该舰队不仅开源了模型权重，还包括训练数据、训练代码、中间检查点、细粒度训练日志和评估结果。K2 Horizon的发布为AI研究社区提供了丰富的资源，尤其在预训练、数据混合、小型设备模型、稀疏注意力机制以及模型部署等领域具有重要价值。
K2 Horizon：开源大模型舰队
近日，IFM（基础模型研究所）宣布发布K2 Horizon，这是一组包含六种不同规模的开源大模型舰队，参数范围从0.9B到375B。K2 Horizon不仅开源了模型权重，还涵盖了以下关键资源：
- 训练数据与配方：提供了详细的训练数据与训练配方，帮助研究人员和开发者更好地理解模型训练过程。
- 训练代码：开源了完整的训练代码，支持用户自定义训练流程。
- 中间检查点：提供了训练过程中的中间检查点，方便用户进行模型调试和优化。
- 细粒度训练日志与评估结果：详细的训练日志和评估结果为模型性能分析提供了重要依据。
技术亮点
- 多规模模型支持：K2 Horizon包含从0.9B到375B参数的多种规模模型，满足不同应用场景的需求。
- 全面开源：除了模型权重，IFM还开源了训练数据、代码和日志，为AI研究社区提供了丰富的资源。
- 稀疏注意力机制：K2 Horizon采用了MoVA和稀疏注意力机制，提升了模型在处理长序列数据时的效率。
- 部署灵活性：模型支持多种部署方式，包括小型设备上的部署，扩展了应用场景。
行业影响
K2 Horizon的开源发布为AI研究社区提供了宝贵的资源，尤其在预训练、数据混合和模型部署等领域具有重要意义。该模型舰AI研究人员和开发者提供了新的工具和思路，推动了AI技术的进一步发展。
开发者建议
- 充分利用开源资源：建议开发者深入研究K2 Horizon的开源资源，包括训练数据和日志，以优化自身模型训练流程。
- 关注稀疏注意力机制：对于需要处理长序列数据的应用，建议关注K2 Horizon的稀疏注意力机制，以提升模型效率。
- 探索多规模模型应用：根据具体需求选择合适的模型规模，以实现最佳的性能与效率平衡。
结论
K2 Horizon的发布标志着IFM在开源AI模型领域的又一重要贡献，为AI研究社区提供了丰富的资源和新的研究方向。
—— 完 ——消息来源：Reddit r/LocalLLaMA (2026-10-01)
主题标签： #IFM #K2 Horizon #开源模型 #大模型舰队 #MoVA
社区整体评论区