智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #Hugging Face #开源模型 #多模态推理 #Apertus

Hugging Face发布Apertus 1.5:多模态推理的开源大模型新突破

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:Hugging Face发布了Apertus 1.5,这是其开源Apertus系列模型的最新版本,从纯文本扩展到多模态推理。新版本通过在80亿参数模型上增加4万亿额外token、在700亿参数模型上增加2万亿token进行持续预训练,显著提升了图像和音频理解能力,同时将上下文窗口扩展至262,144个token。Apertus 1.5采用不变的基础架构,通过tokenizer引入多模态输入,语言模型头仍限于文本处理。模型在监督微调、长上下文微调、可验证奖励的强化学习以及偏好对齐方面进行了优化。相较于前代,Apertus 1.5在几乎所有基准测试中均有显著提升,尤其在知识、指令遵循和文化基准测试中表现优异。此外,该模型在文档理解和低资源语音识别方面也展现出竞争力。


技术机制剖析

Apertus 1.5的核心突破在于其多模态推理能力的引入,而这一能力是通过对现有Apertus 1.0模型的持续预训练实现的。具体来说,Apertus 1.5在80亿参数模型上增加了4万亿token,在700亿参数模型上增加了2万亿token的训练数据。这些额外的数据不仅提升了模型的文本处理能力,还引入了对图像和音频的理解能力。

值得注意的是,Apertus 1.5的多模态输入是通过tokenizer引入的,而语言模型头仍然仅限于文本处理。这意味着模型的多模态能力主要体现在对不同类型数据的理解和处理上,而不是直接生成多模态输出。

此外,Apertus 1.5的上下文窗口扩展至262,144个token,这使得模型在处理长文本和多模态数据时能够保持更高的连贯性和准确性。

工程权衡与实测表现

Apertus 1.5在多个基准测试中表现优异,尤其是在知识、指令遵循和文化基准测试中,其表现超过了所有已知的开源模型。在图像和音频理解方面,尽管与专门的视觉和音频模型相比仍有差距,但Apertus 1.5在文档理解和低资源语音识别方面表现出色。

然而,多模态能力的引入也带来了计算资源的增加和训练时间的延长。Hugging Face通过优化训练流程和利用高效的并行计算技术,部分缓解了这一问题。

开发者落地与部署建议

对于开发者来说,Apertus 1.5的多模态能力为构建更复杂的AI应用提供了新的可能性。例如,在文档处理、语音识别和跨模态数据融合等任务中,Apertus 1.5可以提供更强大的支持。

建议开发者在使用Apertus 1.5时,充分利用其长上下文窗口和多模态处理能力,同时注意模型的计算资源需求。对于资源有限的应用,可以考虑使用较小规模的版本或进行模型压缩。

总结

Apertus 1.5的发布标志着开源多模态模型的一个重要里程碑。其在多模态推理方面的突破,为AI应用的多样化和复杂化提供了新的动力。


消息来源:Hugging Face Daily Papers (2026-10-11)

—— 完 ——

主题标签: #Hugging Face #开源模型 #多模态推理 #Apertus

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…