Yandex发布Sona:单Transformer模型革新音乐推荐系统
文 / Mr.Xu 社区投稿
发布时间: · 2 次阅读
摘要:Yandex推出了一款名为Sona的推荐系统模型,通过单一Transformer模型取代了原有的15个候选生成器、预排序和排序模型,并在A/B测试中表现出色。Sona能够处理高达8192个事件的历史数据,并通过创新的历史压缩技术将推理成本减半。尽管目前尚未全面上线,但在智能音箱上的测试结果显示,Sona使活跃用户增加了4.53%,总收听时间增加了6.30%。这项技术展示了端到端生成推荐模型在音乐领域的巨大潜力。
核心突破
Yandex Music的推荐系统长期以来依赖多个组件,包括15个候选生成器、预排序和排序模型,这些组件协同工作以提供精准的音乐推荐。然而,这种复杂的架构带来了高计算成本和潜在的效率瓶颈。Sona的推出标志着向更简洁、更高效的推荐系统迈出了重要一步。
技术亮点
- 单一Transformer模型:Sona通过单一Transformer模型取代了原有的多组件架构,简化了系统结构并提高了效率。
- 历史压缩技术:为了处理高达8192个事件的历史数据,Sona采用了创新的历史压缩技术,将推理成本减半,同时保持高质量的推荐效果。
- 跨注意力机制:模型将历史数据分为较旧的6144个事件和最新的2048个事件,通过跨注意力机制实现信息交换,确保模型能够充分利用长期和短期数据。
- 语义ID生成与评分:候选结果以语义ID的形式生成,并立即进行评分,进一步提高了推荐的速度和准确性。
A/B测试结果
在Yandex Music的智能音箱上进行为期7天的A/B测试中,Sona在活跃用户和总收听时间方面均表现出显著提升:
- 活跃用户增加4.53%
- 总收听时间增加6.30%
这些结果在统计上均具有显著性(p < 0.01)。尽管目录覆盖率低于现有系统,但长期A/B测试正在进行中,以进一步验证其性能。
行业影响与开发者建议
Sona的推出展示了端到端生成推荐模型在音乐领域的巨大潜力。对于开发者而言,以下几点值得注意:
- 简化系统架构:单一模型架构可以显著降低系统复杂性,提高开发效率。
- 历史数据处理:历史压缩技术为处理大规模历史数据提供了新的思路。
- 跨注意力机制的应用:跨注意力机制在处理长序列数据时表现出色,可以应用于其他需要处理长距离依赖的任务。
未来展望
随着Sona的进一步优化和全面部署,Yandex Music的用户体验有望得到显著提升。同时,这一创新也为其他领域的推荐系统提供了新的技术路径。
—— 完 ——消息来源:Reddit r/MachineLearning (2026-10-05)
主题标签: #Yandex #推荐系统 #Transformer #历史压缩 #A/B测试
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区