跳到主内容
智客 ZICQ

智客 AI 新闻

智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。

当前筛选: 标签: #跨模态推理 清除筛选

前沿论文· 2026-10-06

ArXiv研究揭示:优化器记忆如何导致语言模型遗忘

ArXiv发布了一项关于语言模型微调过程中遗忘机制的研究,指出优化器记忆是导致模型遗忘先前学习内容的关键因素之一。研究发现,动量优化器在更新过程中会累积历史梯度,这些梯度可能与当前…

Mr.Xu0 次阅读0 条讨论与划词