TOME-Math重构教材证明监督，38万条记录提升数学推理16.7个百分点

摘要：TOME-Math 将 2,118 本大学数学教材转换为约 38 万条结构化证明监督记录，不再把题目、答案、证明及其依据压缩为孤立的文本对，而是保留章节顺序、命题与证明关联、依赖引用和来源溯源。研究进一步将其用于跨数学学科的课程学习，微调后模型在留出集与公开基准上的非加权平均分较基础模型提高 16.7 个百分点，并总体超过三种公开指令数据基线。其价值在于证明教材本身的知识拓扑可以成为训练信号，但公开摘要尚未交代基础模型、采样预算、数据许可及统计显著性，数据规模与成绩提升之间也不能直接建立因果关系。

---

TOME-Math 把大学数学教材从普通的问答语料重新定义为带证据链的证明监督图谱。项目从 2,118 本教材生成约 38 万条记录，同时保留章节顺序、命题与证明的对应关系、依赖引用及来源溯源；模型在留出评测与公开基准上的非加权平均分较基础模型提高 16.7 个百分点，并总体超过三种公开指令数据基线。

从“题目—答案”转向结构化证明监督

传统数学指令微调通常把教材内容切成独立的 problem-solution 对。这样做便于扩展规模，却丢失了三类对证明能力有价值的信号：

• 课程顺序：哪些定理先于哪些定理出现；
• 证据依赖：当前证明调用了哪些前置命题；
• 来源关系：结论、证明、例题与原始教材之间的可追溯关系。

TOME-Math 的关键并非简单增加教材数量，而是保留这些关系。章节顺序可作为课程学习信号；命题—证明链接能够区分待证明目标与论证文本；依赖引用则把证明组织成有向图，而非彼此独立的字符串。由此，训练过程不仅学习“答案长什么样”，还可能学习“论证依赖如何展开”。

从数据工程角度看，这会引入比普通 JSONL 更高的复杂度。每条记录至少需要处理教材标识、章节位置、命题编号、证明标识、引用目标和来源元数据；清洗流程还必须避免把相邻定理、附录答案和正文推导错误拼接。依赖图若存在断链或误连，模型会学习到表面顺序而非真实逻辑关系。

课程学习如何利用结构信号

研究将 TOME-Math 用于多个数学学科，并分析监督数据量与来源广度带来的扩展规律。课程学习的基本假设是：早期样本提供基础概念，后续样本再逐步引入依赖更强、跨度更大的证明。

不过，教材章节顺序并不天然等于最优难度排序。数学教材常回顾旧知识，也可能把困难定理放在概念定义之前；而同一章节内部的难度可能呈非线性变化。因此，可靠的课程策略至少要区分三种顺序：

1. 原始教材中的教学顺序；
2. 命题依赖图上的拓扑顺序；
3. 依据模型错误率、证明长度或工具需求估计的难度顺序。

如果实验只使用第一种顺序，其结果更接近“教材复现”；若三种顺序被系统比较，才能判断性能提升究竟来自内容覆盖、数据规模，还是课程组织本身。

16.7 个百分点提升应如何解读

论文摘要报告，在完整规模微调后，模型在留出评测和既有公开基准上的非加权平均分相对基础模型提升 16.7 个百分点，并总体超过三种公开指令数据基线。这说明结构化教材可能比扁平化指令样本提供更有效的监督。

但不能把 16.7 个百分点全部归因于“保留教材结构”。基座模型、公开指令数据以及 TOME-Math 在内容覆盖、答案数量、文本长度和训练 Token 数上可能存在差异。非加权平均还会让不同量纲的指标等权聚合：证明准确率、生成质量、格式遵循或传统数学基准得分对训练方式的敏感程度并不一致。

更关键的消融应包括：

• 相同教材内容打乱为独立问答对；
• 仅保留章节顺序，不保留命题与证明链接；
• 保留链接但移除依赖引用；
• 用等量普通指令数据替换结构化数据；
• 随机课程、教材原序与依赖图课程对比。

只有这些对照成立，才能把增益归因于证据结构，而不只是更多高价值数学文本。

数据质量、许可与训练成本

38 万条记录对应 2,118 本教材，来源广度很大，但教材版权、扫描质量、OCR 错误与公式线性化错误都会影响训练。数学 PDF 中公式、上下标、证明环境和对齐符如果转换错误，可能形成语法看似正确、符号关系却错误的监督样本。

项目在正式开放前至少需要说明：

• 每本教材的授权依据及允许用途；
• 重复教材和不同版本的去重方式；
• OCR、公式识别与人工校验比例；
• 训练集、留出集与公开基准之间的污染检查；
• 单条记录平均 Token 数及实际训练成本。

对于模型工程团队，数据规模本身并不直接等同于 GPU 成本。证明文本通常比短答案更长，若完整保留上下文，训练 Token 数可能显著高于记录数所暗示的规模。采用样本打包可以减少 padding，但依赖图采样与章节批处理之间的约束又会限制动态 batching 的灵活性。

评测客观性与复现清单

公开摘要没有披露基础模型、训练超参数、采样预算、评测提示词、置信区间和显著性检验，也没有说明留出集是否覆盖训练教材中的定理。若测试题与训练监督共享相同命题或近似改写，16.7 个百分点的提升可能混入记忆效应。

独立复现时应至少：

1. 使用相同基础模型和等 Token 预算比较普通问答数据与 TOME-Math；
2. 对教材、命题和证明进行去重，并测试未见教材上的迁移；
3. 分别报告各指标，而不是只给非加权平均；
4. 使用形式化证明检查器或人工标注验证“证明正确”，避免仅依赖字符串匹配；
5. 记录贪心解码与采样解码结果，区分数据增益和搜索策略增益；
6. 报告训练吞吐、显存需求及每个有效样本的边际收益。

开发者如何使用这套数据

TOME-Math 最适合三类实验：

• 研究结构化证据图对数学 SFT、课程学习和长链证明的影响；
• 训练需要区分定理、假设、结论与引用依据的数学推理模型；
• 构建教材检索、依赖追踪及可验证证明生成系统。

不建议直接把它当作通用问答语料。数学团队应先检查来源许可、符号转换质量、训练与测试污染，再按“基础概念—章节练习—跨章节证明”的顺序构造课程。对于生产系统，还应在微调之外加入 Lean、Coq 或其他形式化验证器，让生成证明经过机器检查，而不是把自然语言流畅度误当成逻辑正确率。

TOME-Math 的真正贡献，是把“教材是高质量数学语料”进一步推进为“教材的课程结构和证据依赖本身就是可利用的监督信号”。这条路线值得复现，但其 16.7 个百分点增益究竟来自结构设计、数据质量还是训练规模，仍需等完整实验和语料开放后判断。

---

消息来源：Hugging Face Daily Papers (2026-10-29)

—— 完 ——

主题标签： #TOME-Math 关注 #数学推理 关注 #结构化监督 关注 #课程学习 关注 #教材数据 关注