Sketchpad用0.8B视觉语言模型实现可证明精确算术
摘要：Sketchpad将Qwen3.5-0.8B与低秩适配器接入渲染式工作表，模型每次只读取三个单元格，并输出一个算术步骤、对应数字及进位或借位信息。配套运行时只移动视图，不直接写入答案。研究使用Lean证明：在有限视图表征正确的前提下，模型对任意长度输入均可保持精确；笔记本GPU上的2446个视图全部通过。系统支持任意长度加减乘除、平方根与最大公约数，并在预注册长算术测试中达到220/220。
从概率输出转向可验证的有限状态计算
Sketchpad的核心不是让0.8B语言模型直接生成数百位数字，而是把长算术改造成一个有限状态、逐步执行且可形式化验证的视觉过程。模型基于Qwen3.5-0.8B，通过低秩适配器读取一张渲染工作表中的局部视图；每次前向传播只观察三个单元格，输出当前数字、进位或借位，以及下一项操作。
这一设计的关键是运行时与模型之间的职责分离：固定运行时只移动工作表视口，不直接写入任何结果数字，最终计算轨迹完全由模型逐步产生。因此，它不同于用Python、计算器或符号引擎在模型外完成运算的传统工具调用方案。
三格局部视图如何支撑任意长度计算
Sketchpad把算术过程表示为受控工作表上的局部状态转换。模型每次只看到三个相邻单元格，因而不必把完整输入和中间结果压缩进上下文窗口。其基础能力来自低秩适配器：适配器以较小参数量学习工作表视觉模式、符号识别以及局部算术状态转移，底座模型则保留通用视觉语言表征。
论文证明了一个关键等价关系：只要模型对运行时可能呈现的有限视图集合全部正确，就能推出它对任意长度输入都精确。论文同时证明，如果每一步还读取此前步骤的输出，有限测试便不足以支撑同样的全输入保证。这一结果明确了局部状态假设的重要性：Sketchpad的可靠性来自“每一步仅依赖有界外部记忆视图”，而不是来自对长上下文的盲目扩展。
形式化证明在Lean中完成，并覆盖两项进一步性质：一是有限数值扰动不会破坏保证；二是单个过程的正确性可以组合到由多个过程构成的计算系统。
2446个视图验证与长算术表现
部署端在浏览器中通过笔记本GPU运行模型。作者报告，全部2446个运行时视图均通过验证。认证模型能够执行任意长度的有符号加减法、长乘法、长除法、平方根和最大公约数计算。
实验包括200道浏览器环境中的预注册题目，Sketchpad完成200/200；在另一组包含最多1000位加法数和20位乘数的测试中，它完成220/220。同期对比中，十个其他模型里表现最强的GPT-6.1 Sol完成217题。这里的差距说明Sketchpad在受支持程序上具备明显稳定性，但不代表其通用数学推理全面领先其他模型：它的优势来自有限状态过程、运行时约束和形式证明，而不是底座模型规模。
工程权衡：确定性保证依赖受控接口
Sketchpad的优势是可用一个小型视觉语言模型换取传统计算器式的确定性；代价则是算术被约束为预先定义的过程。每个步骤需要额外前向传播，1000位加法并不会因模型参数量只有0.8B就瞬时完成，实际吞吐量取决于视口移动、图像渲染和逐步解码的累计成本。
“任意长度精确”也不是脱离工程边界的承诺。它要求所有可达视图均被正确处理，因此新增操作、改变单元格布局、修改字体或引入新状态时，都可能扩大或改变有限验证集合。论文通过乘法门控在不使用工作表时精确恢复底座模型，展示了适配器与通用模型路径的兼容方式，但这也意味着系统包含两套行为模式，生产环境需要防止路由错误。
Lean证明提供的是相对于运行时与模型实现假设的保证，而不是对硬件、浏览器渲染和完整软件栈的端到端形式验证。只要视觉输入发生不可察觉的歧义，或运行时违反接口约束，模型仍可能输出错误步骤。
符号运行时与开发者落地建议
作者进一步构建了符号运行时，用Sketchpad过程完成多项式求解、展开和因式分解，其中每个数值都由认证模型计算。这展示了将视觉语言模型嵌入更传统符号计算链的路径：模型不是替代整个符号引擎，而是承担其中需要可靠数值计算的基础过程。
实际部署时应把视图集合、运行时实现和模型权重一起版本化，并针对每种算术程序执行穷举式视图验证，而不能只抽样测试长输入。任何视觉渲染变化都应触发重新认证。还应记录每一步的局部视图与输出，形成可回放的证明轨迹，便于定位错误究竟来自视觉识别、状态转移还是运行时。
对于需要可审计结果的教育、金融计算或形式计算场景，Sketchpad比直接调用基础模型更有吸引力；对于开放域数学推理、符号推导和复杂公式求解，它仍应与传统计算器、符号求解器及普通语言模型组成路由系统，而不是单独承担通用数学任务。
评测边界
预注册题目和固定视图全集提升了结果可信度，但现有数字仍主要来自论文作者实验。对比模型数量有限，测试任务高度集中在受支持算术过程，尚不能证明模型可推广到未编码的数学启发式。更严格的复现应公开模型与适配器权重、浏览器推理栈、GPU型号、视图表征、渲染参数、完整题目生成规则，以及Lean定义与证明到实现之间的对应关系。
—— 完 ——消息来源：Hugging Face Daily Papers (2026-11-03)
主题标签： #Sketchpad #Qwen3.5-0.8B #形式化验证 #精确算术 #LoRA
编辑部与事实核查说明：本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译，经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏，欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区