DeepSeek v4.1 Flash突破SWE-Sweep 1%开源模型门槛
文 / Mr.Xu 社区投稿
发布时间: · 2 次阅读
摘要:SWE-Sweep 排行榜新增多款开放权重模型,其中 DeepSeek v4.1 Flash 在 max 推理配置下成为首个得分超过 1% 的开放权重模型。该基准要求模型在大型代码仓库中发现并修复数百个预先埋设的缺陷,不提供缺陷提示,考验长时程推理、代码库导航与工具协作能力。同一评测框架下,Gemini 4 Hydrogen 和 GPT Astra 6 分别达到 13.5% 与 9.5%,显示开放权重模型已有突破,但与头部闭源系统仍有显著差距。结果来自第三方社区评测,具体分数、置信区间及复现成本仍需核验。
核心结果
SWE-Sweep 社区排行榜新增多款开放权重模型。DeepSeek v4.1 Flash 在 max 推理配置下成为该榜单首个得分超过 1% 的开放权重模型;报道同时列出的 Gemini 4 Hydrogen 为 13.5%,GPT Astra 6 为 9.5%。
这项更新值得关注,但不宜将其解读为开放权重模型已经接近顶级闭源模型。1% 是开放权重阵营首次跨过的阶段性门槛,而 9.5% 到 13.5% 的闭源模型成绩仍显示明显代差。由于数据来自社区维护的排行榜,而非厂商统一提交的封闭评测,精确数值、重复运行波动和测试成本仍应通过公开仓库复现。
SWE-Sweep 测什么
SWE-Sweep 面向真实软件仓库中的隐藏缺陷发现与修复。模型收到一份可能很大的代码仓库快照,其中包含数百个埋设缺陷,但不会获得缺陷位置、类型或复现路径。它需要自行完成代码库检索、调用构建与测试工具、解释失败、修改代码并继续验证。
这类任务与常规 SWE-bench 类评测存在几个关键差异:
- 缺陷位置完全未知:模型必须先决定搜索范围,不能依赖任务描述提供文件名或问题线索。
- 反馈链条长:一次错误定位可能引出补丁、回归失败和新的排查分支,考验长时程错误恢复,而非单轮生成。
- 仓库上下文规模大:模型不仅要理解局部代码,还要维护跨目录依赖、构建配置和测试关系。
- 评分更接近系统能力:最终结果不只由基础模型决定,还受 Agent Harness、上下文窗口、工具权限、超时策略和采样预算影响。
因此,“超过 1%”更准确的含义是:在当前评测框架和预算下,该配置能够稳定解决一小部分高难度长时程缺陷,而不是一般编码能力的线性百分比。
统一评测框架为什么重要
排行榜维护者将所有模型放入同一 Harness,以尽量隔离 Agent 脚手架差异。维护者还比较了 Claude Code 与 Codex Harness,但报告称它们没有带来显著改善。这意味着当前差距更可能主要来自模型本身,而不是某一种专用编码代理外壳。
不过,统一 Harness 并不等于完全控制所有变量。模型可能仍使用不同的推理档位、最大输出 Token、工具调用策略、超时预算和重试次数。max 配置通常对应更高的推理与生成预算,而仓库规模、测试容器和并行度也会直接影响成绩。比较时至少应记录:
- 模型版本与权重哈希;
- 最大上下文长度和总生成预算;
- 工具集合及命令白名单;
- 单任务超时、重试和并发限制;
- 补丁是否允许修改测试文件;
- 多次运行的成功率与置信区间。
没有这些元数据,排行榜上的百分点差异不能直接归因于模型架构或训练质量。
多智能体能否扩大覆盖面
维护者认为,多智能体系统可能进一步扩展评测规模,例如让不同代理分别负责代码检索、补丁生成、测试分析和复审。但并行代理并不天然提升准确率。
多代理方案通常会引入额外通信 Token、重复上下文和协调成本。多个代理还可能共享同一种错误先验,例如同时误判某个 API 语义,形成“一致性错误”;如果缺乏独立验证和裁决机制,投票机制甚至可能把错误置信度放大。对工程落地而言,更有效的路线通常是先建立清晰的职责边界,再配合测试执行、补丁审查和可回滚状态,而不是简单增加代理数量。
开发者如何复现与落地
该项目的评测代码已通过 GitHub 开放,为独立复现提供了基础。开发者可固定仓库快照和 Bug 集合,使用统一容器运行模型,记录每次工具调用、补丁差异、测试结果及失败原因,再对多个随机种子重复评测。
对本地部署团队而言,DeepSeek v4.1 Flash 的意义是:开放权重模型在长时程软件修复任务上已出现可测量的正信号,而不是只能完成补全、单函数生成或短周期补丁。但超过 1% 的成绩也意味着,自动修复流水线不能只依赖单次模型输出,仍需加入测试门禁、静态分析、变更审查与失败回滚。
多智能体扩展则应先测量边际收益。若任务并行度增加后,Token 消耗和墙钟时间增长快于解决率提升,那么更长的上下文整理或针对性检索工具通常比无约束地堆叠 Agent 更具性价比。
结论
DeepSeek v4.1 Flash 在 SWE-Sweep 上越过 1%,证明了开放权重模型在高难度、隐藏缺陷、长时程软件工程任务中的可行性,但距离 Gemini 4 Hydrogen 与 GPT Astra 6 的公开成绩仍有较大差距。
这次更新的真正价值不只是一个榜单数字,而在于提供了一套可公开运行的统一评测路径。只有在固定推理预算、工具权限和测试条件后进行复现,才能判断成绩来自模型能力、Agent 框架,还是算力投入,并判断这一能力是否足以进入实际代码修复系统。
—— 完 ——消息来源:Reddit r/LocalLLaMA (2026-11-13)
主题标签: #DeepSeek #SWE-Sweep #代码修复 #开放权重模型 #Agent评测
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区