METR调查：Anthropic正加速用AI研发更强模型

摘要：METR经过11周内部调查后发布报告称，Anthropic正将AI用于辅助模型研发，其能力迭代速度约为一年前的两倍，暂未出现明显放缓迹象。该结果把“AI自动化AI研发”从定性讨论推进到可量化评估，但报告仍需结合指标定义、时间窗口和内部数据访问偏差审慎解读。对开发者而言，模型研发流程可能更快转向自动实验、评测与迭代，同时安全验证和人类监督必须同步扩张。

---

METR的11周调查发现了什么

METR在Anthropic内部开展为期11周的调查后发布评估报告。The Verge援引其结论称，Anthropic已经在使用AI辅助构建更强的AI模型，研发迭代速度约为一年前的两倍，而且暂未显现明显减速。

这项调查不同于Anthropic面向安全研究人员开放类似“员工权限”的系统访问计划。前者关注的是AI对模型研发流程的实际影响，后者则是外部研究者检查模型和系统安全性的权限机制。

“迭代速度翻倍”最值得关注，因为它不是单次基准分数提升，而是对研发产出速度的描述。如果模型能够参与实验设计、代码生成、评测分析或训练反馈整理，研发循环中的部分等待时间就可能被压缩，团队得以用更高频率运行和筛选候选方案。

AI如何进入模型研发闭环

从工程上看，AI参与AI研发的闭环通常包括以下环节：

1. 根据既有训练结果和评测失败案例生成实验方案；
2. 编写训练、数据处理、推理及评测代码；
3. 自动执行消融实验并整理指标；
4. 分析错误样本，生成下一轮数据筛选或后训练策略；
5. 对候选检查点进行安全、可靠性和能力验证。

这类自动化最直接压缩的是重复性工程劳动，而不是消除训练算力、标注、数据质量和安全评估等物理约束。即便代码生成与实验编排速度提高，模型训练仍然受GPU供给、分布式通信、故障恢复和推理预算限制。

如果改进模型同时成为下一轮改进模型的工具，研发系统就形成了类似“模型—工具—新模型”的反馈环。其潜力来自搜索空间扩大和反馈延迟缩短，风险则来自评价函数失真：错误指标可能让系统更快地优化错误目标。

“快两倍”该如何审慎解读

报告结论很重要，但现有摘录没有提供完整测量口径，因此不能把“两倍”直接理解为模型能力、训练速度或生产效率都提高了一倍。至少需要区分：

• 时间窗口：是按提交、评测发布、训练运行还是内部检查点计算；
• 能力指标：采用何种任务集和评分方法，是否跨代可比；
• 分母选择：是否以一年前的少数迭代为基准，是否存在发布节奏波动；
• 样本完整性：评估是否覆盖所有内部实验，还是仅包含可观测且适合审查的项目；
• 独立性：METR虽属于独立安全研究机构，但调查依赖Anthropic提供的内部数据、系统日志和人员访问权限。

此外，研发速度与最终模型质量并非线性关系。自动化可能提高候选方案数量，却同时增加重复实验、评测噪声、数据污染和选错基线的概率。只有把吞吐量、验证成本、失败回滚时间与最终能力增益放在一起，才能判断净收益。

工程收益与安全成本

对前沿模型团队而言，最现实的收益通常不是“一键训练出下一代模型”，而是压缩研究流程中的机械环节。AI生成评测代码、批量解析日志、聚类失败样例和补齐文档，都可以提高实验吞吐量。

代价同样明确：

• 自动生成代码需要沙箱、依赖锁定和测试覆盖，否则实验管线可能因错误假设失效；
• 自动筛选实验会放大代理指标与真实目标之间的偏差；
• AI参与研发会扩大模型在网络安全、欺骗和自主行动方面的潜在杠杆；
• 当系统持续优化自身时，静态安全评测不足以覆盖训练过程与工具链中的涌现风险。

因此，安全措施不能只检查最终模型，还应覆盖研发代理的权限、工具调用、数据隔离、实验日志以及自动审批链路。

开发者与研究团队的落地建议

对使用API或构建智能体研发流程的团队，可优先引入低风险、可回滚的自动化环节，例如失败日志归因、评测用例生成、回归测试和文档维护，而不是一开始就让代理直接提交高成本训练任务。

评估收益时，应记录每个候选方案的人工作业时间、GPU小时、失败运行占比、评测成本与最终复现成功率。对于参与自动选择实验的系统，还应保留人工抽样复核、基线锁定和版本化数据管线，避免模型通过改变评测条件获得虚假优势。

更关键的是建立双重账本：一方面记录研发吞吐量，另一方面记录最终质量、安全事件和回滚成本。前者衡量自动化是否真的节省时间，后者决定这种速度是否值得信任。

结论

METR的调查把Anthropic的AI辅助AI研发从行业叙事推进到了量化观察：研发能力约一年翻倍，暂未看到放缓。这个结果支持一个谨慎判断——AI正在实质缩短部分模型研发周期，但并没有消除算力、数据、评测和治理瓶颈。

真正决定长期影响的，不只是模型能多快生成下一个模型，而是研究团队能否同时建立更可信的目标函数、独立验证机制与可撤销的自动化权限。

---

消息来源：The Verge AI (2026-11-07)

—— 完 ——

主题标签： #Anthropic 关注 #METR 关注 #AI辅助研发 关注 #AI安全 关注 #自动化研究 关注