Anthropic 宣布放缓 AI 发展速度，呼吁加强 AI 安全评估

摘要：Anthropic 首席执行官 Dario Amodei 表示，公司将放缓 AI 技术的发展速度，并计划向第三方评估机构（如 METR）开放其模型，以加强 AI 安全实践的透明度和可信度。Amodei 提出了一项三步计划，旨在通过减缓 AI 训练和开发速度，为企业和监管机构提供更多时间构建安全措施和评估模型。这一举措反映了 AI 行业对技术快速发展带来的潜在风险和伦理问题的关注。

---

核心内容

Anthropic 首席执行官 Dario Amodei 在一篇长文中提出了放缓 AI 发展的三步计划：

1. 开放模型访问权限：Anthropic 将向第三方评估机构（如 METR）开放其 AI 模型，以帮助确保其 AI 系统符合安全实践和承诺。
2. 行业协作与监管：Amodei 呼吁 AI 行业作为一个整体共同努力，与监管机构合作，制定更严格的安全标准和评估机制。
3. 减缓发展速度：通过减缓 AI 训练和开发速度，为企业构建安全措施和监管机构评估模型提供更多时间。

技术亮点

• AI 安全优先：Anthropic 将 AI 安全置于发展速度之上，体现了对 AI 技术潜在风险的重视。
• 第三方评估机制：通过引入第三方评估机构，增强 AI 系统的透明度和可信度。
• 行业协作与监管：强调 AI 行业与监管机构的合作，以制定更完善的安全标准和评估机制。

行业影响

Anthropic 的这一举措反映了 AI 行业对技术快速发展带来的潜在风险和伦理问题的关注。此举可能推动 AI 领域的安全标准提升，并促使其他 AI 公司重新审视其发展策略。此外，第三方评估机制的引入可能成为 AI 行业的新趋势，为 AI 系统的安全性和透明度提供更可靠的保障。

开发者建议

对于 AI 开发者而言，关注 AI 安全和伦理问题至关重要。建议开发者积极参与 AI 安全标准的制定，并探索如何在 AI 应用中集成更严格的安全措施。同时，开发者应关注第三方评估机制的发展，以便在未来的 AI 项目中更好地满足安全要求。

---

消息来源：The Verge AI (2026-09-12)

—— 完 ——

主题标签： #Anthropic #AI Safety #AI Development #METR #AI Ethics