HPE提出AI成本管理新框架：优化AI开发中的代币消耗与效率

摘要：HPE发布了一种新的AI成本管理框架，旨在解决AI代理在开发过程中因代币消耗过高导致的成本失控问题。该框架建议通过优化模型选择、任务分配和容量拥有模式来降低AI开发成本，并提出以'每合并拉取请求的成本'作为更合理的成本衡量指标，而非单纯依赖代币消耗量。HPE还建议采用混合AI平台，将常规任务分配给自有的开放权重模型，而复杂任务则使用高端模型，从而在保证性能的同时控制成本。

---

背景与挑战

随着AI代理在软件开发中的普及，其代币消耗量急剧增加，导致成本迅速上升。例如，Uber在2026年4月就耗尽了全年的AI预算，而GitHub Copilot也转向了计量收费模式。Gartner预测，到2028年，AI编码的代币成本将超过开发者的平均薪资。这种趋势对企业的AI预算管理提出了严峻挑战。

HPE的解决方案

HPE提出了一种新的AI成本管理框架，主要包含以下几项关键策略：

1. 优化模型选择与任务分配

   • 匹配模型与任务复杂度：并非所有任务都需要使用最强大的模型。建议将复杂规划和新颖推理任务分配给高端模型，而常规代码生成、测试创建和重复重构则可由自有的开放权重模型处理。
   • 引入网关路由：通过网关根据任务复杂度、数据敏感性、成本和延迟来路由请求，从而避免将高端模型的费用应用于整个工作流程。

2. 改变容量拥有模式

   • 从租赁转向拥有：租赁推理服务时，每次调用都会增加账单成本，而拥有容量则意味着随着使用量的增加，单次调用成本会降低。
   • 权衡成本与控制：拥有容量虽然需要考虑电力、运营、维护和折旧等成本，但可以更好地控制敏感代码，确保代码生成和测试在本地进行，从而提高安全性。

3. 衡量实际产出而非代币消耗

   • 采用'每合并拉取请求的成本'作为指标：该指标将AI辅助开发总成本除以通过审查并合并的更改数量，能够更准确地反映AI在软件开发中的实际价值。
   • 跟踪重做和缺陷：确保成本降低不会以牺牲质量为代价。

实际案例与效果

HPE的混合AI平台已应用于内部应用，将常规工作负载分配给自有的开放权重模型，运行在HPE私有云AI上。结果显示，代币成本降低了30%至50%。

建议与展望

HPE建议企业根据自身使用情况选择合适的AI运营模式。对于低或不可预测的使用量，API模式更为合适；而对于持续的需求，拥有容量则更为经济。大多数企业将采用混合模式：对于要求高或间歇性工作使用高端API，而对于重复性的大规模任务则使用自有容量。

结论

AI代理的使用量将继续增长。关键在于如何构建一个运营模型，使得AI使用量的增加能够改善经济效益，而不是增加成本负担。HPE的框架为企业在AI开发中实现成本与效率的平衡提供了新的思路。

---

消息来源：MIT Tech Review AI (2026-11-02)

—— 完 ——

主题标签： #HPE 关注 #AI成本管理 关注 #混合AI平台 关注 #代币消耗优化 关注