跳到正文
MIT Technology Review · AI· Affan Syed·· 3 小时前AI 评分22

别再数 token 了,该数交付了多少软件:AI 编程成本该怎么算

Stop counting tokens, start counting what ships

AI 导读

文章主张用"每个已合并 PR 的成本"替代 token 消耗来衡量 AI 编程投入,因为单个智能体任务消耗的 token 可达普通对话提示词的 10 到 50 倍。建议把困难规划交给前沿模型、把代码生成与重复重构路由到自托管开源权重模型,并以网关按任务复杂度调度。HPE 称其混合 AI 平台将 150 多个内部应用的常规负载转到本地开源权重模型后,token 成本下降 30% 到 50%。

来源:MIT Technology Review · AI · technologyreview.com