token 越来越便宜,AI 账单却越来越离谱

单价一路下跌,总账单却一路上涨——这是眼下企业采购 AI 服务时最普遍的困惑。英国广播公司(BBC)科技记者 Joe Fay 在 8 月 4 日的报道中指出,买方管不住成本,卖方定不出价格,整个行业还没人真正想明白 AI 该怎么收钱。

问题出在“token”这个计量单位

用户向大模型提问、让它写代码或自动执行流程时,这段提示词会被拆成一个个被称为 token 的数学块交给模型处理,模型的回答同样以 token 的形式产出,再还原成文字、代码或指令。

麻烦在于,这个过程并不可预测。提示词的细微差别会带来不同的回答,同一段提示词两次运行结果也未必一致,换个模型答案又不一样。而在智能体系统里,多个 AI 智能体协同决策与执行,token 消耗量和不确定性还会进一步叠加。

身份管理公司 Saviynt 正在把智能体能力接入自家服务,公司高管 Simon Gooch 的说法很直白:“想把客户绑定在一套未来 12 个月、两年、三年的成本模型上,说实话根本讲不通,因为我们自己也不知道。”

单价暴跌,用量暴涨

高盛的分析显示,近年来单个 token 及其对应额度的价格已大幅下滑,但企业和个人消耗的 token 数量却在飞速膨胀。该行预测,随着各方转向使用 AI 智能体,2026 年到 2030 年间 token 消耗量将增长 24 倍,达到每月 120 千万亿个(1.2×10¹⁷)。

问题是,多数使用者对自己烧掉了多少 token 只有模糊的概念,往往要等到额度用尽或月底账单送达才反应过来。报道援引消息称,连微软都已收紧工程师对部分第三方编程工具的使用;而优步在今年早些时候,把一整年的 AI 编程 token 预算在几个月内就消耗殆尽。

伦敦政治经济学院数字创新与信息系统副教授 Will Venters 认为,企业在内部试验或落地 AI 时最容易踩坑,因为员工会不知不觉把额度耗光。“大家发现这个成本真的很难管……它的产出是非确定的,所以价值也是非确定的。”

各方的应对办法

工程软件公司 smartR AI 创始人 Oliver King-Smith 观察到,规模较小的组织“可以躲在雷达下,用固定费用的个人账户,我敢肯定大厂并不乐意”。但他判断这条路走不长:“大厂在这些账户上是在亏钱的。”一旦平台开始面临股东的盈利压力,“他们就会收紧”。

英国财务软件公司 iplicit 首席财务官 Rob Steele 则强调提示词要写得更精确。他打了个比方:“你总不会一句交代都没有,就打发家里人去采购一周的东西吧?”

Venters 补充说,当 AI 被嵌入一款要面向成千上万用户推广的产品时,局面会更难控制——管理者可能才意识到,除了核心的软件开发,测试、安全乃至护栏机制同样都要消耗 token。他还提到一个容易被忽视的对比:多雇几个 AI 智能体只需点一下按钮,而扩充人类团队则要经过编制和招聘的层层讨论。

不过 Venters 也提醒,成本不可预测未必等于亏,企业可能确实从中获得了更高的价值。“这跟计算器不一样,”他说,“你喂给它的越多,它就越贵,但结果也可能越好。”

卖方同样一头雾水

企业还得把这些成本转嫁给自己的客户,而这一步同样没有答案。软件公司 Sumo Logic 产品营销高级总监 Bill Peterson 说得直接:“没人真正搞明白。”该公司正在预览基于智能体的新安全服务,如何收费仍在与企业客户商讨中。“我们内部还在开一些‘有意思’的会。”他略带调侃地表示。

可选方案包括全线涨价、按结果付费,或按“事件包”打包销售。但只要底层大模型厂商调整自己的定价策略,这些结构随时可能被推翻。“一旦进入浮动定价,价格每隔几个月就变一次,”Peterson 说,“客户不喜欢这样,没人是这么做预算的。”

来源:BBC News