AI 推理成本仍贵一个数量级

2026年10月23日，风险投资机构 a16z 发布了对其首席执行官安迪·贾西（Andy Jassy）的深度访谈。贾西在采访中直言，要让人工智能广泛应用于企业软件，推理成本仍需降至目前的约十分之一。”在我看来，要让 AI 得到尽可能广泛的应用，推理成本仍然高了一个数量级。”他指出，尽管过去几年推理成本已明显下降，但要实现他所设想的广泛企业采用，当前价格仍偏高。

作为支撑 AI 服务的算力消耗，推理是指模型每次回答问题或执行任务时所需的计算。对企业而言，如果引入 AI 后增加的运营费用难以被额外收益抵消，就缺乏动力去重构现有软件。这被贾西视为制约企业采用 AI 的核心障碍。

2200 亿美元开支仍不够用

贾西透露，亚马逊今年计划投入 2200 亿美元资本开支（按当前汇率约合 1.47 万亿元人民币），却依然无法建成足够的基础设施来满足 AI 需求。他还表示，2026 年的主要算力供应额度已基本售罄，2027 年的大部分已被客户预订，2028 年也有相当部分提前售出。在其看来，市场需求如此旺盛，亚马逊即使投入更多资金，也不至于浪费。

贾西将 AI 需求结构比作一副”杠铃”：一端是消耗巨量算力的前沿 AI 实验室，以及少数快速增长的原生 AI 应用；另一端则是主要将 AI 用于客服、反欺诈等具体任务的企业客户。真正尚未充分开发的，是中间那部分日常企业软件——它们尚未普遍引入 AI 推理，却可能是未来用量最大的需求来源。

自研芯片能否压低门槛

面对高企的推理成本，亚马逊把希望寄托在自研芯片上。贾西回顾，早年间英特尔主导云服务器处理器市场，亚马逊希望以同样的成本获得更高性能却难以说服对方优先满足，最终选择自行开发 Graviton 处理器。”同样的故事又在 AI 领域上演了。”这一次，主导供应方是英伟达，亚马逊则推出 Trainium 系列 AI 芯片，为客户提供成本更低的选择。贾西强调，Trainium 的性价比较同类处理器高出约 30% 至 40%，客户花同样的钱能获得更多算力，并反复说明现有 GPU 供应商仍是重要合作伙伴，自研并不意味着停止采购。

据披露，Trainium 已获得超过 2250 亿美元（约 1.5 万亿元人民币）的未来收入承诺，其中包括与 Anthropic 和 OpenAI 达成的协议。有第三方芯片研究机构近期实测发现，Trainium2 与 Trainium3 已能用原生 PyTorch 完成模型训练，而不只是运行推理，不过其软件生态成熟度仍远不及英伟达的 CUDA。

企业软件的重构压力

贾西还提出了一个更激进的判断：企业最终可能需要重写几乎全部现有代码，使其具备智能体执行与自动更新的能力，这与网络安全直接相关。在他看来，攻击者可能借助 AI 更快发现并利用漏洞，传统”识别、分类、打补丁、测试、部署”的漫长流程将难以为继，应用需具备在分钟级完成响应与补丁部署的架构。

对亚马逊自身而言，AI 已经在改变组织效率。贾西举例，Bedrock 团队重构推理引擎的工作，原本预计需要约 40 名工程师投入一年，最终由 6 名工程师借助 AI 编码工具在 76 天内完成。他认为，未来企业团队会更小，许多岗位不再随业务规模同比扩张。无论推理成本能否如期下降，AI 对企业软件的重塑都已经从成本话题，变成了架构与安全的话题。