10 月 23 日，中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室以及中国人工智能产业发展联盟，联合发布《大模型词元服务性能监测报告（2026 年）》。

随着大模型技术快速迭代，词元（Token）服务成为从技术走向应用的关键环节。报告提到，2026 年 6 月，国内词元日均消耗量约为 500 万亿，是 2025 年 12 月的近 4 倍。产业中越来越多的 MaaS（模型即服务）平台厂商通过公有云接口方式供给大模型词元服务，但用户缺乏直观的性能判断依据，也面临选型困难。

报告基于 2026 年 1 月至 8 月的监测数据，围绕各平台词元服务的调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析，并对比了原厂大模型官方平台，以及 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的性能差异。

吞吐量较去年翻倍，但仍落后于国外

报告提出，2026 年 8 月，国内各模型平均 TPS（每秒输出词元数）达到 78.23 个/秒，与 2025 年均值 38.25 个/秒相比实现翻倍。不过，8 月国外典型模型的 TPS 均值为 112.82 个/秒，与 2025 年 12 月的 51.35 个/秒相比提升也超过一倍，整体表现仍优于国内。

首词时延同步上升

今年以来，国内各模型的平均 TTFT（首词时延）持续走高，8 月均值达到 1.26 秒，较 2025 年平均值 0.78 秒明显增加。同期国外典型模型的 TTFT 平均值为 2.08 秒，相比 4 月的 1.04 秒同样上升。报告特别指出，时延上升并非单纯的性能退化，而是伴随模型参数量增加、上下文长度增加、调用量增加等多种因素同步产生的结果。

价格明显回升

经历过去两年的价格战后，2026 年国内外模型服务价格明显上涨。国内 2025 年下半年归一化均价为 6.8 元，而 2026 年以来均价为 13.46 元，涨幅接近一倍。不过国外价格仍高于国内，2026 年以来发布的典型模型平均归一价格约为 117.8 元。

上下文窗口向百万级扩展

被监测的模型中，上下文长度达到 1M（100 万词元）的模型占比 47.8%，200K 及以上的合计达 95.7%，相比 2025 年底的占比提高了超过 76 个百分点，低于 200K 的模型占比则持续减少。

开源模型进步明显，平台间差异拉大

报告提出，5 月更新了 4 款开源模型的新版本进行监测，结果显示 TPS 持续提升、TTFT 时延不断压缩。例如 8 月 DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍。同时，4 款模型在不同平台上的 TPS、TTFT、调用成功率表现不一，部分第三方平台的性能明显优于官方平台提供的模型服务，同一模型在不同平台间的 TPS 差距最大可接近一倍。各平台对相同模型的推理加速、优化策略与成本控制不同，是造成性能分化的主要原因。

总体来看，这份报告为国内用户在大模型选型时提供了量化参考：在价格回归、性能提升的同时，平台间的服务差异同样值得关注。