信通院发布大模型词元服务监测报告

中国信息通信研究院（简称”中国信通院”）人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室，联合中国人工智能产业发展联盟，于近日发布《大模型词元服务性能监测报告（2026年）》。

据信通院披露，随着大模型技术快速迭代，词元（Token）服务正成为从技术走向应用的关键环节。2026年6月，国内词元日均消耗量约500万亿，是2025年12月的近4倍。越来越多 MaaS（模型即服务）平台厂商通过公有云 API 提供大模型词元服务。

监测覆盖哪些维度

报告基于2026年1月至8月的监测数据，围绕各平台词元服务的调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析，对比原厂大模型官方平台，以及 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的性能差异。

国内吞吐翻倍，仍落后国外

报告显示，2026年8月国内各模型平均 TPS（每秒输出词元数）达到78.23个/秒，与2025年均值38.25个/秒相比实现翻倍。但同期国外典型模型的 TPS 均值为112.82个/秒，较2025年12月的51.35个/秒提升也超过一倍，整体仍优于国内。

时延上升是全球共性

今年以来，国内各模型的平均 TTFT（首词时延）持续上升，8月均值达到1.26秒，明显高于2025年的0.78秒。与此同时，国外典型模型8月 TTFT 均值达2.08秒，较4月的1.04秒同样明显增加。报告强调，时延上升并非单纯的性能退化，而是伴随模型参数量、上下文长度和调用量增加同步产生的结果。

价格结束价格战，明显回升

经历过去两年的价格战后，2026年国内外模型服务价格明显上涨。国内2025年下半年归一化均价为6.8元，而今年以来均价为13.46元，涨幅接近一倍。不过国外价格仍高于国内，2026年以来发布的典型模型平均归一价格约为117.8元。

上下文迈向百万级

被监测模型中，上下文长度达到1M（100万词元）的占比为47.8%，200K及以上的合计达95.7%，相比2025年底占比提高超过76个百分点，低于200K的模型占比持续减少。

开源模型表现亮眼，平台差异大

报告还指出，5月更新的4款开源模型新版本性能显著提升，TPS 持续走高、TTFT 不断压缩。例如8月 DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的2倍。同时，同一模型在不同平台上的 TPS、TTFT 与调用成功率表现不一，部分第三方平台性能明显优于官方平台，同一模型在不同平台的 TPS 差距最大可接近一倍。各平台在推理加速、优化策略与成本控制上的差异，是性能分化的主要原因。