一句话结论
21,100万亿Token调用量标志着中国AI产业正式从“训练主导”跃迁至“推理爆发”拐点,由此带来的海量算力消耗与存量缺口,正驱动A股算力产业链向国产大模型芯片、高带宽内存(HBM)及先进封装、数据中心高密度液冷核心标的深度映射。
关键事实与数据点(8-12条)
词元总量:2025年中国AI Token总调用量达到21,100万亿(21.1 * 10^15 Tokens),同比呈现爆发式增长。 算力消耗比重:行业调研显示,大模型推理算力需求在整体算力需求中的占比已从2024年初的不足30%飙升至目前的70%以上。 Agent消耗乘数:一个典型的基于ReAct(Reasoning and Acting)架构的AI Agent,完成单次任务的Token消耗量通常是传统单次对话问答的8-15倍。 K-V缓存压力:长文本(Context Window)推理中,K-V Cache占用的显存与上下文长度呈线性正相关,导致单张GPU支持的并发数(Batch Size)大幅下降,倒逼高带宽内存和高容量显存配置。 机柜功率密度:支持万亿Token推理的新型算力机柜,单柜设计功率已从过去的8kW-12kW普遍跃升至40kW-60kW以上,风冷散热技术触及50kW的物理临界点。 液冷渗透率:在新改建的超算与大型AI智算中心中,冷板式液冷系统在新建机房中的渗透率已由过去的15%快速突破至50%以上。 国产GPU集群规模:国内主流厂商(如华为昇腾、海光信息等)的国产GPU集群组网能力已实现从千卡到万卡、十万卡级别的平滑跨越。 先进制程封装缺口:推理芯片向多芯片组件(MCM)及2.5D/3D封装演进,对硅中介层(Silicon Interposer)、高性能硅片及先进封装产能的需求缺口扩大。 接口芯片升级:随PCIe 5.0/6.0及CXL技术的普及,服务器内AI接口芯片(如澜起科技等DDR5/HBM配套芯片)的单机价值量提升。 美元与全球供给联动:全球半导体制造供应链受美元高利率及设备出口政策双重传导,国内晶圆厂及设备商正在加速核心零部件的国产供应链核验。
风险与证伪点
模型剪枝与量化技术超预期:如果大语言模型(LLM)的蒸馏、量化(如FP4/INT4极低比特推理)或模型架构(如Mamba、MoE)取得颠覆性突破,导致单次推理所需的FLOPs和Token成本下降幅度远超调用量涨幅,可能压制硬件总体需求。 国产GPU产能释放不及预期:若国内先进晶圆厂产能扩张、先进封装良率提升或核心硅片/掩膜版供应链遭遇更严格的非市场因素限制,可能导致国产GPU出货量无法填补推理缺口。 大模型商业化变现失速:若AI应用(如智能体、大模型企业端落地)无法为B端/C端创造持续的商业闭环,导致API调用量增速在2026年出现断崖式下跌,将直接导致算力基础设施建设停滞。
FAQ(5-7条)
Q:21,100万亿Token调用量,为什么能直接推导到硬件供应链的爆发? A:Token调用量是推理端需求最直接的物理量度。每一次Token的生成都需要GPU进行一次前向传播计算(FLOPs)并频繁读写显存。万亿级的调用量代表着底层芯片和存储器必须在高并发、低延迟下高负荷运转,算力供给必须同比例放大。 Q:为什么说推理阶段对存储带宽(HBM)的依赖甚至超过了计算核心本身? A:在推理的自回归生成阶段(Token-by-Token),大模型的权重和K-V Cache必须在每一次生成时都从显存完整读取一遍。此时系统的瓶颈往往不在于GPU计算有多快,而在于显存吞吐数据的速度(Memory-Bound)。因此高带宽的HBM和先进封装成为了提升推理吞吐量的硬钥匙。 Q:大模型API价格战不断,调用量增加能带来算力基础设施链条的业绩吗? A:应用层API降价是为了获取用户和流量,这反而加速了Token消耗量的爆发。对于上游算力基础设施(GPU设计、代工、液冷、服务器)而言,不论下游API卖多便宜,只要总调用量在增加,其购买硬件和扩容数据中心的刚性支出就无法避免。 Q:国产GPU相比国际大厂,在应对这波推理浪潮时最大的短板在哪里?如何解决? A:最大短板在于生态兼容性(CUDA生态依赖)与单芯片显存带宽。目前国内正通过“自主研发算子库+硬件级兼容”方式攻克软件壁垒,并在硬件端积极利用国内本土的先进封装产业链组网、叠加高容量大带宽显存来拉平整体集群的推理效率。 Q:冷板式液冷在这一轮AI基础设施升级中是“选配”还是“标配”? A:正在成为“标配”。当单机柜功率超过30kW-40kW时,传统风冷因体积和散热效率限制,不仅无法维持芯片在最优温度运行,更会导致PUE(数据中心能源效率)超标。因此,推理智算中心为了保证稳定性和政策合规性,必须强制引入冷板式液冷。
常见问题
21,100万亿Token调用量,为什么能直接推导到硬件供应链的爆发?
Token调用量是推理端需求最直接的物理量度。每一次Token的生成都需要GPU进行一次前向传播计算(FLOPs)并频繁读写显存。万亿级的调用量代表着底层芯片和存储器必须在高并发、低延迟下高负荷运转,算力供给必须同比例放大。
为什么说推理阶段对存储带宽(HBM)的依赖甚至超过了计算核心本身?
在推理的自回归生成阶段(Token-by-Token),大模型的权重和K-V Cache必须在每一次生成时都从显存完整读取一遍。此时系统的瓶颈往往不在于GPU计算有多快,而在于显存吞吐数据的速度(Memory-Bound)。因此高带宽的HBM和先进封装成为了提升推理吞吐量的硬钥匙。
大模型API价格战不断,调用量增加能带来算力基础设施链条的业绩吗?
应用层API降价是为了获取用户和流量,这反而加速了Token消耗量的爆发。对于上游算力基础设施(GPU设计、代工、液冷、服务器)而言,不论下游API卖多便宜,只要总调用量在增加,其购买硬件和扩容数据中心的刚性支出就无法避免。
国产GPU相比国际大厂,在应对这波推理浪潮时最大的短板在哪里?如何解决?
最大短板在于生态兼容性(CUDA生态依赖)与单芯片显存带宽。目前国内正通过“自主研发算子库+硬件级兼容”方式攻克软件壁垒,并在硬件端积极利用国内本土的先进封装产业链组网、叠加高容量大带宽显存来拉平整体集群的推理效率。
冷板式液冷在这一轮AI基础设施升级中是“选配”还是“标配”?
正在成为“标配”。当单机柜功率超过30kW-40kW时,传统风冷因体积和散热效率限制,不仅无法维持芯片在最优温度运行,更会导致PUE(数据中心能源效率)超标。因此,推理智算中心为了保证稳定性和政策合规性,必须强制引入冷板式液冷。