1994年互联网商业化元年，全球日均网页请求量不足百万次；十年后，Google每天处理的搜索请求突破10亿次——那一跨越标志着信息经济从萌芽走向基础设施时代。今天，中国的AI词元日均调用量已突破140万亿次，两年内完成了从1000亿次到140万亿次的千倍跃迁。历史上每一次这样的量级跳跃，底层的硬件基础设施都会经历一次彻底重构。

国家数据局等部门发布的《全国数据资源调查报告（2025年）》显示，2025年中国全年词元（Token）调用量达到21100万亿次，对应日均约58万亿次；进入2026年后加速，截至2026年3月日均调用量已突破140万亿次。这不是一个渐进式的增长数字——它意味着AI产业的发展逻辑发生了根本性切换：从少数巨头主导的模型预训练时代，全面进入以高频推理、商业变现、按量计费为核心的「词元经济」时代。

21100万亿次：中国AI消耗账本

词元是大模型处理信息的最小计量单位。在词元经济模式下，大模型企业由「卖软件、卖能力」全面转向「按度计费、卖用量」——这种转变使高频、高黏性的应用场景能迅速转化为爆发式的业绩增长，也对底层算力基础设施提出了远高于训练阶段的高并发要求。

时间节点日均Token调用量阶段性产业特征
2024年初约1000亿次大模型商业化初步探索，算力消耗以基础模型预训练为主
2025年初超1万亿次生成式AI进入企业级市场，对话类应用推升初步推理需求
2025年末约100万亿次全年累计21100万亿次，多模态应用落地，呈现指数级爆发
2026年3月超140万亿次推理端全面爆发，智能体广泛部署，词元成为计费「电力」

在这一庞大数据底座的支撑下，中国在算力网络化调度层面同步跟进。国家发展改革委明确提出将「算力网」纳入「六张网」顶层规划。中国移动等基础电信运营商完成国家八大枢纽400G大带宽超高速网络直连，「算网大脑」实现百万亿级Token的日均全局调度，构建起城域1毫秒、省域5毫秒、全国20毫秒的三级时延圈。

资本市场的反映已经出现。协创数据累计拟投入212亿元采购高算力服务器；宏景科技拟定增募资9.90亿元用于智能算力集群建设及运营项目。算力投资的核心已从概念炒作向拥有实质算力租赁交付能力的企业收敛。

训推分离：算力需求的根本性重构

如果说宏观Token数据构成了产业的骨架，那么应用层的爆发则是拉动这一切的引擎。2026年春季，一款名为开源 AI 智能体（因图标为红色龙虾被网民戏称为「养龙虾」）的开源AI智能体在全网引发轰动，标志着AI从「能说会道」的对话模式正式向「能干会做」的执行模式迈出关键一步。

开源 AI 智能体具备自主学习、持久记忆和跨软件操作能力。它内置「心跳机制」——后台常驻唤醒，即使用户不主动操作也会持续消耗大模型API的Token。据实际案例披露，部分重度用户单月API调用费用近3万元人民币，甚至出现充值金被系统彻夜耗尽的情况。深圳福田区已上线「政务龙虾」作为民生诉求分析员；腾讯云、智谱等大厂也推出优化版以降低部署门槛。

这种高频常驻式调用模式，正是海量Token消耗背后的真实引擎——也是算力架构从训练侧向推理侧根本性迁移的应用驱动力。

训推分离的产业信号已在采购层面落地。2026年6月中旬，字节跳动正与上海国产AI芯片企业天数智芯（Iluvatar CoreX）洽谈采购至少5万颗AI推理芯片，主要用于支撑「豆包」的庞大端侧推理需求。这5万颗订单主要对应天数智芯的智铠系列云端推理GPU；若交易落地，天数智芯将成为继华为、寒武纪之后字节跳动的第三家核心国产GPU供应商。

维度训练侧（Training）推理侧（Inference）
算力需求特征高吞吐、长周期、低并发低延迟、高并发、持续在线
典型芯片华为昇腾、英伟达H系列天数智芯智铠、寒武纪、自研ASIC
对价格敏感度较低（训练成本一次性）极高（影响单位Token成本）
国产替代空间受限（高端训练卡依赖英伟达）大（推理性价比优先，国产可竞争）

阿里巴巴2026财年单季度资本开支超380亿元，预计未来三年投入超3800亿元用于智算建设；腾讯计划2026年下半年大规模导入国产算力支撑混元大模型的MaaS及视频生成推理服务。训推分离不是一家公司的选择，而是行业层面的系统性架构切换。

四条硬件传导链

词元经济的量级跃迁，通过训推分离的架构演化，向底层硬件传导出四条清晰的产业链机会。

一、国产推理GPU：从信创试点到商业主链路

字节跳动的5万颗大单揭示了三个深刻的产业趋势：第一，算力架构正式走向训推分离，极其宝贵的高端算力集中于训练，海量高频的日常推理负载切分给国产推理芯片；第二，国产AI芯片首次进入中国最重度AI应用的商业主链路，逻辑从「政策指引下的信创试点」转向「真刀真枪的需求驱动」；第三，大型云厂商全面竞速算力基建，国产推理GPU进入规模采购周期。

为进一步摊薄单位Token的生成成本，国产硬件厂商加速架构优化：中科曙光推出无线缆箱式超节点scaleX40，将典型推理吞吐性能提升4倍；中兴通讯通过重构算力互联，将数百颗逻辑GPU整合为统一计算单元。超节点架构的演进，将性能瓶颈从芯片本身转移至芯片间的数据通信带宽——这正是下一条传导链的起点。

二、CXL互连：跨越内存墙的芯片增量释放

当算力密度急剧拉高时，系统性能的瓶颈往往不再是处理器的计算速度，而是数据在处理器与内存之间传输的延迟——即「内存墙」（Memory Wall）问题。在AI推理特别是大型语言模型和智能体运行过程中，GPU需要极其频繁地访问DDR内存，超节点架构中CPU与GPU的比例正从1:4甚至1:2进一步扩大。

2026年4月，谷歌在Next大会上正式发布第八代张量处理单元TPU v8及AI Hypercomputer架构，并对其进行史无前例的「训推分离」拆分——发布了针对训练的TPU 8t和针对推理的TPU 8i。最核心的技术升级是深度整合了CXL（Compute Express Link）全局内存池化技术，将内存利用率从40%飙升至90%以上，极大缓解了大模型训练与推理的内存墙瓶颈。

指标数据
全球高速互连芯片市场（2024年）154亿美元
全球高速互连芯片市场（2030年预测）490亿美元（CAGR 21.2%）
CXL市场2025-2030年复合增长率170.2%
澜起科技全球内存接口芯片市占率>36.8%（DDR5细分>50%）
澜起科技2025年营业收入54.6亿元
澜起科技2025年归母净利润22.4亿元

A股上市公司澜起科技（688008）作为全球内存接口芯片领域的绝对龙头，市占率超36.8%（在DDR5细分领域更超50%），是这场变革的最大受益者之一。随着DDR5渗透率在2025年突破85%以及AI服务器单机内存模组配置量翻倍，澜起科技的业绩基本盘极为稳固，而其在CXL芯片和PCIe Retimer领域的领先布局，则注入了强劲的第二增长曲线。2026年初澜起科技完成H股上市，完成资本的双重布局。

三、先进封装：Hybrid Bonding的终局博弈

HBM（高带宽内存）通过将多个存储芯片三维堆叠并与GPU集成，其生产高度依赖先进封装工艺。全球先进封装产能处于极度紧缺状态，为长电科技、通富微电等国内封测巨头创造了历史性机遇。长电科技2025年先进封装业务相关收入达到270亿元，创历史新高，公司正在主动进行结构性调整，将资源全线倾斜至AI存储和汽车电子领域。

在全球最前沿的设备端，一场关于封装底层技术路径的交锋正在上演。混合键合（Hybrid Bonding）技术彻底抛弃了锡球和助焊剂，直接实现纳米级的铜对铜键合，互连密度提升上千倍，功耗降低20%。欧洲半导体设备巨头Besi（BE Semiconductor Industries）因其在混合键合领域的垄断性技术储备，成为全球资本市场追逐的核心标的。

指标数据
Besi 2026年3月历史最高股价235欧元
Besi 2026Q1订单金额（同比）2.697亿欧元（+104.5%）
Besi市值（2026年3月）突破155亿欧元
应用材料战略入股Besi比例9.2%
长电科技2025年先进封装收入270亿元（创历史新高）

个人观察：混合键合虽是先进封装的「终局技术」，但产业节奏存在短期博弈。由于JEDEC在HBM4规范中放宽了封装高度限制，SK海力士等存储巨头在刚刚展示的16层HBM4中，可以继续采用改良型无助焊剂热压键合或微凸块技术平稳过渡，将混合键合的大规模导入时间点推迟到HBM5及2027年以后。这不仅关乎Besi的估值扩张节奏，也将深刻影响国内封测厂的技术路线跟进时间表。

四、液冷散热：Rubin全液冷宣言下的热管理重构

随着单机架算力密度的指数级增长，传统风冷技术在热流密度面前已彻底撞上物理墙。电力供给与热管理，正取代芯片产能，成为制约AI算力扩张的终极瓶颈。

2026年6月，英伟达在官方博客宣布：即将量产的Vera Rubin平台将100%全面采用液冷技术。这一官宣彻底终结了风冷与液冷的路线之争。TrendForce预测，全球AI数据中心液冷渗透率将从2024年的14%迅速攀升至2026年的40%。

数据维度数据点
液冷渗透率（2024年）14%
液冷渗透率（2026年预测）40%
英伟达GPU液冷市场规模（2026年预测）119亿美元
数据中心ASIC芯片液冷市场（2026年预测）46亿美元
CDU部件占液冷系统总价值30%-40%
英维克2025年营业收入60.68亿元（同比+32.3%）

政策端同样在施加决定性影响。住房城乡建设部就《数据中心设计标准》征求意见，明确新增液冷系统设计要求；《数据中心绿色低碳发展专项行动计划》要求新建及改扩建大型数据中心PUE降至1.25以内，国家枢纽节点更需低于1.2。液冷不再是高端设施的「可选项」，而是机房上架的合规标配。

国内液冷温控龙头英维克（002837）2025年实现营收60.68亿元（同比增长32.3%），在手订单极度充裕，并成功发布符合谷歌标准的液冷产品，在产能与交付能力上构筑了深厚壁垒。2026年下半年液冷板块将全面进入订单与业绩的验证阶段，标准化建设进度是核心观察变量。

A股标的核心映射

四条硬件传导链在A股市场形成清晰的标的映射。以下为基于公开数据的整理，不构成任何买卖推荐。

硬件赛道核心逻辑A股/全球代表标的关键验证指标
国产推理GPU训推分离驱动推理侧国产替代寒武纪、景嘉微（GPU）；中科曙光、中兴通讯（超节点整合）字节大单落地规模；推理侧毛利率变化
CXL/内存接口AI服务器内存配置翻倍+DDR5渗透率85%+CXL池化爆发澜起科技（688008）CXL芯片收入占比；DDR5市占率动态
先进封装HBM产能紧缺+国内封测承接溢出订单长电科技、通富微电；Besi（全球设备）先进封装收入占比；HBM4/5节点切换节奏
液冷散热Rubin全液冷官宣+政策强制+PUE合规要求英维克（002837）、申菱环境液冷订单增速；标准化进度；CDU单位价值量

需要特别指出：在AI供应链的逻辑传导中，博通（AVDO）自定义ASIC的扩张同样构成先进封装需求的重要驱动变量，也是观察国内封测厂订单弹性的重要参照系。人形机器人A股主线与算力基础设施在散热、电源管理等子赛道存在供应链重叠，部分标的具备跨主题配置的逻辑基础。

风险与失效条件

任何产业逻辑都有其失效条件。以下四个风险场景是观察本文核心论点是否仍然成立的关键证伪点。

风险一：国产推理GPU价格战红海化。推理端算力对价格极度敏感。若2026年下半年国产晶圆代工产能大规模释放、供需发生错配，激烈价格战将大幅削弱A股相关硬件企业的毛利率和业绩兑现预期。观察指标：天数智芯、寒武纪推理芯片的ASP（平均售价）趋势。

风险二：「词元经济」C端商业变现遇阻。以「养龙虾」为代表的智能体虽推升了海量Token，但若普通用户无法将极高的API调用成本转化为相对等的商业利润，应用留存率将发生断崖式下跌，进而导致推理需求的虚火消退。观察指标：主要大模型厂商的MaaS平台月活留存率。

风险三：Hybrid Bonding产业化不及预期。由于JEDEC放宽HBM4封装高度限制，存储厂商倾向于继续沿用改良微凸块技术，混合键合设备的大规模放量可能被推迟至2027年。这将导致Besi及追随该路线的国内设备厂商估值短期承压。观察指标：SK海力士、三星HBM5量产时间表。

风险四：液冷标准碎片化阻碍产能放量。当前市场以定制化方案为主，各大服务器厂商接口和标准不统一。若行业迟迟未能建立通用标准化生态，将推高后期运维成本，并限制英维克等温控龙头通过规模化生产降低成本的潜力。观察指标：ODCC或工信部液冷行业标准的发布节奏。

风险五：智能体安全风险引发监管收紧。开源 AI 智能体引发的数据泄露、端口暴露等事件已引起官方机构警示。若发生重大安全事故，监管层面可能出台严苛限制性政策，抑制AI开源社区的活跃度和部署量，对推理侧需求造成系统性压制。

常见问题（FAQ）

为什么「词元」调用量是衡量AI产业阶段最核心的指标？

词元是大模型处理信息的最小计量单位。日均140万亿次的调用量直接等同于用户向模型发起的真实请求量与机器执行任务的工作量。它是连接技术供给与商业变现的结算单位，标志着中国AI已进入基于真实商业调用的词元经济深水区，而非过去巨头主导的模型预训练阶段。

字节跳动采购5万颗天数智芯推理芯片，对A股算力主线意味着什么？

这是一次标志性的训推分离实践。头部云厂商不再用昂贵的高端训练卡覆盖所有场景，而是将高并发、高频的终端推理业务交由性价比更高的国产推理GPU承接。它证明国产AI芯片已实质性跨越能用门槛，进入核心应用链路的大规模商业采购阶段，是国产算力从信创试点向需求驱动转变的里程碑。

CXL技术如何解决「内存墙」问题，为什么会在2026年爆发？

传统CPU与内存紧耦合导致AI推理时内存成为性能瓶颈。CXL通过内存池化将所有内存资源动态分配给需要的计算单元，将内存利用率从40%提升至90%以上。谷歌TPU v8全面整合CXL内存池化技术，标志着该架构从实验室走向规模化，直接利好澜起科技等内存接口与互连芯片供应商。

混合键合（Hybrid Bonding）和微凸块技术的核心区别是什么？

微凸块通过带助焊剂的极小锡球连接芯片，当芯片间距逼近10微米以下时，锡球融化短路、助焊剂残留成为良率瓶颈。混合键合彻底抛弃锡球，通过超高精度设备实现铜对铜纳米级直接压合，互连密度提升上千倍、功耗降低20%，是突破未来3D堆叠的终局工艺。JEDEC放宽HBM4封装高度限制后，混合键合大规模量产节点已后移至HBM5时代（2027年以后）。

液冷温控为何在2026年从「选配」变为「标配」？

两大推力同时作用：一是物理极限，英伟达Vera Rubin平台已官宣100%全面采用液冷，新一代芯片热流密度超出空气散热物理极限；二是政策强制，国家要求新建大型数据中心PUE降至1.25以内、国家枢纽节点低于1.2，传统风冷无法合规。双重驱动下，液冷渗透率预计从2024年14%飙升至2026年40%，CDU等核心部件进入强制性采购周期。

「养龙虾」（开源 AI 智能体）等智能体应用如何推高了算力需求？

开源 AI 智能体等智能体内置「心跳机制」，即使用户不主动操作也会持续后台运行并消耗API接口的Token，导致算力消耗远超对话式大模型。部分重度用户单月API调用费用近3万元。这种高频常驻式调用模式，是推理侧Token需求从线性增长跃升为指数爆发的核心驱动之一。

常见问题

为什么「词元」调用量是衡量AI产业阶段最核心的指标？

词元是大模型处理信息的最小计量单位，日均140万亿次的调用量直接等同于用户向模型发起的真实请求量与机器执行任务的工作量。它是连接技术供给与商业变现的结算单位，标志着中国AI已进入基于真实商业调用的词元经济深水区，而非过去巨头主导的模型预训练阶段。

字节跳动采购5万颗天数智芯推理芯片，对A股算力主线意味着什么？

这是一次标志性的训推分离实践。头部云厂商不再用昂贵的高端训练卡覆盖所有场景，而是将高并发、高频的终端推理业务交由性价比更高的国产推理GPU承接。它证明国产AI芯片已实质性跨越能用门槛，进入核心应用链路的大规模商业采购阶段，是国产算力从信创试点向需求驱动转变的里程碑。

CXL技术如何解决「内存墙」问题，为什么会在2026年爆发？

传统CPU与内存紧耦合导致AI推理时内存成为性能瓶颈。CXL通过内存池化将所有内存资源动态分配给需要的计算单元，将内存利用率从40%提升至90%以上。谷歌TPU v8全面整合CXL内存池化技术，标志着该架构从实验室走向规模化，直接利好澜起科技等内存接口与互连芯片供应商。

混合键合（Hybrid Bonding）和微凸块技术的核心区别是什么？

微凸块通过带助焊剂的极小锡球连接芯片，当芯片间距逼近10微米以下时，锡球融化短路、助焊剂残留成为良率瓶颈。混合键合彻底抛弃锡球，通过超高精度设备实现铜对铜纳米级直接压合，互连密度提升上千倍、功耗降低20%，是突破未来3D堆叠的终局工艺。JEDEC放宽HBM4封装高度限制后，混合键合大规模量产节点已后移至HBM5时代（2027年以后）。

液冷温控为何在2026年从「选配」变为「标配」？

两大推力同时作用：一是物理极限，英伟达Vera Rubin平台已官宣100%全面采用液冷，新一代芯片热流密度超出空气散热物理极限；二是政策强制，国家要求新建大型数据中心PUE降至1.25以内、国家枢纽节点低于1.2，传统风冷无法合规。双重驱动下，液冷渗透率预计从2024年14%飙升至2026年40%，CDU等核心部件进入强制性采购周期。

方法论与数据来源

本文数据来源：①国家数据局等部门发布的《全国数据资源调查报告（2025年）》；②TrendForce全球AI数据中心液冷渗透率预测报告（2026年）；③各上市公司2025年年度报告及2026年一季度业绩公告（英维克、澜起科技、长电科技、协创数据）；④Besi 2026年第一季度财务报告及公开披露；⑤国海证券《液冷产业专题研究报告》及市场测算数据；⑥字节跳动、阿里巴巴、腾讯公开资本开支披露。分析框架：从词元消耗量级切入，经训推分离趋势拆解，向四条底层硬件传导链系统映射，最后以风险证伪点闭环。所有具体数字均追溯至上述原始来源。本文不构成投资建议，个别数据因信息披露滞后可能存在误差。

By m8 康哥。m8 主理人，跨市场宏观与行业观察 20 年。

免责声明：本文为基于公开资料的市场观察与分析，不构成任何投资建议、买卖推荐或目标价预测。投资者应独立判断、自行承担风险。所引用机构数据仅作参照，不代表 m8 立场。