质观工作室_AI算力行业:HBM太贵之后,AI服务器把数据放在哪-KV Cache冷热分层卸载、四级存力重构与算力信用传导_20261117.pdf
摘要
文本
| I S S U E 0 8 T I E R E D M E M O R Y & C R E D I T T R A N S M I S S I O N<br><br>HBM 太贵之后, AI 服务器把数据放在哪⾥<br><br>08<br><br>KV Cache 冷热分层卸载、四级存⼒重构与算⼒信⽤传导<br><br>Yavin 质观 · 独⽴产业研究<br><br>https://zhiguanstudio.cn | 个⼈公开研究免费分享(⾮商业⽤途)<br><br>公众号 个⼈微信<br><br>⾏业研究报告 | 2026.11<br><br> |
|---|
0 0 / E X E C U T I V E S U M M A RY · 核 ⼼ 研 究 结 论 与 关 键 指 标 总 览
存⼒重构核⼼判断:以四级带宽与容量分层替代 单⼀ HBM 堆叠,以⻓协锁量隔离局部信⽤波动
5% 热索引常驻
95% 温冷历史 KV Cache 按 需外迁主机内存与闪存池
MRDIMM 1+10
双 Rank 并⾏复⽤实现带宽翻 倍,CXL 单机扩展率先落地
NVMe FDP + QLC
按⽣命周期物理分块消除写放 ⼤,打开百 TB 闪存空间
LTA vs 1,100bp
头部云⼚⻓协锁定远期产能,局 部⾼息裸租与消费端承压
01
重算税与四级卸载
02
接⼝裂变与闪存分流
03
三季报成⾊分化
04
⻓单护盾与信⽤传导
⻓上下⽂多轮 Agent 交互若丢弃历史状态将付出平⽅级重算税,⽽全量驻留 HBM ⼜受制于 775 微⽶封装限⾼、3 倍以上等效晶圆消耗与近六成加速卡物料占⽐。依托稀疏注意⼒将约 5% ⾼频检索索引常驻 HBM、95% 温冷主⼲缓存向主机内存与闪存分级卸载,vLLM 百万 Token 实测将单请求显存占⽤从 17 GB 压降⾄ 2 GB,⾸字延迟缩短 7.8 倍。
主机内存承接溢出缓存需同步突破容量与带宽瓶颈。新⼀代 DDR5 MRDIMM 在颗粒不超频 前提下通过双 Rank 并⾏复⽤将速率推升⾄ 8,800–12,800 MT/s,单条接⼝套⽚由 1 颗 RCD 增⾄ 1 颗 MRCD 加 10 颗 MDB;持久化层通过 NVMe FDP 按数据存活周期物理分块 写⼊,将写放⼤系数压回 1 附近,使百 TB 级 QLC eSSD 顺畅进⼊推理热路径。
2026 年三季报验证了价值链的结构性迁移:上游晶圆原⼚凭借产能稀缺性掌握定价权,⻓ 鑫科技前三季度营收达 2,690.24 亿元、单季⽑利率升⾄ 89.53%;不背负晶圆库存的澜起 科技前三季度净利率达 59.79%;模组环节则告别单纯囤货价差逻辑,向企业级导⼊与晶圆 级封测制造分化,佰维存储正累计投⼊ 75.9 亿元建设松⼭湖封测基地。
本轮存储周期由覆盖 2027–2028 年的照付不议 LTA ⻓协与⼤客户预付款托底,阻断了传统 现货周期的⽆序波动。但存储涨价向下游传导已呈现显著分化:32GB DDR5 渠道价升⾄约 450 美元挤压消费终端拉货。⽽融资利率达 12%–15%、5 年期 CDS 利差突破 1,100bp 的 ⾼杠杆算⼒租赁商,在租⾦回落情景下⾯临偿债覆盖率跌破违约线的压⼒。
- 0 0 / TA B L E O F C O N T E N T S · 报 告 全 局 研 究 框 架 与 视 觉 资 产 导 航
六章研究架构:从 KV Cache 膨胀与 HBM 物理约 束穿透⾄四级存⼒分层、三季报核验及算⼒信⽤传导
CHAPTER 01 HBM COST & MANUFACTURING WALLS
CHAPTER 02 FOUR-TIER KV CACHE OFFLOADING
HBM 成本倒挂与 AI 服务器内存系统的底层重构
从 GPU 显存到主机内存与闪存池:历史缓存的四级分层 卸载
- · 1.1 三季报利润率倒挂:存储原⼚盈利反超算⼒与代⼯⻰头
- · 1.2 重算税约束、冷热访问分化与 775 微⽶堆叠制造边界 2.1 稀疏注意⼒解耦:5% ⾼频检索索引常驻与 95% 温冷缓存 外溢
·
2.2 跨层异步预取机制、四级存⼒边界与百万 Token 机柜成本 核算
·
CHAPTER 03 MRDIMM (1+10) & CXL POOLING
CHAPTER 04
NVME FDP, QLC ESSD & HBF BOUNDARIES
主机侧带宽与容量突围:MRDIMM(1+10)架构与 CXL 内存池
企业级闪存进⼊推理热路径:NVMe FDP、⼤容量 QLC 与 HBF 边界
3.1 板载焊死与插槽扩展的取舍:RCD 信号中继与主机扩容底 座
·
· 3.2 MRDIMM 双 Rank 多路复⽤增量与 CXL 两阶段商业成熟度 · 4.1 混合⽣命周期写⼊引发的传统 SSD 垃圾回收与尾延迟抖动 4.2 NVMe FDP 物理分流、百 TB 级 QLC 能效与 HBF 只读权 重定位
·
CHAPTER 05 VALUE CHAIN SHIFT & Q3 2026 AUDIT
CHAPTER 06
LTA FIREWALLS, $450 DDR5 & NEOCLOUD DSCR
AI 存储价值链重分配:2026 三季报财务核验与三阶段演 进路标
存储周期的护盾与裂缝:LTA ⻓单锁量、终端挤出与算 ⼒信⽤传导
- · 5.1 接⼝芯⽚、企业级主控模组与晶圆原⼚的三季报业绩分化
- · 5.2 围绕降低静态 HBM 依赖的三阶段商业化兑现节奏 6.1 HBM 三倍晶圆消耗与 2027–2028 照付不议⻓协的周期重 塑
·
6.2 450 美元内存的消费端挤出与⾼杠杆 Neocloud 偿债覆盖率 测试
·
VISUAL & QUANTITATIVE ASSET INDEX · 全报告图表与量化矩阵清单
14 HIGH-RES MEMORY HIERARCHY DIAGRAMS, Q3 EARNINGS MATRICES & CREDIT STRESS CHARTS
· 图05–图08:板载与插槽内存对⽐、MRDIMM 1+10 套⽚原理、
图01–图04:产业链利润率倒挂与 BOM 拆解、HBM 775 微⽶堆 叠剖⾯、KV 冷热分化、四级卸载实证
·
CXL 两阶段架构、NVMe FDP 与 QLC 能效
· 图11–图14:LTA 照付不议⻓协护盾、原⼚保证⾦约束机制、
图09–图10:2026 三季报存储全链财务分化矩阵、存⼒重构三阶 段商业化路标
·
Neocloud 信⽤利差与 15% 利率 DSCR 测试
01
CHAPTER 01 · HBM BOM INFLATION & 775-MICRON PACKAGING WALL
HBM 成本倒挂与 AI 服务器内存系统的底层重构
1.1 三季报利润率倒挂:存储原⼚盈利反超算⼒与代⼯⻰头
2026 年第三季度财报披露完毕后,全球半导体产业链出现了⼀组标志性的盈利结构倒挂:上游存储晶圆 原⼚的利润率全⾯超越下游逻辑算⼒⻰头与先进制程代⼯⼚。SK 海⼒⼠、美光与三星半导体部⻔的单季 营业利润率悉数跨⼊ 72.4%–82.3% 区间,本⼟ DRAM 原⼚⻓鑫科技单季营收达 1,187.14 亿元、归⺟净
利润 544.35 亿元,单季⽑利率升⾄ 89.53%。由于晶圆⼚折旧与洁净室固定制造费⽤相对刚性,当产能满 载且合约价持续上⾏时,原⼚新增营收的边际⽑利率超过九成。相⽐之下,同期英伟达营业利润率约为 63%–66.5%,台积电为 58.7%,海光信息、寒武纪、摩尔线程与沐曦股份四家科创板算⼒芯⽚企业的⽑ 利率则分布在 53.7%–56.6% 区间。
这种盈利倒挂直接源于新⼀代 AI 加速卡的物料成本失衡。拆解 NVIDIA B300 或 Vera Rubin VR200 等旗
舰板卡,台积电先进⼯艺代⼯的两颗核⼼计算裸⽚合计制造成本不⾜ 1,000 美元,⽽环绕计算核⼼排布的 8 颗 HBM 显存⼦系统采购成本⾼达 4,850–5,300 美元,占整卡物料总成本的 56%–60%。⾯对持续膨胀 的显存开⽀,供应链已开始评估是否将下⼀代 Rubin Ultra 部分主⼒配置的 HBM 容量由原规划的 384–
512GB 回调⾄ 192GB;各⼤模型实验室与开源推理社区则同步上线分层缓存卸载⽅案,将低频访问的历 史状态移出昂贵的 GPU 显存。
下游架构重⼼的切换,已在 A 股存储产业链的三季报现⾦流上投射出清晰分化。前期依赖低价囤积消费级
晶圆博取涨价价差的模组⼚,在三季度遭遇⼿机与 PC 终端砍单降配冲击,佰维存储单季归⺟净利环⽐回 落 62%,德明利期末存货升⾄约 290 亿元、前三季度经营现⾦流净流出逾 115 亿元。反观不背负晶圆库 存、卡位服务器内存接⼝芯⽚的澜起科技,三季度归⺟净利同⽐增⻓ 161.98% ⾄ 12.40 亿元;跑通企业 级 eSSD 与服务器 RDIMM 导⼊的江波⻰,也在三季度单季实现经营活动现⾦流转正⾄ 8.77 亿元。
EXHIBIT 01 2026 三季报产业链利润率倒挂与旗舰加速卡 HBM 物料占⽐拆解
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
表 1:历代旗舰 AI 加速卡 HBM 物料成本占⽐演进与 2026Q3 产业链利润率倒挂全景对标
旗舰 AI 加速卡 / 对 标主体
核⼼存储配置 / 财 务指标
计算裸⽚成本 / 营收规模
HBM ⼦系统成本 / 利润表现
核⼼占⽐ / 利润 率指标
产业经济含义与硬件演进指向
NVIDIA H100 80GB HBM3 ~$300 ~$1,350 BOM 占⽐ 40.7%
训练时代 HBM 成本尚处可控区间
NVIDIA B200 192GB HBM3E (8-
~$680 ~$2,900 BOM 占⽐
单卡显存翻倍,HBM 成为第⼀⼤单 ⼀物料
45.3%
Hi)
NVIDIA B300 288GB HBM3E
~$750 ~$4,850 BOM 占⽐
12 层堆叠良率溢价推升显存成本突 破五成
56.4%
(12-Hi)
NVIDIA Vera Rubin (VR200)
~$950 ~$5,300 BOM 占⽐
288GB HBM4 (8Hi)
两颗 3nm GPU 核⼼不⾜千美元,8 颗 HBM 超五千美元
58.2%
Rubin Ultra(⾼配 vs 传闻控本)
~$1,800 ~$8,500–$10,000 BOM 占⽐
384–512GB vs 传 闻讨论 192GB
逼近六成触发下游算⼒⼚与云⼚开 启“HBM 减负”
>62.0%
⻓鑫科技 / 美光 / 海 ⼒⼠
89.5% / 86.8% / 79.7%
2026Q3 存储晶圆 原⼚盈利
⻓鑫 Q3 营收 1,187 亿元
⻓鑫 Q3 净利 544 亿元
存储原⼚利润率全⾯反超英伟达 (65%)与台积电(58.7%)
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
当云服务商与模型⼚商不再愿意为每⼀份历史上下⽂⽀付⾼昂的 HBM 溢价,AI 服务器的存⼒层级必然迎 来系统级重设计。理解这场重构的起点,在于从底层算⼦逻辑厘清⻓上下⽂多轮 Agent 交互下的“重算税”
与 KV Cache 膨胀机制。
1.2 重算税约束、冷热访问分化与 775 微⽶堆叠制造边界
⼤模型在线服务包含计算密集型的预填充与访存带宽密集型的逐词解码两个阶段。在多轮⼯具调⽤、全量 代码库扫描与⻓⽂档分析场景中,模型每解码⽣成⼀个新 Token,GPU 都必须回溯此前全部上下⽂的特征
信息。若不保留中间状态⽽选择每步从头重算,计算复杂度将随序列⻓度呈平⽅级增⻓,百万字级上下⽂ 每吐出⼀个词都需耗费数⼗秒等待,形成难以承受的算⼒“重算税”。⼯程上规避重复计算的唯⼀通⽤路径 是以空间换时间,将历史 Token 在每⼀层神经⽹络⽣成的键值中间向量保存为 KV Cache,其驻留总体积 由模型层数、键值头数、序列⻓度与并发批次严格决定:
EQUATION · CORE QUANTITATIVE & ECONOMIC MECHANISM
𝑉(KVCache) = 2×𝐿×𝑛kv heads ×𝑑head ×𝑆seq ×𝐵batch ×BytesPerElem
KV Cache 驻留体积随⽹络层数、上下⽂序列⻓度及并发批次线性膨胀,⻓⽂本⾼并发场景下动态缓存规模远超静态模型权重 本⾝。
即便算法端引⼊了稀疏混合专家架构与低精度量化,7×24 ⼩时在线 Agent 持续调⽤外部⼯具并保留⻓周 期会话状态,仍使线上驻留数据体积快速膨胀。以 78 层 MoE 架构的智谱 GLM-5.3 为例,单个 100 万 Token ⻓上下⽂会话产⽣的完整 KV Cache 约达 54 GB;若线上同时承载 128 路活跃并发请求,仅动态产 ⽣的历史缓存总量便⾼达 6.4 TB,数倍于模型参数本⾝的体积。⾯对这⼀容量缺⼝,单纯将单卡 HBM 从 8 层⼀路堆叠⾄ 16 层乃⾄更⾼层数,已同时撞上访问效率与物理制造两道边界。
EXHIBIT 02 HBM3E 与 HBM4 三维堆叠剖⾯:775 微⽶封装限⾼与制造良率边界
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
第⼀道边界来⾃⻓上下⽂数据的冷热访问错配。在百万字级多轮交互中,数据访问频率⾼度不均:当前解 码步真正需要纳秒级⾼频读取的,仅是激活权重、轻量级检索⽬录与最近⽣成的⼀⼩段热窗⼝;⽽占历史 缓存总体积 90%–95% 的早期对话与背景资料虽须保留以备跨段落回溯调⽤,在当前计算步却处于低频待
命的温冷状态。⽤每 GB 采购价⾼达 15–20 美元的 HBM 静态存放海量温冷数据,甚⾄为凑够数 TB 显存 容量⽽额外采购⼗⼏台 8 卡 GPU 服务器,在数据中⼼经济账上极不合算。
第⼆道边界源于 HBM ⾼层堆叠的物理制造极限与晶圆消耗代价。在硬件⼯程上,HBM4 单堆栈峰值带宽 翻倍依靠的是将接⼝位宽由 HBM3E 的 1024-bit 拓宽⾄ 2048-bit,每层核⼼裸⽚提供 512 个数据引脚,
堆叠⾄ 4 层即可跑满全部物理位宽;继续向 12 层、16 层垂直堆叠仅能扩充单颗容量,反⽽因硅通孔链路 拉⻓、寄⽣电容增⼤及内部积热⽽限制⾼频信号速率。与此同时,JEDEC 标准将整颗 HBM 封装⾼度严格 限制在 775 微⽶以内,塞⼊ 12 ⾄ 16 层晶圆意味着单⽚晶圆须背⾯减薄⾄ 25–30 微⽶以下,晶圆翘曲与
微裂纹⻛险急剧上升,键合⼯艺被迫由 MR-MUF 与 TC-NCF 向⾼⻔槛的铜对铜⽆凸点混合键合演进, HBM4 底层控制裸⽚亦转向台积电 12nm/5nm 等先进逻辑⼯艺定制代⼯。综合裸⽚尺⼨扩⼤、TSV 通孔 开销与堆叠良率折损,每⽣产 1 GB HBM 消耗的等效晶圆⾯积⾼达标准 DDR5 的 3 倍以上。
受此约束,AWS Trainium2 与 Meta MTIA 等北美云⼚商⾃研推理芯⽚均严格控制⽚上 HBM 配额,华为 昇腾 950 亦采⽤“⼀芯双构”设计,将计算密集的预填充与带宽密集的解码拆分为两款芯⽚按需配存。⽽在 占市场主⼒的通⽤ AI 服务器上,将温冷缓存向⽚外分级卸载已成为全⾏业的共同演进⽅向。
02
CHAPTER 02 · KV CACHE COLD-HOT SPLIT & FOUR-TIER OFFLOADING
从 GPU 显存到主机内存与闪存池:历史缓存的四级分层卸载
2.1 稀疏注意⼒解耦:5% ⾼频检索索引常驻与 95% 温冷缓存外溢
在不触发重算税、也不损伤⻓⽂本跨段召回精度的前提下将历史缓存移出 GPU,核⼼前提是在算法层完成 冷热数据的物理拆解。以 DeepSeek 动态稀疏注意⼒与智谱 GLM-5.3 的 IndexShare 机制为代表,新⼀ 代模型为庞⼤的历史 KV Cache 建⽴了⼀套紧凑的检索⽬录索引。
EXHIBIT 03 ⻓上下⽂推理的冷热解耦:5% ⾼频检索索引常驻 HBM 与 95% 温冷缓存外溢
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
在每⼀步解码⽣成新词时,GPU 不再遍历全部百万字主⼲历史缓存,⽽是分两步执⾏:先⽤计算开销极低
的轻量检索器扫描⼀遍⽬录索引——在 GLM-5.3 中,每 4 层⽹络共享 1 个检索器,使⽬录索引 Indexer KV 仅占总缓存体积的约 5.1%——快速筛选出与当前语境最相关的前 2,048 个历史 Token 位置;随后仅 抽取这部分约占总量 0.2% 的主⼲缓存参与注意⼒运算,其余 99.8% 未被抽中的历史数据在当前步完全
⽆需读取。即便是阿⾥ Qwen3-Next 等采⽤的线性混合注意⼒架构,因纯线性注意⼒在⻓距离精确检索上 存在精度衰减,⽣产模型仍须保留 12.5%–25% 的全注意⼒层及多轮分⽀状态快照。因此,算法演进省下 的是单步访存数据量,却省不掉总历史保存容量,但它成功在物理上划出了每步必读的 5% 热索引与按需 抽调的 95% 温冷主⼲缓存。
2.2 跨层异步预取机制、四级存⼒边界与百万 Token 机柜成本核算
依托算法层的冷热剥离,推理引擎得以在不拖慢⽣成吞吐的前提下调⽤主机内存资源。vLLM 团队在单台 8×H200 服务器、固定 512GiB 主机内存预算下运⾏ GLM-5.3 百万 Token 推理的 Hybrid HiSparse 实
测,清晰展⽰了⽣产级动态卸载的⼯程机制:每步检索必⽤的 Indexer KV 始终 100% 常驻 GPU HBM; 主⼲历史缓存在显存充裕时同样优先驻留⽚上,仅当百万⻓⽂本或⾼并发挤压显存容量时,系统才按冷热 优先级将较冷缓存块逐步驱逐⾄ CPU 主机内存。⼀旦后续步骤中某块⽚外冷数据再次被检索⽬录命中,
推理引擎便利⽤ GPU 计算第 N-1 层的数⼗微秒窗⼝,经主板 PCIe 通道将第 N 层所需数据异步预取回显 存,⽤计算流⽔掩盖传输延迟,将单请求显存占⽤从 17 GB 压降⾄ 2 GB、⾸字延迟缩短 7.8 倍,避免了 传统⽆差别搬运造成的总线拥堵。
结合⽉之暗⾯ Mooncake、华为 UCM、阿⾥ KVCacheStore 与 DeepSeek 3FS 等⼤规模⽣产集群部署, 新⼀代 AI 推理服务器的存⼒体系正收敛为涵盖 GPU HBM、CPU DDR5/MRDIMM、CXL 扩展内存与企业 级 NVMe SSD 的四级协同架构,各级介质的访问延迟与单位成本边界如下表所⽰。
表 2:新⼀代 AI 推理服务器四层存⼒⾦字塔硬件介质、延迟成本量级与核⼼职责对⽐(注:并⾮所有现有服务器均 配⻬全部四层,但这构成了理解新⼀代推理基础设施演进的核⼼架构模型)
典型访问延迟与单位 成本量级
在 AI 推理系统中的核⼼职责与数据驻留内容
存储层级 主要硬件介质
GPU HBM(HBM3E / HBM4)
极速核⼼计算层:常驻模型权重、每步必读的⾼频检索⽬录(如 Indexer KV,约占 5%)及当前活跃热窗⼝
30–80 纳秒 ~$15–$20/GB
第⼀层 (L1)
CPU DDR5 RDIMM / MRDIMM
70–110 纳秒 ~$4–$8/GB
⼤容量主机⼯作内存层:在 GPU 显存承压时承接动态卸载的温冷主⼲历 史缓存(约占 95%),⽀持跨层⾼速预取
第⼆层 (L2)
第三层 (L3)
CXL 扩展内存(PCIe 5.0/6.0)
150–250 纳秒 ~$4.5–$8.5/GB
插槽外扩展与池化层:突破主板本地 DIMM 插槽物理上限,实现单机内 存扩容、旧 DDR4 压缩复⽤或探索跨机池化
企业级 NVMe SSD(含 FDP / HBF)
跨轮次持久化与“以存代算”层:保存暂停会话的历史记忆、全局共享⻓提 ⽰词前缀与只读冷权重,免去重复预填充计算
10–100 微秒 ~$0.12–$0.25/GB
第四层 (L4)
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
将这套四级分层架构放⼊数据中⼼机柜投资账本,其降本逻辑尤为直接。以同时承载 128 路 100 万 Token 智能体活跃会话、实时产⽣ 6.4 TB 历史 KV Cache 的企业级场景为例:若沿⽤不卸载的纯 HBM 驻留⽅ 案,云⼚商被迫采购 17 台 8×H200 服务器,硬件购置成本⾼达 544 万美元;其中最严重的资源错配在于 每台服务器都必须先在本地 HBM 内重复存放⼀份约 700GB 的静态模型权重,17 台机器合计有 11.9 TB、即总显存容量的 66.5% 消耗在冗余权重副本上,GPU 计算核⼼利⽤率不⾜ 15%。
改⽤分级卸载⽅案将 95% 温冷缓存迁⼊⼤容量主机内存与⾼速企业级 SSD 后,仅需 2 台 8×H200 服务
器即可跑满同等并发计算负载,三年期总拥有成本降幅超过 85%。单次⻓⽂本推理成本的⼤幅下降随即诱 发杰⽂斯效应:过去因算⼒账单过⾼⽽难以规模上线的全天候代码库重构、百万字跨轮次精读等 Agent 负 载快速放量,促使云⼚商将单机并发度推⾄极限,并为每台⾼并发推理服务器同步配⻬ 1.5TB–4TB ⾼速
主机内存与数⼗⾄上百 TB 企业级 SSD。
EXHIBIT 04 四级存⼒分层协同架构与 vLLM 百万 Token 推理卸载实证
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
当数以 TB 计的温冷历史缓存从 GPU 显存向⽚外逐级下沉,硬件瓶颈随即传导⾄服务器主板侧的内存容 量、随机读取带宽与物理插槽上限。
03
CHAPTER 03 · DDR5 MRDIMM (1+10 CHIPSET) & CXL MEMORY POOLING
主机侧带宽与容量突围:MRDIMM(1+10)架构与 CXL 内存池
将海量溢出缓存交由服务器 CPU 侧承接时,硬件⼯程团队会依次遭遇三道递进的物理约束:⾸先是单机
主机内存容量如何从常规的 512GB 跃升⾄ 1.5TB–4TB;其次是单机 8 张 GPU 同时发起跨层预取时,主 机内存读取带宽如何匹配;最后是主板本地内存插槽全部插满后,如何继续横向扩容。这三重⼯程约束, 直接决定了 DDR5 RDIMM、MRDIMM 与 CXL 的商业落地次序。
3.1 板载焊死与插槽扩展的取舍:RCD 信号中继与主机扩容底座
在双路服务器主板上,16 ⾄ 32 个内存插槽密集挂载着上千颗 DRAM 存储颗粒。若由 CPU 内部内存控制 器直接通过主板⻓⾛线驱动全部颗粒,过⼤的电容负载会导致地址、命令与时钟信号严重衰减失真,因此 数据中⼼⼤容量内存必须采⽤寄存式模组 DDR5 RDIMM。
EXHIBIT 05 主机内存扩容路线对⽐:Grace 板载焊死 LPDDR5X 与双路 x86 服务器 RDIMM 插槽架构
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
DDR5 RDIMM 在内存条中央增设了⼀颗寄存时钟驱动器芯⽚ RCD,并搭配 PMIC 电源管理、SPD 集线器 与温度传感器组成标准接⼝套⽚。CPU 发出的控制与时钟信号先统⼀送达 RCD 完成缓冲整形与驱动放 ⼤,再向模组两侧的 DRAM 颗粒分发,从⽽依靠信号中继稳定⽀撑单根 64GB、128GB 乃⾄ 256GB 的⼤ 容量模组。与之形成鲜明架构对照的是英伟达⽤于 GH200 与 GB200 机柜的 Grace CPU:为换取极致每 ⽡能效与紧凑⾛线,Grace 取消了可插拔插槽,直接将 LPDDR5X 颗粒焊死在计算主板上。这⼀取舍虽借 助 NVLink-C2C 提供了极⾼的⽚间互连带宽,却在⻓上下⽂卸载场景下暴露出两项⼯程短板:⼀是单颗 Grace CPU 的内存容量出⼚即永久锁死在 480GB 上限,⽆法随推理负载插拔扩容⾄ 2TB–4TB;⼆是可 维护性受限,主板上焊死的数⼗颗颗粒⼀旦在⻓期满载下出现单点失效,整块⾼价值计算板卡均须停机返 修。正因如此,拥有 24 ⾄ 32 个可插拔插槽的双路 x86 服务器平台(如 Intel Xeon 6 Granite Rapids 与 AMD EPYC Turin)在⼤容量推理节点中展现出显著的配置灵活性。
3.2 MRDIMM 双 Rank 多路复⽤增量与 CXL 两阶段商业成熟度
插满⼤容量 RDIMM 解决了容量驻留问题,但当单机并发度拉⾼、GPU 显存缓存未命中率跨过 10%–20% 临界点时,8 张 GPU 在数⼗微秒级跨层窗⼝内并发向主机内存发起异步预取,常规 DDR5-4800/6400 的
随机读取带宽很快出现排队拥堵。若将 CPU 内存通道数强⾏翻倍,会导致封装⾯积、引脚数与主板层数 失控;若强⾏翻倍 DRAM 颗粒内部电容的充放电频率,⼜受制于存储⼯艺物理极限。MRDIMM(多路复 ⽤ Rank 内存模组)由此采⽤“内部常速并⾏、外部倍速复⽤”的⼯程折中:在传统 RDIMM 中,模组正反 两⾯的两组独⽴阵列 Rank 0 与 Rank 1 分时串⾏共⽤ 64 位外部总线,同⼀周期仅⼀侧传输 64B 数据⽽ 另⼀侧闲置;MRDIMM 则在不提⾼ DRAM 颗粒原⽣⼯作频率的前提下,令 Rank 0 与 Rank 1 在同⼀时 钟周期各⾃安全输出 64B 数据,交由模组下沿的数据缓冲芯⽚以双倍接⼝速率多路复⽤打包,单周期向 CPU 聚合传输 128B。借此,主机侧传输速率跃升⾄第⼀代 8,800 MT/s 与第⼆代 12,800 MT/s,双路 24
通道服务器的主机内存总带宽突破 1.69–2.46 TB/s。
这⼀复⽤机制重塑了单根内存模组的逻辑芯⽚含量。MRDIMM 将中央驱动器升级为 1 颗多路复⽤寄存时
钟驱动器 MRCD,同时在⾦⼿指上⽅对应 8 组数据字节与 2 组 ECC 校验通道排布 10 颗多路复⽤数据缓 冲器 MDB,构成“1+10”套⽚架构。单根服务器内存条上的核⼼接⼝主芯⽚由传统 RDIMM 的 1 颗直接增 ⾄ 11 颗,⼀台插满 24 根 MRDIMM 的双路推理服务器所需⾼速接⼝主芯⽚随之从 24 颗跃升⾄ 264 颗,
为澜起科技、Rambus 与瑞萨电⼦等掌握⾼速混合信号技术的⼚商打开了确定性的单机增量空间。当然, 单条新增 10 颗⾼速有源芯⽚也抬升了模组功耗与散热密度,对机箱⻛道或冷板设计提出更⾼要求,且必 须由⽀持该协议的新⼀代服务器 CPU 内存控制器、主板⾛线与 BIOS 固件协同配合。
EXHIBIT 06 DDR5 MRDIMM 双 Rank 多路复⽤原理与 1+10 接⼝芯⽚套⽚架构
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
表 3:传统 DDR5 RDIMM 与新⼀代 MRDIMM 传输速率、双路带宽及“1+10”接⼝芯⽚配置演进对⽐
双路 24 通道 理论总带宽
主机侧传输速 率 (MT/s)
单通道峰 值带宽
单根内存条的核⼼接 ⼝芯⽚配置
底层⼯作机制与⼯程代 价
内存模块代际
平台⽀持与商业化阶段
常规 DDR5 RDIMM
1 颗 RCD + PMIC + SPD + TS
4,800 – 6,400 38.4 – 51.2 GB/s
0.92 – 1.23 TB/s
双 Rank 分时串⾏访 问,单周期传 64B
已⼤规模成熟商⽤,⼦ 代持续迭代
MRDIMM 第⼀代
- (Gen1)
8,800 70.4 GB/s 1.69 TB/s 1 颗 MRCD + 10 颗 MDB + 配套
双 Rank 并⾏ + 缓冲芯 ⽚复⽤传 128B
Intel Xeon 6 / AMD Turin 已⽀持导⼊
MRDIMM 第⼆代
- (Gen2)
12,800 102.4 GB/s
2.46 TB/s 1 颗 Gen2 MRCD + 10 颗 Gen2 MDB
澜起科技、Rambus 已 完成研发与试产送样
接⼝速率翻倍,模块功 耗与散热要求提升
MRDIMM 远期演 进 (Gen3)
规划 16,000 128.0 GB/s
3.07 TB/s 1 颗 Gen3 MRCD + 10 颗 Gen3 MDB
需下⼀代服务器 CPU 与⾼速信号完整性配合
处于标准与早期预研阶 段
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
受制于主板物理空间与⾼速并⾏信号⾛线⻓度,双路服务器的本地 DIMM 插槽数量通常封顶于 24 ⾄ 32 个。当本地插槽全部插满仍需扩容,或希望跨服务器调配闲置内存时,基于⾼速串⾏链路的 CXL 协议成为 突破本地插槽边界的第三级⽅案。
EXHIBIT 07 CXL 演进路径:第⼀阶段单机内存扩展与第⼆阶段跨服务器内存池化
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
不同于 DDR5 与 MRDIMM 等并⾏内存模组,CXL 是构建在 PCIe 5.0/6.0 串⾏物理接⼝之上、具备硬件 缓存⼀致性的互连协议,包含设备管理⼦协议 CXL.io、加速器缓存协议 CXL.cache 与内存扩展协议 CXL.mem。CXL.mem 允许主机 CPU 直接使⽤原⽣ Load/Store 内存读写指令,穿过 PCIe 串⾏通道访问 外部扩展卡上的 DRAM,将其直接映射进系统物理地址空间。在评估产业落地进度时,必须将 CXL 严格 区分为商业成熟度截然不同的两个阶段。
第⼀阶段的单机内存扩展正率先⾛向商⽤落地。服务器通过空闲 PCIe 插槽或 E3.S 接⼝直接挂载内置
MXC 控制器的 CXL 扩展卡,即可为单机额外增加数百 GB ⾄数 TB 容量与独⽴串⾏带宽通道;经过控制 器虽会引⼊约 80–150 纳秒附加延迟,但在⼤模型数⼗微秒级的跨层块级异步预取窗⼝下可被计算流⽔有 效掩盖。例如阿⾥云已在共享缓存架构中探索 CXL 单机扩展,Marvell 的 Structera 控制器更集成了硬件 级 LZ4 实时内联压缩引擎,⽀持云⼚商将退役服务器拆下的旧 DDR4 内存条插上 CXL 扩展卡继续复⽤以
压低池化成本。相⽐之下,第⼆阶段通过引⼊ CXL 交换机连接独⽴内存机箱、跨多台服务器动态划拨容量 的内存池化⽅案,虽能化解数据中⼼内存搁浅难题,但跨交换机访问会将延迟推⾼⾄ 250 纳秒以上,且牵 涉复杂的内核 NUMA 动态调度与跨节点故障隔离,⽬前仍处于⼩规模概念验证阶段,兑现节奏显著慢于 单机扩展。
04
CHAPTER 04 · NVME FDP, ENTERPRISE QLC SSD & HIGH-BANDWIDTH FLASH
企业级闪存进⼊推理热路径:NVMe FDP、⼤容量 QLC 与 HBF 边界
顺着缓存外溢链路继续向下延伸,当多步 Agent 进⼊⻓达数⼗秒⾄数分钟的外部⼯具调⽤等待,或成千上
万名并发⽤户共享同⼀份数万字的系统提⽰词与⾏业知识库前缀时,若⻓期占⽤断电即失且每 GB 价格仍 在数美元以上的 DRAM,机柜经济账依然承压。⼯程上的⾃然演进是将跨轮次温冷缓存与公共前缀下沉⾄
第四级企业级 NVMe SSD,在后续会话命中时经⾼速 PCIe 直接读回显存、免去 GPU 从头重做预填充计 算的“以存代算”。华为 UCM 在⾦融机构⻓⽂本实测中借此将 48K 上下⽂⾸字延迟从 51 秒压降⾄ 3.8 秒 并消除逾半数重复计算,⽉之暗⾯ Mooncake 与 DeepSeek 3FS(180 个存储节点实现 6.6 TiB/s 聚合读 取吞吐)同样深度依赖这⼀闪存层。
4.1 混合⽣命周期写⼊引发的传统 SSD 垃圾回收与尾延迟抖动
然⽽,若直接⽤传统企业级 SSD 承接⼤模型⾼并发 KV Cache 卸载,很快就会遭遇严重的寿命磨损与读 取卡顿。症结在于 NAND 闪存底层的物理不对称特性:闪存可以按 4KB 或 16KB 的较⼩“⻚”写⼊数据, 却⽆法在原位置直接覆盖改写,重写前必须按数 MB ⾄数 GB 的“物理闪存⼤块”执⾏整块擦除。偏偏在⽣
产级推理环境中,推理引擎下刷⾄ SSD 时混杂三类寿命悬殊的数据流:保留数天⾄数周的静态系统前缀 与公共知识库、维持数分钟⾄数⼗分钟的多轮会话状态,以及显存瞬时承压挤出、数⼗秒后请求结束⽴即 作废的瞬态溢出缓存。
传统企业级 SSD 主控⽆法识别上层数据的存活周期,只能按写⼊时间先后将⻓命前缀、中命会话与短命 溢出数据混写在同⼀个物理闪存⼤块内。⼏⼗秒后,占⽐很⾼的短命溢出⻚批量失效,但同⼀物理块内仍 零星散落着尚在有效期内的⻓命前缀与中命会话。SSD 主控为回收空间,被迫在后台⾼频启动垃圾回收: 先把旧块内残存的有效⻚逐⼀读出并搬迁写⼊新块,再对旧块执⾏耗时数毫秒的整块擦除。这种读改写循 环带来两重代价:⼀是严重的写放⼤,主机仅下发 1GB 缓存写⼊,闪存内部因搬家实际写⼊ 3–4GB 以 上,既侵占内部通道带宽⼜以数倍速度消耗闪存擦写寿命;⼆是读取⻓尾延迟剧烈抖动,⼀旦 GPU 急需 读回某段历史缓存时恰好撞上该通道执⾏数毫秒级后台擦除,读取请求便被阻塞排队,导致 P99.9 尾延迟 骤增数⼗倍,整机 8 张 GPU 被迫空转等待。
4.2 NVMe FDP 物理分流、百 TB 级 QLC 能效与 HBF 只读权重定位
为从根源消除混写⼲扰,Meta 与 Google 联合各⼤原⼚及主控⼚商在 NVMe TP4146 标准中引⼊了灵活
数据放置技术 FDP。FDP ⽆需改动 NAND 颗粒物理结构,⽽是打通了上层推理调度框架与底层 SSD 主控 之间的语义隔离墙:LMCache、华为 UCM 等缓存框架在写⼊ KV Cache 时只需增加⼗余⾏代码,按预计 存活周期附带轻量级放置标识符;⽀持 FDP 的新⼀代企业级主控收到标签后,⾃动将⻓命前缀、中命会话 与短命瞬态溢出流分别引导写⼊彼此独⽴的物理回收单元。当⼏⼗秒后短命请求结束,对应物理块内的数
据同步失效,主控⽆需搬移任何有效数据即可直接整块擦除回收。⽣产实测表明,引⼊ NVMe FDP 可将 推理卸载场景下的写放⼤系数从 3–4 倍以上压平⾄ 1.01–1.16 附近,并将 P99.9 读取⻓尾延迟削减 50%– 80% 以上。
FDP 机制落地直接重塑了第四级闪存的产品格局。⼀⽅⾯,在核⼼机房供电指标紧缺的约束下,61.44TB ⾄ 245TB 超⼤容量 QLC 企业级 SSD 凭借 4.9–6.8 TB/W 的⾼能效密度加速替代传统机械盘与⼩容量闪 存;过去云⼚商顾虑 QLC 颗粒仅约千次级的物理擦写寿命经不起 4 倍写放⼤损耗,如今在 4nm PCIe
- 5.0/6.0 ⾼速主控与 FDP 减磨机制协同下,寿命顾虑⼤幅化解,单台 1U/2U 机架即可⾼密度收纳 PB 级温 冷语料与历史缓存池。另⼀⽅⾯,针对近期闪迪与 SK 海⼒⼠联合推出的⾼带宽闪存 HBF——借⽤类似 HBM 的晶圆减薄与 TSV 垂直堆叠⼯艺将 16 层 3D NAND 堆叠于逻辑底座之上,实现单颗 512GB 容量与 1.6 TB/s 读取带宽——亦须客观界定物理边界:HBF 底层仍是 NAND 闪存,物理读取延迟达 10–25 微 秒,⽐纳秒级 HBM 慢数百倍,最⼩访问粒度为 4KB ⻚且擦写寿命仅 104–105 次。若强⾏⽤ HBF 承载⾼ 频动态改写的活跃 KV Cache,不仅会迅速耗尽擦写寿命,微秒级延迟更会拖垮解码吞吐;其真正合理的 ⼯程定位是专⻔存放固定不变的只读模型权重与冷⻔ MoE 专家参数,释放⽚上 HBM 空间专注服务⾼频计 算。
EXHIBIT 08 企业级 SSD 的 NVMe FDP ⽣命周期物理分流机制与⼤容量 QLC 机柜能效对⽐
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
表 4:第四层闪存技术演进(传统 TLC SSD、NVMe FDP SSD、百 TB 级 QLC SSD 与⾼带宽闪存 HBF)物理边
界与定位对⽐
在 AI 推理服务器中的真实 定位
第四层闪存技术路 线
读写带宽与延迟量 级
核⼼硬件与协议特征
擦写寿命与写放⼤特征
商业化进展
传统企业级 TLC SSD
PCIe 4.0/5.0,常规混 写架构
7–14 GB/s ~80–120 μs
约 3,000–10,000 P/E,混 写下 WAF 达 3–4+
传统通⽤存储,⾼并发 KV 卸载下易受 GC 尾延迟困 扰
存量成熟产 品
新⼀代 NVMe FDP 企业级 SSD
4nm PCIe 5.0/6.0 主 控 + FDP 协议
14–28 GB/s 尾延迟削减 50%– 80%+
AI 推理跨轮次 KV 缓存与 公共⻓前缀持久化主⼒
按⽣命周期物理分块隔 离,WAF 压低⾄接近 1
正在头部云 ⼚加速放量
61.44TB–245TB QLC 企业级 SSD
⾼密度 3D QLC + FDP 减磨协同
14 GB/s 级读速 能效⽐ 4.9–6.8 TB/W
~1,000–1,500 P/E,依靠 FDP 解决擦写寿命痛点
⾼密度温冷缓存池、RAG 向量库与多模态语料底座
北美与本⼟ 云⼚快速导 ⼊
⾼带宽闪存(HBF) 16 层 3D NAND TSV 垂直堆叠 + Base Die
单颗 512GB,读 带宽 1.6 TB/s 10–25 μs
10⁴–10⁵ P/E,延迟⽐ HBM 慢数百倍,不可⾼频 改写
专存只读模型权重与冷⻔ MoE 专家,不可直接替代 HBM
早期标准与 送样验证阶 段
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
05
CHAPTER 05 · Q3 2026 STORAGE VALUE CHAIN AUDIT & THREE-STAGE ROADMAP
AI 存储价值链重分配:2026 三季报财务核验与三阶段演进路标
沿着四级存⼒分层架构核验 2026 年三季报,产业链资本开⽀与⾼⽑利订单正顺着“服务器内存基础扩容、 ⾼速接⼝与互连芯⽚升级、企业级 SSD 主控及模组分化、晶圆原⼚⻓约锁量与先进封测外溢”的次序扩 散。审视各环节上市公司成⾊时,核⼼原则是将已经兑现在三季报利润表中的当期收⼊来源,与尚处平台 导⼊期的新技术期权严格区分。
EXHIBIT 09 2026 三季报全球与本⼟存储产业链业绩验证及现⾦流分化矩阵
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
5.1 接⼝芯⽚、企业级主控模组与晶圆原⼚的三季报业绩分化
内存接⼝与⾼速互连芯⽚⼚商属于纯逻辑与混合信号设计企业,完全不持有⼤宗存储晶圆库存,因⽽免疫 消费电⼦降配引发的存货跌价⻛险,直接受益于服务器内存通道加密、⼦代速率迭代与单条接⼝芯⽚倍 增。澜起科技三季度单季实现营收 20.79 亿元、归⺟净利 12.40 亿元,互连类芯⽚⽑利率达 68.4%,预计 四季度交付的互连在⼿订单达 25.0–27.9 亿元;配套 DDR5 SPD 集线器芯⽚的聚⾠股份与海外接⼝⻰头 Rambus 单季产品盈利同步创下历史新⾼,主攻 PCIe 5.0/6.0 Retimer、交换矩阵与 Leo CXL 控制器的 Astera Labs 单季营收指引亦同⽐翻倍⾄ 5.40–5.60 亿美元。但严谨归因可⻅,上述企业三季报的⾼增主 ⼒仍来⾃ DDR5 第三⾄第五⼦代 RCD 渗透率抬升及 PCIe Retimer 放量,⽽⾮ MRDIMM 或 CXL 已⼤规 模确认收⼊;未来四个季度真正的验证焦点,在于 MRDIMM“1+10”套⽚与 CXL 内存控制器在云⼚商新平 台中的实际出货占⽐拉升节奏。
第四级企业级闪存与模组赛道则在三季报呈现出深刻的现⾦流与商业模式分野。随着三季度智能⼿机与
PC 终端客户因存储涨价启动 10%–20% 砍单并将主流 PC 配置从 1TB 回退⾄ 512GB,单纯依靠低价囤 积消费级晶圆赚取价差的模式⾯临周转压⼒,期末账⾯存货分别达 240.53 亿元与约 290 亿元的佰维存储 和德明利短期均须消化库存与现⾦流流出。⾏业突围正沿两条⾼壁垒路径展开:⼀是以⾃研主控和企业级 产品导⼊穿透云⼚供应链,除慧荣、群联与韩国 FADU 外,阿⾥平头哥⾃研镇岳 510 主控累计出货已逾
50 万颗,⼤普微携⾃研主控及百 TB 级 QLC SSD 导⼊头部互联⽹云⼚,联芸科技加速推进 PCIe 5.0 企 业级主控验证,⽽率先跑通企业级 eSSD 与服务器 RDIMM 组合放量的江波⻰则依托上半年企业级收⼊增
⻓ 208.8%,在三季度单季实现经营活动现⾦流转正⾄ 8.77 亿元;⼆是向晶圆级封测制造延伸,佰维存储 正累计投⼊ 75.9 亿元建设东莞松⼭湖“芯成汉奇”晶圆级先进封测基地,主攻多层柔性堆叠与存算芯粒合封 ⼯艺,以制造⼀体化壁垒跨越单纯模组加⼯的周期局限。
在最上游晶圆原⼚与利基存储端,全球市场份额已分别升⾄约 10% 且对外报价看⻬韩系原⼚的⻓鑫科技 与⻓江存储,正与 SK 海⼒⼠、三星、美光同步采⽤附带预付押⾦与价格⾛廊的多年期⻓约锁定云⼚需
求。与此同时,由于海外三⼤原⼚将洁净室产能优先拨付给⾼⽑利的 HBM 与服务器 DDR5,主动关停退 出部分 SLC NAND 与 DDR3/DDR4 成熟产线,承接⼯控、⽹络通信与⻋载刚需的东芯股份(三季度⽑利 率达 79.31%,单季归⺟净利环⽐增⻓ 59% ⾄ 8.30 亿元)与北京君正直接受益于供给收缩格局。从扩产
周期推演,2026–2027 年新建晶圆⼚与后道 TSV、混合键合产线将持续拉动前道设备与减薄键合材料需 求,⽽全球绿地晶圆⼚形成实质性规模晶圆产出并促使价格⾼位回落的拐点,预计将在 2027 年第四季度 ⾄ 2028 年上半年出现。下表梳理了核⼼产业链公司的当期收⼊结构与下⼀阶段验证指标。
表 5:AI 服务器存⼒重构核⼼产业链公司收⼊来源、2026Q3 财报证据与下⼀步核⼼验证指标总表
核⼼产品与当前主要收⼊ 来源
下⼀阶段核⼼验证指标(区分现实 与期权)
截⾄ 2026Q3 的商业化与财务证据
公司名称
澜起科技 (688008.SH)
DDR5 RCD、 MRCD/MDB 套⽚、PCIe Retimer、CXL MXC
Q3 归⺟净利 12.40 亿元(+162%),互连 ⽑利率 68.4%;Q4 预计交付互连在⼿订单 25.0–27.9 亿元(当前主要由 DDR5 ⼦代 RCD 驱动)
MRDIMM“1+10”套⽚在互连总收 ⼊中的实际占⽐拉升节奏;CXL 控 制器商⽤出货量
Q3 单季扣⾮净利 1.32 亿元(+56%),⽑ 利率 >55%,随服务器 DDR5 渗透率提升 创单季新⾼
DDR5 SPD 集线器芯⽚、 ⼯业级与⻋规级 EEPROM
AI 服务器单机内存插槽满配率提升 与新⼀代 SPD 芯⽚配套份额
聚⾠股份 (688123.SH)
Rambus (RMBS.US)
DDR5 RCD、MRDIMM 接⼝芯⽚组、HBM4/CXL 控制器 IP
Q3 产品收⼊创历史新⾼(1.143 亿美元), 产品⽑利率⾼达 78.3%
北美云⼚商新⼀代 x86 服务器平台 MRDIMM 接⼝芯⽚导⼊放量斜率
Astera Labs (ALAB.US)
Q3 营收指引 5.40–5.60 亿美元(同⽐
Leo CXL 内存控制器在超⼤规模云 ⼚商的实际规模化部署⽐例
PCIe 5.0/6.0 Retimer、 Scorpio 交换芯⽚、Leo CXL 控制器
+138%),Retimer 与交换芯⽚在 AI 机柜⼤ 规模放量
Marvell (MRVL.US)
数据中⼼光互连 DSP、定 制 ASIC、Structera CXL 控制器
数据中⼼收⼊占⽐超 70%,推出内置硬件 LZ4 压缩并⽀持旧 DDR4 复⽤的 CXL 控制 器
云⼚商采⽤ CXL 扩展卡复⽤退役 DDR4 构建⼤容量缓存池的实际采 购量
核⼼产品与当前主要收⼊ 来源
下⼀阶段核⼼验证指标(区分现实 与期权)
截⾄ 2026Q3 的商业化与财务证据
公司名称
⼤普微 / 联芸 科技 (301666 / 688449)
联芸 Q3 营收同⽐ +65.5%;⼤普微⾃研主 控与 61TB/122TB QLC SSD 导⼊头部互联 ⽹云⼚
企业级 PCIe 5.0 SSD 主 控芯⽚、百 TB 级 QLC 企 业级 SSD
头部云⼚商的重复采购订单规模、 PCIe 5.0 / FDP 企业级主控收⼊确 认占⽐
江波⻰ / ⾹农 芯创
(301308 / 300475)
企业级存储组合(eSSD + DDR5 RDIMM)、分销与 ⾃研封测
江波⻰ H1 企业级收⼊ +209%,Q3 单季经 营现⾦流转正(+8.77 亿元);⾹农前三季 营收破千亿
企业级存储业务的持续⽑利率⽔ 平、⾃研主控导⼊⽐例与⼤客户粘 性
Q3 受消费级波动影响净利环⽐回落 62%, 正累计斥资 75.9 亿元 投建松⼭湖晶圆级先 进封测基地
账⾯ 240 亿元存货消化与现⾦流回 流进度、晶圆级先进封测产线良率 与外部客户导⼊
佰维存储 (688525.SH)
嵌⼊式与消费级存储模 组、企业级存储、晶圆级 先进封测
⻓鑫科技 / 东 芯股份 (688825 / 688110)
服务器与移动端 DRAM 晶 圆(⻓鑫);SLC NAND 利基存储(东芯)
⻓鑫 Q3 ⽑利率 89.53%、单季净利 544 亿 元、预收锁量 467 亿元;东芯 Q3 净利 8.30 亿元(环⽐ +59%)
服务器 DDR5/LPDDR5X 产能释放 节奏与 2027Q4–2028H1 全球新晶 圆⼚投产后的价格拐点
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
5.2 围绕降低静态 HBM 依赖的三阶段商业化兑现节奏
EXHIBIT 10 AI 服务器存⼒重构三阶段演进路标:当期规模兑现、平台爬坡与中⻓期期权
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
跳出单⼀芯⽚型号与局部财务指标,围绕 AI 服务器存⼒展开的跨层演进最终指向三项核⼼产业判断。第
⼀,分层卸载削减的是⻓⽂本与⾼并发负载对 HBM 的静态驻留容量依赖,并未消除核⼼矩阵计算与每步 ⾼频索引检索对极⾼带宽显存的刚性需求,HBM 及其配套的极限晶圆减薄、TSV 与先进键合⼯艺仍⻓期
⽴于硬件价值⾦字塔顶端。第⼆,外溢的 TB 级温冷缓存正在系统性抬升主机内存、⾼速互连与企业级闪
存的单机配额,但不同技术路线的商业兑现存在明确时序阶梯:⼤容量 DDR5 RDIMM、PCIe 5.0 Retimer 与搭载 FDP 的企业级 QLC SSD 已进⼊规模业绩兑现期;MRDIMM“1+10”接⼝套⽚与 CXL 单机内存扩展 正随新⼀代服务器平台启动快速爬坡;CXL 跨服务器内存池化与 HBF ⾼带宽闪存则属于更偏中⻓期的技
术期权。第三,存储产业的竞争边界已由单⼀晶圆介质的周期博弈,扩展为涵盖⾼速混合信号接⼝、缓存 ⼀致性协议控制器、4nm 企业级 SSD 主控、晶圆级先进封测与上层异步缓存调度的完整系统⼯程。
主要技术⽂献与核验来源
本报告⼯程实测基准与协议架构核验⾃ vLLM 与 SGLang 团队发布的 GLM-5.3 百万上下⽂ Hybrid
HiSparse 技术报告、⽉之暗⾯与清华⼤学 Mooncake 架构论⽂、华为推理记忆管理器 UCM ⾦融⻓⽂本 实测⽩⽪书、DeepSeek 动态稀疏注意⼒与 3FS ⽂件系统架构报告、Meta 与 Google 联合提交的 NVMe
TP4146 FDP ⽣产评估⽂献、SanDisk 与 SK 海⼒⼠ HBF 技术报告,以及 JEDEC JESD328 MRDIMM、 HBM4 与 CXL 3.1/3.2 标准规范;境内外各上市公司营收、利润率、存货、合同负债及在⼿订单数据均取 ⾃ 2026 年第三季度法定报告与公开披露公告。
06
CHAPTER 06 · TAKE-OR-PAY LTA SHIELD, $450 DDR5 & NEOCLOUD DSCR
存储周期的护盾与裂缝:LTA ⻓单锁量、终端挤出与算⼒信⽤传导
2026 年 10 ⽉韩国半导体出⼝额升⾄ 564.4 亿美元、同⽐增⻓ 259%,头部存储原⼚单季⽑利率逼近⼋⾄ 九成,然⽽全球存储与算⼒板块在⼆级市场却频现剧烈震荡。穿透表观⾏情分歧,必须在资产负债表与信 ⽤链条上严格区分上游“⼀级云⼚ LTA ⻓协防⽕墙”与下游“消费终端物料挤出及⾼杠杆 Neocloud 信⽤裂 缝”。
6.1 HBM 三倍晶圆消耗与 2027–2028 照付不议⻓协的周期重塑
EXHIBIT 11 存储周期定价机制重塑:照付不议 LTA ⻓协护盾与现货合约双轨分化
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
与过去三⼗年原⼚盲⽬抢建产能、任由现货价格⼤幅起落的传统存储周期不同,本轮 AI 存⼒周期的供给弹
性与定价底座已被双重锁定。在物理供给端,每⽣产 1 GB HBM3E/HBM4 因裸⽚尺⼨扩⼤、TSV 通孔⾯ 积开销及多层堆叠良率折损,消耗的等效晶圆⾯积达标准 DDR5 的 3 倍以上;三⼤原⼚ 2026–2027 年新 增洁净室产能⼏乎被 HBM4 与⼤容量企业级 RDIMM/MRDIMM 悉数吸收,从晶圆源头限制了通⽤颗粒的 ⽆序扩产。在商业契约端,⾯向北美四⼤云⼚商与中国头部互联⽹企业,上游原⼚普遍签下了直抵 2027– 2028 年的刚性照付不议 LTA ⻓协,配套上下限价格⾛廊与⾼额预付保证⾦——例如美光已锁定千亿美元
级五年期⻓协与逾 200 亿美元客户押⾦,⻓鑫科技截⾄ 2026 年三季度末账⾯合同负债 70.36 亿元叠加其 他⾮流动负债⻓期锁量押⾦ 396.98 亿元,合计构筑起 467.34 亿元的预收缓冲垫。即便零售现货出现阶段 性回踩,核⼼数据中⼼合约价仍在价格⾛廊保护下保持韧性。
EXHIBIT 12 核⼼存储原⼚ 2027–2028 年⻓单约束条款、预付保证⾦与扩产纪律对标
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
6.2 450 美元内存的消费端挤出与⾼杠杆 Neocloud 偿债覆盖率测试
然⽽,上游数据中⼼存⼒的⾼⽑利正沿着两条薄弱环节向下游传导成本挤压。第⼀重摩擦发⽣在缺乏顺价 能⼒的传统消费电⼦整机端:2026 年秋末,单条 32GB DDR5 内存模组渠道成本升⾄约 450 美元,令主 流轻薄本与中低端智能⼿机的内存加闪存物料占⽐从常规的 10%–12% 抬升⾄ 22%–28% 以上。难以向
终端消费者转嫁涨价的整机⼚被迫推迟⾮刚性备货并下调单机内存配置指引,进⽽导致消费级现货价与数 据中⼼企业级⻓协价出现双轨分化。
更具财务穿透⼒的第⼆重⻛险,潜伏在依赖⾼息债务抢购算⼒与存储集群的新兴算⼒租赁商 Neocloud 资 产负债表上。不同于每年拥有数千亿美元经营性现⾦流的超⼤规模云⼚商,⼆三线算⼒租赁商普遍通过特 殊⽬的实体,以采购的 GPU 与⾼配存储服务器作为抵押品,借⼊年化利率⾼达 12%–15% 的私募信贷或 ⾼收益债。随着单机 HBM 与企业级⼤容量存储涨价推⾼初始资本开⽀、同质化裸卡时租费率却边际回
落,2026 年 11 ⽉部分头部 Neocloud 的 5 年期 CDS 信⽤违约互换利差⼀度突破 1,100bp。
EXHIBIT 13 产业链信⽤传导裂缝:⾼杠杆 Neocloud 债务敞⼝与 CDS 信⽤利差⾛阔机制
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
设单座万卡算⼒与存⼒中⼼总资本开⽀为 C0,债务融资⽐例为 λD(普遍达 70%–80%),加权债务利率为 rd,债务偿还期限为 Tdebt(硬件真实技术迭代周期仅 3–4 年,即便会计折旧拉⻓⾄ 6 年亦⽆法改变物理 残值衰减),集群有效出租率为 u,单卡时租净费率为 ph,扣除电⼒与运维开⽀后,项⽬偿债覆盖率 DSCR 受下式严格约束:
EQUATION · CORE QUANTITATIVE & ECONOMIC MECHANISM
𝑁GPU ⋅8760⋅𝑢⋅𝑝h − OpExpower+maint 𝐶0 ⋅𝜆D ⋅ (𝑟d + 1
DSCR =
)
𝑇debt
当存储涨价推⾼初始资本开⽀且私募债务融资利率达 12%–15% 时,⼀旦集群出租率或单卡时租下滑,项⽬净现⾦流将迅速 跌破 1.0x 偿债覆盖底线。
EXHIBIT 14 算⼒基础设施信⽤重定价压⼒测试:15% 融资成本对五年期项⽬现⾦流的冲击
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
裸⾦属等效 时租 ph
融资利率 rd
集群出租 率 u
项⽬偿债覆盖率 (DSCR)
压⼒测试情景
对上游存储与算⼒供应链的实质传导影响
8.5% 1.68x(安全) 按期履约提取企业级 RDIMM / QLC eSSD ⻓单
92% $2.20 / GPU·h
基准景⽓情景(主权⻓约 锁定)
12.5% 1.06x(紧平衡) 推迟⾮绑定扩产期权,优先采⽤ MRDIMM/eSSD 降 本
82% $1.55 / GPU·h
中度挤压情景(租⾦回落
- 利差⾛阔)
极端信⽤冻结(⽆⻓约裸 租 + 15% ⾼息)
<70% ≤$1.30 / GPU·h
15.0% 0.74x(击穿违 约线)
⼆⼿服务器折价抛售冲击现货,但四⼤云⼚资产负 债表防⽕墙阻断系统性违约蔓延
数据来源与核验⼝径:上市公司法定财报披露、国际通⽤⾏业统计与公开技术⽂献整理(2026.11)。
上述三档压⼒情景清晰揭⽰了信⽤传导的边界:当⽆⻓约保护的⾼杠杆裸租项⽬在 15% 借贷成本与租⾦
回落双重挤压下击穿 0.74x 偿债底线时,局部违约将引发⼆⼿服务器折价出清并冲击渠道现货;但北美四 ⼤云商与中国头部互联⽹⼤⼚稳健的资产负债表及照付不议⻓协,有效阻断了局部信⽤⻛险向上游晶圆原 ⼚的系统性蔓延。本轮存⼒重构中具备持续现⾦流兑现能⼒的主体集中在三类节点:向上掌握先进晶圆产 能与⻓协定价⾛廊的原⼚,向中卡住 MRDIMM、CXL 及 NVMe FDP 主控咽喉的芯⽚企业,以及向下压降
每百万 Token 综合存⼒摊销成本的系统架构定义者。
Y A V I N Z H I G U A N · R E S E A R C H M E T H O D O L O G Y
三级财务-技术-产业链交叉核验体系 · ⾮商业研究声 明
S TAT U T O RY F I L I N G S × S Y S T E M A R C H I T E C T U R E × S U P P LY C H A I N V E R I F I C AT I O N
研究⽅法论、数据核验⼝径与核⼼产业判断
- S1 · JEDEC / OCP 标准与开源推理框架实证(HARDWARE & SOFTWARE CO-VERIFICATION)
四层存⼒参数严格核验⾃ JEDEC DDR5 MRDIMM、CXL 2.0/3.1、OCP NVMe FDP 技术规范及 vLLM / Mooncake / Dynamo ⽣产级缓存卸载实测。
- S2 · 2026Q3 法定财报与跨国财年对⻬(STATUTORY Q3 2026 ALIGNMENT)
SK 海⼒⼠、三星、美光(FY26Q4)、铠侠(FY26Q2)及⻓鑫科技、澜起科技、佰维存储、江波⻰、兆易创新均对 ⻬⾄⾃然年 2026Q3 法定披露⼝径。
- S3 · 资产负债表与信⽤链条穿透(LTA CORRIDOR × DSCR STRESS TEST)
拒绝将现货渠道短期波动混同于数据中⼼⻓协崩塌,通过合同负债锁量⽐与 SPV 算⼒项⽬偿债覆盖率(DSCR)⽅ 程定量界定⻛险传导边界。
- S4 · 公开⾮商业研究声明(NON-COMMERCIAL PUBLIC SHARING)
本报告彻底剔除⼀切未公开公开交流记录、卖⽅机构评级与商业推⼴信息,仅供存储架构⼯程与产业研究⼈员公开 交流。
⾮商业免费分享与免责声明:本报告由「Yavin 质观」基于公开技术⽂献、学术顶会论⽂、国际通⽤⾏业统计及上市公司法定 披露⽂件独⽴整理,仅作个⼈公开研究免费交流分享,⾮商业⽤途。报告内容在任何情况下均不构成任何证券投资建议、个 股评级、⽬标价预测或商业采购依据,读者应当独⽴判断并⾃⾏承担⻛险。
Yavin 质观 · 硬科技与 AI 算⼒产业研究
穿透物理微缩极限、系统⼯程架构与产业链真实财务账本。 官⽅⽹站:https://zhiguanstudio.cn · 个⼈公开研究免费分享(⾮商业⽤途) | HBM太贵之 后,AI服务器把数据放在哪⾥ 扫码关注公众号 添加作者个⼈微信
本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。

