打开APP

HBM,生变!

HBM的下半场,战争的爆发点不在DRAM本身,而在那颗沉在最底部的Base Die。

HBM越来越不像内存了

要理解为什么HBM会变成晶圆代工生意,必须先看HBM4这个关键的技术分水岭。

在HBM3E及更早的技术代际中,HBM的结构相对清晰:上层是多层DRAM堆叠(Core Die),*下是一颗 Base Die。过去,这颗Base Die主要承担物理支撑、TSV(硅通孔)过孔引出以及基础的信号路由。由于功能单一,像存储三巨头(SK海力士、三星、美光)用自家的10nm级DRAM工艺就能顺手把它做了。

但HBM4发生了一些重要变化。

一方面,接口密度物理翻倍。HBM4的总线接口宽度从1024-bit直接翻倍至2048-bit,在此基础上,英伟达在Rubin平台上更将单Pin速率拉高至 11Gbps 以上。要在极其微小的芯片面积内挤入翻倍的 TSV 和 PHY(物理层)电路,传统 DRAM 节点的布线密度和金属层数已触及物理极限。

另一方面,逻辑功能深度下沉。为了追求*的能效与超低延迟,GPU 与 ASIC 厂商开始要求将存储控制器、DFT(可测试性设计)电路,甚至是特定算法的计算模块直接集成到 Base Die中。

SK海力士在官网中也写道,「在HBM4中,逻辑芯片的作用日益凸显。HBM4的研发方向是提升基础芯片的性能,增强HBM堆叠与逻辑芯片之间的连接性,同时降低功耗。」

Base Die已经开始从一颗相对简单的芯片,变成一颗复杂的Logic Base Die。这就撞上了存储原厂的工艺壁垒:存储原厂的Fab基本不具备生产高性能逻辑芯片的12nm、5nm乃至更先进工艺线,两者并不是同一种制造逻辑。因为DRAM制造追求的是存储单元密度和成本,而复杂逻辑电路需要的是逻辑晶体管性能、布线密度以及先进EDA设计能力。

当越来越多逻辑被放进这颗“内存”时,一门过去属于存储厂商的生意,也正在悄悄变成一门晶圆代工生意。于是,晶圆代工厂开始登场。

2024年,SK海力士与台积电宣布合作开发HBM4。当时双方给出的表述其实已经非常耐人寻味——要建立一种由IC设计公司、晶圆代工厂和存储厂商组成的三方合作模式。双方合作的*个目标,就是Base Die。

在HBM3E以前,SK海力士的Base Die基本自己生产;从HBM4开始,则引入台积电先进逻辑工艺。这实际上改变了HBM延续多年的产业分工。以前一颗HBM的主要构成是DRAM制造 + TSV + 堆叠封装。而现在越来越接近:DRAM Core Die + Logic Base Die + Foundry + TSV + Advanced Packaging。

HBM由一颗“特殊的存储器”,越来越像一个小型的Chiplet系统。

定制化HBM的时代加速到来

随着Base Die的逻辑化,HBM正在从过去的标准件迈向定制化。

在今年的台积电技术论坛上,SK海力士透露:未来将通过采用台积电先进逻辑工艺的Base Die,把HBM从标准化产品进一步推向Custom HBM,并加强Memory与Logic的融合。同时在硅谷,SK 海力士已被爆出正在组建专门的 HBM 架构设计团队,其招聘岗位要求不仅覆盖传统 DRAM,还强制要求具备数字设计、PDN(电源分配网络)以及 3nm 以下 Foundry 先进工艺经验。

这已经越来越不像一家传统存储公司的工作方式,反而越来越像一家ASIC公司。

在SK海力士的HBM4之后的产品路线图中,HBM4E 和定制 HBM 被列为关键发展方向。SK海力士的iHBM解决方案是一种面向下一代HBM产品的散热管理技术,旨在提升其在高密度、高带宽环境下的运行稳定性和效率。

(图源:SK海力士)

驱动这一变革的核心力量,来自于下游 AI 芯片巨头对“打破存储墙”的渴望。

所谓Custom HBM,本质上已经开始从“定制内存”,走向Memory-Compute Co-design。这也改变了HBM产业最重要的一层关系。过去存储厂商主要做标准产品。三星、SK海力士、美光按照JEDEC标准开发DDR、LPDDR或者HBM,然后卖给客户。

但AI芯片完全不同。英伟达、AMD、Google、Amazon、Microsoft以及越来越多自研ASIC的云厂商,对Memory Bandwidth、功耗、接口和封装面积的要求都不一样。标准化HBM开始越来越难满足所有客户。因此HBM正在向ASIC非常熟悉的一套商业模式靠近:共同定义规格——共同设计——Foundry流片——先进封装——客户验证。

真正将这一趋势推向高潮的,是英伟达。8月26日,英伟达公布了一项名为NVHBM的新技术。在传统 AI 硬件架构中,内存控制器通常占据着GPU或XPU计算核心内部极其宝贵的先进制程面积。而在 NVHBM 中,英伟达直接做了一次大胆的“乾坤大挪移”:将内存控制器从GPU内部拔出,直接塞进HBM的Base Die中。

据英伟达公布的数据,相比标准HBM4E,NVHBM 最高可带来 30% 的内存带宽提升 和 15% 的功耗下降,同时能直接释放最多 25% 的 XPU 计算核心面积。Amazon 旗下的 Annapurna Labs 已成为首批参与该架构研发的芯片设计团队。

NVHBM与标准HBM相比,芯片面积节省的比较

(图源:英伟达)

这远远超过一次普通的HBM规格升级。因为HBM和GPU之间原本相对清晰的边界,正在变得模糊。过去是GPU负责计算,HBM负责存储。未来可能变成:GPU + Logic Base Die + DRAM共同组成计算系统。Memory Controller只是*步。理论上,未来还可能有更多与数据移动、地址映射、缓存管理甚至特定计算相关的逻辑被迁移到Base Die。

三大HBM厂商,三种代工选择

目前三星、SK海力士和美光实际上已经走出了三种不同的路线。

SK海力士选择的是最典型的专业化分工。自己负责DRAM Core Die和HBM技术,再把先进Logic Base Die交给台积电等Foundry生产。据TrendForce援引韩媒近期报道,SK海力士量产HBM4采用的Base Die来自台积电12nm级制程;而未来HBM4E随着逻辑复杂度进一步提高,业界甚至已经讨论向更先进节点迁移。

与此同时,由于先进逻辑Base Die的成本快速提高,SK海力士也被曝正在考虑Intel Foundry作为潜在第二来源。

三星则恰恰相反。三星同时拥有Memory和Foundry,因此从一开始就选择了更彻底的垂直整合路线。三星今年量产的HBM4使用1c DRAM Core Die,同时Base Die直接采用自家Foundry的4nm逻辑工艺。HBM4E也延续了1c DRAM + 4nm Logic Base Die组合。三星甚至已经规划,在后续HBM产品中将Base Die推进至2nm工艺。

过去三星同时经营Memory和Foundry经常被认为体系庞杂,但在Custom HBM时代,这种模式反而可能产生新的协同优势。因为一颗HBM所需要的DRAM、Logic、先进封装,三星理论上全部可以内部完成。

第三条路线来自美光,它也在从自主开发走向代工拥抱。美光早期HBM4仍强调内部开发和制造CMOS Logic Base Die,但到了HBM4E,其策略已经明显改变。美光在投资者材料中明确表示,HBM4E无论标准版还是定制版Logic Base Die,都将与台积电合作生产,而且公司预计,采用Customized Base Logic Die的HBM4E毛利率将高于标准产品。

这一点很关键。因为它说明HBM厂商自己也开始承认:未来HBM*的附加价值之一,可能不再只是DRAM,而是Base Die里的定制逻辑。

对于晶圆代工厂而言,HBM 的变革意味着巨大的新增量。

在过去 AI 服务器产业链中,代工厂(以台积电为代表)牢牢占据着两个价值最高的金矿:GPU/ASIC逻辑芯片代工 + CoWoS 先进封装。而现在,第三个金矿正在形成——HBM逻辑Base Die。

当然,与GPU相比,HBM Base Die的晶圆需求规模仍然不是一个量级。但它的重要性在于:每增加一颗HBM,就增加了一颗Logic Die。高端AI加速器通常单颗挂载6至8颗HBM,叠加HBM4/4E时代Base Die向12nm、5nm甚至更先进节点迁移,晶圆代工厂在整个 AI 内存系统中的价值占比将被呈指数级放大。

随着HBM从HBM4进入HBM4E、Custom HBM,Base Die制程越来越先进、面积越来越大、逻辑越来越复杂,单颗HBM中属于Foundry的价值量也会随之增加。

这也是Intel为什么可能有机会重新进入这场竞争。Intel Foundry如果直接争夺英伟达、AMD等*GPU的主Compute Die订单,难度极高。但HBM Base Die可能是一个完全不同的切入口。它需要先进逻辑制造能力,却不像GPU那样承担整个系统计算核心的风险;与此同时,SK海力士等存储厂商又有降低供应集中度和成本的动力。

对于Intel而言,这可能是一块比直接挑战台积电先进GPU代工更现实的增量市场。

写在最后

过去几十年,存储产业最典型的商业模式是标准化。产品越标准,规模越大,成本越低。无论DRAM还是NAND,厂商竞争的大部分时间都围绕制程、容量、良率和成本展开。然而,AI正在打破这一逻辑。HBM4把Logic Base Die带入先进制程,HBM4E继续提高Base Die复杂度,而NVHBM又进一步把Memory Controller直接塞进HBM。沿着这条路线继续向前,HBM很可能越来越难被简单定义为“内存”。它会逐渐变成一种:由DRAM、Logic、连接和先进封装构成的Memory System。

于是HBM产业的竞争也正在发生改变。过去是SK海力士vs三星vs美光,未来更可能变成:存储厂商 + 代工厂+ AI芯片厂商 + 先进封装之间的组合竞争。看似只是SK海力士考虑给Intel Foundry一笔Base Die订单,背后的意义其实远比一张代工订单更大。它意味着晶圆代工厂的边界,又向AI系统内部推进了一步。

继CPU、GPU、ASIC之后,下一块进入先进逻辑Foundry体系的芯片,可能正是过去一直被视为存储器一部分的HBM Base Die。HBM还是内存,只是从HBM4开始,它已经越来越像一颗芯片系统。

HBM的下半场,战争的爆发点不在DRAM本身,而在那颗沉在*部的Base Die。

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

【本文由投资界合作伙伴半导体行业观察授权发布,本平台仅提供信息存储服务。】如有任何疑问题,请联系(editor@zero2ipo.com.cn)投资界处理。

相关资讯

相关上市企业

芯片半导体数据总览

最新资讯

热门TOP5热门机构 | VC情报局

去投资界看更多精彩内容
【声明:本页面数据来源于公开收集,未经核实,仅供展示和参考。本页面展示的数据信息不代表投资界观点,本页面数据不构成任何对于投资的建议。特别提示:投资有风险,决策请谨慎。】