正文

HBM显存为何天价?揭秘AI芯片背后的“黄金内存”与海力士登顶之路

编辑:Kala发布时间:14小时前

黄仁勋手中最贵的不是GPU,而是这几块“小黑砖”

在英伟达GTC大会上,黄仁勋举起的GB300主板上,最昂贵的部件并非GPU本身,而是围绕在其周围的几块黑色小方块——它们就是HBM(High Bandwidth Memory,高带宽内存)。作为AI算力的核心支撑,HBM已成为高端AI芯片成本的“半壁江山”。

V4pGstxSubdk8r5Wn5N3MhDZ2t9P59ZHrEXBvz2K.png

从“门外邻居”到“同屋室友”:HBM如何改变芯片布局

传统显卡如RTX 5090将GDDR7显存布置在PCB板上,距离GPU数厘米;而Blackwell等AI芯片则将HBM直接集成进封装内部,紧贴GPU die,距离缩短至毫米级。这种2.5D封装结构通过硅中介层实现超高速互联,8栈HBM3E提供高达288GB容量和8TB/s带宽,成为大模型训练的生命线。

x5cJnKK70AOPvuHRFx7XfLg6cwDiqH9RtIfkMb2z.png VSkij3LrhHjGwrg9bWZMGvB2kyM7DxrDSVtOyIR0.png 4641ppkjq7KZGYwGUImN1BYmqTNWI8vmXTlpqwWw.png

带宽困局:AI芯片为何“吃不饱”

GPU如同高速厨师,每秒可处理海量计算,但若数据供应不足,性能便被严重制约。AI大模型动辄千亿参数,频繁读写显存,使得“喂数据”的速度——即内存带宽——成为瓶颈。HBM通过极致加宽数据通道(单栈1024位,8栈合计8192位),以“车道数量”弥补单线速度劣势,实现远超GDDR7的传输效率。

gqs5Ckn93KvRadeU1I0xroduWvjoLlpJXgvvskLJ.png ZE2AxD2ZpjFA0SsNkj4uG7oaccN1TP9bExa5LJBS.png ZRs8HVHFntwX05ZRpBxsWElWpOukOE6mQpYHesZv.png

三万根线的极限挑战:硅中介层破局

HBM每栈需近4000根互连线,8栈合计超三万根,远超传统PCB布线能力。普通电路板基于玻纤布与铜箔蚀刻,线宽仅几十微米,无法满足密度需求。解决方案是采用硅中介层(silicon interposer)——利用半导体光刻工艺,在硅片上刻画亚微米级走线,将所有连接“埋入”硅基底,实现超高密度互联。

mkIUVGFtGOzuckQpMusYEtCS0YUh3nCC7Pm9923L.png iI8rMJp3rRXfzfhSsZKvH0K3mi5kMR0k7s23NOnV.png KnXZqjjiLvMBD2zPiiKOlFCK1I6nmM2GJmY94HV5.png

向天空要容量:TSV技术打造“DRAM摩天楼”

为满足数百GB容量需求,HBM将多层DRAM芯片垂直堆叠,最高可达12层。层间通信依赖TSV(硅通孔)技术——在芯片上钻出直径仅5微米的垂直通孔。通过Bosch工艺循环“啃、刷、砸”,精准控制蚀刻方向,再电镀铜填充,最终将晶圆背面减薄至30微米,形成贯通各层的“电梯井”。

bQwWtcda68Xia7IYlirufJiNvYne20syzCuRDNwP.png u7H17aahtlkfBLGQN7SSlGrcQasLVo6OTzqWbcVi.png XxZf5j5QKTRR0G6wIIH3BNOXL5AICphQPIPWkDHj.png

封装工艺之争:海力士凭“环氧混凝土”登顶

HBM堆叠存在两大技术路线:SK海力士采用MR-MUF工艺,先整体焊接再灌注环氧树脂“混凝土”,导热性更优;三星与美光则使用TC-NCF,逐层贴合胶膜。随着堆叠层数增加,散热成为关键瓶颈,海力士的方案显著提升良率与热管理能力,赢得英伟达等大客户青睐,稳居全球HBM市场第一。

3Ep3fFlnqZ6KFPWskgRaBGCD9iYSMa0ECS10h5Lg.png

你买的内存条涨价,其实是替AI交了“房租”

1GB HBM消耗的晶圆产能相当于3GB普通DDR5内存。全球产能向HBM倾斜,导致消费级内存供应紧张、价格飙升。消费者为DDR5多付的钱,本质上是在为AI基础设施建设买单。HBM不仅是技术奇迹,更是当前半导体资源重分配的缩影。

b4j2vMflgoZAKvK9pvOlLlOxVLTXefczmU4YWtiW.png SDaRkhgwS2cPV1Szz615pjRwESr3KXFwTRLbzQL4.png