美光研究员拉古·斯里拉马内尼在Hot Chips 2026大会上表示，AI计算性能与内存带宽之间不断扩大的差距，正成为限制加速器性能的结构性瓶颈。AI加速器的计算能力大约每两年提升3倍，而HBM带宽增幅不足2倍，使数据密集型工作负载容易出现计算资源利用不足。美光还援引Meta的Llama 3数据称，HBM故障约占训练意外中断的17%。采用两颗GPU与8组12层HBM4堆栈的全新封装设计中，内存约占半导体面积的90%，是GPU面积的8倍以上；而要实现相同的HBM容量，所需晶圆面积约为标准DDR5 DRAM的3倍。为应对带宽、散热、可靠性和制造方面的限制，美光正在推进针对内存优化的SerDes和芯粒间PHY、更大尺寸的系统级封装、玻璃基板、液冷、混合键合和融合键合。