AI演算性能の伸び、HBM帯域幅を上回りメモリーウォール深刻化

マイクロンのフェローであるRaghu Sriramaneni氏は、Hot Chips 2026で、AIの演算性能とメモリー帯域幅の差が拡大し、アクセラレーター性能に対する構造的な制約になりつつあると述べた。AIアクセラレーターの演算性能は2年ごとにおよそ3倍に高まっている一方、HBMの帯域幅の伸びは2倍未満にとどまり、データ集約型ワークロードでは演算能力が十分に活用されないリスクが高まっている。マイクロンはまた、MetaのLlama 3に関するデータを引用し、HBMの障害が予期せぬ学習中断の約17%を占めたと指摘した。2基のGPUと12段積層のHBM4スタック8基を組み込んだ新たなパッケージ設計では、メモリーが半導体面積の約90%を占め、GPU面積の8倍超となる一方、同等のHBM容量を実現するには、標準的なDDR5 DRAMの約3倍のウエハー面積が必要となる。マイクロンは、帯域幅、発熱、信頼性、製造上の制約に対応するため、メモリー向けに最適化したSerDesおよびダイ・ツー・ダイPHY、大型のシステム・イン・パッケージ設計、ガラス基板、液冷、ハイブリッドボンディング、フュージョンボンディングに取り組んでいる。

当サイトの情報はAIを用いて生成されており、正確性を保証するものではありません。 参考情報としてご活用ください。