9月1日，美光科技副总裁Mark Kiehlbauch在台湾国际半导体展（SEMICON Taiwan 2026）存储高管峰会上提出，伴随AI模型参数规模从约1亿扩张至100万亿，行业正遭遇“内存墙”瓶颈。为此美光正在探索近GPU NAND、紧密耦合DRAM两类新型存储架构，尝试补齐AI存储层级之间的性能缺口。
近GPU NAND构想是将高耐久NAND闪存部署在GPU封装内部或者紧邻GPU的PCB板上，缩短数据访问路径。该架构牺牲一部分存储密度，换取更高I/O速度、带宽以及读取耐久度。按照演讲推演估算，该方案成本高于常规NAND，但有望相比HBM、DRAM低约一个数量级。该架构定位并非替代HBM，而是新增中间存储层，承接大语言模型权重参数、可复用推理数据、KV缓存等业务数据。
与此同时，美光还在预研紧密耦合DRAM架构，构想把DRAM直接集成至逻辑芯片上方，缩短处理器与内存的数据传输距离。根据本次演讲PPT给出的理论仿真测算，该架构带宽有望超过HBM十倍，每比特能耗约0.75-1.00皮焦，低于HBM的2.75皮焦。Kiehlbauch认为其是下一代高带宽内存的潜在演进方向，与近GPU NAND形成互补，前者瞄准极致带宽，后者侧重容量扩展与成本优化。
Kiehlbauch分析认为，现有AI存储体系存在明显断层。美光已经量产的12层堆叠HBM4单堆栈容量36GB、带宽超2.8TB/s，适配英伟达Vera Rubin平台；9650 SSD作为业内首款PCIe Gen6数据中心SSD，顺序读取速度28GB/s，随机读取IOPS达550万，两类产品之间存在较大性能落差。他还透露，美光将把3D DRAM视作未来十年DRAM演进的研究方向，同时探索内存内模拟计算架构，减少数据搬运开销。
（校对/李正操）
