在存储技术领域，美光公司正积极推进一项创新研究，旨在开发一种新型高耐久性 NAND 闪存模块。与传统存储方案不同，美光计划将这种新型闪存直接部署在 GPU 附近，而非通过多个协议连接到距离较远的存储池。这一设计理念的核心在于缩短数据传输路径，从而提升系统整体性能。
据相关报道，美光正在探索如何让 NAND 闪存更贴近 GPU，以在存储密度和耐久性之间找到平衡点。这种被临时命名为“近 GPU NAND”的产品，主要面向非低延迟、高带宽的工作负载场景。通过将数百 GB 的 NAND 存储池直接集成到 GPU 封装内部或 PCB 上，其工作模式类似于现有的 HBM 和 GDDR7 方案。
与传统 TLC 或 QLC NAND 相比，这种新型 NAND 芯片降低了存储密度，但显著提升了 I/O 速度和带宽。它位于显存和普通存储之间，形成了一个高速缓冲层。这种架构特别适用于处理大规模 AI 大语言模型，能够有效缓解显存容量不足的问题。
当该方案正式落地后，AI 大语言模型的推理过程将不再受显存容量限制。这一突破将为 AI 计算领域带来新的可能性，尤其是在需要处理海量数据的场景中，能够显著提升计算效率和响应速度。
