SanDisk闪迪日前展示了其最新研发的高带宽闪存(HBF),这是一种专为 AI 领域设计的新型存储器架构。
wKgZO2e0WEaAbVKYAALZzS1yruI104.png
图源:闪迪官网
在设计上,HBF结合了3D NAND闪存和高带宽存储器(HBM)的特性,能更好地满足AI推理的需求。
HBF的堆叠设计类似于HBM,通过硅通孔(TSVs)将多个高性能闪存核心芯片堆叠,连接到可并行访问闪存子阵列的逻辑芯片上。也就是基于 SanDisk的 BICS 3D NAND 技术,采用CMOS直接键合到阵列(CBA)设计,将3D NAND存储阵列键合在I/O 芯片上。
HBF 打破了传统的 NAND 设计,实现了独立访问的存储器子阵列,超越了传统的多平面方法,这种设计提高了存储器的并行访问能力,从而提升了带宽和吞吐量。
HBF可匹配HBM的带宽,同时以相近的成本实现每个堆栈的容量比HBM高出8到16倍。HBF使用16个核心芯片,单堆栈容量可达512GB,8 个HBF 堆栈可实现 4TB的容量。
wKgZO2e0WFOAHdfaAAI9ycLXMdQ221.png
图源:闪迪官网
wKgZO2e0WFyAJR5gAAInYbZWZC8267.png
图源:闪迪官网
下图显示出,8个HBF堆栈提供高达 4TB容量,可支持AI大模型运行在GPU硬件上,其高容量特性发挥得十分出色。
wKgZPGe0WGmAWSpXAAGfr-B_qtc970.png
据介绍,单颗 HBF可容纳完整的 64B 模型,有望应用于手机端大模型本地化,也适用于自动驾驶、AI玩具、IoT等边缘设备的低功耗、高容量的边缘AI存储需求。
wKgZO2e0WHGAdYY_AAKuBm5hfjA640.png
图源:闪迪官网
不过,HBF主要具备高带宽和容量的特性,但由于NAND闪存的延迟较高,HBF在速度上不如DRAM。因此,该技术针对的是读取密集型 AI 推理任务,而不是延迟敏感型应用。
闪迪将推动HBF的开放标准生态建设,例如建立相同的电气接口,以实现无缝集成,与行业伙伴共同合作,同时闪迪将持续创新推动闪存技术的进步。
根据HBF技术路线图,其第二代产品容量将提升1.5倍,第三代产品提升2倍,第二代产品的读取性能带宽较第一代提升1.45倍,第三代提升2倍,同时能耗也将得到显著下降。
wKgZO2e0WHyAWcdvAADGVtPEzlw829.png
图源:闪迪官网
闪迪表示,AI加速云端和边缘端设备的增长,拉动AI基础设施、AI推理、边缘推理、智能终端等需求。例如2024年eSSD同比增长超过100%,对高性能和高容量eSSD的需求显著提升。我们看到智能手机、PC终端增长恢复,除此之外,还将产生大量的AI应用内容。这些都需要更好的存储产品加以满足所需。
AI大模型的发展最先带旺高带宽内存HBM的需求,配合英伟达GPU用于AI训练。全球三大存储厂商SK海力士、三星电子、美光科技作为主流供应商,受益最多。显然,DeepSeek引爆AI推理应用之后,更多存储新技术架构和产品将有机会推出。闪迪的HBF以其高容量、高性能、低功耗的特性满足AI模型存储和推理需求,正是用于AI推理的新型存储产品当中具有代表性的存在。
我们将继续跟进适用于AI推理的存储产品以及创新型企业和技术等,保持动态报道,也欢迎大家关注。
文章来自:电子发烧友