跳过CPU!英伟达联手亚马逊:GPU直接控制SSD

短语录 网络资讯 1

5月20日消息,据报道,英伟达与亚马逊正积极推进新一代存储架构研发,该架构将允许GPU直接操控SSD等存储设备,绕过传统CPU调度环节。英伟达计划率先在其下一代Vera Rubin AI平台上导入“GPU发起直接存储访问”(GIDS)技术。

推动这一架构变革的核心原因,是现有冯·诺依曼架构存在先天性数据搬运短板:所有数据必须经由CPU中转、DRAM缓存,才能传输至GPU。

这直接导致了CPU线程处理能力与GPU数万级并行算力之间的严重错配,该矛盾已成为制约AI推理与训练提速的核心瓶颈。

GIDS技术的突破性在于,它允许GPU直接向SSD或高速闪存发出存储访问指令,全程绕过CPU与DRAM,彻底剔除中间调度层级。

为配合GIDS落地,业界推出高带宽闪存(HBF)以突破HBM的容量瓶颈,延世大学宋基焕教授团队的数据显示,6颗HBF搭配2颗HBM可将GPU存储从192GB拉升至3120GB,容量暴增逾16倍。

需要指出的是,HBF适合AI推理场景中存储基本不变的模型参数,高频率训练场景仍需仰赖HBM。

产业布局方面,多方已同步落子。 英伟达主导 GIDS 技术标准,亚马逊优先落地云端算力集群,微软、AMD同步布局自研方案,三星发力Z‑NAND闪存抢占硬件市场。