比肩HBM,SOCAMM内存模组即将商业化

2025-05-21

电子发烧友网综合报道,SOCAMM即Space - Optimized CAMM(空间优化内存模组技术),是由英伟达主导研发的面向AI计算、HPC、数据中心等领域的高密度内存解决方案。如今AI大模型参数规模达数百亿甚至万亿级别,带来巨大内存需求,但HBM内存价格高昂,只应用在高端算力卡上。SOCAMM则有望应用于AI服务器、高性能计算、AI PC以及其他如游戏、图形设计、虚拟现实等领域。

SOCAMM利用高I/O密度和先进封装实现极高带宽,有694个I/O端口,远超传统内存模块(如DDR5的64 - 128个),采用3D封装技术实现高密度互连,提供接近于HBM3的带宽。接口基于LPDDR5X,理论带宽可达6TB/s,已接近HBM3水平。

基于LPDDR5本身具备的低功耗特性,集成高效的电压调节单元,可根据工作负载实时调整供电策略,尽可能降低能耗,能效水平相比HBM3甚至是GDDR6X更高。

另外,模块体积接近成人中指大小,尺寸仅为行业标准DDR5 RDIMM的约1/3。可以推测其采用了chiplet设计和混合键合技术,将DRAM裸片与逻辑控制器集成在单一封装内。同时,它还采用可拆卸设计,便于用户对内存模块进行灵活升级和更换,解决了传统板载内存成本高昂、缺乏灵活性和不支持升级的问题。

目前,英伟达正在与三星、SK海力士、美光等存储巨头合作,推动SOCAMM内存标准的商业化落地。美光已在2025年3月表示SOCAMM解决方案已实现量产,其通过使用4颗16 - die堆叠的16Gb LPDDR5X颗粒,实现128GB容量,结合128 - bit位宽和8533MT/s速率,为更快的AI模型训练和更高的推理并发用户量提供了关键支持。

SK海力士也在英伟达GTC大会上展示了SOCAMM,其单模块容量128GB,由容量为32GB的4颗芯片组成,采用16颗16Gb LPDDR5X记忆体芯片封装,并采用线键合工艺,数据传输带宽为120GB/s。EBN报告指出,英伟达与内存制造商正在交换SOCAMM原型进行测试,并预计在2025年底开始大规模生产。

不过,近日韩媒表报道称,英伟达已向内存原厂通知SOCAMM这一新外形规格的内存模组将不在GB300世代导入,需要等到Rubin时期才会商业化。

SOCAM是英伟达 GB300 Superchip 原定的改进型 Cordelia 主板设计的一部分。但由于GPU子板信号稳定性、以及SOCAMM 的散热可靠性等问题,英伟达最终决定在GB300主板设计上沿用成熟的 Bianca形式。

SOCAMM作为新一代内存技术,需要与其他硬件和软件系统保持良好的兼容性,以确保其能够顺利应用于各种设备和场景中。同时,SOCAMM还需标准化,以确保不同厂商生产的SOCAMM模块之间能够互换使用,降低用户的更换和升级成本。

文章推荐

相关推荐