内存瓶颈的救星:硬件内联压缩登场
在AI算力需求爆炸式增长的今天,内存容量和带宽已成为制约性能与成本的关键瓶颈。面对高昂的DRAM价格,一种新的解决方案正从芯片层面破局。Marvell近日发布的Structera CXL控制器系列更新,将硬件内联内存压缩技术推向市场,旨在让每一GB物理内存发挥出数倍的效能。
两款新品,一个核心目标:让内存“更耐用”
新发布的Structera系列包含两款定位不同的产品,共同应对内存挑战。
- Structera X:容量扩展专家。作为CXL内存扩展控制器,它支持DDR5/DDR4,通过CXL 2.0/PCIe 5.0接口提供高达200GB/s的内存带宽,并能管理超过6TB的DDR5内存。其内置的4个ARM Cortex-M7核心负责协调管理任务。
- Structera A:近内存加速悍将。这款产品更侧重于计算加速,集成了16个高性能的Arm Neoverse V2核心(频率达3.2GHz)和4个Cortex-M7核心,配备64MB末级缓存和4条DDR5-6400通道,适合对延迟敏感的高性能计算场景。
核心技术:独立的CDB压缩引擎
两款控制器的灵魂,在于其内置的专用硬件模块——压缩-解压缩模块(CDB)。它的工作方式非常巧妙:
当数据需要写入DRAM时,CDB模块会对其进行实时无损压缩;当CPU或加速器需要读取数据时,CDB再瞬间将其解压还原。整个过程完全独立于主机CPU运行,对应用程序而言是透明的,这意味着开发者无需修改任何一行代码即可享受内存容量倍增的好处。
实际效果:1GB物理内存如何变身3.64GB?
CDB模块采用基于LZ4定制的无损压缩算法,支持4KB和1KB内存页面。在理想情况下,对于全零页面,压缩比最高可达惊人的64:1。
更值得关注的是其在真实混合工作负载下的表现:
- 数据库类数据:平均压缩比达到3.64倍
- XML文档数据:压缩比约为2.75倍
- 程序源代码:压缩比接近2.00倍
这直接意味着,在运行数据库应用时,原本1GB的物理DRAM,现在可以存储和处理相当于3.64GB未压缩数据的内容。
重塑数据中心经济账
这项技术的商业价值在当前的市况下尤为凸显。目前服务器级DDR5 RDIMM的现货价格大约在每GB 27至37美元。构建一个12TB的内存池,仅DRAM成本就接近50万美元。
通过CDB的硬件压缩,相同的硬件采购预算可以获得数倍的有效内存容量,或将达成特定容量目标的成本削减60%-70%。这对于训练大模型、运行内存数据库等“内存吞噬型”AI应用来说,无疑是一场及时雨。
据悉,Structera系列是业内首批将硬件内联内存压缩方案提交至开放计算项目(OCP)规格的产品,预示着该技术有望成为未来数据中心内存架构的新标准。