AI竞赛新焦点:内存与存储
美国芯片设计公司迈威尔科技(Marvell Technology)的股价在今日盘前交易中表现抢眼,涨幅一度超过6%,报205.7美元。这一市场波动直接关联于公司即将发布的一项战略级产品。
解决AI的“数据饥饿症”
随着人工智能模型参数规模的指数级增长,特别是推理任务和KV缓存(Key-Value Cache)的广泛应用,传统的计算架构正面临严峻挑战。迈威尔科技指出,内存的容量、带宽以及与计算单元的连接能力,其重要性已与计算本身并驾齐驱。AI的瓶颈正从“算得快”转向“喂得快”。
技术路径:让数据离计算更近
公司即将推出的解决方案,核心思路是通过一系列软硬件协同优化,减少数据在计算过程中的迁移距离和延迟。这不仅仅是提升单一硬件的性能,更是对系统级架构的重塑。
- CXL(Compute Express Link)技术:被视为打破CPU与内存、加速器之间壁垒的关键互联协议,能实现高效的内存池化和共享。
- 高速存储方案:应对海量模型参数和数据集的高速加载需求。
- 光互连技术:为未来超大规模数据中心内部的数据传输提供高带宽、低功耗的底层连接。
这些技术的融合,目标直指提升整体硬件效率,降低AI运算的总体拥有成本。业内观察家认为,这或许标志着数据中心从“以计算为核心”向“计算与数据并重”的下一代架构演进。