公共云AI算力新标杆:阿里云发布64卡超节点实例

世界人工智能大会的舞台上,阿里云带来了一则重磅消息。其最新发布的灵骏真武M890超节点实例,标志着公共云AI算力服务进入了一个全新的形态。用户现在可以直接获取一个完整、高速互联的64卡算力单元,如同在云端拥有一个随时可用的超级计算机节点。

突破互联瓶颈,释放集群性能

大规模AI训练与推理的核心挑战之一,在于如何让成千上万的GPU高效协同工作。传统的方案往往受限于互联带宽和规模。M890超节点实例的突破性在于其互联架构。

通过搭载自研的ICNSwitch1.0芯片,该实例成功将GPU的Scale-up互联规模从常见的16卡一举提升至64卡。更重要的是,每张GPU卡之间的互联带宽跃升至800GB/s。这种极高带宽、低延迟的网络,确保了在运行庞大模型时,数据能在芯片间快速流动,极大减少了通信等待时间,从而将集群的算力潜力彻底释放。

专为下一代大模型设计

随着模型参数规模向十万亿级别迈进,尤其是混合专家模型架构的普及,对算力基础设施提出了近乎苛刻的要求。灵骏真武M890正是为此类场景量身打造。

它原生支持FP8乃至FP4低精度计算格式。这种支持意味着在保证模型精度的前提下,可以大幅减少内存占用和计算开销,提升能效比。官方数据显示,单个M890超节点实例就足以承载十万亿参数规模的MoE大模型的推理任务,为企业部署和应用最前沿的AI大模型提供了强大的云上基石。

开箱即用,简化AI基建复杂度

对于AI研发团队而言,管理和运维一个大规模的GPU集群是一项极其复杂的工作,涉及硬件部署、网络调优、软件环境配置等多个层面。阿里云此次以“超节点”的形态提供服务,其核心价值在于“开箱即用”。

  • 集成化交付:用户无需自行组装和调试64卡集群,直接获得一个预配置好的高性能算力单元。
  • 无缝接入云生态:作为一项公共云服务,它可以与阿里云上的存储、数据库、网络等其他服务无缝集成。
  • 弹性与敏捷:企业可以根据项目需求灵活申请和使用算力,避免了自建数据中心的重资产投入和漫长的采购周期。

目前,这款超节点实例已经在乌兰察布地域启动邀测。它的问世,不仅为大型科技公司提供了更优选择,也让更多中型企业和研究机构有机会以更低的门槛,触达顶尖的AI算力资源,加速创新应用的落地。