英伟达 GB200 NVL72 性能超越 AMD MI355X 达 28 倍

在最新公布的 semianalysis inferencemax 基准评测中，signal65 对 deepseek-r1 0528 混合专家（moe）模型的推理能力进行了深度评估。结果显示，英伟达（nvidia）gb200 nvl72 机架级系统在同等规模下，推理性能显著超越 amd instinct mi355x 集群。

混合专家架构的核心优势在于按需调用最适配任务的“专家”子模型，从而提升计算效率；但当模型规模持续扩大时，节点间通信延迟与带宽压力随之加剧，极易演变为系统级瓶颈。

英伟达采用“深度协同设计”理念重构 GB200 NVL72 架构：通过超高速互连技术整合 72 颗 GPU 芯片，并集成高达 30TB 的统一内存池，大幅降低跨芯片数据搬运开销，有效缓解延迟难题。实测数据显示，在相近配置条件下，该系统单卡吞吐量达 75 tokens / 秒，性能约为 AMD MI355X 的 28 倍。

对头部云服务商而言，总体拥有成本（TCO）是部署决策的关键依据。Signal65 结合 Oracle 云平台定价信息分析指出，GB200 NVL72 不仅具备顶尖性能，更展现出极强的成本竞争力——其单位 token 成本仅为 AMD 方案的 1/15，同时支持更高频次的交互响应。

Agent Git Oracle

高级仓库分析与重构指南。基于AI推理识别技术债务与架构反模式。

下载

尽管英伟达当前在 MoE 推理场景中占据明显领先位置，AMD 仍保有差异化优势。报告特别提到，MI355X 凭借大容量 HBM3e 显存，在稠密型（Dense）模型推理任务中依然具备扎实的落地能力。

截至目前，AMD 尚未发布可对标 GB200 NVL72 的新一代机架级产品。不过，随着 AMD Helios 平台与英伟达 Vera Rubin 平台之间的竞争日趋升级，双方在整机架扩展能力、能效比及软件生态层面的博弈将愈发关键。

源码地址：点击下载