英伟达 GPU 服务器参考平台，为主流服务器厂商提供 4 卡或 8 卡 GPU 基板与互联方案，是 AI 服务器的事实标准。

NVIDIA HGX 平台

如果你要建一套 AI 训练集群，绕不开一个问题：GPU 怎么装到服务器里。HGX 就是 NVIDIA 给这个问题的答案——一套 GPU 服务器参考基板，主流服务器厂商照着它做产品。你买到的那台八卡 H100 或 H200 服务器，内部结构大概率就是 HGX 的样子。

它到底是个什么东西

HGX 不是一块你能单独买到的显卡，也不是整机。它是一块集成了 4 颗或 8 颗 GPU 的基板（baseboard），连同 GPU 之间的高速互联一起做在板上。服务器厂商（戴尔、浪潮、超微、联想这些）拿这块基板装进自己的机箱，配上 CPU、内存、网卡、电源，做成完整的 AI 服务器卖给你。

关键在互联。8 颗 GPU 通过 NVLink 互相连接，卡与卡之间的带宽远高于走 PCIe 的普通方案。训练大模型时，梯度同步、参数交换极其频繁，卡间通信一旦成为瓶颈，再强的单卡算力也发挥不出来。HGX 把这块做成了标准件，厂商不用自己摸索互联拓扑，客户也不用担心不同品牌服务器之间的互联差异。

谁该关注它

需要跑大模型训练、大规模推理、科学计算的组织。判断标准很简单：如果你的工作负载需要多卡协同，而不是单卡跑跑小模型，那 HGX 这类平台就是基础设施层面的必选项。反过来说，只做轻量推理或单卡够用的场景，没必要上这套东西，成本和功耗都不划算。

4 卡还是 8 卡

HGX 提供两种规格。4 卡版本适合中等规模训练和推理，机箱空间和功耗压力小一些；8 卡版本是主流选择，单机内 8 颗 GPU 全互联，能撑起更大规模的模型并行。选哪个取决于你的模型规模和预算，不是越多越好——8 卡机的供电、散热、机房承重都得跟上。

为什么说它是事实标准

AI 服务器这个市场，NVIDIA 的 GPU 加上 HGX 基板基本定义了产品形态。厂商的差异化更多体现在机箱设计、散热方案、管理软件和交付服务上，核心计算单元是统一的。对采购方来说这是好事：不同品牌的 HGX 服务器在 GPU 层面表现一致，选型时可以更关注售后、交付周期和整体方案，而不是纠结底层算力差异。

具体规格、支持的 GPU 型号和厂商列表，官网页面写得很清楚，选型前值得过一遍。

常见问题

NVIDIA HGX 平台 是什么？

英伟达 GPU 服务器参考平台，为主流服务器厂商提供 4 卡或 8 卡 GPU 基板与互联方案，是 AI 服务器的事实标准。

NVIDIA HGX 平台 的官方网站是什么？

NVIDIA HGX 平台 的官方网站是 https://www.nvidia.com/en-us/data-center/hgx/，可直接在浏览器中打开使用。