GPU 架构

B300 电力、散热与网络要求

使用完整系统的电力、散热、机架、NVLink、跨节点网络与存储要求规划 B300 部署,并严格区分 DGX、HGX 与 OEM 场景。

· Arvica Cloud · 分析与采购指南

从完整系统开始,而不是 GPU TDP

B300 服务器包含 GPU、主机 CPU、系统内存、NVSwitch、网卡、NVMe、风扇与电源。设施规划必须使用所选服务器的额定输入与热规格。不能把 GPU TDP 简单相乘作为安全机架设计,产品家族名称也无法确定电源输入数量、电压、风量、重量或散热方式。

DGX B300 是一个明确标注的参考

NVIDIA DGX B300 用户指南列出 14.5 kW 功耗、最大 49,476.054 BTU/小时散热、10 个机架单元,以及 PSU 设计的 12 个交流电源输入。这些数字描述的是 DGX B300,可用于量级规划,但不能作为 HGX B300 合作伙伴服务器或其他 OEM 实现的规格。

HGX 与 OEM 系统取决于配置

HGX 是由服务器合作伙伴集成的加速计算平台。CPU、主机内存、存储、网卡、机箱、电源与散热可在认证设计中变化。应获取具体 OEM 型号与版本、机架和供电图、热限制、线缆计划、固件矩阵与支持流程。若供应商为 HGX 服务器引用 DGX 数字,应在设施批准前要求系统专属文件。

电力规划

应确认输入电压、供电类型、连接器与 PDU 要求、A/B 冗余行为、电路和机架限制、功率封顶支持、维护隔离,以及交换机与存储余量。还要审查一个或多个供电丢失后的行为;冗余不一定意味着性能完全不受影响。多节点部署应根据所选物料清单计算完整机架与设施负载,而不是只看单台服务器数字。

散热与气流

应把额定散热转换为覆盖入口条件、气流方向、冷热通道、回流风险、风扇故障行为、设施冗余与监控的站点设计。高密度系统可能超出传统服务器房假设。不同平台场景存在风冷与液冷 B300 级系统,不能从 GPU 名称推断散热方式,必须使用完整机架设计并获得当地设施工程批准。

机架密度、重量与维护空间

规划每机架 kW 时还应同时考虑机架单元、静态与移动重量、地板承重、机箱深度、搬运与安装路径、线缆弯曲半径、PDU 放置及前后维护空间。服务器即使机架单元能放下,也可能不满足电力、重量或散热边界。多节点集群还需为网络交换机、存储与管理设备预留空间和电力。

节点内部:NVLink 与 NVSwitch

NVIDIA 为 HGX B300 列出第五代 NVLink:GPU 间带宽 1.8 TB/s,8 卡平台 NVLink 交换总带宽 14.4 TB/s。这是节点内扩展网络。验收时应确认实际 8 卡拓扑与软件可见性,不要把内部 NVLink 域与用于存储、客户端及其他节点的以太网或 InfiniBand 端口混淆。

节点之间:明确完整网络

单节点外部网络承载数据、存储、管理与用户流量;达到 32 GPU 或更多时还可能承载同步集合通信。应明确 InfiniBand 或 RoCE/以太网、网卡型号与数量、链路速率、平面、交换拓扑、超卖比、路由、拥塞控制、光模块,以及与存储和管理的隔离。OEM 网卡布局各异,B300 标签无法回答这些问题。

存储与数据路径

应明确启动盘、本地数据集缓存、检查点空间、模型仓库、共享文件或对象存储、算力停止后的持久性、备份、导入与导出路径。除容量外还要规划吞吐与并发。多节点训练应验证检查点写入与数据集读取不会挤占计算网络或让 GPU 等待数据。

按未来集群设计首个节点

如果未来可能扩展到 32 或 64 GPU,应尽早判断首个节点的网卡、光模块、机架、电力、散热、存储与调度器能否纳入未来设计,并仅在扩展计划可信时预留交换端口与设施余量。兼容首节点可减少返工,但集群仍应由实测单节点利用率与扩展证据证明。

容量方案应包含什么

方案应列明具体系统、GPU SKU 与显存、CPU、内存、本地与外部存储、网卡、网络、机架与电气要求、散热方式、地点、租户模式、支持边界、期限、部署窗口与验收流程。Arvica 可为澳大利亚与亚太规划这些要素;具体可用性、配置、站点、价格与时间以书面方案为准,不能从本文推断。

常见问题

8 卡 B300 服务器使用多少电力?

NVIDIA 为 DGX B300 列出 14.5 kW。HGX 合作伙伴与 OEM 系统可能不同,最终设计必须使用所选完整系统规格。

每套 B300 系统都需要液冷吗?

不一定。散热取决于完整平台与机架设计,应确认所选服务器的方式与设施要求。

相关容量与规划页面

资料来源

资料查阅日期:2026-10-04

  1. NVIDIA DGX B300 System User Guide ↗
  2. NVIDIA DGX B300 User Guide — physical and operational specifications ↗
  3. NVIDIA HGX platform specifications ↗
  4. NVIDIA Enterprise Reference Architecture — HGX components ↗
  5. NVIDIA networking platforms ↗

把分析用于你的工作负载

客户接受报价前不收费,基础设施供应商会在开通前披露。

选型指南与 Pilot 工作表