在澳大利亚规划 32-GPU AI 集群

从工作负载开始，而不是 GPU 数量

只有在工作负载明确后，32 张 GPU 才是拓扑决策。应记录模型架构与规模、训练或推理目标、精度、上下文与批量分布、数据集规模、检查点频率、完成目标、预计利用率与软件栈，并估算显存、计算、通信与存储耗时。能在单节点运行的任务未必受益于四节点；另一些任务可能为满足交付窗口而需要 32 张 GPU。

四节点规划模型

一种实用规划模型是四个完整 8 卡节点。每个节点拥有自己的节点内扩展域，四个节点由独立跨节点网络连接。这是架构模型，不是库存声明，也不保证每种 GPU 家族都以此形式可用。方案中必须确认具体节点平台、GPU SKU、主机规格、本地存储、网卡布局与部署站点。

根据显存与软件证据选择 GPU

H200、B200 与 B300 都可能适用。应比较显存适配、支持精度、框架成熟度、实测单节点吞吐与完整可部署配置。B300 的更大显存可能帮助显存受限训练或推理；当模型可容纳且容量窗口或商务条件更合适时 B200 可能足够；已验证 Hopper 软件栈则可能使用 H200 降低迁移风险。不要把家族营销转为通用排名。

网络与拓扑

集群需要记录完整节点间网络：InfiniBand 或工程化以太网/RoCE 设计、每节点网卡与平面、交换拓扑、超卖比、路由、拥塞处理与故障域。应映射 GPU 到网卡及 CPU 根节点，并用受控 NCCL 集合测试和真实工作负载验证。标称 400 或 800 Gb/s 端口不能证明有效带宽，单节点 NVLink 结果也不能预测四节点扩展。

存储与检查点流量

存储规划应基于数据导入、本地缓存、模型产物、检查点大小与频率、重启目标及导出路径。高速本地 NVMe 可减少重复读取，共享存储则为所有节点提供统一数据集与检查点视图。除容量外还应明确吞吐与并发，避免存储流量意外争用集合通信网络，并在真实负载下测试持续读取与检查点写入。

电力、散热与机架规划

应使用所选完整系统规格，而不是 GPU TDP。作为明确标注的参考，NVIDIA 将 DGX B300 列为 14.5 kW、最大散热约 49,476 BTU/小时。四套同类 DGX 参考系统在交换机、存储与其他设备之前就是 58 kW IT 负载。这个计算不能套用于 HGX OEM 服务器，其电力、散热方式、机架单元、重量与供电设计取决于配置。

数据地点与驻留要求

应明确计算、持久存储、备份、日志与支持访问地点。涉及个人信息时，应与专业顾问审查组织在澳大利亚隐私原则及跨境处理方面的义务。偏好某个澳大利亚城市不同于合同驻留要求；方案应在承诺前明确可部署站点及约定的访问或复制限制。

单租户与访问模式

应明确四台主机是否均为单租户、存储与网络是否共享、谁拥有管理权限、SSH 与服务账户如何管理，以及驱动和固件由谁修补，并包含监控、事件升级与维护责任。专用硬件可简化边界，但不能回答所有控制面、支持或数据生命周期问题。

预留期限与部署窗口

应区分目标开始日期、最晚可投入运行日期、预留期限与扩展选项。询问什么状态算可验收、部分交付如何处理，以及网络与存储是否与算力同时到位。新采购系统的时间线可能不同于现有容量。可用性、价格、地点、配置与时间都应写入方案，本文不作任何确认。

生产使用前的验收

应在期限开始前或约定验收窗口内确定健康、拓扑、网络、存储、热状态与工作负载检查，并保留原始输出与软件版本。Arvica 现有 GPU 租赁验收清单提供了更完整流程，RFQ 应引用它，而不是临时重建清单。验收阈值必须针对实际系统与工作负载约定。

RFQ 应包含什么

RFQ 应包含工作负载与软件、偏好 GPU 与可接受替代、准确 GPU 和节点数量、地点与驻留、网络、存储、租户、访问、期限、开始窗口、支持期望、验收测试及可能扩展到 64 GPU 的路径，并明确未知项。Arvica 可据此准备技术容量方案；提交不会预留基础设施或产生付款义务。

常见问题

相关容量与规划页面

资料来源

资料查阅日期：2026-10-04

1. NVIDIA HGX AI Factory — components ↗
2. NVIDIA NCCL documentation ↗
3. NVIDIA DGX B300 System User Guide ↗
4. OAIC — APP 8 cross-border disclosure ↗