72-GPU system
Grace Blackwell Ultra
具体 GPU 版本、CPU、内存与互联取决于确认后的实例配置，硬件显存参考值不代表已分配资源
厂商规格说明 ↗需报价
公开参考价 / GPU 小时，Arvica 售价、税费及附加服务以批准报价为准
确认可用容量
选择按需或预留算力，开通前确认地区、开始时间与访问环境
GB300 NVL72
规格、价格与算力配置
GB300 NVL72 是 Grace Blackwell Ultra 机架级平台 应将算力、互联、数据传输与运维作为整体进行部署规划
GB300 NVL72 · 价格参考
| 公开来源 | GPU 版本 | 参考价／GPU 小时 | 价格类型 |
|---|---|---|---|
| 当前未记录该配置可比较的公开费率 请申请具体配置报价 | |||
公开参考费率不代表实时库存或相同实例规格，Arvica 报价会确认完整配置与费用
围绕工作负载选择
何时选择此 GPU
可评估用于持续大模型推理或高通信需求分布式训练的机架容量 提交需求时提供并行方案与服务目标
何时考虑其他型号
可比较 Grace Blackwell 的 GB200 或按更小规模扩展的 B300 节点 软件或数据读取造成瓶颈时 机架级硬件不会自动提升性能
显存规划
NVL72 表示 72 卡系统 需分别确认可用 GPU 显存、配额边界和 CPU 内存 汇总显存不能直接视为普通单卡缓冲区
互联与扩展
明确 NVLink 域及机架间网络 容量协议应包含检查点存储、数据进出路径、电力和散热要求
软件兼容性
同时验证 Arm 兼容主机软件与 Blackwell Ultra GPU 内核 并约定可重复的模型测试与部署验收流程
NVIDIA 硬件参考 ↗ · 选型建议为 Arvica 的评估 请结合实际工作负载验证
准备你的算力环境
操作系统与容器
明确操作系统、框架和容器镜像版本 Arvica 在开通前确认驱动与 GPU 兼容性 模板名称不代表软件许可或已保证预装的镜像
SSH 与私有访问
配置时保存 SSH 公钥 私钥保留在自己的设备上 访问准备就绪后 经核实的部署记录会提供实际主机和登录用户
存储与检查点
容量规划中应区分启动盘、数据集、模型权重与检查点 使用数据卷前确认持久性、备份责任、挂载规则和删除行为
网络与数据位置
按需确认数据进出、公网 IP 访问与私有网络 涉及受监管或位置敏感的数据时 应在提交前通过高级设置指定所需地区
首次连接检查
Arvica 提供经核实的访问信息后 使用私钥及实例页面显示的准确主机与用户名连接 然后检查分配的 GPU 与拓扑
ssh -i ~/.ssh/your_key USER@HOST nvidia-smi nvidia-smi topo -m
将 USER 与 HOST 替换为你自己的部署信息 这些命令用于检查已有机器 不会创建机器
订购前评估任务需求
模型显存
参数量 × 每权重字节数仅估算权重 还需加入 KV 缓存、激活值、临时张量和框架开销 训练还需要梯度与优化器状态
测量有效吞吐
同时记录模型版本、精度、输入输出长度、并发、延迟与错误率 在相同条件下比较完成任务或成功请求的成本
完整成本
计入全部分配 GPU、运行时间、存储、网络、税费与支持 月度估算采用 730 小时方便比较 实际计费周期和最低租期由合同明确
FAQ
如何选择 GPU 数量？
可评估用于持续大模型推理或高通信需求分布式训练的机架容量 提交需求时提供并行方案与服务目标
显存需要检查什么？
NVL72 表示 72 卡系统 需分别确认可用 GPU 显存、配额边界和 CPU 内存 汇总显存不能直接视为普通单卡缓冲区
需要准备什么软件？
同时验证 Arm 兼容主机软件与 Blackwell Ultra GPU 内核 并约定可重复的模型测试与部署验收流程
包含什么互联配置？
明确 NVLink 域及机架间网络 容量协议应包含检查点存储、数据进出路径、电力和散热要求
关闭操作系统就能停止计费吗？
不能据此判断 资源配额、存储和预留承诺可能继续计费 请核对合同并通过支持申请对应生命周期操作
销毁后数据会保留吗？
保留方式取决于约定的存储配置 申请销毁前应导出数据 并确认备份与数据卷保留安排
可以立即开通吗？
当前配置进入 Arvica 容量审核，只有基础设施核实后才显示运行状态
参考价格就是最终账单吗？
最终报价会在订购前明确 GPU、存储、网络、税费与服务费用
可以使用更大的集群吗？
多节点互联及容量预留需求可通过企业容量入口提交