NVIDIA / Hopper

H200
规格、价格与算力配置

H200 将 Hopper 架构与 141 GB HBM3e 显存结合 适合评估大显存推理、长上下文服务及超过 80 GB 显存需求的训练配置

硬件参考

141 GB HBM3e

Hopper

具体 GPU 版本、CPU、内存与互联取决于确认后的实例配置,硬件显存参考值不代表已分配资源

厂商规格说明
价格状态

A$ 5.53

公开参考价 / GPU 小时,Arvica 售价、税费及附加服务以批准报价为准

参考价格来源
容量

确认可用容量

选择按需或预留算力,开通前确认地区、开始时间与访问环境

PUBLIC PRICE REFERENCES / AUD

H200 · 价格参考

公开来源GPU 版本参考价/GPU 小时价格类型
HyperstackH200 SXM · 141 GBA$ 5.53on-demand
RunpodH200 · 141 GBA$ 6.36secure-pod

公开参考费率不代表实时库存或相同实例规格,Arvica 报价会确认完整配置与费用

围绕工作负载选择

01

何时选择此 GPU

模型权重、KV 缓存和并发请求争用显存时 可测试 H200 根据精度和运行开销 更大显存可能减少跨卡拆分需求

02

何时考虑其他型号

按完成任务成本或成功请求成本比较 H100 与 H200 应用能利用额外显存时才有价值 如需 Blackwell 软件路线 可比较 B200

03

显存规划

NVIDIA 规格为 141 GB HBM3e 和 4.8 TB/s 显存带宽 这些是硬件参数 并非应用吞吐保证

04

互联与扩展

可本地容纳的任务可选择单卡 张量并行需核对节点拓扑 多节点训练还需明确网络和存储设计

05

软件兼容性

保持模型服务、CUDA 运行时和注意力内核与 Hopper 兼容 应在实际并发下测试目标上下文窗口 不只检查权重大小

NVIDIA 硬件参考 · 选型建议为 Arvica 的评估 请结合实际工作负载验证

从配置到访问

准备你的算力环境

操作系统与容器

明确操作系统、框架和容器镜像版本 Arvica 在开通前确认驱动与 GPU 兼容性 模板名称不代表软件许可或已保证预装的镜像

SSH 与私有访问

配置时保存 SSH 公钥 私钥保留在自己的设备上 访问准备就绪后 经核实的部署记录会提供实际主机和登录用户

存储与检查点

容量规划中应区分启动盘、数据集、模型权重与检查点 使用数据卷前确认持久性、备份责任、挂载规则和删除行为

网络与数据位置

按需确认数据进出、公网 IP 访问与私有网络 涉及受监管或位置敏感的数据时 应在提交前通过高级设置指定所需地区

首次连接检查

Arvica 提供经核实的访问信息后 使用私钥及实例页面显示的准确主机与用户名连接 然后检查分配的 GPU 与拓扑

ssh -i ~/.ssh/your_key USER@HOST
nvidia-smi
nvidia-smi topo -m

将 USER 与 HOST 替换为你自己的部署信息 这些命令用于检查已有机器 不会创建机器

订购前评估任务需求

模型显存

参数量 × 每权重字节数仅估算权重 还需加入 KV 缓存、激活值、临时张量和框架开销 训练还需要梯度与优化器状态

测量有效吞吐

同时记录模型版本、精度、输入输出长度、并发、延迟与错误率 在相同条件下比较完成任务或成功请求的成本

完整成本

计入全部分配 GPU、运行时间、存储、网络、税费与支持 月度估算采用 730 小时方便比较 实际计费周期和最低租期由合同明确

RESERVED / CLUSTERS

需要更多容量?

明确 GPU 配额、互联、存储、地点与租期,Arvica 根据工作负载准备容量方案

申请容量

先规划 再测试

模型适配与吞吐取决于精度、软件、批次、上下文及系统拓扑,请依据工作负载评估,不将未经验证的吞吐数字作为承诺

训练费用计算器

FAQ

如何选择 GPU 数量?

模型权重、KV 缓存和并发请求争用显存时 可测试 H200 根据精度和运行开销 更大显存可能减少跨卡拆分需求

显存需要检查什么?

NVIDIA 规格为 141 GB HBM3e 和 4.8 TB/s 显存带宽 这些是硬件参数 并非应用吞吐保证

需要准备什么软件?

保持模型服务、CUDA 运行时和注意力内核与 Hopper 兼容 应在实际并发下测试目标上下文窗口 不只检查权重大小

包含什么互联配置?

可本地容纳的任务可选择单卡 张量并行需核对节点拓扑 多节点训练还需明确网络和存储设计

关闭操作系统就能停止计费吗?

不能据此判断 资源配额、存储和预留承诺可能继续计费 请核对合同并通过支持申请对应生命周期操作

销毁后数据会保留吗?

保留方式取决于约定的存储配置 申请销毁前应导出数据 并确认备份与数据卷保留安排

可以立即开通吗?

当前配置进入 Arvica 容量审核,只有基础设施核实后才显示运行状态

参考价格就是最终账单吗?

最终报价会在订购前明确 GPU、存储、网络、税费与服务费用

可以使用更大的集群吗?

多节点互联及容量预留需求可通过企业容量入口提交

查看相关 GPU

独立配置 · 预订意向

选择部署配置

浏览 PCIe/SXM 及虚拟机/裸金属独立配置 开通前向 Arvica 提交预订需求

配置展示与预订咨询 — 暂不支持直接购买 主机规格为示例 库存、地区与最终价格需确认 提交需求不会自动锁定容量或扣款
B300 Blackwell Ultra

开放预订 · 预计 6 周就绪

预计周期自订单及容量确认起算 具体交付日期以确认订单为准

预订 B300

4 款可咨询配置

需预订虚拟机

H200 PCIe NVL

获取澳元报价交付时间待确认

示例配置

GPU
1 × H200
GPU 显存
141 GB HBM3e
vCPU
16
RAM
128 GB
存储
500 GB
可用库存需确认地区随订单确认服务Arvica Cloud
提交预订需求 咨询后续供货
需预订裸金属

H200 PCIe NVL

获取澳元报价交付时间待确认

示例配置

GPU
1 × H200
GPU 显存
141 GB HBM3e
vCPU
16
RAM
128 GB
存储
500 GB
可用库存需确认地区随订单确认服务Arvica Cloud
提交预订需求 咨询后续供货
需预订虚拟机

H200 SXM

获取澳元报价交付时间待确认

示例配置

GPU
1 × H200
GPU 显存
141 GB HBM3e
vCPU
16
RAM
128 GB
存储
500 GB
可用库存需确认地区随订单确认服务Arvica Cloud
提交预订需求 咨询后续供货
需预订裸金属

H200 SXM

获取澳元报价交付时间待确认

示例配置

GPU
8 × H200
GPU 显存
141 GB HBM3e
vCPU
128
RAM
2048 GB
存储
4000 GB
可用库存需确认地区随订单确认服务Arvica Cloud
提交预订需求 咨询后续供货
自动部署、计量、CPU 与 Spot 购买正在接入中 供货咨询由 Arvica 团队跟进 自动到货提醒尚未启用