80 GB HBM3
Hopper
具体 GPU 版本、CPU、内存与互联取决于确认后的实例配置，硬件显存参考值不代表已分配资源
厂商规格说明 ↗查看实时价格 →
按需价格为 Arvica 实时目录费率（美元／GPU 小时），在部署时显示。预留与企业价格以 Arvica 已接受的方案为准。
申请算力方案 →确认可用容量
选择按需或预留算力，开通前确认地区、开始时间与访问环境
H100 · Arvica 价格
查看实时价格 →
Arvica 实时目录费率（美元／GPU 小时），按具体配置与当前可用性报价，付款前以签名报价锁定。
申请算力方案 →
租期、规模与专用容量价格以 Arvica 已接受的方案为准。 配置、区域与交付时间在您的方案中确认。
下单受理前确认可用性。 税费及附加服务在付款前确认。
围绕工作负载选择
何时选择此 GPU
适合已有 CUDA 内核的训练任务和推理服务 预留大规模容量前 使用实际序列长度和批次大小进行测试
何时考虑其他型号
显存容量或带宽限制并发时 可比较 H200 若工作负载能受益于新精度格式和软件优化 再评估 Blackwell
显存规划
目录以 80 GB 为参考 H100 的 PCIe、SXM 和 NVL 配置不同 请确认具体版本、分配显存及按卡或按节点计价方式
互联与扩展
多卡性能取决于服务器配置 节点内 NVLink／NVSwitch 与节点间网络需要分别确认
软件兼容性
使用兼容 Hopper 的框架与驱动组合 并在实际机器上验证自定义 CUDA 扩展和集合通信
NVIDIA 硬件参考 ↗ · 选型建议为 Arvica 的评估 请结合实际工作负载验证
准备你的算力环境
操作系统与容器
明确操作系统、框架和容器镜像版本 Arvica 在开通前确认驱动与 GPU 兼容性 模板名称不代表软件许可或已保证预装的镜像
SSH 与私有访问
配置时保存 SSH 公钥 私钥保留在自己的设备上 访问准备就绪后 经核实的部署记录会提供实际主机和登录用户
存储与检查点
容量规划中应区分启动盘、数据集、模型权重与检查点 使用数据卷前确认持久性、备份责任、挂载规则和删除行为
网络与数据位置
按需确认数据进出、公网 IP 访问与私有网络 涉及受监管或位置敏感的数据时 应在提交前通过高级设置指定所需地区
首次连接检查
Arvica 提供经核实的访问信息后 使用私钥及实例页面显示的准确主机与用户名连接 然后检查分配的 GPU 与拓扑
ssh -i ~/.ssh/your_key USER@HOST nvidia-smi nvidia-smi topo -m
将 USER 与 HOST 替换为你自己的部署信息 这些命令用于检查已有机器 不会创建机器
订购前评估任务需求
模型显存
参数量 × 每权重字节数仅估算权重 还需加入 KV 缓存、激活值、临时张量和框架开销 训练还需要梯度与优化器状态
测量有效吞吐
同时记录模型版本、精度、输入输出长度、并发、延迟与错误率 在相同条件下比较完成任务或成功请求的成本
完整成本
计入全部分配 GPU、运行时间、存储、网络、税费与支持 月度估算采用 730 小时方便比较 实际计费周期和最低租期由合同明确
FAQ
如何选择 GPU 数量？
适合已有 CUDA 内核的训练任务和推理服务 预留大规模容量前 使用实际序列长度和批次大小进行测试
显存需要检查什么？
目录以 80 GB 为参考 H100 的 PCIe、SXM 和 NVL 配置不同 请确认具体版本、分配显存及按卡或按节点计价方式
需要准备什么软件？
使用兼容 Hopper 的框架与驱动组合 并在实际机器上验证自定义 CUDA 扩展和集合通信
包含什么互联配置？
多卡性能取决于服务器配置 节点内 NVLink／NVSwitch 与节点间网络需要分别确认
关闭操作系统就能停止计费吗？
不能据此判断 资源配额、存储和预留承诺可能继续计费 请核对合同并通过支持申请对应生命周期操作
销毁后数据会保留吗？
保留方式取决于约定的存储配置 申请销毁前应导出数据 并确认备份与数据卷保留安排
可以立即开通吗？
当前配置进入 Arvica 容量审核，只有基础设施核实后才显示运行状态
实时 GPU 小时价格就是总成本吗？
不一定。按需用量按 Arvica 实时目录费率计费；存储、网络、税费与服务费用会在订购前分项列明，预留或企业条款以您的方案为准
可以使用更大的集群吗？
多节点互联及容量预留需求可通过企业容量入口提交
查看相关 GPU
预订前比较配置
| GPU | 显存参考 | 选型依据 |
|---|---|---|
| H100 | 80 GB HBM3 | 适合已有 CUDA 内核的训练任务和推理服务 预留大规模容量前 使用实际序列长度和批次大小进行测试 |
| H200 | 141 GB HBM3e | 模型权重、KV 缓存和并发请求争用显存时 可测试 H200 根据精度和运行开销 更大显存可能减少跨卡拆分需求 |
| B200 | 180–192 GB HBM3e | 适合已具备 Blackwell 兼容软件栈 且需要低精度加速的工作负载 更换精度时应同时评估质量与吞吐 |
| A100 | 40 / 80 GB HBM2e | 适合已在 Ampere 上验证的应用和可重复实验 应使用具体的 40 GB 或 80 GB 配置比较完整运行时间与显存需求 |
不同配置具体差在哪里
| 配置 | 实际差异 | 下单前确认 |
|---|---|---|
| PCIe · 虚拟机 · 80 GB HBM2e | 虚拟机内使用客户操作系统与分配资源 | 具体卡型、GPU 分配、卡间连接、CPU 与磁盘限制 |
| PCIe · Bare Metal · 80 GB HBM2e | 独立物理主机配置 主机权限以确认服务为准 | 具体卡型、GPU 分配、卡间连接、CPU 与磁盘限制 |
| SXM · 虚拟机 · 80 GB HBM3 | 虚拟机内使用客户操作系统与分配资源 | GPU 数量、NVLink／NVSwitch 拓扑、节点间网络及 NUMA 分布 |
| SXM · Bare Metal · 80 GB HBM3 | 独立物理主机配置 主机权限以确认服务为准 | GPU 数量、NVLink／NVSwitch 拓扑、节点间网络及 NUMA 分布 |
计算实际显存需求
仅权重可按参数量 × 每参数字节数估算 7B 模型 BF16 权重约 14 GB 70B 约 140 GB 还需加上 KV 缓存、激活、框架缓冲和训练状态 这是算术估算 不是可运行保证
衡量有用性能
使用相同模型版本、精度、序列长度和并发 记录首 token 时间、p95 延迟、输出 tokens/s、峰值显存及完整实例费用 训练比较还需记录每步时间及相同质量目标下的收敛情况
性能资料状态
下方提供厂商规格来源 当前尚未发布此配置的 Arvica 应用吞吐实测数据 性能承诺前应进行针对工作负载的验收测试
NVIDIA ↗独立配置 · 预订意向
选择部署配置
向 Arvica 申请 PCIe／SXM、虚拟机及专属裸金属容量，提交需求以获取部署方案。
申请所需配置。主机规格为示例，书面方案将确认容量、地区、最终价格与交付安排。提交询价免费，不代表已预留容量。
4 款可询价配置
需确认容量虚拟机
H100 PCIe
价格以方案为准所选配置与租期由 Arvica 方案报价。 交付时间在方案中确认。
示例配置
- GPU
- 1 × H100
- GPU 显存
- 80 GB HBM2e
- vCPU
- 16
- RAM
- 128 GB
- 存储
- 500 GB
需确认容量裸金属
H100 PCIe
价格以方案为准所选配置与租期由 Arvica 方案报价。 交付时间在方案中确认。
示例配置
- GPU
- 1 × H100
- GPU 显存
- 80 GB HBM2e
- vCPU
- 16
- RAM
- 128 GB
- 存储
- 500 GB
需确认容量虚拟机
H100 SXM
价格以方案为准所选配置与租期由 Arvica 方案报价。 交付时间在方案中确认。
示例配置
- GPU
- 1 × H100
- GPU 显存
- 80 GB HBM3
- vCPU
- 16
- RAM
- 128 GB
- 存储
- 500 GB
需确认容量裸金属
H100 SXM
价格以方案为准所选配置与租期由 Arvica 方案报价。 交付时间在方案中确认。
示例配置
- GPU
- 8 × H100
- GPU 显存
- 80 GB HBM3
- vCPU
- 128
- RAM
- 2048 GB
- 存储
- 4000 GB
Arvica 会跟进容量需求 为你确认合适的配置、价格和交付安排