GPU 算力 · 采购指南按模型与预算选择合适的 GPU
比较 AI 训练和推理配置,了解完整使用成本,直接向 Arvica 提交算力需求
面向亚洲及全球客户提供服务,可咨询澳大利亚或新加坡部署方案,具体地点、供货和交付时间以确认报价为准
GPU 选型
NVIDIA H100
- 每个 GPU 的内存
- 80 GB · PCIe / SXM
- 公开参考价/GPU 小时 · 澳元
- A$ 3.12 – A$ 5.94
适合模型能够装入所选显存配置的训练与推理场景。PCIe 与 SXM 的显存带宽和多卡互联不同,询价时应明确具体版本
获取 GPU 报价 →
制造商规格 ↗NVIDIA H200
- 每个 GPU 的内存
- 141 GB HBM3e
- 公开参考价/GPU 小时 · 澳元
- A$ 5.53 – A$ 6.36
可考虑用于显存需求较高的推理、更大的 KV 缓存,以及超出 80 GB 单卡容量的模型。应比较完整实例配置,而不只看显存容量
获取 GPU 报价 →
制造商规格 ↗NVIDIA B200
- 每个 GPU 的内存
- 180–192 GB HBM3e
- 公开参考价/GPU 小时 · 澳元
- A$ 8.31 – A$ 9.68
可考虑用于采用 Blackwell 兼容软件的大规模训练与推理。需确认计算精度、GPU 数量、NVLink 拓扑和框架版本
获取 GPU 报价 →
制造商规格 ↗NVIDIA B300
- 每个 GPU 的内存
- 288 GB HBM3e
- 公开参考价/GPU 小时 · 澳元
- A$ 10.25 – A$ 10.93
可咨询面向大模型、机器人和仿真的专属多卡算力。B300 与 GB300 属于不同系统配置,报价需明确实际交付方案
获取 GPU 报价 →
制造商规格 ↗GB300 NVL72 · Pre-order
GB300 开放预订,目标为订单及容量确认后约 6 周就绪,最终交付时间以确认订单为准
获取 GPU 报价 →Rubin · NEW
Rubin 开放意向登记,用于咨询后续容量,暂不作为可立即购买的实例。价格及供货需另行确认
提交算力需求 →预算要覆盖整个部署
先按 GPU 数量 × 每卡小时价 × 计费时长估算,再加上持久化存储、快照、数据传输、公网 IP 及管理服务。还需确认停止 GPU 后哪些资源继续计费
计算示例,不是报价:8 张 GPU,每卡每小时 A$5,使用 100 小时,GPU 时间费用为 A$4,000,其他服务与税费另计。预留容量可能采用不同计费条款
下单前确认最低租期、计费粒度、取消条款、包含的存储和流量额度、超额费用,以及是否含 GST 或其他适用税费
所示为带日期的公开市场价格参考,并已换算为澳元,不代表 Arvica 报价或实时库存。不同来源可能对应不同实例版本,完整配置、税费及计费单位需在报价中确认
来源审查日期:
运行模型需要多少 GPU 显存
模型权重可先按参数量 × 每个参数的字节数估算。700 亿参数模型采用 FP16/BF16 时,仅权重约需 140 GB(十进制);4-bit 权重理论上约 35 GB,尚未包含量化元数据。KV 缓存、激活值及运行时开销还需额外显存
仅模型权重 · GB(十进制)| 模型参数量(十亿) | FP16 / BF16 | INT8 | 4 位 |
|---|
| 8 | 16 | 8 | 4 |
|---|
| 32 | 64 | 32 | 16 |
|---|
| 70 | 140 | 70 | 35 |
|---|
| 405 | 810 | 405 | 202.5 |
|---|
以上是容量估算,不是性能测试。上下文长度、批量大小、并发数、精度和训练方法都会改变显存需求。训练还需要梯度与优化器状态空间,请一并提供这些条件以便核实配置
Hugging Face · GPU memory usage ↗这些参数会影响选型建议
请提供模型名称与规模、训练或推理用途、精度、上下文长度、预期并发、数据集大小、存储、网络需求和软件镜像。若有特定国家的数据驻留要求,请明确说明
技术文档(英文) →面向所在市场的采购建议
海外GPU采购:询问确切的托管国家、承包实体、计费货币和数据访问安排。订购前请检查中国大陆客户网络的访问情况并确认模型和数据集传输路径。中国大陆以外的成功测试并不能替代。
订购前的问题
我的数据将存储在哪里?
该订单应指定计算位置、存储位置、备份位置和允许的支持访问权限。为某个国家/地区的客户提供服务与在该国家/地区托管不同。在传输数据之前请求这些详细信息。
如何联系支持,多久能拿到报价
请联系 support@arvica.ai 或提交下方表单。Arvica 核查配置、容量和商业条款后提供报价。可询问预计回复与交付时间,本页不承诺固定报价时限或开通时间
哪款 GPU 对我的模型最快
有意义的比较需要使用相同模型、精度、批量、上下文长度、软件版本及 GPU 数量。可要求提供这些条件下经过验证的实测结果,不能只凭型号判断性能
我可以使用采购订单或预留产能吗?
包括您的法人实体、采购订单参考、要求的条款和计费要求。 Arvica 确认报价中的合同、定金、发票和付款条款。提交此表格不会向您的卡收取费用或提供资源。
中国大陆的客户可以使用该服务吗?
订购前请检查实际客户网络的页面访问、表单提交、SSH 和模型下载路径。海外可用性并不能证明大陆连通性。确认预期工作负载的数据传输和访问要求。
提交算力需求
告诉我们工作负载与部署限制,Arvica 将准备合适的配置方案与报价。你可以使用当前页面语言填写需求