GPU 算力 · 采购指南

新加坡团队的 GPU 计算

评估新加坡 AI 团队的 GPU 云成本,从 H200 推理到多 GPU 训练。在您的延迟和居住要求允许的情况下,请求新加坡部署或比较澳大利亚部署。

面向亚洲及全球客户提供服务,可咨询澳大利亚或新加坡部署方案,具体地点、供货和交付时间以确认报价为准

GPU 选型

NVIDIA H100

每个 GPU 的内存
80 GB · PCIe / SXM
公开参考价/GPU 小时 · 澳元
A$ 3.12 – A$ 5.94

适合模型能够装入所选显存配置的训练与推理场景。PCIe 与 SXM 的显存带宽和多卡互联不同,询价时应明确具体版本

获取 GPU 报价
制造商规格

NVIDIA H200

每个 GPU 的内存
141 GB HBM3e
公开参考价/GPU 小时 · 澳元
A$ 5.53 – A$ 6.36

可考虑用于显存需求较高的推理、更大的 KV 缓存,以及超出 80 GB 单卡容量的模型。应比较完整实例配置,而不只看显存容量

获取 GPU 报价
制造商规格

NVIDIA B200

每个 GPU 的内存
180–192 GB HBM3e
公开参考价/GPU 小时 · 澳元
A$ 8.31 – A$ 9.68

可考虑用于采用 Blackwell 兼容软件的大规模训练与推理。需确认计算精度、GPU 数量、NVLink 拓扑和框架版本

获取 GPU 报价
制造商规格

NVIDIA B300

每个 GPU 的内存
288 GB HBM3e
公开参考价/GPU 小时 · 澳元
A$ 10.25 – A$ 10.93

可咨询面向大模型、机器人和仿真的专属多卡算力。B300 与 GB300 属于不同系统配置,报价需明确实际交付方案

获取 GPU 报价
制造商规格

GB300 NVL72 · Pre-order

GB300 开放预订,目标为订单及容量确认后约 6 周就绪,最终交付时间以确认订单为准

获取 GPU 报价

Rubin · NEW

Rubin 开放意向登记,用于咨询后续容量,暂不作为可立即购买的实例。价格及供货需另行确认

提交算力需求

预算要覆盖整个部署

先按 GPU 数量 × 每卡小时价 × 计费时长估算,再加上持久化存储、快照、数据传输、公网 IP 及管理服务。还需确认停止 GPU 后哪些资源继续计费

计算示例,不是报价:8 张 GPU,每卡每小时 A$5,使用 100 小时,GPU 时间费用为 A$4,000,其他服务与税费另计。预留容量可能采用不同计费条款

下单前确认最低租期、计费粒度、取消条款、包含的存储和流量额度、超额费用,以及是否含 GST 或其他适用税费

所示为带日期的公开市场价格参考,并已换算为澳元,不代表 Arvica 报价或实时库存。不同来源可能对应不同实例版本,完整配置、税费及计费单位需在报价中确认

来源审查日期:

运行模型需要多少 GPU 显存

模型权重可先按参数量 × 每个参数的字节数估算。700 亿参数模型采用 FP16/BF16 时,仅权重约需 140 GB(十进制);4-bit 权重理论上约 35 GB,尚未包含量化元数据。KV 缓存、激活值及运行时开销还需额外显存

仅模型权重 · GB(十进制)
模型参数量(十亿)FP16 / BF16INT84 位
81684
32643216
701407035
405810405202.5

以上是容量估算,不是性能测试。上下文长度、批量大小、并发数、精度和训练方法都会改变显存需求。训练还需要梯度与优化器状态空间,请一并提供这些条件以便核实配置

Hugging Face · GPU memory usage ↗

这些参数会影响选型建议

请提供模型名称与规模、训练或推理用途、精度、上下文长度、预期并发、数据集大小、存储、网络需求和软件镜像。若有特定国家的数据驻留要求,请明确说明

技术文档(英文)

面向所在市场的采购建议

对于交互式推理服务,请测量实际新加坡用户和数据源的延迟。包括峰值并发、上下文长度和首次令牌目标的时间。对于批量训练,请比较数据集传输时间、检查点存储和总作业成本,而不是仅仅依赖每小时的 GPU 价格。

如果新加坡托管是强制性的,请分别指定新加坡进行计算、持久数据和备份。我们将以书面形式确认可用位置;本页不承诺新加坡库存。在接受报价之前,请询问开票实体、货币、税务处理和数据传输费用。

区域采购指南: SingaporeMalaysia

订购前的问题

我的数据将存储在哪里?

该订单应指定计算位置、存储位置、备份位置和允许的支持访问权限。为某个国家/地区的客户提供服务与在该国家/地区托管不同。在传输数据之前请求这些详细信息。

如何联系支持,多久能拿到报价

请联系 support@arvica.ai 或提交下方表单。Arvica 核查配置、容量和商业条款后提供报价。可询问预计回复与交付时间,本页不承诺固定报价时限或开通时间

哪款 GPU 对我的模型最快

有意义的比较需要使用相同模型、精度、批量、上下文长度、软件版本及 GPU 数量。可要求提供这些条件下经过验证的实测结果,不能只凭型号判断性能

我可以使用采购订单或预留产能吗?

包括您的法人实体、采购订单参考、要求的条款和计费要求。 Arvica 确认报价中的合同、定金、发票和付款条款。提交此表格不会向您的卡收取费用或提供资源。

中国大陆的客户可以使用该服务吗?

订购前请检查实际客户网络的页面访问、表单提交、SSH 和模型下载路径。海外可用性并不能证明大陆连通性。确认预期工作负载的数据传输和访问要求。

提交算力需求

告诉我们工作负载与部署限制,Arvica 将准备合适的配置方案与报价。你可以使用当前页面语言填写需求