GPU コンピューティング · 購入ガイドモデルと予算に合った GPU を選ぶ
AI トレーニングと推論の構成を比較し、全コストを把握し、要件を Arvica に直接送信します。
アジアをはじめ、世界各地のお客様に対応しています。オーストラリアまたはシンガポールでの導入をご相談いただけます。実際の設置場所、供給状況、提供開始日は見積書でご確認ください。
GPUの選択
NVIDIA H100
- GPUあたりのメモリ
- 80 GB · PCIe / SXM
- 公開リファレンス / GPU 時間 · オーストラリアドル
- A$ 3.12 – A$ 5.94
モデルが選択したメモリ構成に適合する場合のトレーニングと推論の開始点。 PCIe と SXM はメモリ帯域幅とマルチ GPU 接続において異なります。正確なバリアントを指定します。
GPU の見積もりを依頼 →
メーカー仕様書 ↗NVIDIA H200
- GPUあたりのメモリ
- 141 GB HBM3e
- 公開リファレンス / GPU 時間 · オーストラリアドル
- A$ 5.53 – A$ 6.36
メモリ集約型の推論、より大きな KV キャッシュ、および 80 GB デバイスを超えるモデルを考慮してください。メモリだけではなく、インスタンス全体の構成を比較します。
GPU の見積もりを依頼 →
メーカー仕様書 ↗NVIDIA B200
- GPUあたりのメモリ
- 180–192 GB HBM3e
- 公開リファレンス / GPU 時間 · オーストラリアドル
- A$ 8.31 – A$ 9.68
Blackwell 互換ソフトウェアを使用した、大規模なトレーニングと推論のワークロードを検討してください。数値精度、GPU 数、NVLink トポロジ、フレームワークのバージョンを確認します。
GPU の見積もりを依頼 →
メーカー仕様書 ↗NVIDIA B300
- GPUあたりのメモリ
- 288 GB HBM3e
- 公開リファレンス / GPU 時間 · オーストラリアドル
- A$ 10.25 – A$ 10.93
大規模モデル、ロボティクス、シミュレーション用の専用マルチ GPU 容量について説明します。 B300 と GB300 は異なるシステム構成です。見積もりでは、どれが提供されているかを識別する必要があります。
GPU の見積もりを依頼 →
メーカー仕様書 ↗GB300 NVL72 · Pre-order
GB300 の予約を受け付けています。ご注文と容量の確保が確認できてから約6週間での提供開始を目指します。確定した提供日は注文書に記載します。
GPU の見積もりを依頼 →Rubin · NEW
Rubin に興味を登録してください。これは将来の容量に関する問い合わせであり、すぐに購入できるインスタンスではありません。価格と在庫状況については確認が必要です。
要件を送信 →導入全体の予算
GPU 数 × 時間料金 × 請求可能時間を見積もります。次に、永続ストレージ、スナップショット、データ転送、パブリック IP、およびマネージド サービスを追加します。 GPU が停止しているときにリソースの課金が継続されるかどうかを確認します。
オファーではなく実際に実行された例: 8 GPU、GPU 時間あたり 5 豪ドル、100 時間 = GPU 時間で 4,000 豪ドル (その他のサービスと税金を除く)。予約されたコミットメントでは、異なる請求条件が使用される場合があります。
注文する前に、最低レンタル期間、請求の粒度、キャンセル条件、含まれる保管および転送手当、超過料金、価格に GST またはその他の適用される税金が含まれているかどうかを確認してください。
これらは、AUD に換算された日付の公開市場参照であり、Arvica のオファーや株式証明ではありません。さまざまなインスタンスのバリアントをカバーする場合があります。見積もりにより、完全な構成、適用される税金、請求単位が確認されます。
ソースレビュー日:
モデルに必要な GPU メモリの量はどれくらいですか?
モデルの重みの最初の推定値は、パラメーター数 × パラメーターあたりのバイト数です。 700 億のパラメータの場合、FP16/BF16 の重みだけで約 140 GB (10 進数) が必要です。 4 ビットの重みは、量子化メタデータの前の約 35 GB から始まります。 KV キャッシュ、アクティベーション、実行時のオーバーヘッドには追加のメモリが必要です。
重みのみ · GB(十進数)| モデルのパラメータ数(十億) | FP16 / BF16 | INT8 | 4ビット |
|---|
| 8 | 16 | 8 | 4 |
|---|
| 32 | 64 | 32 | 16 |
|---|
| 70 | 140 | 70 | 35 |
|---|
| 405 | 810 | 405 | 202.5 |
|---|
これらの計算はパフォーマンスのベンチマークではありません。コンテキストの長さ、バッチ サイズ、同時実行性、精度、トレーニング方法はメモリのニーズを変更します。トレーニングには勾配とオプティマイザーの状態も必要です。これらの設定を共有すると、構成を確認できるようになります。
Hugging Face · GPU memory usage ↗推奨事項を変更する詳細をお知らせください
モデルの名前とサイズ、トレーニングまたは推論、精度、コンテキストの長さ、予想される同時実行数、データセットのサイズ、ストレージ、ネットワーク要件、ソフトウェア イメージが含まれます。データの保管場所として特定の国が必要な場合は、それを明示的に指定します。
Technical documentation (English) →市場別の調達ガイド
日本を拠点とするお客様の場合は、オーストラリアまたはシンガポールの導入を遅延、データの常駐、および調達の要件と比較してください。見積もりで正確なホスティング場所をリクエストしてください。 Arvica はこのページで日本の GPU の在庫を主張していません。
ご注文前の質問
私のデータはどこに保存されますか?
注文には、コンピューティングの場所、ストレージの場所、バックアップの場所、および許可されたサポート アクセスを指定する必要があります。ある国で顧客にサービスを提供することは、その国でホスティングすることとは異なります。データを転送する前に、これらの詳細をリクエストしてください。
サポートへの連絡方法と見積もりまでの時間は?
support@arvica.ai に連絡するか、以下のフォームを送信してください。 Arvica は、見積もりの前に構成、容量、商業条件を確認します。返答予定日と納期を尋ねます。このページでは、固定の見積もり所要時間や有効化時間は約束されません。
私のモデルではどの GPU が最速ですか?
有用な比較には、同じモデル、精度、バッチ サイズ、コンテキスト長、ソフトウェア バージョン、GPU 数を使用します。それらの条件下での検証済みの測定値を依頼してください。このガイドは、測定されていないパフォーマンスを主張したり、顧客が考案した結果を公開したりするものではありません。
発注書または予約容量を使用できますか?
法人、注文書参照、要求された期間、請求要件を含めます。 Arvica は、見積書の契約、手付金、請求書発行および支払い条件を確認します。このフォームを送信しても、カードに請求されたり、リソースがプロビジョニングされたりすることはありません。
中国本土の顧客はサービスを利用できますか?
注文する前に、実際の顧客ネットワークからのページ アクセス、フォームの送信、SSH、およびモデルのダウンロード パスを確認してください。海外での利用可能性は、本土への接続を証明するものではありません。対象となるワークロードのデータ転送とアクセスの要件を確認します。
要件を送信
ワークロードと導入条件をお知らせください。Arvica が適切な構成と価格をご案内します。日本語でご記入いただけます。