GPU COMPUTE · GUIA SOSA

GPU ne'ebé loos ba ita-boot nia modelu no orsamentu

Kompara konfigurasaun sira ba treinamentu no inferénsia IA nian, komprende kustu tomak, no haruka ita-boot nia ezijénsia sira diretamente ba Arvica.

Atende kliente sira iha Ázia tomak no iha mundu tomak. Austrália no Singapura maka opsaun sira destakamentu nian atu diskute; fatin loloos, disponibilidade no data entrega nian konfirma ona iha ita-boot nia orsamentu. Pájina ida ne'ebé tradús la implika stock GPU lokál.

Selesaun GPU

NVIDIA H100

Memória ba GPU ida-idak
80 GB · PCIe / SXM
Referénsia públika / GPU-oras · AUD
A$ 3.12 – A$ 5.94

Pontu partida ida ba treinamentu no inferénsia bainhira modelu ne'e tuir konfigurasaun memória ne'ebé maka hili ona. PCIe no SXM diferente iha largura banda memória no konetividade multi-GPU; espesifika variante loloos.

Husu presu GPU nian
Espesifikasaun sira fabrikante nian

NVIDIA H200

Memória ba GPU ida-idak
141 GB HBM3e
Referénsia públika / GPU-oras · AUD
A$ 5.53 – A$ 6.36

Konsidera ba inferénsia ne'ebé maka presiza memória barak, KV cache ne'ebé maka boot liu no modelu sira ne'ebé maka boot liu dispozitivu 80 GB. Kompara konfigurasaun instánsia kompletu, envezde memória de'it.

Husu presu GPU nian
Espesifikasaun sira fabrikante nian

NVIDIA B200

Memória ba GPU ida-idak
180–192 GB HBM3e
Referénsia públika / GPU-oras · AUD
A$ 8.31 – A$ 9.68

Konsidera ba treinamentu ne'ebé boot liu no karga serbisu inferénsia nian uza software ne'ebé kompativel ho Blackwell. Konfirma presizaun numérika, kontajen GPU, topolojia NVLink no versaun sira kuadru nian.

Husu presu GPU nian
Espesifikasaun sira fabrikante nian

NVIDIA B300

Memória ba GPU ida-idak
288 GB HBM3e
Referénsia públika / GPU-oras · AUD
A$ 10.25 – A$ 10.93

Diskuti kapasidade multi-GPU dedikadu ba modelu boot sira, robótika no simulasaun. B300 no GB300 maka konfigurasaun sistema ne'ebé diferente; sitasaun tenke identifika ida-ne'ebé maka fornese.

Husu presu GPU nian
Espesifikasaun sira fabrikante nian

GB300 NVL72 · Pre-order

Rezervasaun GB300: prontidaun alvu iha semana 6 nia laran husi konfirmasaun pedidu no kapasidade. Tempu entrega finál nian hateten iha pedidu ne'ebé konfirmadu.

Husu presu GPU nian

Rubin · NEW

Rejistu interese iha Rubin. Ida-ne'e maka inkéritu ida kona-ba kapasidade iha futuru, la'ós instánsia ida ne'ebé bele sosa kedas. Presu no disponibilidade presiza konfirmasaun.

Haruka ita-boot nia ezijénsia sira

Orsamentu ba implementasaun tomak

Estima kontajen GPU × taxa oráriu × oras ne'ebé bele fatura. Depois aumenta armazenamentu persistente, snapshot, transferénsia dadus, IP públiku no servisu jere ruma. Husu se rekursu sira kontinua fatura bainhira GPU paradu.

Ezemplu ne'ebé funsiona, la'ós oferta: GPU 8 ho A$5 kada GPU-oras ba oras 100 = A$4,000 ba tempu GPU, molok servisu sira seluk no impostu. Kompromisu sira ne'ebé rezervadu bele uza termu faturamentu nian ne'ebé diferente.

Molok atu halo pedidu, konfirma prazu mínimu aluga nian, granularidade faturasaun nian, termu kanselamentu nian, inklui armazenamentu no transferénsia, taxa sobre-idade, no se presu sira inklui GST ka impostu sira seluk ne'ebé aplikavel.

Hirak-ne'e maka referénsia sira merkadu públiku nian ne'ebé datadu no konverte ba AUD, la'ós oferta Arvica nian ka prova asaun nian. Sira bele kobre variante instánsia oioin. Ita-boot nia orsamentu konfirma konfigurasaun kompletu, impostu sira ne'ebé aplikavel no unidade sira faturamentu nian.

Data revizaun fonte nian:

Memória GPU hira maka modelu ida presiza?

Estimativa dahuluk ba pezu modelu nian maka kontajen parametru × bytes kada parametru. Ba parámetru biliaun 70, pezu FP16/BF16 mesak presiza besik 140 GB (desimal); Pezu 4-bit hahú besik 35 GB molok metadadus kuantizasaun nian. KV cache, ativasaun sira no overhead tempu hala'o nian presiza memória adisionál.

Pezu deit · GB (desimál)
Parámetru modelu (biliaun)FP16 / BF16INT84-bit
81684
32643216
701407035
405810405202.5

Kálkulu sira-ne'e la'ós referénsia dezempeñu nian. Komprimentu kontestu, medida lote, konkorénsia, presizaun no métodu treinamentu nian muda nesesidade memória nian. Treinamentu mós presiza gradiente sira no estadu optimizadór nian. Fahe konfigurasaun sira-ne'e atu nune'e bele verifika konfigurasaun.

Hugging Face · GPU memory usage ↗

Fó mai ami detalle sira ne'ebé maka muda rekomendasaun

Inklui modelu nia naran no medida, treinamentu ka inferénsia, presizaun, kontestu nia naruk, konkorrénsia ne'ebé hein, medida konjuntu dadus, armazenamentu, ezijénsia rede nian no imajen software nian. Se ita-boot presiza nasaun espesífiku ida ba rezidénsia dadus nian, hateten ho esplísitu.

Dokumentasaun téknika (Inglés)

Sosa husi ita-boot nia merkadu

Orden tenke fó naran ba fatin komputasaun nian, fatin armazenamentu nian, fatin backup nian no asesu ba apoiu ne'ebé permitidu. Atendimentu ba kliente sira iha nasaun ida diferente hosi simu iha nasaun ne'ebá. Husu detalle sira-ne'e molok transfere dadus.

Matadalan aprovizionamentu rejionál sira: SingaporeMalaysia

Perguntas antes ita-boot halo pedidu

Iha ne'ebé maka ha'u nia dadus sei rai?

Orden tenke fó naran ba fatin komputasaun nian, fatin armazenamentu nian, fatin backup nian no asesu ba apoiu ne'ebé permitidu. Atendimentu ba kliente sira iha nasaun ida diferente hosi simu iha nasaun ne'ebá. Husu detalle sira-ne'e molok transfere dadus.

Oinsá ha'u hetan apoiu no bainhira maka ha'u sei simu orsamentu?

Kontaktu support@arvica.ai ka hatama formuláriu iha kraik. Arvica haree filafali konfigurasaun, kapasidade no termu komersiál sira molok fó sitasaun. Husu ba resposta ne'ebé hein no data entrega nian; laiha tempu ativasaun ka ativasaun ne'ebé maka promete iha pájina ida-ne'e.

GPU ida-ne'ebé maka lais liu ba ha'u nia modelu?

Komparasaun ida ne'ebé útil uza modelu hanesan, presizaun, medida lote, komprimentu kontestu, versaun software no kontajen GPU. Husu ba medida sira ne'ebé verifika ona iha kondisaun sira-ne'e. Matadalan ida-ne'e la reklama dezempeñu ne'ebé la sukat ka publika rezultadu kliente nian ne'ebé inventa.

Ha'u bele uza pedidu kompras ka kapasidade rezervadu?

Inklui ita-boot nia entidade legál, referénsia pedidu kompras nian, prazu ne'ebé husu no rekizitu sira faturamentu nian. Arvica konfirma kontratu, depózitu, faturasaun no termu pagamentu nian iha sitasaun. Hatama formuláriu ida-ne'e la kobra ita-boot nia kartaun ka fornesimentu rekursu ida.

Kliente sira iha Xina kontinentál bele uza servisu ne'e?

Verifika asesu ba pájina, submisaun formuláriu, SSH no dalan sira download modelu nian hosi rede kliente loloos molok halo pedidu. Disponibilidade iha rai-li'ur la prova konetividade ba rai-maran. Konfirma rekizitu sira transferénsia no asesu dadus nian ba karga serbisu ne'ebé maka previstu.

Haruka ita-boot nia ezijénsia sira

Hatete mai ami kona-ba karga serbisu no limitasaun sira implementasaun nian. Arvica sei prepara opsaun konfigurasaun no presu ne'ebé adekuadu. Ita-boot bele hakerek ita-boot nia ezijénsia iha lian ne'ebé uza iha pájina ida-ne'e.