GPU COMPUTE · ຄູ່ມືການຊື້GPU ທີ່ເຫມາະສົມສໍາລັບຮູບແບບແລະງົບປະມານຂອງທ່ານ
ປຽບທຽບການຕັ້ງຄ່າສໍາລັບການຝຶກອົບຮົມ AI ແລະ inference, ເຂົ້າໃຈຄ່າໃຊ້ຈ່າຍຢ່າງເຕັມທີ່, ແລະສົ່ງຄວາມຕ້ອງການຂອງທ່ານໂດຍກົງກັບ Arvica.
ໃຫ້ບໍລິການລູກຄ້າໃນທົ່ວອາຊີແລະທົ່ວໂລກ. ອົດສະຕາລີແລະສິງກະໂປແມ່ນທາງເລືອກໃນການນໍາໃຊ້ເພື່ອປຶກສາຫາລື; ສະຖານທີ່ທີ່ແທ້ຈິງ, ມີແລະວັນທີການຈັດສົ່ງແມ່ນໄດ້ຮັບການຢືນຢັນໃນຄໍາແນະນໍາຂອງທ່ານ. ຫນ້າທີ່ແປບໍ່ໄດ້ຫມາຍເຖິງຫຼັກຊັບ GPU ທ້ອງຖິ່ນ.
ການເລືອກ GPU
NVIDIA H100
- ຫນ່ວຍຄວາມຈໍາຕໍ່ GPU
- 80 GB · PCIe / SXM
- ການອ້າງອີງສາທາລະນະ / GPU-hour · AUD
- A$ 3.12 – A$ 5.94
ຈຸດເລີ່ມຕົ້ນຂອງການຝຶກອົບຮົມ ແລະ inference ເມື່ອຕົວແບບເໝາະສົມກັບການຕັ້ງຄ່າຄວາມຊົງຈຳທີ່ເລືອກ. PCIe ແລະ SXM ແຕກຕ່າງກັນໃນແບນວິດຂອງຫນ່ວຍຄວາມຈໍາແລະການເຊື່ອມຕໍ່ multi-GPU; ລະບຸຕົວແປທີ່ແນ່ນອນ.
ຂໍໃບສະເໜີລາຄາ GPU →
ຂໍ້ມູນສະເພາະຂອງຜູ້ຜະລິດ ↗NVIDIA H200
- ຫນ່ວຍຄວາມຈໍາຕໍ່ GPU
- 141 GB HBM3e
- ການອ້າງອີງສາທາລະນະ / GPU-hour · AUD
- A$ 5.53 – A$ 6.36
ພິຈາລະນາສໍາລັບການ inference ຄວາມຈໍາຫຼາຍ, cache KV ຂະຫນາດໃຫຍ່ແລະຕົວແບບທີ່ມີອຸປະກອນ 80 GB outgrow. ປຽບທຽບການຕັ້ງຄ່າຕົວຢ່າງເຕັມ, ແທນທີ່ຈະເປັນຫນ່ວຍຄວາມຈໍາຢ່າງດຽວ.
ຂໍໃບສະເໜີລາຄາ GPU →
ຂໍ້ມູນສະເພາະຂອງຜູ້ຜະລິດ ↗NVIDIA B200
- ຫນ່ວຍຄວາມຈໍາຕໍ່ GPU
- 180–192 GB HBM3e
- ການອ້າງອີງສາທາລະນະ / GPU-hour · AUD
- A$ 8.31 – A$ 9.68
ພິຈາລະນາສໍາລັບການຝຶກອົບຮົມຂະຫນາດໃຫຍ່ແລະ inference workloads ໂດຍນໍາໃຊ້ຊອບແວທີ່ເຫມາະສົມ Blackwell. ຢືນຢັນຄວາມແມ່ນຍໍາຂອງຕົວເລກ, ການນັບ GPU, NVLink topology ແລະສະບັບກອບ.
ຂໍໃບສະເໜີລາຄາ GPU →
ຂໍ້ມູນສະເພາະຂອງຜູ້ຜະລິດ ↗NVIDIA B300
- ຫນ່ວຍຄວາມຈໍາຕໍ່ GPU
- 288 GB HBM3e
- ການອ້າງອີງສາທາລະນະ / GPU-hour · AUD
- A$ 10.25 – A$ 10.93
ສົນທະນາຄວາມອາດສາມາດຫຼາຍ GPU ທີ່ອຸທິດຕົນສໍາລັບຕົວແບບຂະຫນາດໃຫຍ່, ຫຸ່ນຍົນແລະການຈໍາລອງ. B300 ແລະ GB300 ແມ່ນການຕັ້ງຄ່າລະບົບທີ່ແຕກຕ່າງກັນ; ວົງຢືມຕ້ອງລະບຸທີ່ສະໜອງໃຫ້.
ຂໍໃບສະເໜີລາຄາ GPU →
ຂໍ້ມູນສະເພາະຂອງຜູ້ຜະລິດ ↗GB300 NVL72 · Pre-order
ການຈອງ GB300: ການກຽມພ້ອມເປົ້າຫມາຍໃນ 6 ອາທິດຈາກຄໍາສັ່ງແລະການຢືນຢັນຄວາມສາມາດ. ໄລຍະເວລາການຈັດສົ່ງສຸດທ້າຍແມ່ນລະບຸໄວ້ໃນຄໍາສັ່ງທີ່ຢືນຢັນ.
ຂໍໃບສະເໜີລາຄາ GPU →Rubin · NEW
ລົງທະບຽນຄວາມສົນໃຈໃນ Rubin. ນີ້ແມ່ນການສອບຖາມກ່ຽວກັບຄວາມສາມາດໃນອະນາຄົດ, ບໍ່ແມ່ນຕົວຢ່າງທີ່ສາມາດຊື້ໄດ້ທັນທີ. ລາຄາ ແລະຄວາມພ້ອມຕ້ອງການການຢືນຢັນ.
ສົ່ງຄວາມຕ້ອງການຂອງທ່ານ →ງົບປະມານສໍາລັບການນໍາໃຊ້ທັງຫມົດ
ຄາດຄະເນການນັບ GPU × ອັດຕາຊົ່ວໂມງ × ຊົ່ວໂມງບິນໄດ້. ຫຼັງຈາກນັ້ນ, ເພີ່ມການເກັບຮັກສາຄົງທີ່, ພາບຖ່າຍ, ການໂອນຂໍ້ມູນ, IPs ສາທາລະນະແລະການບໍລິການທີ່ມີການຄຸ້ມຄອງໃດໆ. ຖາມວ່າຊັບພະຍາກອນສືບຕໍ່ເກັບເງິນເມື່ອ GPU ຖືກຢຸດ.
ຕົວຢ່າງທີ່ເຮັດວຽກ, ບໍ່ແມ່ນການສະເຫນີ: 8 GPU ທີ່ A$5 ຕໍ່ GPU-hour ສໍາລັບ 100 ຊົ່ວໂມງ = A$4,000 ສໍາລັບເວລາ GPU, ກ່ອນການບໍລິການແລະພາສີອື່ນໆ. ຂໍ້ຜູກມັດທີ່ສະຫງວນໄວ້ອາດຈະໃຊ້ເງື່ອນໄຂການເອີ້ນເກັບເງິນທີ່ແຕກຕ່າງກັນ.
ກ່ອນທີ່ຈະສັ່ງ, ຢືນຢັນໄລຍະເວລາການເຊົ່າຂັ້ນຕ່ໍາ, ລາຍລະອຽດການເອີ້ນເກັບເງິນ, ເງື່ອນໄຂການຍົກເລີກ, ລວມທັງການເກັບຮັກສາແລະການໂອນເງິນ, ອັດຕາ overage, ແລະບໍ່ວ່າຈະເປັນລາຄາລວມ GST ຫຼືພາສີອື່ນໆທີ່ກ່ຽວຂ້ອງ.
ເຫຼົ່ານີ້ແມ່ນລົງວັນທີການອ້າງອີງຕະຫຼາດສາທາລະນະທີ່ປ່ຽນເປັນ AUD, ບໍ່ແມ່ນການສະເຫນີຂອງ Arvica ຫຼືຫຼັກຖານສະແດງຫຼັກຊັບ. ພວກເຂົາເຈົ້າອາດຈະກວມເອົາຕົວແປທີ່ແຕກຕ່າງກັນ. ໃບສະເໜີລາຄາຂອງທ່ານຢືນຢັນການກຳນົດຄ່າທີ່ສົມບູນ, ພາສີທີ່ກ່ຽວຂ້ອງ ແລະຫົວໜ່ວຍໃບບິນ.
ວັນທີທົບທວນແຫຼ່ງ:
ໂມເດວຕ້ອງການຄວາມຈຳ GPU ຫຼາຍປານໃດ?
ການຄາດຄະເນທໍາອິດສໍາລັບນ້ໍາຫນັກຕົວແບບແມ່ນການນັບຕົວກໍານົດການ × bytes ຕໍ່ພາລາມິເຕີ. ສໍາລັບ 70 ຕື້ພາລາມິເຕີ, FP16 / BF16 ນ້ໍາຫນັກຢ່າງດຽວຕ້ອງການປະມານ 140 GB (ທົດສະນິຍົມ); 4-bit ນ້ໍາຫນັກເລີ່ມຕົ້ນປະມານ 35 GB ກ່ອນທີ່ຈະ metadata quantization. KV cache, activations ແລະ runtime overhead ຕ້ອງການຄວາມຈໍາເພີ່ມເຕີມ.
ສະເພາະນ້ຳໜັກ · GB (ຖານສິບ)| ພາຣາມິເຕີຂອງໂມເດວ (ຕື້) | FP16 / BF16 | INT8 | 4-bit |
|---|
| 8 | 16 | 8 | 4 |
|---|
| 32 | 64 | 32 | 16 |
|---|
| 70 | 140 | 70 | 35 |
|---|
| 405 | 810 | 405 | 202.5 |
|---|
ການຄິດໄລ່ເຫຼົ່ານີ້ບໍ່ແມ່ນມາດຕະຖານການປະຕິບັດ. ຄວາມຍາວຂອງເນື້ອໃນ, ຂະຫນາດ batch, concurrency, ຄວາມແມ່ນຍໍາແລະວິທີການຝຶກອົບຮົມປ່ຽນຄວາມຕ້ອງການຄວາມຈໍາ. ການຝຶກອົບຮົມຍັງຕ້ອງການ gradients ແລະລັດ optimizer. ແບ່ງປັນການຕັ້ງຄ່າເຫຼົ່ານັ້ນເພື່ອໃຫ້ສາມາດກວດສອບການຕັ້ງຄ່າໄດ້.
Hugging Face · GPU memory usage ↗ໃຫ້ພວກເຮົາລາຍລະອຽດທີ່ມີການປ່ຽນແປງຄໍາແນະນໍາ
ລວມທັງຊື່ແບບຈໍາລອງແລະຂະຫນາດ, ການຝຶກອົບຮົມຫຼື inference, ຄວາມແມ່ນຍໍາ, ຄວາມຍາວຂອງສະພາບການ, ຄວາມສອດຄ່ອງທີ່ຄາດໄວ້, ຂະຫນາດຊຸດຂໍ້ມູນ, ການເກັບຮັກສາ, ຄວາມຕ້ອງການເຄືອຂ່າຍແລະຮູບພາບຂອງຊອບແວ. ຖ້າທ່ານຕ້ອງການປະເທດສະເພາະສໍາລັບການຢູ່ອາໄສຂໍ້ມູນ, ບອກມັນຢ່າງຈະແຈ້ງ.
ເອກະສານດ້ານວິຊາການ (ພາສາອັງກິດ) →ຊື້ຈາກຕະຫຼາດຂອງທ່ານ
ຄໍາສັ່ງຄວນຈະຕັ້ງຊື່ສະຖານທີ່ຄອມພິວເຕີ, ສະຖານທີ່ເກັບຮັກສາ, ສະຖານທີ່ສໍາຮອງຂໍ້ມູນແລະການເຂົ້າເຖິງການສະຫນັບສະຫນູນອະນຸຍາດໃຫ້. ການບໍລິການລູກຄ້າໃນປະເທດແມ່ນແຕກຕ່າງຈາກການເປັນເຈົ້າພາບໃນປະເທດນັ້ນ. ຮ້ອງຂໍລາຍລະອຽດເຫຼົ່ານີ້ກ່ອນທີ່ຈະໂອນຂໍ້ມູນ.
ຄໍາຖາມກ່ອນທີ່ທ່ານຈະສັ່ງ
ຂໍ້ມູນຂອງຂ້ອຍຈະຖືກເກັບໄວ້ຢູ່ໃສ?
ຄໍາສັ່ງຄວນຈະຕັ້ງຊື່ສະຖານທີ່ຄອມພິວເຕີ, ສະຖານທີ່ເກັບຮັກສາ, ສະຖານທີ່ສໍາຮອງຂໍ້ມູນແລະການເຂົ້າເຖິງການສະຫນັບສະຫນູນອະນຸຍາດໃຫ້. ການບໍລິການລູກຄ້າໃນປະເທດແມ່ນແຕກຕ່າງຈາກການເປັນເຈົ້າພາບໃນປະເທດນັ້ນ. ຮ້ອງຂໍລາຍລະອຽດເຫຼົ່ານີ້ກ່ອນທີ່ຈະໂອນຂໍ້ມູນ.
ຂ້ອຍຈະໄດ້ຮັບການສະໜັບສະໜຸນແນວໃດ ແລະເມື່ອໃດທີ່ຂ້ອຍຈະໄດ້ຮັບໃບສະເໜີລາຄາ?
ຕິດຕໍ່ support@arvica.ai ຫຼືສົ່ງແບບຟອມຂ້າງລຸ່ມນີ້. Arvica ທົບທວນການຕັ້ງຄ່າ, ຄວາມອາດສາມາດແລະເງື່ອນໄຂການຄ້າກ່ອນທີ່ຈະອ້າງອີງ. ຮ້ອງຂໍໃຫ້ມີຄໍາຕອບທີ່ຄາດໄວ້ແລະວັນທີຈັດສົ່ງ; ບໍ່ມີການປ່ຽນໃບສະເໜີລາຄາຄົງທີ່ ຫຼືເວລາເປີດໃຊ້ງານແມ່ນສັນຍາຢູ່ໃນໜ້ານີ້.
GPU ໃດທີ່ໄວທີ່ສຸດສໍາລັບຕົວແບບຂອງຂ້ອຍ?
ການປຽບທຽບທີ່ເປັນປະໂຫຍດໃຊ້ຮູບແບບດຽວກັນ, ຄວາມແມ່ນຍໍາ, ຂະຫນາດ batch, ຄວາມຍາວຂອງບໍລິບົດ, ສະບັບຊອບແວແລະການນັບ GPU. ຮ້ອງຂໍໃຫ້ມີການກວດສອບການວັດແທກພາຍໃຕ້ເງື່ອນໄຂເຫຼົ່ານັ້ນ. ຄູ່ມືນີ້ບໍ່ໄດ້ອ້າງເຖິງການປະຕິບັດທີ່ບໍ່ໄດ້ວັດແທກຫຼືເຜີຍແຜ່ຜົນໄດ້ຮັບຂອງລູກຄ້າທີ່ຄິດຄົ້ນ.
ຂ້ອຍສາມາດໃຊ້ຄໍາສັ່ງຊື້ຫຼືຄວາມສາມາດໃນການຈອງໄດ້ບໍ?
ຮວມເອົານິຕິບຸກຄົນຂອງທ່ານ, ການອ້າງອີງການສັ່ງຊື້, ເງື່ອນໄຂທີ່ຮ້ອງຂໍ ແລະຄວາມຕ້ອງການໃບບິນ. Arvica ຢືນຢັນສັນຍາ, ເງິນຝາກ, ໃບແຈ້ງຫນີ້ແລະເງື່ອນໄຂການຈ່າຍເງິນໃນວົງຢືມ. ການສົ່ງແບບຟອມນີ້ບໍ່ຄິດຄ່າບັດ ຫຼືສະໜອງຊັບພະຍາກອນ.
ລູກຄ້າໃນຈີນແຜ່ນດິນໃຫຍ່ສາມາດໃຊ້ບໍລິການໄດ້ບໍ?
ກວດເບິ່ງການເຂົ້າເຖິງຫນ້າ, ການຍື່ນສະເຫນີແບບຟອມ, SSH ແລະເສັ້ນທາງການດາວໂຫຼດແບບຈໍາລອງຈາກເຄືອຂ່າຍລູກຄ້າຕົວຈິງກ່ອນທີ່ຈະສັ່ງຊື້. ການມີຢູ່ຕ່າງປະເທດບໍ່ໄດ້ພິສູດການເຊື່ອມຕໍ່ແຜ່ນດິນໃຫຍ່. ຢືນຢັນການຍົກຍ້າຍຂໍ້ມູນ ແລະຄວາມຕ້ອງການເຂົ້າເຖິງສຳລັບວຽກທີ່ຕັ້ງໄວ້.
ສົ່ງຄວາມຕ້ອງການຂອງທ່ານ
ບອກພວກເຮົາກ່ຽວກັບວຽກ ແລະຂໍ້ຈຳກັດໃນການນຳໃຊ້. Arvica ຈະກະກຽມຕົວເລືອກການຕັ້ງຄ່າທີ່ເຫມາະສົມແລະລາຄາ. ທ່ານສາມາດຂຽນຄວາມຕ້ອງການຂອງທ່ານໃນພາສາທີ່ໃຊ້ໃນຫນ້ານີ້.
