GPU COMPUTE · คู่มือการซื้อGPU ที่เหมาะสมสำหรับรุ่นและงบประมาณของคุณ
เปรียบเทียบการกำหนดค่าสำหรับการฝึกอบรม AI และการอนุมาน ทำความเข้าใจค่าใช้จ่ายทั้งหมด และส่งความต้องการของคุณไปที่ Arvica โดยตรง
ให้บริการลูกค้าทั่วเอเชียและทั่วโลก ออสเตรเลียและสิงคโปร์เป็นทางเลือกในการปรับใช้เพื่อหารือกัน สถานที่จริง ความพร้อม และวันที่จัดส่งได้รับการยืนยันในใบเสนอราคาของคุณ หน้าที่แปลไม่ได้หมายความถึงสต็อก GPU ในเครื่อง
การเลือก GPU
NVIDIA H100
- หน่วยความจำต่อ GPU
- 80 GB · PCIe / SXM
- การอ้างอิงสาธารณะ / GPU-ชั่วโมง · AUD
- A$ 3.12 – A$ 5.94
จุดเริ่มต้นสำหรับการฝึกและการอนุมานเมื่อแบบจำลองเหมาะสมกับการกำหนดค่าหน่วยความจำที่เลือก PCIe และ SXM แตกต่างกันในเรื่องแบนด์วิธหน่วยความจำและการเชื่อมต่อ multi-GPU ระบุรูปแบบที่แน่นอน
ขอใบเสนอราคา GPU →
ข้อมูลจำเพาะของผู้ผลิต ↗NVIDIA H200
- หน่วยความจำต่อ GPU
- 141 GB HBM3e
- การอ้างอิงสาธารณะ / GPU-ชั่วโมง · AUD
- A$ 5.53 – A$ 6.36
พิจารณาการอนุมานที่ใช้หน่วยความจำสูง แคช KV ที่ใหญ่ขึ้น และรุ่นที่มีขนาดเกินอุปกรณ์ 80 GB เปรียบเทียบการกำหนดค่าอินสแตนซ์ทั้งหมด แทนที่จะเปรียบเทียบหน่วยความจำเพียงอย่างเดียว
ขอใบเสนอราคา GPU →
ข้อมูลจำเพาะของผู้ผลิต ↗NVIDIA B200
- หน่วยความจำต่อ GPU
- 180–192 GB HBM3e
- การอ้างอิงสาธารณะ / GPU-ชั่วโมง · AUD
- A$ 8.31 – A$ 9.68
พิจารณาปริมาณงานการฝึกอบรมและการอนุมานที่มากขึ้นโดยใช้ซอฟต์แวร์ที่เข้ากันได้กับ Blackwell ยืนยันความแม่นยำเชิงตัวเลข จำนวน GPU โทโพโลยี NVLink และเวอร์ชันของเฟรมเวิร์ก
ขอใบเสนอราคา GPU →
ข้อมูลจำเพาะของผู้ผลิต ↗NVIDIA B300
- หน่วยความจำต่อ GPU
- 288 GB HBM3e
- การอ้างอิงสาธารณะ / GPU-ชั่วโมง · AUD
- A$ 10.25 – A$ 10.93
พูดคุยเรื่องความจุของ GPU หลายตัวโดยเฉพาะสำหรับโมเดลขนาดใหญ่ วิทยาการหุ่นยนต์ และการจำลอง B300 และ GB300 มีการกำหนดค่าระบบที่แตกต่างกัน ใบเสนอราคาจะต้องระบุว่ามีการจัดหาอะไรบ้าง
ขอใบเสนอราคา GPU →
ข้อมูลจำเพาะของผู้ผลิต ↗GB300 NVL72 · Pre-order
การจอง GB300: กำหนดเป้าหมายความพร้อมภายใน 6 สัปดาห์นับจากการยืนยันคำสั่งซื้อและกำลังการผลิต ระยะเวลาการส่งมอบขั้นสุดท้ายระบุไว้ในคำสั่งซื้อที่ยืนยันแล้ว
ขอใบเสนอราคา GPU →Rubin · NEW
ลงทะเบียนความสนใจใน Rubin นี่เป็นการสอบถามเกี่ยวกับความจุในอนาคต ไม่ใช่อินสแตนซ์ที่ซื้อได้ทันที ราคาและห้องว่างต้องมีการยืนยัน
ส่งความต้องการของคุณ →งบประมาณสำหรับการปรับใช้ทั้งหมด
ประมาณจำนวน GPU × อัตรารายชั่วโมง × ชั่วโมงที่เรียกเก็บเงินได้ จากนั้นเพิ่มพื้นที่จัดเก็บข้อมูลถาวร สแน็ปช็อต การถ่ายโอนข้อมูล IP สาธารณะ และบริการที่ได้รับการจัดการใดๆ ถามว่าทรัพยากรจะเรียกเก็บเงินต่อไปหรือไม่เมื่อ GPU หยุดทำงาน
ตัวอย่างที่ใช้งานได้ ไม่ใช่ข้อเสนอ: 8 GPU ที่ A$5 ต่อ GPU-ชั่วโมงเป็นเวลา 100 ชั่วโมง = A$4,000 สำหรับเวลา GPU ก่อนบริการและภาษีอื่นๆ ข้อผูกพันที่สงวนไว้อาจใช้เงื่อนไขการเรียกเก็บเงินที่แตกต่างกัน
ก่อนสั่งซื้อ ให้ยืนยันเงื่อนไขการเช่าขั้นต่ำ รายละเอียดการเรียกเก็บเงิน เงื่อนไขการยกเลิก รวมค่าเผื่อการจัดเก็บและการโอน อัตราค่าบริการเกิน และราคารวม GST หรือภาษีอื่นๆ ที่เกี่ยวข้องแล้วหรือไม่
ข้อมูลเหล่านี้เป็นข้อมูลอ้างอิงในตลาดสาธารณะที่ลงวันที่ซึ่งแปลงเป็น AUD ไม่ใช่ข้อเสนอของ Arvica หรือหลักฐานแสดงสต็อก อาจครอบคลุมอินสแตนซ์ที่แตกต่างกัน ใบเสนอราคาของคุณยืนยันการกำหนดค่าที่สมบูรณ์ ภาษีที่เกี่ยวข้อง และหน่วยการเรียกเก็บเงิน
วันที่ตรวจสอบแหล่งที่มา:
โมเดลต้องการหน่วยความจำ GPU เท่าใด
การประมาณการครั้งแรกสำหรับน้ำหนักโมเดลคือจำนวนพารามิเตอร์ × ไบต์ต่อพารามิเตอร์ สำหรับพารามิเตอร์ 7 หมื่นล้านพารามิเตอร์ น้ำหนัก FP16/BF16 เพียงอย่างเดียวต้องใช้พื้นที่ประมาณ 140 GB (ทศนิยม) น้ำหนัก 4 บิตเริ่มต้นประมาณ 35 GB ก่อนข้อมูลเมตาของการหาปริมาณ แคช KV การเปิดใช้งาน และโอเวอร์เฮดรันไทม์ต้องใช้หน่วยความจำเพิ่มเติม
เฉพาะน้ำหนัก · GB (ฐานสิบ)| จำนวนพารามิเตอร์โมเดล (พันล้าน) | FP16 / BF16 | INT8 | 4 บิต |
|---|
| 8 | 16 | 8 | 4 |
|---|
| 32 | 64 | 32 | 16 |
|---|
| 70 | 140 | 70 | 35 |
|---|
| 405 | 810 | 405 | 202.5 |
|---|
การคำนวณเหล่านี้ไม่ใช่การวัดประสิทธิภาพ ความยาวบริบท ขนาดแบตช์ ความพร้อมกัน ความแม่นยำ และวิธีการฝึกอบรมเปลี่ยนความต้องการหน่วยความจำ การฝึกอบรมยังต้องการการไล่ระดับสีและสถานะเครื่องมือเพิ่มประสิทธิภาพ แชร์การตั้งค่าเหล่านั้นเพื่อให้สามารถตรวจสอบการกำหนดค่าได้
Hugging Face · GPU memory usage ↗ให้รายละเอียดที่เปลี่ยนแปลงคำแนะนำแก่เรา
ประกอบด้วยชื่อและขนาดโมเดล การฝึกอบรมหรือการอนุมาน ความแม่นยำ ความยาวบริบท ความสอดคล้องที่คาดหวัง ขนาดชุดข้อมูล พื้นที่เก็บข้อมูล ข้อกำหนดเครือข่าย และอิมเมจของซอฟต์แวร์ หากคุณต้องการประเทศที่เฉพาะเจาะจงสำหรับถิ่นที่อยู่ของข้อมูล ให้ระบุอย่างชัดเจน
เอกสารทางเทคนิค (ภาษาอังกฤษ) →ซื้อจากตลาดของคุณ
คำสั่งซื้อควรระบุชื่อสถานที่ประมวลผล สถานที่จัดเก็บ สถานที่สำรองข้อมูล และการเข้าถึงการสนับสนุนที่ได้รับอนุญาต การให้บริการลูกค้าในประเทศนั้นแตกต่างจากการโฮสต์ในประเทศนั้น ขอรายละเอียดเหล่านี้ก่อนที่จะถ่ายโอนข้อมูล
คำถามก่อนที่คุณจะสั่งซื้อ
ข้อมูลของฉันจะถูกเก็บไว้ที่ไหน?
คำสั่งซื้อควรระบุชื่อสถานที่ประมวลผล สถานที่จัดเก็บ สถานที่สำรองข้อมูล และการเข้าถึงการสนับสนุนที่ได้รับอนุญาต การให้บริการลูกค้าในประเทศนั้นแตกต่างจากการโฮสต์ในประเทศนั้น ขอรายละเอียดเหล่านี้ก่อนที่จะถ่ายโอนข้อมูล
ฉันจะได้รับการสนับสนุนได้อย่างไร และจะได้รับใบเสนอราคาเมื่อใด
ติดต่อ support@arvica.ai หรือส่งแบบฟอร์มด้านล่าง Arvica ตรวจสอบการกำหนดค่า ความจุ และเงื่อนไขทางการค้าก่อนเสนอราคา สอบถามการตอบกลับและวันที่จัดส่งที่คาดหวัง ไม่มีสัญญาการตอบกลับราคาคงที่หรือเวลาเปิดใช้งานในหน้านี้
GPU ตัวไหนเร็วที่สุดสำหรับรุ่นของฉัน
การเปรียบเทียบที่เป็นประโยชน์จะใช้โมเดล ความแม่นยำ ขนาดแบตช์ ความยาวบริบท เวอร์ชันซอฟต์แวร์ และจำนวน GPU เดียวกัน ขอการตรวจวัดที่ได้รับการยืนยันภายใต้เงื่อนไขเหล่านั้น คู่มือนี้ไม่ได้อ้างถึงประสิทธิภาพที่ไม่ได้วัดผลหรือเผยแพร่ผลลัพธ์ที่คิดค้นขึ้นของลูกค้า
ฉันสามารถใช้ใบสั่งซื้อหรือกำลังการผลิตที่จองไว้ได้หรือไม่
รวมถึงนิติบุคคลของคุณ การอ้างอิงใบสั่งซื้อ ระยะเวลาที่ร้องขอ และข้อกำหนดในการเรียกเก็บเงิน Arvica ยืนยันสัญญา การฝากเงิน การออกใบแจ้งหนี้ และเงื่อนไขการชำระเงินในใบเสนอราคา การส่งแบบฟอร์มนี้จะไม่เรียกเก็บเงินจากบัตรของคุณหรือจัดสรรทรัพยากร
ลูกค้าในจีนแผ่นดินใหญ่สามารถใช้บริการได้หรือไม่?
ตรวจสอบการเข้าถึงเพจ การส่งแบบฟอร์ม SSH และเส้นทางการดาวน์โหลดโมเดลจากเครือข่ายลูกค้าจริงก่อนสั่งซื้อ ความพร้อมใช้งานในต่างประเทศไม่ได้พิสูจน์การเชื่อมต่อบนแผ่นดินใหญ่ ยืนยันข้อกำหนดการถ่ายโอนและการเข้าถึงข้อมูลสำหรับปริมาณงานที่ต้องการ
ส่งความต้องการของคุณ
บอกเราเกี่ยวกับภาระงานและข้อจำกัดในการปรับใช้ Arvica จะเตรียมตัวเลือกการกำหนดค่าและราคาที่เหมาะสม คุณสามารถเขียนความต้องการของคุณเป็นภาษาที่ใช้ในหน้านี้
