Phục vụ khách hàng tại châu Á và trên toàn cầu. Bạn có thể trao đổi về phương án triển khai tại Úc hoặc Singapore. Địa điểm thực tế, khả năng cung cấp và thời gian bàn giao sẽ được xác nhận trong báo giá.
lựa chọn GPU
NVIDIA H100
Bộ nhớ trên mỗi GPU
80 GB · PCIe / SXM
Giá tham khảo công khai / giờ GPU · AUD
A$ 3.12 – A$ 5.94
Điểm bắt đầu cho việc huấn luyện và suy luận khi mô hình phù hợp với cấu hình bộ nhớ đã chọn. PCIe và SXM khác nhau về băng thông bộ nhớ và khả năng kết nối đa GPU; chỉ định biến thể chính xác.
Phù hợp để cân nhắc cho suy luận cần nhiều bộ nhớ, bộ đệm KV lớn và mô hình vượt quá dung lượng 80 GB của một GPU. Hãy so sánh toàn bộ cấu hình máy, không chỉ dung lượng bộ nhớ.
Cân nhắc khối lượng công việc đào tạo và suy luận lớn hơn bằng phần mềm tương thích với Blackwell. Xác nhận độ chính xác về số, số lượng GPU, cấu trúc liên kết NVLink và các phiên bản khung.
Thảo luận về khả năng đa GPU chuyên dụng cho các mô hình lớn, robot và mô phỏng. B300 và GB300 là các cấu hình hệ thống khác nhau; báo giá phải xác định cái nào được cung cấp.
Đặt trước GB300: mục tiêu sẵn sàng trong 6 tuần kể từ khi xác nhận đơn hàng và năng lực. Thời gian giao hàng cuối cùng được nêu trong đơn hàng đã được xác nhận.
Đăng ký quan tâm đến Rubin. Đây là câu hỏi về năng lực trong tương lai, không phải là một trường hợp có thể mua ngay lập tức. Giá cả và tính sẵn có yêu cầu xác nhận.
Ước tính chi phí GPU bằng số lượng GPU × giá mỗi giờ GPU × số giờ tính phí. Sau đó cộng phí lưu trữ, bản chụp dữ liệu, truyền dữ liệu, IP công cộng và dịch vụ quản lý. Cần xác nhận khoản phí nào tiếp tục phát sinh khi GPU đã dừng.
Ví dụ minh họa, không phải báo giá: 8 GPU × 5 AUD mỗi giờ GPU × 100 giờ = 4.000 AUD tiền sử dụng GPU, chưa gồm dịch vụ khác và thuế. Hợp đồng thuê đặt trước có thể có điều khoản thanh toán khác.
Trước khi đặt hàng, hãy xác nhận thời hạn thuê tối thiểu, mức độ chi tiết của hóa đơn, điều khoản hủy, phụ cấp lưu trữ và chuyển nhượng, tỷ lệ quá cước và liệu giá có bao gồm GST hay các loại thuế hiện hành khác hay không.
Đây là giá thị trường công khai tại ngày ghi dưới đây, được quy đổi sang AUD. Đây không phải báo giá của Arvica hay xác nhận còn tài nguyên. Các mức giá có thể áp dụng cho cấu hình khác nhau. Báo giá sẽ xác nhận cấu hình đầy đủ, thuế áp dụng và đơn vị tính phí.
Dung lượng bộ nhớ cho trọng số được ước tính bằng số tham số × số byte mỗi tham số. Mô hình 70 tỷ tham số cần khoảng 140 GB (thập phân) chỉ cho trọng số FP16/BF16; trọng số 4 bit cần khoảng 35 GB trước khi tính siêu dữ liệu lượng tử hóa. Bộ đệm KV, giá trị kích hoạt và môi trường thực thi cần thêm bộ nhớ.
Chỉ trọng số · GB (thập phân)
Số tham số mô hình (tỷ)
FP16 / BF16
INT8
4 bit
8
16
8
4
32
64
32
16
70
140
70
35
405
810
405
202.5
Đây là phép tính dung lượng, không phải kết quả đo hiệu năng. Độ dài ngữ cảnh, kích thước lô, số yêu cầu đồng thời, độ chính xác và phương pháp huấn luyện ảnh hưởng đến nhu cầu bộ nhớ. Huấn luyện còn cần bộ nhớ cho gradient và trạng thái bộ tối ưu hóa.
Cung cấp cho chúng tôi thông tin chi tiết làm thay đổi đề xuất
Bao gồm tên và kích thước mô hình, đào tạo hoặc suy luận, độ chính xác, độ dài ngữ cảnh, tính đồng thời dự kiến, kích thước tập dữ liệu, dung lượng lưu trữ, yêu cầu mạng và hình ảnh phần mềm. Nếu bạn cần một quốc gia cụ thể để lưu trữ dữ liệu, hãy nêu rõ quốc gia đó.
Đơn hàng cần ghi rõ nơi đặt GPU, nơi lưu trữ dữ liệu, bản sao lưu và phạm vi truy cập của bộ phận hỗ trợ. Phục vụ khách hàng tại một quốc gia không có nghĩa là đặt hạ tầng tại quốc gia đó. Hãy xác nhận trước khi chuyển dữ liệu.
Đơn hàng cần ghi rõ nơi đặt GPU, nơi lưu trữ dữ liệu, bản sao lưu và phạm vi truy cập của bộ phận hỗ trợ. Phục vụ khách hàng tại một quốc gia không có nghĩa là đặt hạ tầng tại quốc gia đó. Hãy xác nhận trước khi chuyển dữ liệu.
Làm cách nào để nhận được hỗ trợ và khi nào tôi sẽ nhận được báo giá?
Liên hệ support@arvica.ai hoặc gửi biểu mẫu bên dưới. Arvica xem xét cấu hình, dung lượng và các điều khoản thương mại trước khi báo giá. Yêu cầu phản hồi dự kiến và ngày giao hàng; không có báo giá cố định hoặc thời gian kích hoạt được hứa hẹn trên trang này.
GPU nào nhanh nhất cho model của tôi?
Một so sánh hữu ích sử dụng cùng một mô hình, độ chính xác, kích thước lô, độ dài ngữ cảnh, phiên bản phần mềm và số lượng GPU. Yêu cầu các phép đo được xác minh trong những điều kiện đó. Hướng dẫn này không yêu cầu hiệu suất không thể đo lường được hoặc công bố kết quả do khách hàng phát minh ra.
Tôi có thể sử dụng đơn đặt hàng hoặc công suất dự trữ không?
Bao gồm pháp nhân của bạn, số tham chiếu đơn đặt hàng, điều khoản được yêu cầu và các yêu cầu thanh toán. Arvica xác nhận các điều khoản hợp đồng, đặt cọc, lập hóa đơn và thanh toán trong báo giá. Việc gửi biểu mẫu này không tính phí vào thẻ của bạn hoặc cung cấp tài nguyên.
Khách hàng ở Trung Quốc đại lục có thể sử dụng dịch vụ không?
Kiểm tra quyền truy cập trang, gửi biểu mẫu, SSH và đường dẫn tải xuống mô hình từ mạng khách hàng thực tế trước khi đặt hàng. Tính khả dụng ở nước ngoài không chứng minh được khả năng kết nối với đất liền. Xác nhận các yêu cầu truy cập và truyền dữ liệu cho khối lượng công việc dự kiến.
Gửi yêu cầu cấu hình
Hãy cho chúng tôi biết khối lượng công việc và các ràng buộc triển khai. Arvica sẽ chuẩn bị các tùy chọn cấu hình và giá cả phù hợp. Bạn có thể viết yêu cầu của mình bằng ngôn ngữ được sử dụng trên trang này.
