ARVICA / 文档中心
GPU 与实例选型
按工作负载选择显存与互联方式
先看显存需求
显存预算应包含模型权重、激活值、运行缓存与批量大小。增加 GPU 数量不会自动形成统一显存池，需要确认框架支持预期的并行方式。
GPU、主机与整机柜
同时比较加速卡与主机配置，关注 CPU 架构、内存、本地磁盘、PCIe 或 SXM 形态以及互联。GB200/GB300 机柜级配置需要明确整套系统范围，不能直接按单卡比较。
虚拟机与裸金属
确认报价实例属于虚拟机还是裸金属，以及包含哪些管理员权限。不能仅凭 GPU 系列名称推断 root 权限、NVLink、InfiniBand 或主机规格。