ARVICA / 文档中心

文档 / 软件与任务

推理与图像生成

围绕延迟、吞吐与显存规划服务

描述访问负载

提供模型规模、上下文长度、预期并发与延迟目标。图像生成任务还需说明分辨率、流程组件和批量大小,显存需求取决于完整运行环境而非仅权重文件。

验证服务

使用有代表性的请求检查启动时间、吞吐与输出质量。接入客户流量前定义认证、请求限制以及失败请求的处理方式。

生产运行要求

在服务条款中确认可用性、维护、数据处理与扩容需求。选择推理模板不会自动创建托管 API 接口或获得可用性保证。

选择环境