额度管理
当平台资源有限时,如何确保资源被合理分配和使用?
典型场景:
- GPU 资源有限,需要控制训练任务数量
- 存储和带宽有限,需要限制数据导出频率
- AI 资源有限,需要控制自动标注功能使用
- 不同用户级别需要不同的资源配额
额度管理功能就是为了解决这些问题而设计的。通过为每个用户配置独立的额度限制,可以控制资源使用,防止资源滥用,确保系统稳定运行。
额度类型
平台支持四种类型的额度管理:
训练额度
控制用户可以进行模型训练的次数或时长。
使用场景:
- 限制训练任务数量,防止 GPU 资源过度消耗
- 控制 GPU 使用时间,优化资源分配
- 按用户级别分配训练资源
额度显示:
- 总配额:用户可使用的总训练次数或时长
- 已使用:当前已使用的训练次数或时长
- 剩余额度:总配额减去已使用额度
推理额度
控制用户可以创建和运行推理服务的数量。
使用场景:
- 限制并发推理服务数量
- 控制推理资源占用
- 按项目分配推理资源
额度显示:
- 总配额:用户可创建的推理服务总数
- 已使用:当前已创建的推理服务数量
- 剩余额度:总配额减去已使用额度
导出额度
控制用户可以进行数据导出的次数或数据量。
使用场景:
- 限制数据导出频率,防止过度导出
- 控制存储和带宽资源使用
- 按用户级别分配导出资源
额度显示:
- 总配额:用户可导出的总次数或数据量
- 已使用:当前已使用的导出次数或数据量
- 剩余额度:总配额减去已使用额度
自动标注额度(3.3.0 新增)
控制用户可以使用自动标注功能的次数。
使用场景:
- 限制自动标注功能使用,控制 AI 资源消耗
- 按用户级别分配自动标注资源
- 防止自动标注功能被滥用
额度显示:
- 总配额:用户可使用的自动标注总次数
- 已使用:当前已使用的自动标注次数
- 剩余额度:总配额减去已使用额度