贴瓦片库如何实现基于业务SLA的Tile推理资源预留? 热门官方
回答:在资源调度器中预设不同业务的SLA等级(如实时、准实时、离线),为高SLA业务预留固定Tile计算槽位与显存,确保关键任务不受低优先级任务冲击。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读