排序:
已完成

DeepSeek 私有化部署中模型服务的推理服务多租户环境下的 GPU 虚拟化隔离方案?

🔥
@151*****000 最后更新于2025/12/1 17:48:38
回答:使用 NVIDIA MIG 将单卡切分为多个独立实例,每个租户绑定独立显存与 SM 资源,结合容器 cgroup 实现算力与存储双重隔离。...
👍 1,4
共 1 条记录,当前显示第 1- 条