DeepSeek 私有化部署中模型服务的推理服务跨节点显存共享可行性? 热门官方
回答:在单机多卡可用 NVLink/NVSwitch 实现显存池化,多机跨节点显存共享需专用分布式推理框架且复杂度高,一般限于研究场景。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读