DeepSeek 私有化部署中如何进行模型服务的健康检查? 热门官方
回答:可在容器或进程内实现 /health接口,返回 GPU 状态、模型加载情况、最近一次推理耗时等;Kubernetes 可配置 liveness/readiness 探针,异常时自动重启或摘除节点。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读