DeepSeek 私有化部署中如何设计模型服务的优雅停机? 热门官方
回答:收到 SIGTERM 信号后停止接收新请求,完成正在处理的推理任务后再退出进程,配合负载均衡器摘除节点,避免请求丢失。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读