DeepSeek 私有化部署的模型推理超时控制方法? 热门官方
回答:在 API 层设置请求超时阈值,推理服务内部使用 watchdog 定时器,超时则中止计算并返回特定错误码,避免资源长期占用。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读