DeepSeek 私有化部署中模型服务的请求去重机制? 热门官方
回答:对短时间内相同输入做哈希缓存,直接返回上次结果,节省算力并降低延迟。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读