DeepSeek 私有化部署中模型服务的性能基准测试指标有哪些? 热门官方
回答:包括首字响应时间(TTFT)、每 token 生成时间、吞吐量(tokens/s)、GPU 利用率、显存占用、并发请求数。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读