2
DeepSeek
标题
2025-08-18 11:53:03
81

4张k100

跑qwen3-32b 速度大概多少?

嵌入式IDE & SDK 即将发布
全部评论(1)
只看楼主
Z
zc
1楼
1k,1k输入输出下,单并发能有10tokens/s,多并发下单路生成吞吐会下降
2025/8/18
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据