1
12
数学库
提问帖
有回复
请问使用一张K100_AI可以部署Qwen3-30B-A3B-instruct-2507吗？
2026-01-30 09:52:21
70
请问使用一张K100_AI可以部署Qwen3-30B-A3B-instruct-2507吗？
全部评论（2）
只看楼主
L
litzh
1楼
可以部署，不过模型权重（约60GB）几乎达到加速卡显存上限，推理服务在多并发长文本情况下可能有性能下降、甚至服务崩溃风险；
1/30
Q
QAZ
回复 @litzh
实测多并发情况下，性能会有所下降，如果我设置并发上限为20个以内，会不会存在服务崩溃的风险呢？
1/30
没有更多内容了
--
楼主
Level.6
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据