至少需要8张卡
1
0
0
0
部署Qwen3-235B-A22B-INT8模型，12K上下文输入，6K上下文输出，5并发，每路并发10token/s，至少需要几张K100_AI卡？
2026-03-12 11:25:49
99
请问部署Qwen3-235B-A22B-INT8模型，12K上下文输入，6K上下文输出，5并发，每路并发10token/s，至少要需要几张K100_AI卡？
全部评论（1）
只看楼主
F
3/16
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据