有测试过 Qwen3-Coder-480B-A35B-Instruct 的 BF16 版本，但没测试过 INT4 版本；
0
3
0
0
八卡K100-AI跑Qwen3-Coder-480B-A35B-Instruct模型INT4量化
2026-04-15 12:29:04
146
八卡K100-AI服务器跑Qwen3-Coder-480B-A35B-Instruct模型INT4量化，是否可以正常安装运行？以及推理的性能数据？
全部评论（2）
只看楼主
W
4/18
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据