1
Qwen
提问帖
有回复
双K100_AI能不能跑70b千问
2026-05-21 11:51:04
126
求助:双K100_AI 能跑Qwen70B吗? 服务器是双K100_AI显卡,麒麟V10离线环境,用Docker+vLLM部署,已经跑通了14B的千问。 想问下: 1. 双K100能不能带得动70B的千问模型?适配过的离线包下载位置。 2. 带不动的话,32B的千问模型适配过的离线包在哪下载? 麻烦懂的大佬指点下,感谢!
全部评论(2)
只看楼主
L
lim
1楼
请问具体是哪个70B的模型 两卡应该不够 32B的拉取092/011镜像即可
5/22
Z
zc666
回复 @lim
能否给个32B启动的参考脚本
5/26
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据