0
1
0
0
Qwen
提问帖
有回复
双K100_AI能不能跑70b千问
2026-05-21 11:51:04
126
操作
求助:双K100_AI 能跑Qwen70B吗? 服务器是双K100_AI显卡,麒麟V10离线环境,用Docker+vLLM部署,已经跑通了14B的千问。 想问下: 1. 双K100能不能带得动70B的千问模型?适配过的离线包下载位置。 2. 带不动的话,32B的千问模型适配过的离线包在哪下载? 麻烦懂的大佬指点下,感谢!
全部评论(2)
只看楼主
L
L
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
lim
只看此人
1楼
请问具体是哪个70B的模型 两卡应该不够 32B的拉取092/011镜像即可
5/22
赞
回复
@圈友
暂无数据
尚未选择
发送
Z
Z
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
zc666
回复
@lim
能否给个32B启动的参考脚本
5/26
赞
回复
@圈友
暂无数据
尚未选择
发送
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据