0
4
0
0
数学库
提问帖
有回复
新人贴
学校需要调研DCU是否支持vllm部署任意小模型
2026-07-01 16:40:58
87
操作
我们有个项目可能需要部署30B-70B的千问小模型,需要调研海光gpu,目前发现有BW10/100/150/1000/1100和K100 AI DCU ,但是不知道这些是否都支持vllm部署任意模型(从huggingface拉取),是否支持pytorch库等等。论坛也有很多成功帖子,但还是看的眼花缭乱,发帖看能否得到一定的指导和帮助,谢谢各位老哥。
新银河麒麟V10 sp3国防版系统
全部评论(2)
只看楼主
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
zx的测试账号
只看此人
2楼
https://developer.sourcefind.cn/modelzoo DCU各个卡型支持的模型
7/3
赞
回复
@圈友
暂无数据
尚未选择
发送
M
M
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
muyi_muyi
只看此人
1楼
7/2
赞
回复
@圈友
暂无数据
尚未选择
发送
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据