4
数学库
提问帖
有回复
新人贴
学校需要调研DCU是否支持vllm部署任意小模型
2026-07-01 16:40:58
87
我们有个项目可能需要部署30B-70B的千问小模型,需要调研海光gpu,目前发现有BW10/100/150/1000/1100和K100 AI DCU ,但是不知道这些是否都支持vllm部署任意模型(从huggingface拉取),是否支持pytorch库等等。论坛也有很多成功帖子,但还是看的眼花缭乱,发帖看能否得到一定的指导和帮助,谢谢各位老哥。
新银河麒麟V10 sp3国防版系统
全部评论(2)
只看楼主
zx的测试账号
2楼
https://developer.sourcefind.cn/modelzoo   DCU各个卡型支持的模型
7/3
M
muyi_muyi
1楼
attachmentId-image.png
7/2
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据