1
2
1
数学库
小白求助
2024-09-26 02:37:17
12

请教一个问题,想在本地部署网易qanything,目前是海光dcu k100,我看github上要求的是n卡且有驱动版本要求。请问各位老师这个环境能不能部署

:baoquan::baoquan::baoquan:

全部评论(1)
只看楼主
P
panhuiwen
1楼
可以尝试部署,不过llm和embedding的推理后端需要使用dcu的镜像尝试启动,不要使用默认nv的镜像
2024/10/10
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据