0
1
0
0
运行时
提问帖
有回复
新人贴
K100-AI,起pod只申请了一张GPU,但是vllm启动之后把所有的GPU都找出来了,如何限制ROCM主动寻卡??
2026-07-01 14:47:15
82
操作
在K8s中使用device-plugin(2.4.1)申请了一张GPU,cdi也正常注入容器运行时了,但是启动vllm后,运行hy-smi显示8张GPU,同时在/dev/dri目录下看到有一个新的by-path目录,查了一下说是ROCM主动寻卡导致的。 现在的问题时,我如果在同一个node上起pod,会导致GPU冲突 有谁知道怎么处理吗
全部评论(1)
只看楼主
Z
Z
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
zc
只看此人
1楼
起pod的时候可以不开特权模式,指定单张卡就行,和在物理机上一样使用;还有一种方式:可以安装我们的dcu-ctk工具,就可以不用开特权模式了
8/6
赞
回复
@圈友
暂无数据
尚未选择
发送
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据