1
运行时
提问帖
有回复
新人贴
K100-AI,起pod只申请了一张GPU,但是vllm启动之后把所有的GPU都找出来了,如何限制ROCM主动寻卡??
2026-07-01 14:47:15
82
在K8s中使用device-plugin(2.4.1)申请了一张GPU,cdi也正常注入容器运行时了,但是启动vllm后,运行hy-smi显示8张GPU,同时在/dev/dri目录下看到有一个新的by-path目录,查了一下说是ROCM主动寻卡导致的。 现在的问题时,我如果在同一个node上起pod,会导致GPU冲突 有谁知道怎么处理吗
全部评论(1)
只看楼主
Z
zc
1楼
起pod的时候可以不开特权模式,指定单张卡就行,和在物理机上一样使用;还有一种方式:可以安装我们的dcu-ctk工具,就可以不用开特权模式了
8/6
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据