1
模型应用
vllm 062版本多卡推理时 ray卡死问题
2025-01-20 10:24:37
78

针对某个模型,单卡可以正常启动;多卡出现卡死现象

卡死在-- Started a local Ray instance

这个问题可能不是vllm导致的,更新docker版本后,该问题解决

全部评论(0)
只看楼主
暂无数据
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据