1
1
其他
请教8卡K100-AI如何运行智普GLM4.6
2025-10-04 16:29:36
201
![attachmentId-image.png](/api-forum/file/Redirect?path=forum/OraWang/1760096280231/image.png)docker run -it --rm --name vllm-0.9.2 --device=/dev/kfd --privileged --network=host --device=/dev/dri --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v /home/yjs/models:/home/LLM-Models:ro -v /opt/hyhal:/opt/hyhal:ro --group-add video --shm-size 128G a954f6f8cb47 /bin/bash ![attachmentId-image.png](/api-forum/file/Redirect?path=forum/OraWang/1760096289086/image.png) 执行 vllm serve /home/LLM-Models/GLM-4.6-AWQ --served-model-name GLM-4.6 --tensor-parallel-size 8 报错: ![attachmentId-image.png](/api-forum/file/Redirect?path=forum/OraWang/1759566556061/image.png)
全部评论(2)
只看楼主
L
liumg
1楼
需要您补充一下 容器启动的命令,看报错可能是缺少 --shm-size参数导致的
2025/10/9
O
Ora
回复 @liumg
感谢回复, 启动命令和完整的日志已经在原帖补充。
2025/10/10
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据