DeepSeek
请教光源中deepseek开箱即用镜像运行遇到的问题
2025-03-02 13:32:36
91

请问在docker中拉取了新上线的开箱即用的镜像后,我执行dokcer run 时会出现 bash 报错,我的使用方法正确吗,请问应该如何处理?

[root@localhost ~]# docker run --shm-size 500g --network=host --name=dpsk32b --privileged --device=/dev/kfd --device=/dev/dri --group-add video --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v /home/lib/docker/:/root/ -v /opt/hyhal:/opt/hyhal:ro -it 12acb95ebf43 bash

bash: /root/private_data/.ai_user_info/ai_proxy: No such file or directory

全部评论(5)
只看楼主
L
liumg
3楼
没有需要自己部署
2025/3/3
网
网友uGJORo
楼主
2楼
感谢老师解答,另外这个镜像是基于vllm的吗,用上述方法运行后能否有图中帖子中的指令实现webui操作,还是镜像中已经集成了UI操作功能?
2025/3/2
C
changhl
1楼

您好,因为基础镜像中的模型文件和脚本在/root下,所以您可以将该目录映射换个路径:-v /home/lib/docker/:/root/。之后再docker run构建容器,如果遇到bash错误可以跳过。

之后您可以在刚才构建的容器中,/root目录下找到模型: DeepSeek-R1-Distill-Qwen-32B和 start.sh脚本,尝试直接运行即可
2025/3/2
网
网友uGJORo
回复 @changhl
感谢老师解答,另外这个镜像是基于vllm的吗,用上述方法运行后能否有图中帖子中的指令实现webui操作,还是镜像中已经集成了UI操作功能?
2025/3/2
C
changhl
回复 @changhl

老师您好:是基于vllm推理的,运行bash start.sh 可以实现webui操作

详细您这边看一下start.sh脚本中的内容。
2025/3/3
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据