1
DeepSeek
标题
2025-06-03 22:13:23
65

用vllm跑DeepSeek-R1-Distill-Llama-70B,使用哪个docker镜像比较好?

全部评论(2)
只看楼主
网
网友qL6E9l
楼主
1楼

显卡是8张K100_AI

2025/6/3
Z
zhufzh1
回复 @网友qL6E9l
您好,可以参考这里面给出的方法和镜像来进行部署。https://sourcefind.cn/#/model-zoo/1885899210378838017
2025/6/4
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据