1
基础环境
提问帖
有回复
新人贴
ray+vllm 部署 Minimax崩溃
2026-02-09 17:51:40
285
我用两台服务器,每台8张K100-AI,通过ray+vllm部署minimax-m2.1,可以成功跑起来,但是推理时总是崩溃,具体报错如下: ![attachmentId-image.png](/api-forum/file/Redirect?path=forum/papercloudcreek/1770630636280/image.png) ![attachmentId-image.png](/api-forum/file/Redirect?path=forum/papercloudcreek/1770630692212/image.png) 试过了很多方法都没用。有没有哪位大佬告诉我该如何解决?
全部评论(6)
只看楼主
P
panhb
2楼
能同步下镜像以及启动、测试命令吗?
2/10
张
张嗣鹏
回复 @panhb
镜像1:image.sourcefind.cn:5000/dcu/admin/base/custom:vllm-ubuntu22.04-dtk25.04.2-py3.10-minimax-m2
使用这个镜像会出现问题
镜像2:harbor.sourcefind.cn:5443/dcu/admin/base/vllm:0.11.0-ubuntu22.04-dtk25.04.2-1226-das1.7-py3.10-20251226
这个镜像不会出现问题,是目前最新一次更新的镜像,但是推理速度很慢,只有上一个的五分之一
具体看我的git:https://gitee.com/papercloudcreek/data.git

2/10
M
maming
回复 @张嗣鹏
是按照这个文档部署的么
https://developer.sourcefind.cn/modelzoo/list/minimax-m2_vllm/detail?post_id=66b4acaf-cc26-11f0-a654-0242ac150003
2/11
张
张嗣鹏
回复 @maming
是的
2/12
S
Sober
1楼
你用的哪个镜像,已经支持m2.1了嘛?

2/10
张
张嗣鹏
回复 @Sober
m2的镜像m2.1也适用
2/10
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据