1
3
0
0
数学库
提问帖
有回复
K100AI 部署Qwen3.6-35B-A3B模型
2026-10-13 14:18:47
69
操作
模型启动的时候一直提示没有足够可用的共享内存，如图：
全部评论（4）
只看楼主
南
南
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
南亿
只看此人
2楼
你可以使用单卡或者双卡的情况下部署测试一下
10/14
赞
回复
@圈友
暂无数据
尚未选择
发送
_
_
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
_cjshawn
回复
@南亿
好的好的，感谢感谢！
10/14
赞
回复
@圈友
暂无数据
尚未选择
发送
S
S
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
sunjq
只看此人
1楼
容器启动时，增大 shm 是否还会有相关报错？另外，可参考 cookbook 调整 Serve 启动命令：https://github.com/HYGON-AI/inference-cookbook-das/blob/main/docs/model-deployment/vllm/qwen3.6.md#qwen36-35b-a3b-ifb-k100_ai-2x-vllm-021
若仍有问题，麻烦贴出容器启动和 Serve 启动命令
10/13
赞
回复
@圈友
暂无数据
尚未选择
发送
_
_
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
_cjshawn
回复
@sunjq
增大shm也会有相关报错，启动命令截图如下：
10/13
赞
回复
@圈友
暂无数据
尚未选择
发送
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据
暂无数据 暂无数据 暂无数据 暂无数据
若仍有问题，麻烦贴出容器启动和 Serve 启动命令