1
Qwen
提问帖
有回复
新人贴
海光k100ai跑qwen3.6-35b时间长了会崩溃
2026-05-09 15:46:06
425
使用海光k100ai跑qwen3.6-35b跑了1天模型就模型奇妙崩溃了你们有遇到吗，使用的harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm018-ubuntu22.04-dtk26.04-gemma4-0413镜像
全部评论（17）
只看楼主
T
tianlh
6楼
有复现步骤么，运行脚本
5/13
Y
ylx1314
回复 @tianlh
售后给出的命令
5/13
T
tianlh
回复 @ylx1314
客户端运行的啥呢？只是启动服务端么？什么请求响应？
5/15
Y
ylx1314
回复 @tianlh
使用的openclaw和Claude code
5/15
全部6条回复
T
tianlh
5楼
新镜像 42.228.13.241:5000:5000/jenkins/model_test_env/vllm:0.18.1-ubuntu22.04-dtk26.04-py3.10-20260513-1511，改docker配置文件 "insecure-registries": ["42.228.13.241:5000"]，拉取镜像。用这个镜像试下，我们也同步验证下
5/13
H
huangyy
4楼
我跑3.5 35B才6-7token/s 速度太慢感觉没什么用啊
5/10
Y
ylx1314
回复 @huangyy
我试了千问3.6慢是慢了点40-5token/s
5/11
H
huangyy
回复 @ylx1314
请问你用的具体是哪个模型？ VLLM镜像是什么？
5/11
Y
ylx1314
回复 @huangyy
就是用的现在qwen3.5的镜像
5/11
H
huangyy
3楼
tokens速度怎么样？
5/10
A
aq
2楼
harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm-ubuntu22.04-dtk26.04-hunyuan-v3-0507
用这个镜像试试，5月7日的vllm 0.20.0
5/9
Y
ylx1314
回复 @aq
用是可以用就是速度感人只有1.5token/s，问售后技术说是没适配导致的
5/11
T
tianlh
1楼
崩溃现象是什么，有日志么
5/9
Y
ylx1314
回复 @tianlh
问技术说0.18没有完全适配3.6有内存泄漏bug，所以出现运行1天模型就崩溃的问题
5/11
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据