1
运行时
提问帖
已解决
sglang 运行报paged_attention_ragged 错误该怎么解决
2026-05-25 10:15:40
95
使用的镜像 harbor.sourcefind.cn:5443/dcu/admin/base/custom:sglang0.5.10rc0-ubuntu22.04-dtk26.04-py3.10-20260428 ,驱动是6.3.30,设备是bw200 运行指令是 python3 -m sglang.launch_server --port 8000 --model-path /models/Qwen/Qwen3-0.6B/ --served-model-name qwen33 --context-length 1000 --max-running-requests 1 报下面错误
DCU达人计划
gfx936
全部评论(1)
只看楼主
Z
z1234567
1楼
启动命令加上 --attention-backend fa3 --page-size 64 可成功部署
5/25
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据