6
Qwen
提问帖
有回复
新人贴
ubuntu 24.04 + DTK 26.04 部署qwen3.8-27B跑不起来
2026-09-17 16:48:20
247
求助下,我的K100-ai在Ubuntu 24.04的系统上,两张卡,我用docker部署了qwen3.8-27B的模型,部署没有报错,但是性能极其不正常,几乎是用不起来,查看显存虽然用上了但是功率根本没起来,dmesg看到[Wed Sep 16 04:37:01 2026] workqueue: ttm_device_delayed_workqueue [hyttm] hogged CPU for >10000us 262144 times, consider switching to WQ_UNBOUND,求助下这个是什么导致的,是Ubuntu系统版本太高了吗?
全部评论(9)
只看楼主
shuang2920
2楼
https://mp.weixin.qq.com/s/7A4gfFiq6vyKNiGUa7ZOdQ 我是参考这个部署的 不过用的tp4
9/18
L
liumg
1楼
测一下通信看看正常不
9/17
周
周八营业的刘师傅
回复 @liumg
您好,请问通信该怎么测比较好,谢谢
9/17
周
周八营业的刘师傅
回复 @liumg
主要是我试了下,单卡速度也很慢
9/17
周
周八营业的刘师傅
回复 @liumg
我让AI看了下日志,说是:CUDA Graph 捕获太重,并且 W8A8/GDN 优化 cache 大量 miss。
9/17
全部7条回复
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据