如果上述问题仍旧存在，可尝试再次降低阈值，例如将10000降至8000
0
2
0
0
使用vllm062版本出现 kernel error
2024-12-30 11:34:34
179
这个是ck gemm的问题（gemm使用cutlass代替ck，ck不再维护）：
将export AWQ_CK_GEMMBS=15000更改为export AWQ_CK_GEMMBS=10000
全部评论（1）
只看楼主
Y
2025/1/20
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据