0
1
0
0
Qwen
模型量化工具Qwen3-30B-A3B-Instruct-2507
2025-10-31 09:05:48
184
操作
求Qwen3-30B-A3B-Instruct-2507的量化工具，以支持在K100_AI 64G的环境下进行推理服务
全部评论（4）
只看楼主
A
A
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
ANYA
只看此人
1楼
您可以尝试下llmcompressor 进行转换
2025/11/4
赞
回复
@圈友
暂无数据
尚未选择
发送
恭
恭
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
恭喜我自己
回复
@ANYA
感谢提供信息
2025/11/4
赞
回复
@圈友
暂无数据
尚未选择
发送
A
A
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
ANYA
回复
@恭喜我自己
不客气，后续我们也会抽时间整理下相关内容
2025/11/4
赞
回复
@圈友
暂无数据
尚未选择
发送
恭
恭
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
恭喜我自己
回复
@ANYA
看了下llmcompressor的相关资料和代码，好像只能转GPTQ类型的，我们的DCU环境不支持这个类型。
2025/11/4
赞
回复
@圈友
暂无数据
尚未选择
发送
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据
暂无数据 暂无数据 暂无数据 暂无数据