请问下你使用的accelerate是什么版本呢
3
4
1
1
标题
2025-05-14 17:59:15
68
bitsandbytes-0.42.0+das.opt1.dtk24043-py3-none-any.whl 这个版本不支持4-bit量化吗？
全部评论（3）
只看楼主
网
2025/5/15
W
目前的0.42.0版本暂不支持4-bit量化（按照官方，低于0.43.2都会报错），等后续适配的新版本应该就可以了
2025/5/15
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据