同样的一台机器用1卡微调14B的lora没有问题
您好，验证了一下，32B模型的lora微调没有问题，您可以参考modelzoo上该项目对齐环境：
1.dtk：dtk24.04.2—参考https://sourcefind.cn/#/model-zoo/1845646676611788802 中的容器构建
*2：deepspeed：使用opendas中对应dtk24.04.2的包：https://download.sourcefind.cn:65024/4/main/deepspeed/DAS1.2
3.32B模型：Qwen2.5-32B-Instruct
运行方式：参考https://sourcefind.cn/#/model-zoo/1845646676611788802即可
暂无数据 暂无数据 暂无数据 暂无数据
您好，验证了一下，32B模型的lora微调没有问题，您可以参考modelzoo上该项目对齐环境：
1.dtk：dtk24.04.2—参考https://sourcefind.cn/#/model-zoo/1845646676611788802 中的容器构建
*2：deepspeed：使用opendas中对应dtk24.04.2的包：https://download.sourcefind.cn:65024/4/main/deepspeed/DAS1.2
3.32B模型：Qwen2.5-32B-Instruct
运行方式：参考https://sourcefind.cn/#/model-zoo/1845646676611788802即可