2
1
运行时
海光下部署Qwen2模型
2024-10-12 15:57:40
284

根据光源文档:光源 Find source, find chance. (sourcefind.cn)的步骤部署执行;
执行到训练这部
使用LLaMA-Factory框架微调

单机多卡(LoRA-finetune)

#注意:根据自己的模型切换.yaml文件中的模型位置并调整其他参数
cd /path/your_code_data/
cd LLaMA-Factory
export FORCE_TORCHRUN=1

HIP_VISIBLE_DEVICES=0,1,2,3 llamafactory-cli train examples/train_lora/qwen2_lora_sft_ds3.yaml

就产生截图的报错信息:

全部评论(1)
只看楼主
P
panhuiwen
1楼
报错显示您使用了量化后的模型做微调,这种方式和ds不太兼容,你可以专注下llamafactory官方是否有相关issue
2024/10/16
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据