1
AI人工智能
glm4-9b_pytorch 镜像transformer版本不适配
2024-07-31 11:08:55
125

按照官网的进行环境配置出现:transfomer 版本不适配

官网文档:
docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-centos7.6-dtk24.04-py310
docker run -it --network=host --privileged=true --name=docker_name --device=/dev/kfd --device=/dev/dri --ipc=host --shm-size=32G --group-add video --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -u root -v /path/your_code_data/:/path/your_code_data/ -v /opt/hyhal/:/opt/hyhal/:ro imageID /bin/bash

cd /your_code_path/glm4-9b_pytorch
cd basic_demo
pip install -r requirements.txt

现象:glm4-9b_pytorch 镜像transformer版本不适配

具体报错:ERROR: pip's dependency resolver does not currently take into account all the packages that are installed. This behaviour is the source of the following dependency conflicts.
lmdeploy 0.1.0-git782048c.abi0.dtk2404.torch2.1. requires transformers==4.33.2, but you have transformers 4.43.3 which is incompatible.
尝试降低transformer 到 4.33.2 又出现其他依赖问题

求解决方案急急急~~!!:haqian::liulei::liulei::liulei::liulei::liulei:

全部评论(3)
只看楼主
D
dcu_fae_zhangxp
1楼
你好,lmdeploy卸载就可以了,这个容器没有用到lmdeploy
2024/7/31
网
网友AzlZfh
回复 @dcu_fae_zhangxp
好的 谢谢 有具体离线环境接入某一个chat大模型的案例文档吗?比如 在基础环境配置好了之后,接入qwen-7B-chat 这种
2024/8/1
D
dcu_fae_zhangxp
回复 @dcu_fae_zhangxp
你好,没太理解您的问题,是环境都配置完成后,开个内网的API的接口的流程吗?
2024/8/3
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据