这个问题是后边的dtk需要修改bios开启AtomicOp Requester Enable Advanced -> PCI Subsystem Settings -> PCI Express GEN * Settings -> AtomicOp Requester Enable 选择enabled
环境信息:
使用vllm进行qwen-7b模型服务部署时报错,另一台服务器相同配置,可以正常运行
docker镜像
image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-ubuntu20.
04-dtk24.04.1-py3.10

暂无数据