光合开发者社区-论坛

A

aq

3楼

root@xxxx:/opt# regctl tag ls image.sourcefind.cn:5000/dcu/admin/base/custom | grep 2026

pytorch2.5.1-kali2026.1-dtk25.04.4-py3.10

pytorch2.9.1-ubuntu22.04-dtk26.04-0130-py3.10-20260204-qwen3_5

sglang0.5.7-ubuntu22.04-dtk26.04-0130-py3.10-20260212

vllm0.15.1-ubuntu22.04-dtk26.04-0130-das1.8-py3.10-20260221-shca-cs

root@xxxx:/opt# regctl tag ls harbor.sourcefind.cn:5443/dcu/admin/base/custom | grep 2026

pytorch2.0.1-ubuntu22.04-dtk25.04.4-1230-py3.10-20260206

pytorch2.0.1-ubuntu22.04-dtk25.04.4-1230-py3.10-20260212

pytorch2.5.1-kali2026.1-dtk25.04.4-py3.10

pytorch2.9.1-ubuntu22.04-dtk26.04-0130-py3.10-20260204-qwen3_5

sglang0.5.7-ubuntu22.04-dtk26.04-0130-py3.10-20260212

torch2.7.1-ubuntu22.04-dtk25.04.4-1230-das1.7-py3.10-20260220-shca-cs

torch2.7.1-ubuntu22.04-dtk25.04.4-1230-das1.7-py3.10-20260221-shca-cs

torch2.7.1-ubuntu22.04-dtk25.04.4-1230-das1.7-py3.10-20260222-shca-cs-passwordless

vllm0.11.0-ubuntu22.04-dtk25.04.4-1230-das1.7-py3.10-20260109-shca-cs

vllm0.13.0-ubuntu22.04-dtk26.04-rc1-py3.10-20260309

vllm0.15.1-ubuntu22.04-dtk26.04-0130-das1.8-py3.10-20260221-shca-cs

vllm0.15.1-ubuntu22.04-dtk26.04-0130-py3.10-20260220

3/21

A

aq

2楼

部署后的效果很不好，推理效果差，会出现死循环，而且用CoPaw测试调用工具的能力也很差，基本上都是在乱调用，语无伦次，然而用CoPaw在vLLM0.17.0里面测试RTX-3090的工具调用能力就非常好！

3/21

L

liumg

1楼

镜像使用这个image.sourcefind.cn:5000/dcu/admin/base/custom:pytorch2.9.1-ubuntu22.04-dtk26.04-0130-py3.10-20260204-qwen3_5，驱动暂时没有影响。
可以参考这个：https://developer.sourcefind.cn/modelzoo/list/qwen3.5_vllm/detail?post_id=46176b42-0c0b-11f1-a49f-0242ac150003

3/19