购买的算力安装后都4个月了，到目前为止，因推理框架镜像问题（当然也不排除硬件性能不达标），Qwen3.5系列大模型推理一直出问题，导致我们一直无法投入正常使用！
0
0
0
0
Qwen3.5的工具调用能力为啥一直得不到解决？
2026-04-11 13:30:53
277
vLLM镜像问题太多，4月8日发布的镜像：`harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-glm5-0408`比之前更差！挂载MCP极不稳定，工具调用很慢，准确性也差，完全没有memory记忆的调用能力（而且就算做成系统提示词，它也不懂该如何调用）。文字推理的输出结果最多只能输出5500多字！为何不尽快升级到vLLM0.19.0，一直停留在vLLM0.15.1，到底还在等什么？
全部评论（3）
只看楼主
A
4/11
A
K100_AI跑Qwen3.5-27B大模型，2卡的推理速度每秒不到10token！是我们购买的算力硬件不达标吗？如果是这样的话，我们就要打电话投诉了，强烈要求退机！
4/11
A
图片解析结果完全是乱码，甚至是死循环！
4/11
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据