5
模型应用
在银河麒麟系统部署dify+ollama和dify+vllm遇到无结果的问题
2026-02-03 09:59:28
103

attachmentId-image.pngattachmentId-image.png

attachmentId-image.pngattachmentId-image.pngattachmentId-image.png

如上图(前两张图)所示,在银河麒麟系统部署dify+ollama,LLM模型使用qwen3:1.7b(物理机部署,未使用DCU)能正常出知识库相关结果

同样的知识库(后三张图),dify+vllm,LLM模型使用Qwen3-8B(docker部署,使用了DCU)就无法出知识库结果,一般会是什么原因呢?

全部评论(2)
只看楼主
L
lim
2楼
请问用的哪个版本镜像 可以先用curl测一下输出是否正常
2/7
T
tekkie
楼主
1楼
确认qwen3:1.7b中间过程输出了不该输出的东西。。。:zhuakuang:emoji
2/3
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据