2
编译器
提问帖
有回复
新人贴
llama.cpp版本比较老,不支持新的模型
2026-02-26 10:20:27
293
我想在k100ai上通过llama.cpp启动最新的qwen3-coder-next和glm4.7-flash模型,但是在社区里下载的llama.cpp版本比较旧,只支持到qwen2.5。可以提供下新版的llama.cpp吗? 谢谢
全部评论(4)
只看楼主
Y
yangzhong
1楼
不好意思,llama.cpp停止更新维护了。
2/26
R
renwoxing
回复 @yangzhong
好的,有没有其他方法能够起起来最新的大模型?
2/26
Y
yangzhong
回复 @renwoxing
可以使用vllm0.15.1试试,docker pull image.sourcefind.cn:5000/dcu/admin/base/custom:vllm0.15.1-ubuntu22.04-dtk26.04-0130-das1.8-py3.10-20260221-shca-cs
2/26
R
renwoxing
回复 @yangzhong
好嘞谢谢,请问一下Harbor的账号怎么注册?
2/26
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据