1
模型应用
Ktransformer在K100AI上报错
2025-09-19 16:06:16
122
1、用的是developer.sourcefind.cn/codes/OpenDAS/ktransformers/-/tree/v0.3.1-fastpt 版本 2、使用源码编译方式安装,安装成功 3、运行基本的local chat:python -m ktransformers.local_chat --model_path deepseek-ai/DeepSeek-V2-Lite-Chat --gguf_path /home/llm/projects/models/DeepSeek-V2-Lite-Chat-GGUF,可以进入对话界面,但是问答报错
全部评论(2)
只看楼主
K
kk1234
2楼
问题解决了吗,能不能运行
2025/11/17
X
xingh
1楼
报错中出现了__nv_bfloat16符号,可以先确认一下安装的依赖是否为das版本,可以提供一下pip list的结果
2025/9/22
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据