3
2
2
0
基础环境
vibe coding简单移植了一个BW1000上初步能用的vLLM 0.20版本,下一步试试能不能port DS V4
2026-05-08 23:28:10
153
操作
项目地址:https://developer.sourcefind.cn/codes/myrfy001/vllm_dsv4 原理是参考光合社区现有镜像中0.15版本的vLLM,把里面一些编译好的so库直接搬过来,挪到vLLM官方的0.20上,然后再做一点小的Python层面的适配,现在已经可以跑Qwen3 0.6B了。 port所需的文件在dcu_port目录中
全部评论(0)
只看楼主
暂无数据
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据