0
11
0
0
框架组件
提问帖
有回复
[情绪帖] 能不能不要忘记对老卡的支持？比如Z100L K100这种？就非得逼人买新卡吗？一眼望去全都是BW1100 BW1000 K100AI，老卡呢？能不能学学人家英伟达，新卡老卡都能跑
2026-08-12 00:44:08
398
操作
RT
全部评论（15）
只看楼主
孙
孙
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
孙锦然
只看此人
8楼
我这机房里还有几十张Z100嗷嗷待哺哦
9/15
赞
回复
@圈友
暂无数据
尚未选择
发送
W
W
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
wangzhq
只看此人
7楼
Deepseek-v4-flash在K100_AI上新，部署方法https://developer.sourcefind.cn/codes/modelzoo/deepseek-v4-int。
9/8
赞
回复
@圈友
暂无数据
尚未选择
发送
网
网
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
网友N8z7fN
只看此人
6楼
关键是适配完的源代码也不放出来，说好的开源呢
9/7
赞
回复
@圈友
暂无数据
尚未选择
发送
网
网
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
网友N8z7fN
只看此人
5楼
顶， 俺们Z100 用户感觉也被抛弃了
9/7
赞
回复
@圈友
暂无数据
尚未选择
发送
我
我
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
我去喝汤了
只看此人
4楼
顶大哥，希望如果能编译了，分享下经验
9/2
赞
回复
@圈友
暂无数据
尚未选择
发送
网
网
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
网友iH4DWR
只看此人
3楼
可以400，最好是微信小程序总裁直达，直接批评总裁效果比较好，在光合发帖子没人搭理
8/19
赞
回复
@圈友
暂无数据
尚未选择
发送
C
C
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
coolscript
只看此人
2楼
有Z100L两张卡
2026.8.5 -8.7 尝试llama.cpp， VLLM。
9B模型最高优化到 15token/s。
算了，吃灰去吧，浪费我三天时间。
8/12
赞
回复
@圈友
暂无数据
尚未选择
发送
东
东
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
东风
回复
@coolscript
我现在在拿codex+deepseek flash帮我修补最新版vllm适配z100l，已经跑了好几个小时，目前是能够成功编译安装，但是跑qwen3.6-27b-awq-int4模型的时候，会出错，现在ai发现是triton版本错了，它一是要自己在社区找找适配gfx906的triton，二是想自己改triton最新版的源码。我让它两个都试试，现在还在跑着
8/13
赞
1
回复
@圈友
暂无数据
尚未选择
发送
卡
卡
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
卡希利亚斯
回复
@东风
ds flash大概率没法帮你的，我用workbuddy烧的Kimi K3的积分，Z100L 编译了llama.cpp，跑qwen3.8-27b-q4_k_m，能跑起来，但是会死循环，后边降级到qwen3.6-27b-q4_k_m了，能正常收口，让混元4preview出题考了下分数还不错，接下来接个agent跑一跑看看吧。海光真是不当人，他喵的只顾新卡不管老卡，吃相真难看！！！
9/25
赞
回复
@圈友
暂无数据
尚未选择
发送
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
AuroraUSTC
只看此人
1楼
个人的经验：
1. 如果是大模型推理方面，K100可以直接用lamma.cpp的GitHub仓库，按照AMD ROCm的方式去编译，我记得可以在基本不动源码的情况下成功装上；如果是要用vllm或者sglang做serve的话那确实比较困难，要手动去改一下triton那里的gpu架构，新的模型，也最好用AI帮你对着GitHub仓库的vllm去把python部分的代码迁移一下，确实比较折腾
2. 科学计算方面，开源的比如GPUMD，LAMMPS基本也是直接能编译，就按CUDA版操作就行，应该是会有一些报错的，主要是接口、头文件位置之类的问题，源码不怎么需要改动，可能最多就是把出现warp size的地方从32改成64之类的小修改；而vasp这些商业软件，scnet的商店里有编译好的版本可以去用。OpenACC方面，尤其是Fortran+OpenACC，这个在DTK的手册里看到过但是我没试过能不能用，估计需要自己探索
K100这样的老卡，确实现在用起来不是很方便了
我感觉，K100这个系列有点像前期技术路线的探索，区分了高精度（K100）和低精度（K100AI）两个产品线。去年年初折腾了K100几个月，后来决定只在上面放几个qwen 3B之类的参数量小的模型，给课题组用来做一些自动补全、打标签之类的工具性质的工作了，以及装了一些LAMMPS之类的开源软件，用来在资源不足又有急任务的时候临时顶上。
8/12
赞
1
回复
@圈友
暂无数据
尚未选择
发送
东
东
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
东风
回复
@AuroraUSTC
我现在就在让codex+deepseek flash帮我修vllm中
8/13
赞
回复
@圈友
暂无数据
尚未选择
发送
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
AuroraUSTC
回复
@东风
建议这样：
1. 整个pytorch+vllm工具链，可以用站内的镜像；
2. 然后，vllm还是triton里面，应该有个python代码，是识别GPU构架的，直接手动写死返回"gfx906"，这个直接在docker镜像里面的vllm/triton的安装位置里面去改。印象中K100好像会被识别成gfx926，但其实gfx926是不能用的，有个wmma还是啥的张量指令是不支持的；
3. 接着测试下能不能运行一些老模型，比如qwen2.5啥，确认输出不会乱码；
4. 最后给镜像内的vllm移植新模型的文件，这里大部分情况下是纯python就能解决的，可以让codex对比镜像内的vllm的py文件和GitHub上vllm仓库，看看怎么把那几个模型需要的py文件迁移过去
尽量避免自行编译vllm吧，不然缺的依赖太多了，比如构建vllm后面会需要构建triton，构建triton好像又会缺东西，MLIR啥的，DTK里面也没有，总之特别麻烦。
8/13
赞
1
回复
@圈友
暂无数据
尚未选择
发送
这个人很懒，什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
AuroraUSTC
回复
@东风
量化版的应该还有些坑，比如AWQ，要设个环境变量启用vllm里triton的实现，但是triton似乎又有问题，即使写死了gfx906，可能也会卡死，我之前应该是跑deepseek的awq版，一直没搞成功。不过现在有AI的话，可以试试让AI修一下老版本vllm的awq的实现，说不定能修好。另外K100自身没有FP8计算单元，所以FP8也用不了
8/13
赞
1
回复
@圈友
暂无数据
尚未选择
发送
全部5条回复
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据
暂无数据 暂无数据 暂无数据 暂无数据
2026.8.5 -8.7 尝试llama.cpp， VLLM。
9B模型最高优化到 15token/s。
算了，吃灰去吧，浪费我三天时间。