数学库
标题
2024-09-29 11:54:01
80

dtk和rocm是什么关系呢，从文档来看是从rocm开源并开发适配DCU。 那么dtk完全兼容rocm么，能否直接使用官方的vllm安装rocm进行推理呢？

全部评论（2）
只看楼主
A
ANYA
1楼
不可以直接使用官方rocm版本的vllm进行推理，库是基于DTK编译的，需要下载das中的相关库
2024/9/29
网
网友po20TW
回复 @ANYA
那我用官方的vllm，然后把一些库换成dtk的，这样可以呢？
2024/9/30
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据