调用rocblas 中的 rocblas_gemm_ex ，来实现 int8 * int8 -> int32 gemm，性能很低，只有5TFlops， 远低于 fp16 * fp16 -> fp16 gemm 的 21TFlops。应该调用什么API 来做 int8 * int8 -> int32 gemm 呀
0
2
0
0
如何做int8量化
2024-04-07 09:41:06
136
您好，我正尝试量化神经网络，请问DCU是否有和cutlass类似的库支持 int8 * int8 -> int32 gemm
全部评论（1）
只看楼主
网
2024/4/7
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据