各个ISA平台都支持INT8的调用,具体调用方式参考hip官方程序。这里也可以给一个例子: tensor core的指令,普通计算int8就是char using intx4_t = __attribute__((ext_vector_type(4))) int; long a,b; intx4_t c,d; d = __builtin_amdgcn_mmac_i32_16x16x32i8(long a,long b,intx4_t c); 上述函数warp计算D=A*B+C,A,B大小为16*32,C,D大小为16*16,线程持有的数据是a,b为8个int8打包为long,c、d为4个intusing intx4_t = __attribute__((ext_vector_type(4))) int; long a,b; intx4_t c,d; d = __builtin_amdgcn_mmac_i32_16x16x32i8(long a,long b,intx4_t c); 上述函数warp计算D=A*B+C,A,B大小为16*32,C,D大小为16*16,线程持有的数据是a,b为8个int8打包为long,c、d为4个int

暂无数据