开发者手册深度学习pytorch优化部分,使用torch.autograd.profiler打印出每个Op的计算时间
手册中显示定位到需要优化的代码如下
Tensor output = half_to_float ? at::empty_like(input, input.options().dtype(ScalarType::Float), LEGACY_CONTIGUOUS_MEMORY_FORMAT) : at::empty_like(input, LEGACY_CONTIGUOUS_MEMORY_FORMAT);
那么这段代码应该如何优化呢?

暂无数据
可以对这行代码优化,包括参数类型、输入方式、empty_like函数实现等,也可以对整个log_softmax函数进行优化,这只是一个例子,具体到您的代码还需要具体分析。