1
1
框架组件
开发者手册深度学习pytorch优化
2024-03-19 09:42:31
254

开发者手册深度学习pytorch优化部分,使用torch.autograd.profiler打印出每个Op的计算时间

attachmentId-image.png

手册中显示定位到需要优化的代码如下

Tensor output = half_to_float ? at::empty_like(input, input.options().dtype(ScalarType::Float), LEGACY_CONTIGUOUS_MEMORY_FORMAT) : at::empty_like(input, LEGACY_CONTIGUOUS_MEMORY_FORMAT);

那么这段代码应该如何优化呢?

全部评论(1)
只看楼主
T
tianlh
1楼

可以对这行代码优化,包括参数类型、输入方式、empty_like函数实现等,也可以对整个log_softmax函数进行优化,这只是一个例子,具体到您的代码还需要具体分析。

2021/12/28
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据