K100在硬件上支持全局内存的整型和浮点型（FP32和FP64）的原子操作。尤其当规约次数过多时，使用全局内存做原子加比较慢，可以尝试从核函数层面优化，比如使用共享内存优化原子加操作、利用线程束洗牌函数优化（如_shfl_down）以及用空间换时间的思想(申请线程总数长度的数组，再单独对这个数组中的元素求和)
0
1
1
1
K100的atomicAdd性能会比2018年的RTX 2080Ti相差很大吗？什么原因？
2025-04-01 09:03:16
148
Z100看之前的贴子有说原子操作没有硬件优化性能很差，K100是因为同样的原因吗？
这边做两个很简单的测试，单int数据的atomicAdd测试例子中，K100要18s而RTX2080Ti只要0.5秒，1G数据的atomicAdd中，K100要3.1s而2080Ti只要0.8s.
大概是什么原因？
是不是要进行10^12次atomicAdd，不管以什么方式，它的耗时都不会低于3s，有没有改进建议？
因为我的程序要涉及到大批量（5G,20G或以上）全局显存的累加写更新，atomicAdd应该是效率最高的方式了吧？
全部评论（1）
只看楼主
Z
2025/4/1
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据