CUDA原子操作中的int溢出问题

作者：不正经 | 2024-03-18 14:09:22

踩

CUDA原子操作中的int溢出问题

CUDA原子操作中的int溢出问题：

在CUDA中对收集到的颜色值求和，偶尔会出现溢出问题，导致计算出的crosstalk为负数。

尝试：

修改数据类型为float未果，依旧溢出；修改数据类型为double报错，浅浅了解了一下是因为原子操作不支持该数据类型。

解决方案：

搜索原子操作的相关函数说明，发现：
unsigned long long int atomicAdd(unsigned long long int* address,unsigned long long int val);
即atomicAdd函数支持两个无符号长整型变量相加，故更改数据类型为unsigned long long int，问题解决，不再报错与溢出。

另：long long int = long long

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/不正经/article/detail/263592