[cuda 技术总结1] 第一次调用 cuda 库函数耗时很长_cuda第一次运行很慢

作者：盐析白兔 | 2024-04-14 20:23:51

踩

cuda第一次运行很慢

在cuda编程中，发现调用cuda文件总耗时一百多ms，而纯kernel计算时间才3ms。

时间都去哪了？

查资料，trouble shooting，最后才发现这多出来的时间，就是第一次调用cuda api的时间：隐式cuda初始化，加载上下文…

目前还没找到什么好方法，只能提前做好初始化，把这段时间给隐藏掉（实际在整个代码执行中仍然存在）：

cudaSetDevice(0);
cudaFree(0);
1
2

2.Linux下将驱动加载的默认模式改成“持久保存”

以 root 模式运行：

nvidia-smi -pm 1 
1

参考文献

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/盐析白兔/article/detail/423948