> ::inverse() const") from a __device__ function("ComputeHomography") is not allowed解决_cuda矩阵求逆的实现调用">
当前位置:   article > 正文

Eigen库矩阵的求逆函数无法在CUDA代码使用_cuda矩阵求逆的实现调用库

cuda矩阵求逆的实现调用库

VS2019+Eigen3.3.9+CUDA11.9编译OpenMVS2.0遇到以下报错

calling a __host__ function("Eigen::MatrixBase< ::Eigen::Matrix<float, (int)3, (int)3, (int)0, (int)3, (int)3> > ::inverse() const") from a __device__ function("ComputeHomography") is not allowed
  • 1

解决方法1:

Eigen3.3.9不行,换Eigen3.4。
https://gitlab.com/libeigen/eigen/-/archive/3.4.0/eigen-3.4.0.zip

方法2:

修改Eigen3.3.9下的文件 …\eigen3\Eigen\src\LU\InverseImpl.h
第335行新加一句EIGEN_DEVICE_FUNC,使得inverse()函数同时在host和device函数中使用

template<typename Derived>
EIGEN_DEVICE_FUNC
inline const Inverse<Derived> MatrixBase<Derived>::inverse() const
{
  EIGEN_STATIC_ASSERT(!NumTraits<Scalar>::IsInteger,THIS_FUNCTION_IS_NOT_FOR_INTEGER_NUMERIC_TYPES)
  eigen_assert(rows() == cols());
  return Inverse<Derived>(derived());
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/羊村懒王/article/detail/245604
推荐阅读
相关标签
  

闽ICP备14008679号