当前位置:   article > 正文

【详细|ARM NX】优雅的配置ego-planner到arm架构的Jetson Orin-NX机载电脑上(opencv3.4.18-cuda11.4+VINS-Fusion-GPU)_jetson ego planner

jetson ego planner

【重要】此文主要针对想将ego-planner算法部署到arm架构以GPU算力为主的板载电脑上的用户。但所有使用nx环境的都可以参考此篇博客。

环境配置

我们使用阿木实验室的板载电脑allspark2(arm Orin-NX架构)+Pixhawk6C实机飞行测试ego-planner,文章尾部附arm QGC安装教程 && arm机载电脑与Pixhawk6c组合下提高飞控imu频率的方法。
【鸣谢】感谢阿木实验室支持
【重要】先释放所有性能,这样编译会更快,可以在系统右上角选择0:MAXN,如下图所示,编译时候8个核都拉满了。
在这里插入图片描述

配置cuda 11.4(根据自己板载电脑的算力去选择cuda版本)

  1. jetop安装
sudo apt-get update
sudo apt-get install python3-pip
sudo pip3 install -U jetson-stats
  • 1
  • 2
  • 3
  1. 查看机载电脑当前环境(是否已经配置cuda或者本身含opencv)
jetson_release
  • 1

在这里插入图片描述
如果CUDA已经安装,检查一下版本是否对应。

  1. 安装CUDA11.4
sudo apt-get install cuda-11-4
  • 1

在这里插入图片描述

  1. 安装cudnn(这个可能用不上,如果部署深度学习模型,还可以再配置TensorRT)装一个也没啥
sudo apt-get install libcudnn8
  • 1
  1. 下载功能包,设置cuda
sudo apt-get install -y cmake libavcodec-dev libavformat-dev libavutil-dev \
    libglew-dev libgtk2.0-dev libgtk-3-dev libjpeg-dev libpng-dev libpostproc-dev \
    libswscale-dev libtbb-dev libtiff5-dev libv4l-dev libxvidcore-dev \
    libx264-dev qt5-default zlib1g-dev libgl1 libglvnd-dev pkg-config \
    libgstreamer1.0-dev libgstreamer-plugins-base1.0-dev mesa-utils     
 
sudo apt-get install python2.7-dev python3-dev python-numpy python3-numpy
# To fix OpenGL related compilation problems 
 
cd /usr/lib/aarch64-linux-gnu/
sudo vim /usr/local/cuda/include/cuda_gl_interop.h
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11

注释cuda_gl_interop.h 62~68行的下列部分,保留有颜色部分

//#if defined(__arm__) || defined(__aarch64__)
//#ifndef GL_VERSION
//#error Please include the appropriate gl headers before including cuda_gl_interop.h
//#endif
//#else
 #include <GL/gl.h>
//#endif
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7

下载Fast-Drone-250程序包

可以安装在Home文件夹下

cd ~/Home
git clone http://github.com/ZJU-FAST-Lab/Fast-Drone-250
  • 1
  • 2

如果git很慢,可以自行科学下载该程序包

配置OpenCV with CUDA

以下步骤在~/Download文件夹下执行即可,如果Opencv遇到编译问题,提示在该文件夹下无法编译,可以将其整体移动至Home文件夹即可解决。

  1. 暴力卸载原有的opencv 4.2.0 (感觉 nx更支持3.x,之前编译4.x bug较多)
cd ~/Downloads
sudo apt-get purge libopencv*
sudo apt autoremove
sudo apt-get update
  • 1
  • 2
  • 3
  • 4

【此方法可能会误删一些ROS rqt之类的文件,建议后面鱼香ROS重新补充安装一下】

  1. 安装opencv3.4.18和opencv_contrib3.4.18,并且进行带cuda的的编译
    如果编译遇到问题,对症在网上寻求解答。
    github官网下载opencv3.x的版本和对应的 opencv_contrib3.x
    opencv下载链接:https://hub.nuaa.cf/opencv/opencv/tree/3.4.18
    opencv_contrib下载链接:https://hub.nuaa.cf/opencv/opencv_contrib/tree/3.4.18
    下载后将opencv_contrib3.4.18解压放入opencv3.4.18文件夹下,
    在这里插入图片描述
    然后可以在Download文件夹下执行编译。【切记下面的CUDA_ARCH_BIN尽量选择7.2,网上其他博客都说7.2适合NX,8.7也许部分也可以,等大家测一测】
cd ~/Downloads/opencv-3.4.18
mkdir build && cd build
cmake -D CMAKE_BUILD_TYPE=RELEASE \
        -D CMAKE_INSTALL_PREFIX=/usr/local \
        -D WITH_CUDA=ON \
        -D CUDA_ARCH_BIN=7.2 \
        -D CUDA_ARCH_PTX="" \
        -D ENABLE_FAST_MATH=ON \
        -D CUDA_FAST_MATH=ON \
        -D WITH_CUBLAS=ON \
        -D WITH_LIBV4L=ON \
        -D WITH_GSTREAMER=ON \
        -D WITH_GSTREAMER_0_10=OFF \
        -D WITH_QT=ON \
        -D WITH_OPENGL=ON \
        -D CUDA_NVCC_FLAGS="--expt-relaxed-constexpr" \
        -D WITH_TBB=ON \
        ../
make -j8    
sudo make install
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20

在这里插入图片描述

到此编译成功,然后如果不出意外,可以查到OpenCV with CUDA

jetson_release
  • 1

在这里插入图片描述

  1. 安装eigen3
sudo apt-get remove libeigen3-dev 
cd ~/Downloads/
wget -O eigen.zip https://gitlab.com/libeigen/eigen/-/archive/3.3.7/eigen-3.3.7.zip #check version
unzip eigen.zip
mkdir eigen-build && cd eigen-build
cmake ../eigen-3.3.7/ && sudo make install
pkg-config --modversion eigen3 # 检查 Eigen 版本,判断是否安装成功
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  1. 下载ceres1.14到Fast-Drone-250文件夹,替换掉里面的ceres 2.0.0rc1版本,保留压缩包里面的glog文件, and install
cd ~/Fast-Drone-250
sudo apt-get install -y cmake libgoogle-glog-dev libatlas-base-dev libsuitesparse-dev
wget http://ceres-solver.org/ceres-solver-1.14.0.tar.gz
tar zxf ceres-solver-1.14.0.tar.gz
  • 1
  • 2
  • 3
  • 4

在这里插入图片描述如图所示

// 进入glog文件夹打开终端
sudo chmod +x ./autogen.sh ./configure
./autogen.sh && ./configure && make && sudo make install
sudo apt-get install liblapack-dev libsuitesparse-dev libcxsparse3 libgflags-dev libgoogle-glog-dev libgtest-dev
// 进入ceres文件夹打开终端
mkdir build
cd build
cmake ..
sudo make -j4
sudo make install
sudo apt-get install ros-noetic-ddynamic-reconfigure
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  1. 补充ROS完整,因为有可能前面暴力删opencv把ROS一些比如rqt等包删除
wget http://fishros.com/install -O fishros && . fishros
  • 1

系统资源:安装中需要更换系统资源就换,不需要就不换
根据自己需求选择具体的版本,记得一定是(ROS1)桌面版,选择安装完整的ROS

  1. 修改cv bridge
    进入opt/ros/melodic/share/cv_brige_cmake,更改cv_brigeConfige.cmake
cd /opt/ros/noetic/share/cv_bridge/cmake
sudo gedit cv_bridgeConfig.cmake
  • 1
  • 2

修改line 94-118,直接复制覆盖!


#if(NOT "include;/usr/include/opencv4 " STREQUAL " ")
#  set(cv_bridge_INCLUDE_DIRS "")
#  set(_include_dirs "include;/usr/include/opencv4")
set(libraries "cv_bridge;/usr/local/lib/libopencv_core.so.3.4.18;/usr/local/lib/libopencv_imgproc.so.3.4.18;/usr/local/lib/libopencv_imgcodecs.so.3.4.18") 
  if(NOT "https://github.com/ros-perception/vision_opencv/issues " STREQUAL " ")
    set(_report "Check the issue tracker 'https://github.com/ros-perception/vision_opencv/issues' and consider creating a ticket if the problem has not been reported yet.")
  elseif(NOT "http://www.ros.org/wiki/cv_bridge " STREQUAL " ")
    set(_report "Check the website 'http://www.ros.org/wiki/cv_bridge' for information and consider reporting the problem.")
  else()
    set(_report "Report the problem to the maintainer 'Vincent Rabaud <vincent.rabaud@gmail.com>' and request to fix the problem.")
  endif()
  foreach(idir ${_include_dirs})
    if(IS_ABSOLUTE ${idir} AND IS_DIRECTORY ${idir})
      set(include ${idir})
    elseif("${idir} " STREQUAL "include ")
      get_filename_component(include "${cv_bridge_DIR}/../../../include" ABSOLUTE)
      if(NOT IS_DIRECTORY ${include})
        message(FATAL_ERROR "Project 'cv_bridge' specifies '${idir}' as an include dir, which is not found.  It does not exist in '${include}'.  ${_report}")
      endif()
    else()
      message(FATAL_ERROR "Project 'cv_bridge' specifies '${idir}' as an include dir, which is not found.  It does neither exist as an absolute directory nor in '\${prefix}/${idir}'.  ${_report}")
    endif()
    _list_append_unique(cv_bridge_INCLUDE_DIRS ${include})
  endforeach()
#endif()

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  1. Mavros安装
sudo apt-get install ros-noetic-mavros
cd /opt/ros/noetic/lib/mavros
sudo ./install_geographiclib_datasets.sh
  • 1
  • 2
  • 3
  1. gedit px4.launch
roscd mavros
cd launch
sudo gedit px4.launch
  • 1
  • 2
  • 3

下载 VINS-GPU

cd ~/Fast-Drone-250/src/realflight_modules
mkdir -p vins_gpu/src
cd vins_gpu/src
git clone https://github.com/pjrambo/VINS-Fusion-gpu.git
//如果git很慢,建议自行下载安装包解压到vins_gpu/src目录
  • 1
  • 2
  • 3
  • 4
  • 5

需要更改vins_estimator/CMakeLists.txt和 loop_fusion/CMakeLists.txt文件,大概20行左右。需要把OpenCV路径改成你自己的路径

#include(/home/amov/opencv-3.4.18/build/OpenCVConfig.cmake)
include(/usr/local/share/OpenCV/OpenCVConfig.cmake)
#message(WARNING "OpenCV_VERSION: ${OpenCV_VERSION}")
  • 1
  • 2
  • 3

改成下面这样:
在这里插入图片描述

还需要将四个功能包camera_models、global_fusion、loop_fusion、vins_estimator中catkin_include ros自带的opencv链接去掉,即在四个cmakelist中的catkin_package( )后面加入去除你的系统之前本身含有的旧的 OpenCV库的参数
,我的系统之前安装的是OpenCV4.2.0

list(REMOVE_ITEM catkin_LIBRARIES "/usr/lib/aarch64-linux-gnu/libopencv_core.so.4.2.0")
list(REMOVE_ITEM catkin_LIBRARIES "/usr/lib/aarch64-linux-gnu/libopencv_imgproc.so.4.2.0")
list(REMOVE_ITEM catkin_LIBRARIES "/usr/lib/aarch64-linux-gnu/libopencv_imgcodecs.so.4.2.0")
  • 1
  • 2
  • 3

如下图:
在这里插入图片描述

编译Fast-Drone-250

  1. 将realflight_modules文件夹下原本VINS-Fusion里面的config文件夹里面的全部文件复制到vins_gpu里面的config文件夹里面,遇到替换就替换。
    在这里插入图片描述在这里插入图片描述

然后将VINS-Fusion/vins_estimator/launch/fast_drone_250.launch文件复制到vins_gpu对应的目录里面

  1. 修改local_senseing/cmake.list为支持GPU还有改变 arch 和 code 的flags

line 8-9

set(ENABLE_CUDA false)
  • 1

修改为

set(ENABLE_CUDA true)
  • 1

下面这个需要根据你的CUDA的版本去选参数,我是11.4,详情见https://arnon.dk/matching-sm-architectures-arch-and-gencode-for-various-nvidia-cards/

    set(CUDA_NVCC_FLAGS 
    #      -gencode arch=compute_xx,code=sm_xx;
      -gencode arch=compute_87,code=sm_87;
    ) 
  • 1
  • 2
  • 3
  • 4

如下图所示
在这里插入图片描述
然后delete VINS-FUSION and 开始编译

cd ~/Fast-Drone-250
catkin_make
  • 1
  • 2

编译时候请释放所有性能,可以在系统右上角选择0:MAXN,如下图所示,编译的时候8个核都拉满了。
在这里插入图片描述

【重要】请检查自己的~/.bashrc文件,关闭其他的连接方式,比如我这边无人机需要注释之前做动捕实验的参数。

sudo gedit ~/.bashrc
  • 1

一切没问题后,source一下,进行仿真实验,如果不能规划路径,可能是因为你localsensing文件里面的cmakelists
里面的参数没有改对,gencode arch=compute_87,code=sm_87;后面的数字需要对应你的CUDA版本

source devel/setup.bash
roslaunch ego_planner single_run_in_sim.launch
  • 1
  • 2

在Rviz内按下键盘G键,再单击鼠标左键以点选无人机目标点

实机实验

如果没有含有realsense驱动,可以按照以下命令安装:

  • realsense驱动安装
sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-key  F6E65AC044F831AC80A06380C8B3A55A6F3EFCDE 
sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv-key  F6E65AC044F831AC80A06380C8B3A55A6F3EFCDE
sudo add-apt-repository "deb https://librealsense.intel.com/Debian/apt-repo $(lsb_release -cs) main" -u
sudo apt-get install librealsense2-dkms
sudo apt-get install librealsense2-utils
sudo apt-get install librealsense2-dev
sudo apt-get install librealsense2-dbg
 realsense-viewer
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 注意测试时左上角显示的USB必须是3.x,如果是2.x,可能是USB线是2.0的,或者插在了2.0的USB口上(3.0的线和口都是蓝色的)
  1. 自行补充安装
    Terminator,VScode,net-tools,ssh
sudo apt install terminator

sudo apt install openssh-server

sudo apt install ros-noetic-plotjuggler
sudo apt install ros-noetic-plotjuggler-ros

sudo apt install net-tools
ifconfig
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  1. 检查飞控mavros连接正常 以及 提高IMU频率的方法
    ls /dev/tty* ,确认飞控的串口连接正常。
    一般USB连接方式对应的是 /dev/ttyACM0串口连接的方式对应的为/dev/ttyTHS0,
    执行sudo chmod 777 /dev/ttyTHS0 ,为飞控使用附加权限后才能执行px4.launch文件
roslaunch mavros px4.launch
rostopic hz /mavros/imu/data_raw
  • 1
  • 2

基础的hz频率一定为60hz,下一步VINS外参标定的话,需要飞控imu频率在200hz左右,所以就需要用提高频率的方法。
【重要】ARM开发板无法使用以下神秘代码去提高频率,X86是可以的~

rosrun mavros mavcmd long 511 105 5000 0 0 0 0 0 & sleep 1;
rosrun mavros mavcmd long 511 31 5000 0 0 0 0 0 & sleep 1;
  • 1
  • 2

但是ARM板子可以用以下方法来提高频率:
在飞控的sd卡的根目录下创建/etc/extras.txt,写入

mavlink stream -d /dev/ttyS3 -s ATTITUDE_QUATERNION -r 200
mavlink stream -d /dev/ttyS3 -s HIGHRES_IMU -r 200 
  • 1
  • 2

为什么是S3,因为飞控输出的串口TELEM2对应的接口为S1/2/3中间的一个,输出的接口为ttyS3,在机载电脑的串口识别的为ttyTHS0

  1. VINS外参精确标定
sh shfiles/rspx4.sh
rostopic echo /vins_fusion/imu_propagate
  • 1
  • 2

拿起飞机沿着场地尽量缓慢地行走,场地内光照变化不要太大,灯光不要太暗,不要使用会频闪的光源,尽量多放些杂物来增加VINS用于匹配的特征点,把 vins_output/extrinsic_parameter.txt 里的内容替换到 fast-drone-250.yaml 的
body_T_cam0 和 body_T_cam1
重复上述操作直到走几圈后VINS的里程计数据偏差收敛到满意值(一般在0.3米内)

  1. 建图模块验证
sh shfiles/rspx4.sh
roslaunch ego_planner single_run_in_exp.launch
roslaunch ego_planner rviz.launch
  • 1
  • 2
  • 3
  1. Ego-Planner实验

自动起飞

roslaunch ego-planner single_run_in_exp.launch
sh shfiles/record.sh
 roslaunch ego_planner rviz.launch
  • 1
  • 2
  • 3

按下G键加鼠标左键点选目标点使无人机飞行

【未完待续,图片没加完】

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/686232
推荐阅读
相关标签
  

闽ICP备14008679号