【详细|ARM NX】优雅的配置ego-planner到arm架构的Jetson Orin-NX机载电脑上（opencv3.4.18-cuda11.4+VINS-Fusion-GPU）_jetson ego planner

环境配置

我们使用阿木实验室的板载电脑allspark2（arm Orin-NX架构)+Pixhawk6C实机飞行测试ego-planner，文章尾部附arm QGC安装教程 && arm机载电脑与Pixhawk6c组合下提高飞控imu频率的方法。
【鸣谢】感谢阿木实验室支持
【重要】先释放所有性能，这样编译会更快，可以在系统右上角选择0:MAXN，如下图所示，编译时候8个核都拉满了。

配置cuda 11.4(根据自己板载电脑的算力去选择cuda版本)

1. jetop安装

sudo apt-get update
sudo apt-get install python3-pip
sudo pip3 install -U jetson-stats
1
2
3

2. 查看机载电脑当前环境（是否已经配置cuda或者本身含opencv）

jetson_release
1

如果CUDA已经安装，检查一下版本是否对应。

3. 安装CUDA11.4

sudo apt-get install cuda-11-4
1

4. 安装cudnn（这个可能用不上，如果部署深度学习模型，还可以再配置TensorRT）装一个也没啥

sudo apt-get install libcudnn8
1

5. 下载功能包，设置cuda

sudo apt-get install -y cmake libavcodec-dev libavformat-dev libavutil-dev \
    libglew-dev libgtk2.0-dev libgtk-3-dev libjpeg-dev libpng-dev libpostproc-dev \
    libswscale-dev libtbb-dev libtiff5-dev libv4l-dev libxvidcore-dev \
    libx264-dev qt5-default zlib1g-dev libgl1 libglvnd-dev pkg-config \
    libgstreamer1.0-dev libgstreamer-plugins-base1.0-dev mesa-utils     
 
sudo apt-get install python2.7-dev python3-dev python-numpy python3-numpy
# To fix OpenGL related compilation problems 
 
cd /usr/lib/aarch64-linux-gnu/
sudo vim /usr/local/cuda/include/cuda_gl_interop.h
1
2
3
4
5
6
7
8
9
10
11

注释cuda_gl_interop.h 62~68行的下列部分，保留有颜色部分

//#if defined(__arm__) || defined(__aarch64__)
//#ifndef GL_VERSION
//#error Please include the appropriate gl headers before including cuda_gl_interop.h
//#endif
//#else
 #include <GL/gl.h>
//#endif
1
2
3
4
5
6
7

下载Fast-Drone-250程序包

可以安装在Home文件夹下

cd ~/Home
git clone http://github.com/ZJU-FAST-Lab/Fast-Drone-250
1
2

如果git很慢，可以自行科学下载该程序包

配置OpenCV with CUDA

以下步骤在~/Download文件夹下执行即可，如果Opencv遇到编译问题，提示在该文件夹下无法编译，可以将其整体移动至Home文件夹即可解决。

1. 暴力卸载原有的opencv 4.2.0 （感觉 nx更支持3.x，之前编译4.x bug较多）

cd ~/Downloads
sudo apt-get purge libopencv*
sudo apt autoremove
sudo apt-get update
1
2
3
4

【此方法可能会误删一些ROS rqt之类的文件，建议后面鱼香ROS重新补充安装一下】

2. 安装opencv3.4.18和opencv_contrib3.4.18，并且进行带cuda的的编译
   如果编译遇到问题，对症在网上寻求解答。
   github官网下载opencv3.x的版本和对应的 opencv_contrib3.x
   opencv下载链接：https://hub.nuaa.cf/opencv/opencv/tree/3.4.18
   opencv_contrib下载链接：https://hub.nuaa.cf/opencv/opencv_contrib/tree/3.4.18
   下载后将opencv_contrib3.4.18解压放入opencv3.4.18文件夹下，
   
   然后可以在Download文件夹下执行编译。【切记下面的CUDA_ARCH_BIN尽量选择7.2，网上其他博客都说7.2适合NX，8.7也许部分也可以，等大家测一测】

cd ~/Downloads/opencv-3.4.18
mkdir build && cd build
cmake -D CMAKE_BUILD_TYPE=RELEASE \
        -D CMAKE_INSTALL_PREFIX=/usr/local \
        -D WITH_CUDA=ON \
        -D CUDA_ARCH_BIN=7.2 \
        -D CUDA_ARCH_PTX="" \
        -D ENABLE_FAST_MATH=ON \
        -D CUDA_FAST_MATH=ON \
        -D WITH_CUBLAS=ON \
        -D WITH_LIBV4L=ON \
        -D WITH_GSTREAMER=ON \
        -D WITH_GSTREAMER_0_10=OFF \
        -D WITH_QT=ON \
        -D WITH_OPENGL=ON \
        -D CUDA_NVCC_FLAGS="--expt-relaxed-constexpr" \
        -D WITH_TBB=ON \
        ../
make -j8    
sudo make install
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

到此编译成功，然后如果不出意外，可以查到OpenCV with CUDA

jetson_release
1

3. 安装eigen3

sudo apt-get remove libeigen3-dev 
cd ~/Downloads/
wget -O eigen.zip https://gitlab.com/libeigen/eigen/-/archive/3.3.7/eigen-3.3.7.zip #check version
unzip eigen.zip
mkdir eigen-build && cd eigen-build
cmake ../eigen-3.3.7/ && sudo make install
pkg-config --modversion eigen3 # 检查 Eigen 版本，判断是否安装成功
1
2
3
4
5
6
7

4. 下载ceres1.14到Fast-Drone-250文件夹，替换掉里面的ceres 2.0.0rc1版本，保留压缩包里面的glog文件, and install

cd ~/Fast-Drone-250
sudo apt-get install -y cmake libgoogle-glog-dev libatlas-base-dev libsuitesparse-dev
wget http://ceres-solver.org/ceres-solver-1.14.0.tar.gz
tar zxf ceres-solver-1.14.0.tar.gz
1
2
3
4

// 进入glog文件夹打开终端
sudo chmod +x ./autogen.sh ./configure
./autogen.sh && ./configure && make && sudo make install
sudo apt-get install liblapack-dev libsuitesparse-dev libcxsparse3 libgflags-dev libgoogle-glog-dev libgtest-dev
// 进入ceres文件夹打开终端
mkdir build
cd build
cmake ..
sudo make -j4
sudo make install
sudo apt-get install ros-noetic-ddynamic-reconfigure
1
2
3
4
5
6
7
8
9
10
11

5. 补充ROS完整，因为有可能前面暴力删opencv把ROS一些比如rqt等包删除

wget http://fishros.com/install -O fishros && . fishros
1

系统资源：安装中需要更换系统资源就换，不需要就不换
根据自己需求选择具体的版本，记得一定是(ROS1)桌面版，选择安装完整的ROS

6. 修改cv bridge
   进入opt/ros/melodic/share/cv_brige_cmake，更改cv_brigeConfige.cmake

cd /opt/ros/noetic/share/cv_bridge/cmake
sudo gedit cv_bridgeConfig.cmake
1
2

修改line 94-118，直接复制覆盖！

#if(NOT "include;/usr/include/opencv4 " STREQUAL " ")
#  set(cv_bridge_INCLUDE_DIRS "")
#  set(_include_dirs "include;/usr/include/opencv4")
set(libraries "cv_bridge;/usr/local/lib/libopencv_core.so.3.4.18;/usr/local/lib/libopencv_imgproc.so.3.4.18;/usr/local/lib/libopencv_imgcodecs.so.3.4.18") 
  if(NOT "https://github.com/ros-perception/vision_opencv/issues " STREQUAL " ")
    set(_report "Check the issue tracker 'https://github.com/ros-perception/vision_opencv/issues' and consider creating a ticket if the problem has not been reported yet.")
  elseif(NOT "http://www.ros.org/wiki/cv_bridge " STREQUAL " ")
    set(_report "Check the website 'http://www.ros.org/wiki/cv_bridge' for information and consider reporting the problem.")
  else()
    set(_report "Report the problem to the maintainer 'Vincent Rabaud <vincent.rabaud@gmail.com>' and request to fix the problem.")
  endif()
  foreach(idir ${_include_dirs})
    if(IS_ABSOLUTE ${idir} AND IS_DIRECTORY ${idir})
      set(include ${idir})
    elseif("${idir} " STREQUAL "include ")
      get_filename_component(include "${cv_bridge_DIR}/../../../include" ABSOLUTE)
      if(NOT IS_DIRECTORY ${include})
        message(FATAL_ERROR "Project 'cv_bridge' specifies '${idir}' as an include dir, which is not found.  It does not exist in '${include}'.  ${_report}")
      endif()
    else()
      message(FATAL_ERROR "Project 'cv_bridge' specifies '${idir}' as an include dir, which is not found.  It does neither exist as an absolute directory nor in '\${prefix}/${idir}'.  ${_report}")
    endif()
    _list_append_unique(cv_bridge_INCLUDE_DIRS ${include})
  endforeach()
#endif()

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

7. Mavros安装

sudo apt-get install ros-noetic-mavros
cd /opt/ros/noetic/lib/mavros
sudo ./install_geographiclib_datasets.sh
1
2
3

8. gedit px4.launch

roscd mavros
cd launch
sudo gedit px4.launch
1
2
3

下载 VINS-GPU

cd ~/Fast-Drone-250/src/realflight_modules
mkdir -p vins_gpu/src
cd vins_gpu/src
git clone https://github.com/pjrambo/VINS-Fusion-gpu.git
//如果git很慢，建议自行下载安装包解压到vins_gpu/src目录
1
2
3
4
5

需要更改vins_estimator/CMakeLists.txt和 loop_fusion/CMakeLists.txt文件，大概20行左右。需要把OpenCV路径改成你自己的路径

#include(/home/amov/opencv-3.4.18/build/OpenCVConfig.cmake)
include(/usr/local/share/OpenCV/OpenCVConfig.cmake)
#message(WARNING "OpenCV_VERSION: ${OpenCV_VERSION}")
1
2
3

改成下面这样：

还需要将四个功能包camera_models、global_fusion、loop_fusion、vins_estimator中catkin_include ros自带的opencv链接去掉,即在四个cmakelist中的catkin_package( )后面加入去除你的系统之前本身含有的旧的 OpenCV库的参数
，我的系统之前安装的是OpenCV4.2.0

list(REMOVE_ITEM catkin_LIBRARIES "/usr/lib/aarch64-linux-gnu/libopencv_core.so.4.2.0")
list(REMOVE_ITEM catkin_LIBRARIES "/usr/lib/aarch64-linux-gnu/libopencv_imgproc.so.4.2.0")
list(REMOVE_ITEM catkin_LIBRARIES "/usr/lib/aarch64-linux-gnu/libopencv_imgcodecs.so.4.2.0")
1
2
3

如下图：

编译Fast-Drone-250

1. 将realflight_modules文件夹下原本VINS-Fusion里面的config文件夹里面的全部文件复制到vins_gpu里面的config文件夹里面，遇到替换就替换。
   

然后将VINS-Fusion/vins_estimator/launch/fast_drone_250.launch文件复制到vins_gpu对应的目录里面

2. 修改local_senseing/cmake.list为支持GPU还有改变 arch 和 code 的flags

line 8-9

set(ENABLE_CUDA false)
1

修改为

set(ENABLE_CUDA true)
1

下面这个需要根据你的CUDA的版本去选参数，我是11.4，详情见https://arnon.dk/matching-sm-architectures-arch-and-gencode-for-various-nvidia-cards/

    set(CUDA_NVCC_FLAGS 
    #      -gencode arch=compute_xx,code=sm_xx;
      -gencode arch=compute_87,code=sm_87;
    ) 
1
2
3
4

如下图所示

然后delete VINS-FUSION and 开始编译

cd ~/Fast-Drone-250
catkin_make
1
2

编译时候请释放所有性能，可以在系统右上角选择0:MAXN，如下图所示，编译的时候8个核都拉满了。

【重要】请检查自己的~/.bashrc文件，关闭其他的连接方式，比如我这边无人机需要注释之前做动捕实验的参数。

sudo gedit ~/.bashrc
1

一切没问题后，source一下，进行仿真实验，如果不能规划路径，可能是因为你localsensing文件里面的cmakelists
里面的参数没有改对，gencode arch=compute_87,code=sm_87;后面的数字需要对应你的CUDA版本

source devel/setup.bash
roslaunch ego_planner single_run_in_sim.launch
1
2

在Rviz内按下键盘G键，再单击鼠标左键以点选无人机目标点

实机实验

如果没有含有realsense驱动，可以按照以下命令安装：

• realsense驱动安装

sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-key  F6E65AC044F831AC80A06380C8B3A55A6F3EFCDE 
sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv-key  F6E65AC044F831AC80A06380C8B3A55A6F3EFCDE
sudo add-apt-repository "deb https://librealsense.intel.com/Debian/apt-repo $(lsb_release -cs) main" -u
sudo apt-get install librealsense2-dkms
sudo apt-get install librealsense2-utils
sudo apt-get install librealsense2-dev
sudo apt-get install librealsense2-dbg
 realsense-viewer
1
2
3
4
5
6
7
8

• 注意测试时左上角显示的USB必须是3.x，如果是2.x，可能是USB线是2.0的，或者插在了2.0的USB口上（3.0的线和口都是蓝色的）

1. 自行补充安装
   Terminator,VScode,net-tools,ssh

sudo apt install terminator

sudo apt install openssh-server

sudo apt install ros-noetic-plotjuggler
sudo apt install ros-noetic-plotjuggler-ros

sudo apt install net-tools
ifconfig
1
2
3
4
5
6
7
8
9

2. 检查飞控mavros连接正常 以及 提高IMU频率的方法
   ls /dev/tty* ，确认飞控的串口连接正常。
   一般USB连接方式对应的是 /dev/ttyACM0，串口连接的方式对应的为/dev/ttyTHS0,
   执行sudo chmod 777 /dev/ttyTHS0 ，为飞控使用附加权限后才能执行px4.launch文件

roslaunch mavros px4.launch
rostopic hz /mavros/imu/data_raw
1
2

基础的hz频率一定为60hz，下一步VINS外参标定的话，需要飞控imu频率在200hz左右，所以就需要用提高频率的方法。
【重要】ARM开发板无法使用以下神秘代码去提高频率，X86是可以的～

rosrun mavros mavcmd long 511 105 5000 0 0 0 0 0 & sleep 1;
rosrun mavros mavcmd long 511 31 5000 0 0 0 0 0 & sleep 1;
1
2

但是ARM板子可以用以下方法来提高频率：
在飞控的sd卡的根目录下创建/etc/extras.txt，写入

mavlink stream -d /dev/ttyS3 -s ATTITUDE_QUATERNION -r 200
mavlink stream -d /dev/ttyS3 -s HIGHRES_IMU -r 200 
1
2

为什么是S3，因为飞控输出的串口TELEM2对应的接口为S1/2/3中间的一个，输出的接口为ttyS3，在机载电脑的串口识别的为ttyTHS0

3. VINS外参精确标定

sh shfiles/rspx4.sh
rostopic echo /vins_fusion/imu_propagate
1
2

拿起飞机沿着场地尽量缓慢地行走，场地内光照变化不要太大，灯光不要太暗，不要使用会频闪的光源，尽量多放些杂物来增加VINS用于匹配的特征点，把 vins_output/extrinsic_parameter.txt 里的内容替换到 fast-drone-250.yaml 的
body_T_cam0 和 body_T_cam1
重复上述操作直到走几圈后VINS的里程计数据偏差收敛到满意值（一般在0.3米内）

4. 建图模块验证

sh shfiles/rspx4.sh
roslaunch ego_planner single_run_in_exp.launch
roslaunch ego_planner rviz.launch
1
2
3

5. Ego-Planner实验

自动起飞

roslaunch ego-planner single_run_in_exp.launch
sh shfiles/record.sh
 roslaunch ego_planner rviz.launch
1
2
3

按下G键加鼠标左键点选目标点使无人机飞行

【未完待续，图片没加完】