OrangePi AIpro 性能测试以及使用体验

OrangePi AIpro 性能测试以及使用体验

1. 介绍

OrangePi AIpro(8T)采用昇腾AI技术路线。

• 具体为4核64位处理器+AI处理器，集成图形处理器，支持8TOPS AI算力
• 拥有8GB/16GB LPDDR4X，可以外接32GB/64GB/128GB/256GB eMMC模块，支持双4K高清输出。

Orange Pi AIpro引用了相当丰富的接口。

• 两个HDMI输出
• GPIO接口
• Type-C电源接口
• 支持SATA/NVMe SSD 2280的M.2插槽、
• TF插槽
• 千兆网口
• 两个USB3.0、一个USB Type-C 3.0、一个Micro USB（串口打印调试功能）
• 两个MIPI摄像头、一个MIPI屏
• 预留电池接口

可广泛适用于AI边缘计算、深度视觉学习及视频流AI分析、视频图像分析、自然语言处理、智能小车、机械臂、人工智能、无人机、云计算、AR/VR、智能安防、智能家居等领域，覆盖 AIoT各个行业。 OrangePi AIpro支持Ubuntu、openEuler操作系统，满足大多数AI算法原型验证、推理应用开发的需求。

2. 开箱

刚拿到OrangePi AIpro未拆开时，就感觉OrangePi AIpro这个重量不轻，自认为开发板应该是比较大的，但是当开箱时，发现它竟如此小巧，质感特别棒。

• 外观
  

• 特写
  

• 全家福
  
  OrangePi AIpro的IO接口还兼容了树莓派接口，所以在从树莓派切换到OrangePi AIpro时是十分方便的。
  OrangePi AIpro 官网还提供了丰富的资料：

1. 详细的用户手册 可以让入门更容易

2. 对于需要修改硬件的朋友，官方还提供了硬件原理图

3. 丰富的官方工具，以及linux开源代码

3. 硬件

OrangePi Aipro正面图例

OrangePi Aipro背面图例

4. 性能测试

4.1 CoreMark

CoreMark是一种专门为嵌入式处理器设计的基准测试工具，由Embedded Microprocessor Benchmark Consortium (EEMBC) 开发。它的主要目的是为嵌入式系统提供一个标准化的性能评估方法，以便在不同处理器和平台之间进行客观、公正的比较。

主要特点

1. 简洁高效：CoreMark代码量小，占用资源少，非常适合嵌入式系统的测试需求。
2. 便携性强：使用标准的C语言编写，易于移植到各种处理器和平台上。
3. 多维度测试：通过实现一系列典型的嵌入式系统操作来评估处理器性能，包括列表处理、矩阵操作、状态机操作和CRC计算。
4. 标准化评分体系：提供了一套统一的评分标准，使得不同处理器的性能比较更具可比性和可信度。

4.1.1 测试

首先从github中下载CoreMark的源代码

# git clone https://github.com/eembc/coremark 
1

我们来编译CoreMark, let’s go。

# make XCFLAGS="-DMULTITHREAD=4 -DUSE_PTHREAD -pthread"
1

OrangePi AIpro有4个cpu核心，使用4线程进行测试，测试结果如下

4个核心coremark分数累计为： 30618.493570

单核心分数为：7,654.6233925

4.1.2 对比

与树莓派对比：

从目前拿到的资料来看，我们没有准确的OrangePi AIpro的cpu 频率。但是我可以准确的说，OrangePi AIpro的cpu freq不会超过1.6GHz。我们按照最高1.6GHz的频率可以计算出CoreMark/MHz为19.14。成绩还是相当不错的。

参考资料

CoreMark Scores

4.2 sysbench

Sysbench是一个跨平台的基准测试工具，用于评估系统性能和稳定性。现在我们就用这个工具简单测试素数计算，OrangePi AIpro和我的主机电脑(AMD cpu 3600x)进行对比。。
命令为:sysbench --test=cpu --cpu-max-prime=10000 --num-threads=4 run
这是一个使用Sysbench进行CPU性能测试的命令，具体参数含义如下：

• –test=cpu：指定进行CPU性能测试。
• –cpu-max-prime=10000：指定在素数计算中使用的最大素数。在这种情况下，Sysbench将计算小于或等于10000的素数。
• –num-threads=4：指定测试时使用的线程数，这里设置为4个线程。
  OrangePi AIpro结果：
  
  AMD CPU 3600x结果：
  

从结果可以看出OrangePi AIpro更胜一筹。

4.3 DMIPS

DMIPS（Dhrystone MIPS）是用于衡量计算机处理器性能的一种基准测试指标。它基于Dhrystone基准测试程序，该程序由Reinhold P. Weicker在1984年开发，用于评估系统的整数运算性能。DMIPS将Dhrystone测试结果转换为一个更易理解的单位——每秒百万条指令（MIPS）。

主要特点：

1. 整数运算为主：Dhrystone基准测试专注于整数运算性能，这对于评估嵌入式系统和一般用途处理器的效率非常重要。
2. 历史悠久：作为一种经典的基准测试，Dhrystone在计算机科学和工程领域有着广泛的应用和认可。
3. 转换为MIPS：Dhrystone结果通过一个标准的转换因子，转换为每秒百万条指令数（MIPS），方便不同处理器之间的性能比较。

计算公式：

Dhrystone的评分通常用DMIPS/MHz表示。计算公式如下

DMIPS/MHz = iteration/cycle*1000000/1757

关于DMIPS有一个不得不注意的点，因为历史原因我们把在VAX-11/780机器上的测试结果1757 Dhrystones/s定义为1 DMIPS，因此在其他平台测试到的每秒Dhrystones数应除以1757，才是真正的DMIPS数值，故DMIPS其实表示的是一个相对值。

4.3.1 测试

首先从github中下载dhrystone的源代码

# git clone https://github.com/Keith-S-Thompson/dhrystone.git
1

运行代码

# cd v2.2/ && sh dry.c  
1

测试结果：

cc -c  dry.c -o dry1.o    
1

cc -c -DREG  dry.c -o dry1.o   
1

cc -c -O  dry.c -o dry1.o      
1

我们取最好的结果：14084507，根据计算公式，可以计算出DMIPS等于5.01。

4.3.2 对比

OrangePi AIpro的成绩相当不错了。可以参考下图

4.4 RAMspeed-SMP

用于测量和评估多处理器系统（SMP，Symmetric Multiprocessing）内存子系统性能的基准测试工具。它是RAMspeed系列的一部分，专门设计用于对称多处理器环境，以提供有关系统内存带宽和延迟的详细信息。

RAMspeed-SMP 的特点和功能

1. 多处理器支持：能够有效地测试和分析多处理器系统的内存性能，适用于现代多核处理器架构。

2. 多线程执行：利用多线程技术，通过并行运行多个线程来模拟高负载条件下的内存访问情况，从而更准确地评估内存性能。

3. 多种测试模式

   ：

   • 读取测试（Read）：测量内存读取操作的带宽。
   • 写入测试（Write）：测量内存写入操作的带宽。
   • 复制测试（Copy）：测量内存复制操作的带宽。
   • 读写测试（Read-Write）：测量混合读写操作的带宽。

4.4.1 测试

首先从github中下载RAMspeed-SMP的源代码

# git clone https://github.com/cruvolo/ramspeed-smp
1

编译

# ./build.sh 
1

测试结果：

下图为整型读写复制等的测试结果

下图为浮点数读写复制等的测试结果

4.4.2 对比

上图为我从openbenchmarking网站上截取的整型结果，对比可以看出OrangePi AIpro所以上乘水平。很不错。其他结果可以上openbenchmarking自行查看。

4.5 yolov5 测试用例使用

在OrangePi AIpro中提供了丰富的测试用例，如

1. 运行目标检测样例
2. 运行文字识别样例
3. 运行目标分类样例
4. 运行图像曝光增强样例
   等等10多个用例。可以让新手快速体验每个用例的使用方法，还可以看到代码实例，方便快速入手和使用。
   下面我们使用运行目标检测的样例来掩饰AI应用。
   这里为了方便我们使用远程桌面登录OrangePi AIpro的桌面
   在OrangePi AIpro的桌面中，打开Terminal

cd ~/sample/noteboots
./start_noteboot.sh
1
2

然后点击
http://127.0.0.1:8888/lab?token=989e405118bb6eae0ce13174063078a42bd0486a16d083d3
进入火狐浏览
点击01-yolov5,在点击man.inpynb
修改infer_mode=‘camera’ 则会使用外接的usb摄像头来使用。
或者修改video_path = ‘fei.mp4’。下面我展示重新上传频展示此次用例的情况。

然后点击运行

在使用此模型的时候，cpu使用率不高，说明很多是有NPU在处理器。功能很强大。

5.总结

OrangePi AIpro是一款单板计算机，主要用于人工智能应用。它的优点可以简单概述如下：

1. 强大的性能：OrangePi AIpro配备了高性能的处理器和GPU，能够处理复杂的人工智能任务和计算密集型应用。

2. 丰富的接口：它提供了丰富的接口，包括多个USB接口、网口、HDMI接口等，便于连接外部设备和扩展功能。

3. 支持多种人工智能框架：OrangePi AIpro支持多种流行的人工智能框架，如TensorFlow、PyTorch等，方便开发人员进行模型训练和推理。

4. 低功耗高效能：它采用了低功耗设计，能够在性能和能耗之间取得良好的平衡，适合于嵌入式和边缘计算场景。

5. 灵活性：OrangePi AIpro是一款开源硬件，用户可以根据自己的需求进行定制和修改，满足各种不同应用场景的需求。

综上所述，OrangePi AIpro具有性能强大、接口丰富、支持多种人工智能框架、低功耗高效能以及灵活性高等优点，适合于各种人工智能应用和嵌入式系统开发。

6.其他

开启远程桌面

1.安装xfce4 xrdp tigervnc-standalone-server

sudo apt install  xfce4  xrdp  tigervnc-standalone-server
1

2.修改配置文件，添加红框里面这一句echo “xfce4-session” > ~/.xsession

在/etc/xrdp/startwm.sh文件末尾添加echo “xfce4-session” > ~/.xsession

3.启动xrdp

sudo systemctl start xrdp
1

4.设置xrdp随系统启动

sudo systemctl enable xrdp
1

5.设置任何用户都可以登录

sudo dpkg-reconfigure xserver-xorg-legacy
1

选择Anybody即可

最后我们打开windows系统的远程桌面连接
使用HwHiAiUser登录
等待成功的桌面：

添加用户

添加用户richard

sudo adduser --home  /home/richard --shell   /bin/bash  richard
1

增加超级用户权限

sudo usermod -aG sudo richard
1

7.尽情期待

• OrangePi AIpro nas搭建
• OrangePi AIpro GPIO控制
• OrangePi AIpro 家庭远程视频控制