OrangePi Kunpeng Pro初体验_香橙派 chatglm3-6b

引言

香橙派Kunpeng Pro（OrangePi Kunpeng Pro）作为一款高性能的开发板，在嵌入式开发和物联网应用中备受瞩目。本文将基于自身的开发经验，全面评测这款开发板的性能和适用场景，并分享实际使用过程中的体验和感受。

开箱及硬件概述

初次拿到香橙派Kunpeng Pro时，包装简洁而不失科技感。打开包装盒，映入眼帘的是一块尺寸适中的开发板，其上密布着各类接口和元器件，做工精良。开发板附带详细的说明书和基础配件，方便用户快速上手。

 

香橙派Kunpeng Pro的核心是搭载了高性能的Kunpeng处理器，内置丰富的I/O接口，MIPI DSI、MIPI CSI、USB3.0、Type-C3.0、HDMI2.0等。开发板还配备了足够的内存和存储空间，确保在复杂应用场景下也能流畅运行。

 上图展示了香橙派Kunpeng Pro的外观，可以清晰看到各类接口的布局及其紧凑设计。

 

安装与初步配置

在使用香橙派Kunpeng Pro进行开发前，需要进行基础配置。以下是具体步骤：

1. 系统镜像下载与烧录： 从官方获取最新的操作系统镜像，使用Ether工具将镜像烧录至MicroSD卡。

   

 

2. 硬件连接： 将MicroSD卡插入香橙派Kunpeng Pro，连接显示器、键盘、鼠标及电源，确保一切正常后开机。「启动刚开始的时候风扇疯狂转动正常现象」

3. 初次启动与系统配置： 启动后，系统引导进入配置界面，设置网络连接、系统语言等基础参数。

初始用户及密码：

root       pwd：openEuler

openEuler            pwd：openEuler

4. 网络连接：本人是直接连接到了HDMI显示器，可以使用nmcli dev wifi命令扫描周围的WIFI热点，然后使用sudo nmcli dev wifi connect wifi_name password wifi_pwd进行连接，连接后可以通过ping命令进行连通性测试，如ping https://hikunpeng.csdn.net

5. 用户密码修改：如果想要修改原始密码，可以使用passwd openEuler进行修改「可能需要使用su切换至root权限」

 

开发环境搭建

对于嵌入式开发者来说，稳定的开发环境至关重要。香橙派Kunpeng Pro支持主流的开发工具和编程语言，包括Python、C/C++等。以下是搭建开发环境的步骤：

1. 更新系统： 使用命令行工具更新系统和安装必要的软件包：

sudo dnf update

2. 安装开发工具： 安装Python及测试是否安装成功：

sudo dnf install python3
python3 --version

3. 配置IDE： 推荐使用VSCode或PyCharm等开发环境，进行代码编写和调试。

同样，你也可以基于Miniconda搭建环境，首先下载 Miniconda 安装包：

1. 在 openEuler 上，您可以通过以下命令下载 Miniconda 安装包：wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

2. 运行安装脚本：使用以下命令运行 Miniconda 安装脚本：sh Miniconda3-latest-Linux-x86_64.sh

3. 遵循安装向导：按照安装向导的提示进行操作。您可以选择安装位置、添加环境变量等选项。

4. 激活 conda 环境：安装完成后，需要激活 conda 环境。使用以下命令激活 conda 环境：source ~/.bashrc

5. 验证安装：运行以下命令验证 conda 是否成功安装：conda --version

然后你就可以创建对应的虚拟环境conda create --name xxxx，然后激活conda activate xxxx。

 

 

部署大语言模型测试

既然香橙派Kunpeng Pro具备超强的算力，我们就试试在其上部署大语言模型（Large Language Model, LLM）。LLM是一种人工智能模型，旨在理解和生成人类语言。它们在大量的文本数据上进行训练，可以执行广泛的任务，包括文本总结、翻译、情感分析等等。

安装组件

使用chatglm-cpp部署大模型，需要安装chatglm-cpp软件包。安装前，可能需要配置yum源。

开始组件安装：

yum install chatglm-cpp

查看是否安装成功：

chatglm_cpp_main -h

若成功显示help信息则安装成功。

下载开源大模型，如ChatGLM-6B、ChatGLM2-6B等。并将下载的开源大模型通过chatglm_convert.py进行模型量化：

python3 /usr/bin/chatglm_convert.py -i model_path/ -t q4_0 -o chatglm-ggml_1.bin

其中model_path为开源大模型的存放路径，q4_0为开源大模型量化的精度，chatglm-ggml_1.bin是输出的量化模型的名称。启动模型，进行对话：

chatglm_cpp_main -m model_path -i

其中model_path为量化模型的存放路径。

可通过以下命令查看命令行选项用法：

chatglm_cpp_main -h

模型启动界面如下，然后就可以进行交流了～

 

 

性能测试

CPU性能测试

 

`sysbench 是一个多线程的性能测试工具，可以用来测试CPU、内存、磁盘I/O等。

sudo yum install sysbench  # 在基于Debian的系统上安装
# 测试CPU性能
sysbench --test=cpu --cpu-max-prime=20000 run

 

内存性能测试

# 测试内存性能
sysbench --test=memory run

 

 

开发体验与应用场景

在实际开发过程中，香橙派Kunpeng Pro表现出色。其强大的处理器和丰富的I/O接口，支持多种应用场景：

1. 物联网应用： 通过GPIO接口连接传感器和执行器，快速搭建智能家居或工业自动化项目。

2. 多媒体处理： 利用HDMI接口和高性能处理器，进行视频解码和图像处理应用。

3. 边缘计算： 在资源受限的环境中，香橙派Kunpeng Pro可以作为边缘计算设备，进行数据采集和预处理。

试用感受与总结

香橙派Kunpeng Pro在实际使用中，表现出了高效、稳定的性能。无论是硬件设计还是系统兼容性，都给人留下了深刻的印象。其开放性和扩展性，使其在多个领域中具有广泛的应用前景。

优点：

• 高性能处理器：确保复杂任务的流畅运行。

• 丰富的接口：满足多种外设连接需求。

• 稳定的系统支持：官方提供的系统镜像和开发工具，降低了开发难度。

改进建议：

• 文档完善：希望能有更详细的开发文档，帮助用户快速上手。

• 社区支持：加强用户社区的建设，提供更多的技术交流和支持。

总的来说，香橙派Kunpeng Pro是一款非常值得推荐的开发板，适合嵌入式开发、物联网应用及边缘计算等多种场景。通过此次测评，希望能为广大开发者提供有价值的参考。