当前位置：人工智能 >  【香橙派】Orange pi AIpro开发板评测，看小白如何从0到1快速入门，以及亲测手写数字识别模型训练与推理

【香橙派】Orange pi AIpro开发板评测，看小白如何从0到1快速入门，以及亲测手写数字识别模型训练与推理

全栈小5 2024-08-18 09:01:02 阅读 70

作为业界首款基于昇腾深度研发的AI开发板，Orange Pi AIpro无论在外观上、性能上还是技术服务支持上都非常优秀。

接口丰富，扩展能力强。支持Ubuntu、openEuler操作系统，满足大多数AI算法原型验证、推理应用开发的需求。

在这里插入图片描述

目录

开发板介绍亮点顶层视图底层试图

开发板使用准备配件相关资料启动设置烧录镜像上电连接wifi查看IPSSH连接可视化界面

体验AI应用登录juypter lab运行文字识别样例

手写数字识别模型训练&推理样例介绍样例下载执行准备模型训练在线推理

测评感受使用香橙派开发板体会AI应用数据训练体会

总结

开发板介绍

亮点

作为业界首款基于昇腾深度研发的AI开发板，Orange Pi AIpro无论在外观上、性能上还是技术服务支持上都非常优秀。采用昇腾AI技术路线，集成图形处理器，拥有8GB/16GB LPDDR4X，可以外接32GB/64GB/128GB/256GB eMMC模块，支持双4K高清输出，8/20 TOPS AI算力。

其丰富的接口更是赋予了Orange Pi AIpro强大的可拓展性。包括两个HDMI输出、GPIO接口、Type-C电源接口、支持SATA/NVMe SSD 2280的M.2插槽、TF插槽、千兆网口、两个USB3.0、一个USB Type-C 3.0、一个Micro USB、两个MIPI摄像头、一个MIPI屏等，预留电池接口。

在操作系统方面，Orange Pi AIpro支持Ubuntu、openEuler操作系统，满足大多数AI算法原型验证、推理应用开发的需求，可广泛适用于AI边缘计算、深度视觉学习及视频流AI分析、视频图像分析、自然语言处理、智能小车、机械臂、人工智能、无人机、云计算、AR/VR、智能安防、智能家居等领域，覆盖 AIoT各个行业。

顶层视图

在这里插入图片描述

底层试图

在这里插入图片描述

开发板使用

准备配件

对于首次使用的小白来说，一开始可能没有那么多配件，TF卡、TF读卡器、散热器、HDMI显示器连接线、串口测试线等。

相关资料

博主是一名硬件小白，虽然有接触过几次，但都是一些皮毛。

非常感谢香橙派平台提供的这次机会，并且用户手册讲解的非常详细，帮了很大的忙。

开发板资料下载页面的链接如下所示：

http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/service-and-support/Orange-Pi-AIpro.html

在这里插入图片描述

启动设置

TF卡启动设置，两个按钮都拨到右边。

开发板背面也有指示，非常方便

在这里插入图片描述

烧录镜像

博主是在windows操作系统环境下进行的操作

1、电脑读卡

把 TF 卡插入读卡器，再把读卡器插入电脑

2、balenaEtcher烧录

balenaEtcher：https://www.balena.io/etcher/

在这里插入图片描述

在这里插入图片描述

烧录中（第一次接触难免有些小激动，很快就可以开启我的硬件之旅），烧录过程大概二十分钟左右

在这里插入图片描述

烧录镜像校验和验证，验证大概也是十来分钟（可跳过此步骤）

在这里插入图片描述

3、推荐烧录工具

推荐一个比较好用的烧录工具，无需验证，如果上一步骤无法烧录或者验证成功，可以使用下面这个。

地址：https://ascend-repo.obs.cn-east-2.myhuaweicloud.com/Atlas%20200I%20DK%20A2/DevKit/tools/latest/Ascend-devkit-imager_latest_win-x86_64.exe

在这里插入图片描述

上电

完成上面烧录步骤，就可以上电，开机启动。

由于最近回老家了，还好镇上都有读卡器、HDMI数据线等配件。

没有条件就创造条件，显示器就用电视机凑合着用。

果然没让我失望，顺利显示出了OrangePI系统界面，这入门体验棒极了。

这个开发板可以理解为一个主机，就像一个台式电脑主机一样，也可以接鼠标、键盘和显示器。

TF卡就是一个硬盘，可以在上面安装操作系统。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

连接wifi

成功启动OrangePI后，默认是没有联网的，支持wifi无线联网。

在这里插入图片描述

查看IP

完成wifi联网后，即可查看到当前开发板所在局域网IP，目的是通过XShell进行SSH远程连接登录。

打开Terminal输入命令：ifconfig

找到192.168开头就是了。

在这里插入图片描述

SSH连接

下载远程工具Xshell

地址：https://www.xshell.com/zh/free-for-home-school/

这个下载不用填任何邮箱地址，直接就可以下载

在这里插入图片描述

登录

直接新建会话进行登录，输入下面默认账号和密码

账号：HwHiAiUser

密码：Mind@123

在这里插入图片描述

可视化界面

下载Windows系统Nomachine包：https://downloads.nomachine.com/

在这里插入图片描述

Windows系统下Nomachine包，并上传到开发板的用户目录下

在这里插入图片描述

ls -lrt

在这里插入图片描述

安装

sudo dpkg -i nomachine_8.11.3_3_arm64.deb

输入登录密码，回车即可开始安装

在这里插入图片描述

安装完成后，NoMachine软件回自动检测到对应远程

在这里插入图片描述

首次点击连接可能会失败，会提示输入账号和密码，之后再点击就可以远程到图形化界面了。

这对于小白来说就非常有帮助。

在这里插入图片描述

体验AI应用

具体样例说明可点击跳转官方查看用户手册，非常详细，博主这里不进行详细运行样例说明：

http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/service-and-support/Orange-Pi-AIpro.html

登录juypter lab

1）cd samples

2）ls 01-SSD 02-CNNCTC 03-ResNet50 04-HDR 05-CycleGAN 06-Shufflenet 07-FCN08-Pix2Pix start_notebook.sh

3）./start_notebook.sh

在这里插入图片描述

访问

在OrangePI打开浏览器，输入下面地址即可访问到juypter lab

http://127.0.0.1:8888/lab?token=93d9715b3ab3ffed960cb877757a1df41bd12b6c0bbfc9fe

在这里插入图片描述

运行文字识别样例

点击双箭头运行

在这里插入图片描述

推理完成后，输出结果。

在准确识别出来后，关注另外一个重要信息是时间，infer use time:9.66787338256836ms（推理时间9毫秒，速度非常快，可以说是一瞬间）

在这里插入图片描述

手写数字识别模型训练&推理

源码地址：https://gitee.com/ascend/EdgeAndRobotics/tree/master/Samples/HandWritingTrainAndInfer

样例介绍

本样例使用MNIST数据集实现了手写数字识别体的训练，onnx推理，om推理全过程。

需要注意，样例上面的文件夹名称和现在名称不同，需要改为当前名称HandWritingTrainAndInfer

样例下载

博主这里直接使用git方式下载，网速好的可以用次方法简单，网速慢得建议下载zip到开发板中步骤会复杂点

<code># 登录开发板，HwHiAiUser用户命令行中执行以下命令下载源码仓。

cd ${ HOME}

git clone https://gitee.com/ascend/EdgeAndRobotics.git

# 切换到样例目录

cd EdgeAndRobotics/Samples/HandWritingTrainAndInfer

在这里插入图片描述

在这里插入图片描述

执行准备

安装PyTorch以及torch_npu插件

<code># torch_npu由于需要源码编译,速度可能较慢,本样例提供 python3.9,torch2.1版本的torch_npu whl包

wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/wanzutao/torch_npu-2.1.0rc1-cp39-cp39-linux_aarch64.whl

# 使用pip命令安装

pip3 install torch_npu-2.1.0rc1-cp39-cp39-linux_aarch64.whl

安装其他依赖库

如果还有其他依赖库需要安装，那么可以在requirements.txt文本里添加

pip3 install -r requirements.txt # PyTorch2.1版本

在这里插入图片描述

在这里插入图片描述

模型训练

1、以HwHiAiUser用户登录开发板，切换到样例目录下

<code># 切换到样例目录

cd EdgeAndRobotics/Samples/HandWritingTrainAndInfer

2、设置环境变量减小算子编译内存占用

export TE_PARALLEL_COMPILER=1

export MAX_COMPILE_CORE_NUMBER=1

3、运行训练脚本

python3 main.py

成功运行训练脚本后，会自动下载Mnist数据集，数据集目录结构如下（如果用户网络状况不佳可以自行下载数据集放到指定目录dataset下）：

在这里插入图片描述

在这里插入图片描述

完成训练后，会生成一个文件（整体训练速度还是挺快的，这个让我对香橙派开发板比较惊喜的地方，毕竟训练才是AI的核心）

在这里插入图片描述

在这里插入图片描述

在线推理

1、以HwHiAiUser用户登录开发板，切换到当前样例目录

<code># 切换到样例目录

cd EdgeAndRobotics/Samples/HandWritingTrainAndInfer

2、执行以下命令，将训练生成的mnist.pt转换mnist.onnx模型

python3 export.py

mnist.onnx模型生成在当前路径下

在这里插入图片描述

在这里插入图片描述

3、执行以下命令，获取在线推理的测试图片

<code>cd data

wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/wanzutao/mnist/8.jpg

在这里插入图片描述

4、执行在线推理

<code>cd ../onnxInfer/

python3 infer.py

执行成功后，在屏幕上的关键提示信息示例如下：

[image_path:data/8.jpg] [inferssession_time:1349 pictures/s] [output:8]

在这里插入图片描述

5、手写测试

博主这里自己手写一个数字。(重复3到4步骤，回到data目录，在线下载图片，博主这里通过访问自己服务器的图片进行下载测试）

可能是训练数据量不够，有些手写的数字并不能识别出来，然后用下面方式处理的数字，7识别成了2，数字5能够准确识别

在这里插入图片描述

在这里插入图片描述

测评感受

使用香橙派开发板体会

博主算是一名硬件小白，香橙派开发给我最大的感受就是速度快，性能佳，整个过程体验非常流畅。

速度快体现在，博主还没反应过来显示器就已经显示OrangePI登录界面

性能佳体现在，运行的AI应用样例运行出结果在毫秒级，博主还在想运行好没，其实已经显示出结果

开发板工艺设计非常小巧精美，散热效果不错。

速度和性能这两方面在数据训练、部署、推理等体现非常的好，对于博主首次接触可以说是非常惊喜的一次测评体验。

期待官方开发板越来越强大，博主也趁这次机会入门，以及后续实现语音交互等功能

AI应用数据训练体会

通过香橙派开发板小体量设备就能进行数据训练、推理，这确实太赞了。

这个对以后垂直领域或者自己专项业务就能够发挥作用，实现数据训练本地化离线化，确保了训练数据的安全性。

总结

Orange Pi AI Pro 开发板是香橙派联合华为精心打造的高性能 AI 开发板，值得拥有。

整体上，开发板运行非常平稳，性能和速度绝佳，散热效果也不错，风扇几乎没什么噪音。

在样例的图片识别文字里，推理时间仅为9毫秒，速度非常快，可以说是一瞬间，性能和速度体现的淋漓尽致。

上一篇： 一文搞懂LLM大模型！LLM从入门到精通万字长文（2024.7月最新）

下一篇： 2024年最新GPT 4o访问入口及使用指南

本文标签

以及亲测手写数字识别模型训练与推理    【香橙派】Orange pi AIpro开发板评测    看小白如何从0到1快速入门   

声明

本文内容仅代表作者观点，或转载于其他网站，本站不以此文作为商业用途
如有涉及侵权，请联系本站进行删除
转载本站原创文章，请注明来源及作者。

相关文章

阅读排行

热门文章