解锁 AI 潜力:香橙派 AIpro 评测与实操指南

Strange_Head 2024-08-01 16:31:03 阅读 72

解锁 AI 潜力:香橙派 AIpro 评测与实操指南

引言

在智能科技飞速发展的今天,AI 技术正逐渐改变我们的生活方式。作为开发者,找到一款高性能、易用且经济实惠的开发板至关重要。香橙派 AIpro(OrangePi AIpro)凭借其卓越的硬件配置和强大的 AI 计算能力,相信未来会迅速成为市场上的一匹黑马。本文将带你全面了解这款开发板,通过实际操作和详细评测,揭示其在 AI 开发中的巨大潜力。无论你是初学者还是资深开发者,香橙派 AIpro 都能助你迈向 AI 开发的新高度。准备好了吗?让我们一同探索这款令人兴奋的 AI 开发工具!

文章目录

解锁 AI 潜力:香橙派 AIpro 评测与实操指南引言多功能强大性能的硬件之选🥇🍊高性能处理器🍊大容量内存🍊丰富的接口设计🍊无线连接🍊多样的电源接口🍊摄像头接口🍊其他特色功能

开发体验香橙派AIpro引脚图实物连接串口打印

使用Mobaxterm串口工具直接第一次上电参数选择首次登陆账号密码接入wifi网络使用ssh网络通信💻

AI 模型部署步骤环境搭建安装必要依赖下载llama.cpp以及对应中文工具包编译llama.cpp下载中文llama模型

量化部署

性能查看(TOP)结果演示推荐选择结束

多功能强大性能的硬件之选🥇

img

img

🍊高性能处理器

首先,最值得关注的是这款开发板的核心处理器。它搭载了一个4核64位处理器,配合AI处理器,能提供强劲的计算能力和高效的AI处理性能。这样的配置不仅满足了日常的计算需求,还能应对复杂的人工智能算法和深度学习任务。对于需要处理大量数据和进行高性能计算的开发者来说,这无疑是一个巨大的优势。

🍊大容量内存

在内存方面,这款开发板提供了8GB或16GB的LPDDR4X内存选择。LPDDR4X内存相比传统的DDR内存具有更高的带宽和更低的功耗,这对于需要频繁进行数据交换和高性能运算的应用场景来说,能显著提升系统的整体性能和响应速度。无论是用于图像处理、视频解码,还是复杂的计算任务,大容量内存都能提供可靠的保障。

🍊丰富的接口设计

这款开发板的接口设计非常丰富,几乎涵盖了所有常见的外设连接需求。

双HDMI 2.0接口:支持4K视频输出,可以同时连接两个显示器,满足多屏显示和复杂显示任务的需求。

USB 3.0接口:提供两个USB 3.0接口,支持高速数据传输,方便连接各种USB外设,如键盘、鼠标、U盘等。

Type-C 3.0接口:支持最新的Type-C接口标准,提供更高的传输速率和更便利的连接方式。

耳机孔音频输入/输出:提供标准的3.5mm耳机孔,支持音频输入和输出,方便音频设备的连接。

🍊无线连接

在无线连接方面,这款开发板也表现出色。它内置了2.4G/5G双频WiFi和蓝牙5.0模块,支持更高速率和更稳定的无线网络连接,同时兼容蓝牙4.2设备。这样的配置不仅能提供快速的网络连接,还能方便各种蓝牙设备的接入,如无线耳机、蓝牙键盘、鼠标等,为用户带来更多的使用便利。

🍊多样的电源接口

为了适应不同的应用场景和供电需求,这款开发板提供了多种电源接口:

3.3V、5V电源接口:方便连接各种外设和传感器。

12V散热风扇接口:支持连接外部散热风扇,确保系统在高负载运行时依然保持稳定。

2Pin电池接头:支持外接电池供电,适用于移动设备和野外使用场景。

🍊摄像头接口

这款开发板还提供了2个MIPI CSI摄像头接口和1个MIPI DSI显示接口。MIPI CSI接口可以连接高性能摄像头模块,适用于图像处理和计算机视觉等应用。MIPI DSI接口则能提供更高的显示带宽和更丰富的显示效果,适用于需要高质量显示的项目。

🍊其他特色功能

千兆网口:支持高速有线网络连接,确保数据传输的稳定性和高速性。

烧录按键和RESET键:方便系统调试和开发过程中对系统进行重置和程序烧录。

40Pin扩展接口:提供了丰富的GPIO接口,支持各种外设和传感器的连接,方便用户进行二次开发和功能扩展。

具体的详情参数OrangePi官方网址也已提供,请各位读者点击链接参考。👇👇👇

http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/parameter/Orange-Pi-AIpro.html

实际应用场景

这款开发板由于其强大的性能和丰富的接口,适用于多种实际应用场景:

物联网应用:得益于其强大的处理能力和丰富的接口设计,这款开发板非常适合物联网项目。无论是智能家居、智慧城市,还是工业物联网应用,都能轻松应对。

AI和机器学习:内置的AI处理器和大容量内存,使其在AI和机器学习领域表现出色。可以用于实时图像识别、语音识别和自然语言处理等应用。

多媒体处理:双HDMI接口和高性能处理器,使其能够处理高分辨率的视频和图像,适用于媒体播放、数字标牌和广告机等场景。

教育和科研:丰富的接口和强大的功能,使其成为教学和科研的理想工具。可以用于电子工程、计算机科学、人工智能等领域的教学实验和科研项目。

可广泛适用于AI教学实训、AI算法验证、智能小车、机械臂、边缘计算、无人机、人工智能、云计算、AR/VR、智能安防、智能家居、智能交通等领域。

总的来说,这款OrangePi AI pro凭借其强大的处理性能、丰富的接口设计和灵活的电源方案,成为一款非常值得推荐的硬件平台。无论是进行物联网开发、AI和机器学习实验,还是多媒体处理和教育科研,它都能提供可靠的支持和出色的性能表现。

学习资料

每次学习开始前,必不可少的就是学习资料啦,跟着顺哥一起,进入官网获取资料吧

http://www.orangepi.cn/html/serviceAndSupport/index.html

请添加图片描述

进入官网,点击下载里面有香橙派AIpro的选项,点击进入,里面有详细的学习资料提供大家学习,包括硬件拆箱组装配件,硬件原理图,编译库,从系统烧录到精通学习的详细文档……让人眼前一亮不是吗,我是被震惊了,太棒了!必须支持!

介绍完了硬件相关,学习资料的下载,已经迫不及待的想要体验下这款香橙派AIpro了,学习起来!!!

开发体验

香橙派AIpro引脚图

img

实物连接串口打印

a.USB转TTL模块的GND接到开发板的GND上。

b.USB转TTL模块的RX接到开发板的TX上。

c.USB转TTL模块的TX接到开发板的RX上。

在这里插入图片描述

在这里插入图片描述

使用Mobaxterm串口工具直接第一次上电

参数选择

波特率115200COM4(根据实际选择)🏃然后上电冲冲冲!

在这里插入图片描述

首次登陆账号密码

🍊账号:HwHiAiUser

🍊密码:Mind@123

登陆之后,可以通过passwd命令改掉,我新密码俩次输入必须一样,不然就会出现我下面的错误 (Sorry,passwords do not match)🤯

在这里插入图片描述

接入wifi网络使用ssh网络通信💻

命令扫描周围的WIFI热点

<code>nmcli dev wifi

在这里插入图片描述

<code>sudo nmcli dev wifi connect CU_rcfe_5G password uf5mtrt9

连接,使用sudo权限

在这里插入图片描述

<code>ifconfig

查询当前机器的ip地址,并使用ssh进行连接。

在这里插入图片描述

AI 模型部署步骤

我们直接发挥香橙派Aipro的核心力量,离线部署专属AI,中间出现报错使用sudo权限,还有则粘贴错误之百度,下载对应的依赖环境,或者工具即可。

环境搭建

1、一个Ubuntu环境(笔者用的Ubuntu22)

2、确保你的环境可以连接GitHub

3、建议至少60GB以上存储空间(用于存放模型文件等)(笔者有个移动硬盘)

4、建议不低于6GB内存(仅限7B_q4k量化模型)(Orangepi Ai pro戳戳有余)

安装必要依赖

<code>sudo apt update

sudo apt-get install gcc g++ python3 python3-pip

#安装python依赖

python3 -m pip install torch numpy sentencepiece

下载llama.cpp以及对应中文工具包

百度网盘连接:

工具包链接:

链接:https://pan.baidu.com/s/1_q0WHaJyP_QqsazanAUFXA

提取码:o42a

–来自百度网盘超级会员V6的分享

llama.cpp链接

链接:https://pan.baidu.com/s/1Mu_uh_3ZoPmpRX_twj5LVQ

提取码:o42a

–来自百度网盘超级会员V6的分享

或者直接使用

#拉取llama.cpp

git clone https://github.com/ggerganov/llama.cpp.git

#拉取工具包

sudo clone https://github.com/ymcui/Chinese-LLaMA-Alpaca-2.git

编译llama.cpp

#构建llama.cpp

cd llama.cpp/

make -j8

下载中文llama模型

百度网盘:

链接:https://pan.baidu.com/s/10JHKU5gCwT2_um_I5kAe8Q

提取码:o42a

–来自百度网盘超级会员V6的分享

量化部署

将下载好的模型解压全部放到/llama.cpp/models/下面

# 安装 Python dependencies

python3 -m pip install torch numpy sentencepiece

# 生成量化模型

python3 convert.py .models/

#4-bit量化

./quantize ./models/models-7B-F16.gguf ./models/7B_q4k.gguf Q4_K

跟着顺哥走下来是不是感觉顺了很多,哈哈,我也将搭建过程做个GIF放到下面,不要孤独。

一个一个的搭建中……基于香橙派AIpro搭建下载速度及其快,对比其他开发板节省大量时间。

在这里插入图片描述

在这里插入图片描述

弄好之后,将工具包的scripts/llama-cpp/chat.sh拷贝到llama.app中,如果没有执行权限则chmod加一个执行权限就好了。

我们直接运行脚本。启动我们量化的AI模型

<code>chmod +x chat.sh

#使用以下命令启动聊天

./chat.sh models/7B_q4k.gguf '你好,我叫顺,我在CSDN的英文名字是Strange_Hand,很高兴认识你'

经过番折腾使用llama的7B模型还是有点看起来吃力

在这里插入图片描述

./quantize ./models/models-7B-F16.gguf ./models/7B_q4k.gguf Q4_K

性能查看(TOP)

CPU也超负荷彪到了恐怖的300%,后续调节优化。

在这里插入图片描述

结果演示

在这里插入图片描述

在这里插入图片描述

读者可以改Q4_K来调节性能,或者学习如何全速主频,npu的开启,这将大大提高性能。

笔者,就带大家学习到这里,以后,接着深入相关AI和嵌入式的学习。

推荐选择

我拿到的这款是裸主板,8G,电源,散热组件,32GB存储卡,官方网址有更详细的参数和性能,大家根据自己的开发需求选择即可对与入门AI学习嵌入式来说可以开发难度稍高,但是有官方提供的详细学习资料加持下,一步一步慢慢来相信大家一定会成功的,我的第一款linux嵌入式开发板就是香橙派系列的,特别棒。

这款开发板大家看到,性能很厉害,但是高性能是会带来高功耗的,意味着这个板子的散热是必须的,所以,入手板子前,建议加购散热和外壳。

结束

总的来说,这款嵌入式开发板凭借其强大的处理性能、丰富的接口设计和灵活的电源方案,成为一款非常值得推荐的硬件平台。无论是进行物联网开发、AI和机器学习实验,还是多媒体处理和教育科研,它都能提供可靠的支持和出色的性能表现。

从个人使用体验来看,这款开发板在各方面都表现出色,无论是硬件性能还是接口设计,都能满足我在开发过程中的各种需求。它的多样性和灵活性使得它在不同的项目中都能胜任,是一款真正的全能型开发板。希望通过这篇评测,您能对这款开发板有一个全面的了解,进而在选择硬件平台时做出明智的决策。



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。