解锁 AI 潜力:香橙派 AIpro 评测与实操指南
引言
在智能科技飞速发展的今天,AI 技术正逐渐改变我们的生活方式。作为开发者,找到一款高性能、易用且经济实惠的开发板至关重要。香橙派 AIpro(OrangePi AIpro)凭借其卓越的硬件配置和强大的 AI 计算能力,相信未来会迅速成为市场上的一匹黑马。本文将带你全面了解这款开发板,通过实际操作和详细评测,揭示其在 AI 开发中的巨大潜力。无论你是初学者还是资深开发者,香橙派 AIpro 都能助你迈向 AI 开发的新高度。准备好了吗?让我们一同探索这款令人兴奋的 AI 开发工具!
文章目录
- 解锁 AI 潜力:香橙派 AIpro 评测与实操指南
- 引言
- 多功能强大性能的硬件之选🥇
- 🍊高性能处理器
- 🍊大容量内存
- 🍊丰富的接口设计
- 🍊无线连接
- 🍊多样的电源接口
- 🍊摄像头接口
- 🍊其他特色功能
- 开发体验
- 香橙派AIpro引脚图
- 实物连接串口打印
- 使用Mobaxterm串口工具直接第一次上电
- 参数选择
- 首次登陆账号密码
- 接入wifi网络使用ssh网络通信💻
- AI 模型部署步骤
- 环境搭建
- 安装必要依赖
- 下载llama.cpp以及对应中文工具包
- 编译llama.cpp
- 下载中文llama模型
- 量化部署
- 性能查看(TOP)
- 结果演示
- 推荐选择
- 结束
多功能强大性能的硬件之选🥇
🍊高性能处理器
首先,最值得关注的是这款开发板的核心处理器。它搭载了一个4核64位处理器,配合AI处理器,能提供强劲的计算能力和高效的AI处理性能。这样的配置不仅满足了日常的计算需求,还能应对复杂的人工智能算法和深度学习任务。对于需要处理大量数据和进行高性能计算的开发者来说,这无疑是一个巨大的优势。
🍊大容量内存
在内存方面,这款开发板提供了8GB或16GB的LPDDR4X内存选择。LPDDR4X内存相比传统的DDR内存具有更高的带宽和更低的功耗,这对于需要频繁进行数据交换和高性能运算的应用场景来说,能显著提升系统的整体性能和响应速度。无论是用于图像处理、视频解码,还是复杂的计算任务,大容量内存都能提供可靠的保障。
🍊丰富的接口设计
这款开发板的接口设计非常丰富,几乎涵盖了所有常见的外设连接需求。
双HDMI 2.0接口:支持4K视频输出,可以同时连接两个显示器,满足多屏显示和复杂显示任务的需求。
USB 3.0接口:提供两个USB 3.0接口,支持高速数据传输,方便连接各种USB外设,如键盘、鼠标、U盘等。
Type-C 3.0接口:支持最新的Type-C接口标准,提供更高的传输速率和更便利的连接方式。
耳机孔音频输入/输出:提供标准的3.5mm耳机孔,支持音频输入和输出,方便音频设备的连接。
🍊无线连接
在无线连接方面,这款开发板也表现出色。它内置了2.4G/5G双频WiFi和蓝牙5.0模块,支持更高速率和更稳定的无线网络连接,同时兼容蓝牙4.2设备。这样的配置不仅能提供快速的网络连接,还能方便各种蓝牙设备的接入,如无线耳机、蓝牙键盘、鼠标等,为用户带来更多的使用便利。
🍊多样的电源接口
为了适应不同的应用场景和供电需求,这款开发板提供了多种电源接口:
3.3V、5V电源接口:方便连接各种外设和传感器。
12V散热风扇接口:支持连接外部散热风扇,确保系统在高负载运行时依然保持稳定。
2Pin电池接头:支持外接电池供电,适用于移动设备和野外使用场景。
🍊摄像头接口
这款开发板还提供了2个MIPI CSI摄像头接口和1个MIPI DSI显示接口。MIPI CSI接口可以连接高性能摄像头模块,适用于图像处理和计算机视觉等应用。MIPI DSI接口则能提供更高的显示带宽和更丰富的显示效果,适用于需要高质量显示的项目。
🍊其他特色功能
千兆网口:支持高速有线网络连接,确保数据传输的稳定性和高速性。
烧录按键和RESET键:方便系统调试和开发过程中对系统进行重置和程序烧录。
40Pin扩展接口:提供了丰富的GPIO接口,支持各种外设和传感器的连接,方便用户进行二次开发和功能扩展。
具体的详情参数OrangePi官方网址也已提供,请各位读者点击链接参考。👇👇👇
http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/parameter/Orange-Pi-AIpro.html
实际应用场景
这款开发板由于其强大的性能和丰富的接口,适用于多种实际应用场景:
物联网应用:得益于其强大的处理能力和丰富的接口设计,这款开发板非常适合物联网项目。无论是智能家居、智慧城市,还是工业物联网应用,都能轻松应对。
AI和机器学习:内置的AI处理器和大容量内存,使其在AI和机器学习领域表现出色。可以用于实时图像识别、语音识别和自然语言处理等应用。
多媒体处理:双HDMI接口和高性能处理器,使其能够处理高分辨率的视频和图像,适用于媒体播放、数字标牌和广告机等场景。
教育和科研:丰富的接口和强大的功能,使其成为教学和科研的理想工具。可以用于电子工程、计算机科学、人工智能等领域的教学实验和科研项目。
可广泛适用于AI教学实训、AI算法验证、智能小车、机械臂、边缘计算、无人机、人工智能、云计算、AR/VR、智能安防、智能家居、智能交通等领域。
总的来说,这款OrangePi AI pro凭借其强大的处理性能、丰富的接口设计和灵活的电源方案,成为一款非常值得推荐的硬件平台。无论是进行物联网开发、AI和机器学习实验,还是多媒体处理和教育科研,它都能提供可靠的支持和出色的性能表现。
学习资料
每次学习开始前,必不可少的就是学习资料啦,跟着顺哥一起,进入官网获取资料吧
http://www.orangepi.cn/html/serviceAndSupport/index.html
进入官网,点击下载里面有香橙派AIpro的选项,点击进入,里面有详细的学习资料提供大家学习,包括硬件拆箱组装配件,硬件原理图,编译库,从系统烧录到精通学习的详细文档……让人眼前一亮不是吗,我是被震惊了,太棒了!必须支持!
介绍完了硬件相关,学习资料的下载,已经迫不及待的想要体验下这款香橙派AIpro了,学习起来!!!
开发体验
香橙派AIpro引脚图
实物连接串口打印
a.USB转TTL模块的GND接到开发板的GND上。
b.USB转TTL模块的RX接到开发板的TX上。
c.USB转TTL模块的TX接到开发板的RX上。
使用Mobaxterm串口工具直接第一次上电
参数选择
- 波特率115200
- COM4(根据实际选择)
- 🏃然后上电冲冲冲!
首次登陆账号密码
🍊账号:HwHiAiUser
🍊密码:Mind@123
登陆之后,可以通过passwd命令改掉,我新密码俩次输入必须一样,不然就会出现我下面的错误 (Sorry,passwords do not match)🤯
接入wifi网络使用ssh网络通信💻
命令扫描周围的WIFI热点
nmcli dev wifi
sudo nmcli dev wifi connect CU_rcfe_5G password uf5mtrt9
连接,使用sudo权限
ifconfig
查询当前机器的ip地址,并使用ssh进行连接。
AI 模型部署步骤
我们直接发挥香橙派Aipro的核心力量,离线部署专属AI,中间出现报错使用sudo权限,还有则粘贴错误之百度,下载对应的依赖环境,或者工具即可。
环境搭建
1、一个Ubuntu环境(笔者用的Ubuntu22)
2、确保你的环境可以连接GitHub
3、建议至少60GB以上存储空间(用于存放模型文件等)(笔者有个移动硬盘)
4、建议不低于6GB内存(仅限7B_q4k量化模型)(Orangepi Ai pro戳戳有余)
安装必要依赖
sudo apt update
sudo apt-get install gcc g++ python3 python3-pip
#安装python依赖
python3 -m pip install torch numpy sentencepiece
下载llama.cpp以及对应中文工具包
百度网盘连接:
工具包链接:
链接:https://pan.baidu.com/s/1_q0WHaJyP_QqsazanAUFXA
提取码:o42a
–来自百度网盘超级会员V6的分享
llama.cpp链接
链接:https://pan.baidu.com/s/1Mu_uh_3ZoPmpRX_twj5LVQ
提取码:o42a
–来自百度网盘超级会员V6的分享
或者直接使用
#拉取llama.cpp
git clone https://github.com/ggerganov/llama.cpp.git
#拉取工具包
sudo clone https://github.com/ymcui/Chinese-LLaMA-Alpaca-2.git
编译llama.cpp
#构建llama.cpp
cd llama.cpp/
make -j8
下载中文llama模型
百度网盘:
链接:https://pan.baidu.com/s/10JHKU5gCwT2_um_I5kAe8Q
提取码:o42a
–来自百度网盘超级会员V6的分享
量化部署
将下载好的模型解压全部放到/llama.cpp/models/下面
# 安装 Python dependencies
python3 -m pip install torch numpy sentencepiece
# 生成量化模型
python3 convert.py .models/
#4-bit量化
./quantize ./models/models-7B-F16.gguf ./models/7B_q4k.gguf Q4_K
跟着顺哥走下来是不是感觉顺了很多,哈哈,我也将搭建过程做个GIF放到下面,不要孤独。
一个一个的搭建中……基于香橙派AIpro搭建下载速度及其快,对比其他开发板节省大量时间。
弄好之后,将工具包的scripts/llama-cpp/chat.sh拷贝到llama.app中,如果没有执行权限则chmod加一个执行权限就好了。
我们直接运行脚本。启动我们量化的AI模型
chmod +x chat.sh
#使用以下命令启动聊天
./chat.sh models/7B_q4k.gguf '你好,我叫顺,我在CSDN的英文名字是Strange_Hand,很高兴认识你'
经过番折腾使用llama的7B模型还是有点看起来吃力
./quantize ./models/models-7B-F16.gguf ./models/7B_q4k.gguf Q4_K
性能查看(TOP)
CPU也超负荷彪到了恐怖的300%,后续调节优化。
结果演示
读者可以改Q4_K来调节性能,或者学习如何全速主频,npu的开启,这将大大提高性能。
笔者,就带大家学习到这里,以后,接着深入相关AI和嵌入式的学习。
推荐选择
我拿到的这款是裸主板,8G,电源,散热组件,32GB存储卡,官方网址有更详细的参数和性能,大家根据自己的开发需求选择即可对与入门AI学习嵌入式来说可以开发难度稍高,但是有官方提供的详细学习资料加持下,一步一步慢慢来相信大家一定会成功的,我的第一款linux嵌入式开发板就是香橙派系列的,特别棒。
这款开发板大家看到,性能很厉害,但是高性能是会带来高功耗的,意味着这个板子的散热是必须的,所以,入手板子前,建议加购散热和外壳。
结束
总的来说,这款嵌入式开发板凭借其强大的处理性能、丰富的接口设计和灵活的电源方案,成为一款非常值得推荐的硬件平台。无论是进行物联网开发、AI和机器学习实验,还是多媒体处理和教育科研,它都能提供可靠的支持和出色的性能表现。
从个人使用体验来看,这款开发板在各方面都表现出色,无论是硬件性能还是接口设计,都能满足我在开发过程中的各种需求。它的多样性和灵活性使得它在不同的项目中都能胜任,是一款真正的全能型开发板。希望通过这篇评测,您能对这款开发板有一个全面的了解,进而在选择硬件平台时做出明智的决策。