解锁 AI 潜力:香橙派 AIpro 评测与实操指南

news2024/11/15 18:05:02

解锁 AI 潜力:香橙派 AIpro 评测与实操指南

引言

    在智能科技飞速发展的今天,AI 技术正逐渐改变我们的生活方式。作为开发者,找到一款高性能、易用且经济实惠的开发板至关重要。香橙派 AIpro(OrangePi AIpro)凭借其卓越的硬件配置和强大的 AI 计算能力,相信未来会迅速成为市场上的一匹黑马。本文将带你全面了解这款开发板,通过实际操作和详细评测,揭示其在 AI 开发中的巨大潜力。无论你是初学者还是资深开发者,香橙派 AIpro 都能助你迈向 AI 开发的新高度。准备好了吗?让我们一同探索这款令人兴奋的 AI 开发工具!

文章目录

  • 解锁 AI 潜力:香橙派 AIpro 评测与实操指南
  • 引言
  • 多功能强大性能的硬件之选🥇
    • 🍊高性能处理器
    • 🍊大容量内存
    • 🍊丰富的接口设计
    • 🍊无线连接
    • 🍊多样的电源接口
    • 🍊摄像头接口
    • 🍊其他特色功能
  • 开发体验
    • 香橙派AIpro引脚图
      • 实物连接串口打印
    • 使用Mobaxterm串口工具直接第一次上电
      • 参数选择
      • 首次登陆账号密码
      • 接入wifi网络使用ssh网络通信💻
  • AI 模型部署步骤
    • 环境搭建
      • 安装必要依赖
      • 下载llama.cpp以及对应中文工具包
      • 编译llama.cpp
      • 下载中文llama模型
    • 量化部署
  • 性能查看(TOP)
  • 结果演示
  • 推荐选择
  • 结束

多功能强大性能的硬件之选🥇

img

img

🍊高性能处理器

首先,最值得关注的是这款开发板的核心处理器。它搭载了一个4核64位处理器,配合AI处理器,能提供强劲的计算能力和高效的AI处理性能。这样的配置不仅满足了日常的计算需求,还能应对复杂的人工智能算法和深度学习任务。对于需要处理大量数据和进行高性能计算的开发者来说,这无疑是一个巨大的优势。

🍊大容量内存

在内存方面,这款开发板提供了8GB或16GB的LPDDR4X内存选择。LPDDR4X内存相比传统的DDR内存具有更高的带宽和更低的功耗,这对于需要频繁进行数据交换和高性能运算的应用场景来说,能显著提升系统的整体性能和响应速度。无论是用于图像处理、视频解码,还是复杂的计算任务,大容量内存都能提供可靠的保障

🍊丰富的接口设计

这款开发板的接口设计非常丰富,几乎涵盖了所有常见的外设连接需求

双HDMI 2.0接口:支持4K视频输出,可以同时连接两个显示器,满足多屏显示和复杂显示任务的需求。
USB 3.0接口:提供两个USB 3.0接口,支持高速数据传输,方便连接各种USB外设,如键盘、鼠标、U盘等。
Type-C 3.0接口:支持最新的Type-C接口标准,提供更高的传输速率和更便利的连接方式。
耳机孔音频输入/输出:提供标准的3.5mm耳机孔,支持音频输入和输出,方便音频设备的连接。

🍊无线连接

在无线连接方面,这款开发板也表现出色。它内置了2.4G/5G双频WiFi和蓝牙5.0模块,支持更高速率和更稳定的无线网络连接,同时兼容蓝牙4.2设备。这样的配置不仅能提供快速的网络连接,还能方便各种蓝牙设备的接入,如无线耳机、蓝牙键盘、鼠标等,为用户带来更多的使用便利。

🍊多样的电源接口

为了适应不同的应用场景和供电需求,这款开发板提供了多种电源接口:

3.3V、5V电源接口:方便连接各种外设和传感器。
12V散热风扇接口:支持连接外部散热风扇,确保系统在高负载运行时依然保持稳定。
2Pin电池接头:支持外接电池供电,适用于移动设备和野外使用场景。

🍊摄像头接口

这款开发板还提供了2个MIPI CSI摄像头接口和1个MIPI DSI显示接口。MIPI CSI接口可以连接高性能摄像头模块,适用于图像处理和计算机视觉等应用。MIPI DSI接口则能提供更高的显示带宽和更丰富的显示效果,适用于需要高质量显示的项目。

🍊其他特色功能

千兆网口:支持高速有线网络连接,确保数据传输的稳定性和高速性。
烧录按键和RESET键:方便系统调试和开发过程中对系统进行重置和程序烧录。
40Pin扩展接口:提供了丰富的GPIO接口,支持各种外设和传感器的连接,方便用户进行二次开发和功能扩展。

具体的详情参数OrangePi官方网址也已提供,请各位读者点击链接参考。👇👇👇
http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/parameter/Orange-Pi-AIpro.html

实际应用场景
这款开发板由于其强大的性能和丰富的接口,适用于多种实际应用场景:

物联网应用:得益于其强大的处理能力和丰富的接口设计,这款开发板非常适合物联网项目。无论是智能家居、智慧城市,还是工业物联网应用,都能轻松应对。

AI和机器学习:内置的AI处理器和大容量内存,使其在AI和机器学习领域表现出色。可以用于实时图像识别、语音识别和自然语言处理等应用。

多媒体处理:双HDMI接口和高性能处理器,使其能够处理高分辨率的视频和图像,适用于媒体播放、数字标牌和广告机等场景。

教育和科研:丰富的接口和强大的功能,使其成为教学和科研的理想工具。可以用于电子工程、计算机科学、人工智能等领域的教学实验和科研项目。

可广泛适用于AI教学实训、AI算法验证、智能小车、机械臂、边缘计算、无人机、人工智能、云计算、AR/VR、智能安防、智能家居、智能交通等领域。

总的来说,这款OrangePi AI pro凭借其强大的处理性能、丰富的接口设计和灵活的电源方案,成为一款非常值得推荐的硬件平台。无论是进行物联网开发、AI和机器学习实验,还是多媒体处理和教育科研,它都能提供可靠的支持和出色的性能表现。

学习资料
每次学习开始前,必不可少的就是学习资料啦,跟着顺哥一起,进入官网获取资料吧
http://www.orangepi.cn/html/serviceAndSupport/index.html

请添加图片描述

进入官网,点击下载里面有香橙派AIpro的选项,点击进入,里面有详细的学习资料提供大家学习,包括硬件拆箱组装配件,硬件原理图,编译库,从系统烧录到精通学习的详细文档……让人眼前一亮不是吗,我是被震惊了,太棒了!必须支持!
介绍完了硬件相关,学习资料的下载,已经迫不及待的想要体验下这款香橙派AIpro了,学习起来!!!

开发体验

香橙派AIpro引脚图

img

实物连接串口打印

a.USB转TTL模块的GND接到开发板的GND上。
b.USB转TTL模块的RX接到开发板的TX上。
c.USB转TTL模块的TX接到开发板的RX上。
在这里插入图片描述
在这里插入图片描述

使用Mobaxterm串口工具直接第一次上电

参数选择

  • 波特率115200
  • COM4(根据实际选择)
  • 🏃然后上电冲冲冲!

在这里插入图片描述

首次登陆账号密码

🍊账号:HwHiAiUser
🍊密码:Mind@123
登陆之后,可以通过passwd命令改掉,我新密码俩次输入必须一样,不然就会出现我下面的错误 (Sorry,passwords do not match)🤯

在这里插入图片描述

接入wifi网络使用ssh网络通信💻

命令扫描周围的WIFI热点

nmcli dev wifi

在这里插入图片描述

sudo nmcli dev wifi connect CU_rcfe_5G password uf5mtrt9

连接,使用sudo权限
在这里插入图片描述

ifconfig

查询当前机器的ip地址,并使用ssh进行连接。
在这里插入图片描述

AI 模型部署步骤

我们直接发挥香橙派Aipro的核心力量,离线部署专属AI,中间出现报错使用sudo权限,还有则粘贴错误之百度,下载对应的依赖环境,或者工具即可。

环境搭建

1、一个Ubuntu环境(笔者用的Ubuntu22)
2、确保你的环境可以连接GitHub
3、建议至少60GB以上存储空间(用于存放模型文件等)(笔者有个移动硬盘)
4、建议不低于6GB内存(仅限7B_q4k量化模型)(Orangepi Ai pro戳戳有余)

安装必要依赖

sudo apt update

sudo apt-get install gcc g++ python3 python3-pip

#安装python依赖
python3 -m pip install torch numpy sentencepiece

下载llama.cpp以及对应中文工具包

百度网盘连接:
工具包链接:
链接:https://pan.baidu.com/s/1_q0WHaJyP_QqsazanAUFXA
提取码:o42a
–来自百度网盘超级会员V6的分享

llama.cpp链接
链接:https://pan.baidu.com/s/1Mu_uh_3ZoPmpRX_twj5LVQ
提取码:o42a
–来自百度网盘超级会员V6的分享

或者直接使用

#拉取llama.cpp
git clone https://github.com/ggerganov/llama.cpp.git
#拉取工具包
sudo clone https://github.com/ymcui/Chinese-LLaMA-Alpaca-2.git

编译llama.cpp

#构建llama.cpp
cd llama.cpp/
make -j8

下载中文llama模型

百度网盘:
链接:https://pan.baidu.com/s/10JHKU5gCwT2_um_I5kAe8Q
提取码:o42a
–来自百度网盘超级会员V6的分享

量化部署

将下载好的模型解压全部放到/llama.cpp/models/下面

# 安装 Python dependencies
python3 -m pip install torch numpy sentencepiece

# 生成量化模型
python3 convert.py .models/

#4-bit量化
./quantize ./models/models-7B-F16.gguf ./models/7B_q4k.gguf Q4_K

跟着顺哥走下来是不是感觉顺了很多,哈哈,我也将搭建过程做个GIF放到下面,不要孤独。
一个一个的搭建中……基于香橙派AIpro搭建下载速度及其快,对比其他开发板节省大量时间。

在这里插入图片描述
在这里插入图片描述

弄好之后,将工具包的scripts/llama-cpp/chat.sh拷贝到llama.app中,如果没有执行权限则chmod加一个执行权限就好了。
我们直接运行脚本。启动我们量化的AI模型

chmod +x chat.sh

#使用以下命令启动聊天
./chat.sh models/7B_q4k.gguf '你好,我叫顺,我在CSDN的英文名字是Strange_Hand,很高兴认识你'

经过番折腾使用llama的7B模型还是有点看起来吃力

在这里插入图片描述
./quantize ./models/models-7B-F16.gguf ./models/7B_q4k.gguf Q4_K

性能查看(TOP)

CPU也超负荷彪到了恐怖的300%,后续调节优化。
在这里插入图片描述

结果演示

在这里插入图片描述

在这里插入图片描述

读者可以改Q4_K来调节性能,或者学习如何全速主频,npu的开启,这将大大提高性能。
笔者,就带大家学习到这里,以后,接着深入相关AI和嵌入式的学习。

推荐选择

我拿到的这款是裸主板,8G,电源,散热组件,32GB存储卡,官方网址有更详细的参数和性能,大家根据自己的开发需求选择即可对与入门AI学习嵌入式来说可以开发难度稍高,但是有官方提供的详细学习资料加持下,一步一步慢慢来相信大家一定会成功的,我的第一款linux嵌入式开发板就是香橙派系列的,特别棒。
这款开发板大家看到,性能很厉害,但是高性能是会带来高功耗的,意味着这个板子的散热是必须的,所以,入手板子前,建议加购散热和外壳。

结束

总的来说,这款嵌入式开发板凭借其强大的处理性能、丰富的接口设计和灵活的电源方案,成为一款非常值得推荐的硬件平台。无论是进行物联网开发、AI和机器学习实验,还是多媒体处理和教育科研,它都能提供可靠的支持和出色的性能表现。

从个人使用体验来看,这款开发板在各方面都表现出色,无论是硬件性能还是接口设计,都能满足我在开发过程中的各种需求。它的多样性和灵活性使得它在不同的项目中都能胜任,是一款真正的全能型开发板。希望通过这篇评测,您能对这款开发板有一个全面的了解,进而在选择硬件平台时做出明智的决策。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1705470.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

云下到云上,丽迅物流如何实现数据库降本50% | OceanBase案例

在2024年3月20日的首场OceanBase数据库城市行活动中,专注于物流及供应链解决方案的丽迅物流的架构师阳磊,围绕“OB Cloud在丽迅物流的实践”这一主题,进行了精彩的演讲。本文为此次演讲的内容回顾。 在丽迅物流(Lesoon Logistics…

triton之paged attention

一 原理 图解大模型计算加速系列之:vLLM核心技术PagedAttention原理 - 知乎 (zhihu.com)https://zhuanlan.zhihu.com/p/691038809 二 源码分析 1 测试参数设置 test_paged_attention(num_seqs32,num_heads(64, 64),head_size64,block_size16,dtypetorch.float16,…

java的变量关系~使用和扩展

一、变量的概述 1、什么是变量 白话:变量就是一个装东西的盒子。 通俗:变量是用于存放数据的容器。我们通过变量名 获取数据,甚至数据可以修改。 2、变量在内存中的存储 本质:变量是程序在内存中申请的一块用来存放数据的空间,类似我们酒店的房间&a…

[数据集][目标检测]喝水检测数据集VOC+YOLO格式995张3类别

数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数):995 标注数量(xml文件个数):995 标注数量(txt文件个数):995 标注类别…

抖音本地生活服务商入驻指南分享!

当前,各大平台的团购外卖业务持续火爆,并逐渐成为众多创业赛道中的大热门。其中,本地生活服务更是在短时间内杀出重围,成为创业者们的首选。 根据抖音生活服务近日发布的《2023年度数据报告》,2023年,抖音生…

谷歌地图 | Google I/O ‘24 重磅发布助力企业拓展海外市场的新功能!

编者按:本文是 Google I/O 2024 系列的一部分,该系列分享了Google 年度开发者大会上最新的 Google Maps Platform 新闻。 距全球首个 Google Maps API 问世已近 20 年。它引领了网络和移动端地理空间体验的革命。从那时起,Google Maps Platf…

Postgresql源码(132)分布式行锁的原理分析

相关 《Postgresql源码(131)行锁的原理分析》 1 分布式行锁 PG中的行锁在上一片中做了分析《Postgresql源码(131)行锁的原理分析》,本篇对分布式PG(PGXL)中的行锁做一些分析。(版本…

CDGA|像治理空气和水一样来治理数据:构建数字时代的新秩序

在数字时代,数据已经渗透到我们生活的方方面面,成为推动社会发展的重要引擎。然而,随着数据的爆炸式增长,如何有效治理数据,确保其安全、可靠和合规,成为摆在我们面前的一大挑战。为了应对这一挑战&#xf…

期望薪资26K,北京疯狂游戏golang一面

北京疯狂游戏一面 1、自我介绍 2、财务业务中,你做了哪些设计来保证金额数据的准确性?(例如,业务涉及多步骤,某一步出了问题怎么解决) 3、如何解决单个业务直接报错的数据准确性问题 4、分布式场景下&a…

Springboot事务控制中A方法调用B方法@Transactional生效与不生效情况实战总结

介绍 本篇对Springboot事务控制中A方法调用B方法Transactional生效与不生效情况进行实战总结,让容易忘记或者困扰初学者甚至老鸟的开发者,只需要看这一篇文章即可立马找到解决方案,这就是干货的价值。喜欢的朋友别忘记来个一键三连哈&#x…

如何简化不同网间文件摆渡的操作流程,降低IT人员工作量?

为了保护内部核心数据不被泄露,同时有效屏蔽外部网络攻击的风险,企业大多会选择实施网络隔离。将“自己人”与“外人”隔离,具有较强的安全敏感性。有些企业还会在内部网络中进一步划分,比如划分为研发网、办公网、生产网等&#…

【基于 PyTorch 的 Python 深度学习】9 目标检测与语义分割(2)

前言 文章性质:学习笔记 📖 学习资料:吴茂贵《 Python 深度学习基于 PyTorch ( 第 2 版 ) 》【ISBN】978-7-111-71880-2 主要内容:根据学习资料撰写的学习笔记,该篇主要介绍了优化候选框的几种方法。 一、优化候选框的…

Java 面向对象编程(OOP)

面向对象编程(Object-Oriented Programming,OOP)是Java编程语言的核心思想之一。通过OOP,Java提供了一种结构化的编程方式,使代码更易于维护和扩展。 一、类和对象 1. 类的定义 类是对象的蓝图或模板,定…

回收站删掉的照片还能找回来吗?掌握这5个方法,很简单!

“我一不小心在回收站中误删了一些照片,这些照片对我来说是比较重要的,不知道这些还有机会将它们找回来吗?” 当我们不小心将珍贵的照片从计算机的回收站中误删时,那种瞬间的心痛和焦虑难以言表。这些照片可能记录了我们生活中的重…

大数据开发面试题【Kafka篇】

83、介绍下Kafka,Kafka的作用?Kafka的组件?适用场景? kafka是一个高吞吐量、可扩展的分布式消息传递系统,在处理实时流式数据,并能够保证持久性和容错性 可用于数据管道、流分析和数据继承和关键任务应用(发布/订阅模式&#…

雷达基数据绘制成雷达图

x波段雷达基数据绘制成雷达图 1.雷达基数据格式Z_RADR_I_ZR001_20240521020002_O_DOR_YLD2-D_CAP_FMT.bin.bz2 2.基数据读取 python f StandardData(i) # 新版本标准数据radarTime f.scantime # 获取雷达时次date_str radarTime.strftime(%Y-%m-%d %H:%M:%S)date_str d…

盘点10大灵动惊艳小演员❗谁是你的心头好?

盘点国内影视那些惊艳观众的小演员们无疑为影视作品注入了新的活力。以下是10个备受赞誉的小演员: 1.韩昊霖:凭借在《我和我的祖国》和《庆余年》中的出色表现 韩昊霖的演技赢得了观众和业界的广泛认可 他能够准确地把握角色的情感和细节,展…

STM32_USART

1、USART简介 USART,即Universal Synchronous/Asynchronous Receiver/Transmitter,通用同步/异步收发器。USART是STM32内部集成的硬件外设,可根据数据寄存器的一个字节数据自动生成数据帧时序,从TX引脚发送出去,也可自…

claude3国内API接口对接

众所周知,由于地理位置原因,Claude3不对国内开放,而国内的镜像网站使用又贵的离谱! 因此,团队萌生了一个想法:为什么不创建一个一站式的平台,让用户能够通过单一的接口与多个模型交流呢&#x…