香橙派AIpro如何赋能AI+边缘流媒体设备

news2024/11/16 8:48:10

文章目录

  • (一)前言
  • (二)AI边缘流媒体设备展示
  • (三)赋能AI边缘流媒体设备
    • 1、准备开发环境
    • 2、在板子中下载编译安装SRS
    • 3、基本推拉流测试
    • 4、多路推流性能测试
  • (四)一些注意事项
    • 1、开发板介绍
    • 2、官网手册
    • 3、连接电脑
    • 4、体验AI能力
    • 5、具有linux烧录能力
    • 6、视频编解码API接口
  • (五)总结

(一)前言

今天香橙派AIpro终于到我手上了,因为我的主要领域是做嵌入式音视频的,例如相机类产品,录像类产品,直播类产品都是我所涉及到的。本片文章一起来开箱见证下香橙派AIpro的超能力,据说很强。强只是一方面,对于一个嵌入式领域的开发者来说,强不代表一切,还要关注硬件的资料是否全,各种文档是否详细,技术售后支持是否到位。等一系列因素,如果有一个不太好,就会在整体行程中耽搁大事。一起来看下关于音视频领域的东西,这个香橙派AIpro可以做什么事情!!!

(二)AI边缘流媒体设备展示

设备中流媒体的推和拉流部分:
image.png

下一步可以把AI接入SRS,做视频流的智能检测。

在流媒体这个领域的基础上可以把大疆的流接入,大疆我研究过,它们支持rtmp的推流,这个时候,就可以推到边缘媒体设备中赋能AI。可以做一些AI智能剪辑,AI直播,AI美化,AI包装。可以针对语音做AI美化等超技能!!!
image.png

也可以做AI导播设备,推到AI边缘流媒体设备后,该设备可以包装AI数字人,AI自动多国语言翻译,AI自动生成字幕等,该设备再把视频流转发到B站,快手,抖音,视频号、Youtube、Facebook等流媒体直播平台。一个设备可以节省一大笔钱,有了设备就不用每个月甚至每年去交一些费用,因为设备通常是一次性就付清了,永久使用的。

(三)赋能AI边缘流媒体设备

因为我所做的行业就是视频流,流媒体,流协议,直播协议相关的。所以想把香橙派AIpro做为一个边缘流媒体设备性能指标如何!!!

我们尝试把SRS这个开源项目部署到设备中。

SRS在音视频领域是一个神一样的存在,国人开源项目:
SRS(Simple Realtime Server)是一个简单高效的实时视频服务器,支持RTMP、WebRTC、HLS、HTTP-FLV、SRT等多种实时流媒体协议。Oryx是一个一体化、开箱即用、开源的视频解决方案,可部署在云上或自建机房,以直播和WebRTC等能力赋能你的业务。

1、准备开发环境

找到下载的交叉编译工具链:
image.png

解压出来:

tar -zxvf toolchain.tar.gz

为了防止之后出现中文路径导致的错误,可以创建一个英文目录,然后把解压后的交叉编译工具链移动过去:

zhenghui@zh-pc:交叉编译工具链$ mkdir /data/softInstall/aipro
zhenghui@zh-pc:交叉编译工具链$ mv toolchain /data/softInstall/aipro/
zhenghui@zh-pc:交叉编译工具链$ 

这就是交叉编译工具了:

zhenghui@zh-pc:交叉编译工具链$ ls /data/softInstall/aipro/toolchain/bin/
aarch64-target-linux-gnu-addr2line  aarch64-target-linux-gnu-gcc-7.3.0   aarch64-target-linux-gnu-ld.bfd
aarch64-target-linux-gnu-ar         aarch64-target-linux-gnu-gcc-ar      aarch64-target-linux-gnu-nm
aarch64-target-linux-gnu-as         aarch64-target-linux-gnu-gcc-nm      aarch64-target-linux-gnu-objcopy
aarch64-target-linux-gnu-c++        aarch64-target-linux-gnu-gcc-ranlib  aarch64-target-linux-gnu-ranlib
aarch64-target-linux-gnu-c++filt    aarch64-target-linux-gnu-gcov        aarch64-target-linux-gnu-readelf
aarch64-target-linux-gnu-cpp        aarch64-target-linux-gnu-gcov-dump   aarch64-target-linux-gnu-run
aarch64-target-linux-gnu-elfedit    aarch64-target-linux-gnu-gcov-tool   aarch64-target-linux-gnu-strings
aarch64-target-linux-gnu-g++        aarch64-target-linux-gnu-gprof       aarch64-target-linux-gnu-strip
aarch64-target-linux-gnu-gcc        aarch64-target-linux-gnu-ld
zhenghui@zh-pc:交叉编译工具链$ 

可以配置环境变量:

可以把PATH加在启动脚本中

vim ~/.bashrc
export PATH=$PATH:/data/softInstall/aipro/toolchain/bin/

image.png

image.png

2、在板子中下载编译安装SRS

说明:

为什么这里直接在板子里做下载、编译、安装?
这个问题只有真正做过嵌入式软件开发的程序员理解,天天被交叉编译,各种依赖关系折磨疯了。因为香橙派Aipro刚好是直接安装的一个完整的Ubuntu操作系统,所以里面是带gcc和g++编译工具的,还有gdb、cmake等都可以安装和使用。编译起来自然很方便,所以大胆的尝试下和享受下这个方案。

在开发板里创建个目录我们存放自己的东西:

(base) root@orangepiaipro:~# mkdir soft
(base) root@orangepiaipro:~# 
(base) root@orangepiaipro:~# cd soft/
(base) root@orangepiaipro:~/soft#

git命令下载东西:

(base) root@orangepiaipro:~/soft# git clone -b develop https://gitee.com/ossrs/srs.git
Cloning into 'srs'...
remote: Enumerating objects: 84225, done.
remote: Counting objects: 100% (84225/84225), done.
remote: Compressing objects: 100% (20701/20701), done.
remote: Total 84225 (delta 65493), reused 81148 (delta 62830), pack-reused 0
Receiving objects: 100% (84225/84225), 236.12 MiB | 11.00 MiB/s, done.
Resolving deltas: 100% (65493/65493), done.
Updating files: 100% (5545/5545), done.
(base) root@orangepiaipro:~/soft# 

进入编译:

(base) root@orangepiaipro:~/soft# cd srs/
(base) root@orangepiaipro:~/soft/srs# ls
CONTRIBUTING.md  Dockerfile  LICENSE  README.md  SECURITY.md  trunk
(base) root@orangepiaipro:~/soft/srs# 
(base) root@orangepiaipro:~/soft/srs# cd trunk/
(base) root@orangepiaipro:~/soft/srs/trunk# 
(base) root@orangepiaipro:~/soft/srs/trunk# ./configure 

提示缺少automake:

apt install -y automake

安装好,继续执行configure

成功了:
image.png

执行make -j10编译

(base) root@orangepiaipro:~/soft/srs/trunk# make -j10

编译也成功:
image.png

运行测试:

(base) root@orangepiaipro:~/soft/srs/trunk# ./objs/srs -c ./conf/srs.conf 
[2024-07-03 22:06:58.261][INFO][25867][kuf4m073] XCORE-SRS/6.0.129(Hang)
[2024-07-03 22:06:58.262][INFO][25867][kuf4m073] config parse complete
[2024-07-03 22:06:58.262][INFO][25867][kuf4m073] you can check log by: tail -n 30 -f ./objs/srs.log
[2024-07-03 22:06:58.262][INFO][25867][kuf4m073] please check SRS by: ./etc/init.d/srs status
(base) root@orangepiaipro:~/soft/srs/trunk# 
(base) root@orangepiaipro:~/soft/srs/trunk# 

可以使用ps命令查看是否运行成功:

(base) root@orangepiaipro:~/soft/srs/trunk# 
(base) root@orangepiaipro:~/soft/srs/trunk# ps -aux |grep srs
root       25869  0.1  0.2 104400 17288 pts/0    Sl   22:06   0:00 ./objs/srs -c ./conf/srs.conf
root       25879  0.0  0.0   9124  2132 pts/0    S+   22:07   0:00 grep --color=auto srs
(base) root@orangepiaipro:~/soft/srs/trunk# 

因为srs server的默认端口是8080,所以我们可以在任何地方访问8080:
image.png

可以看到这台设备的信息:
image.png

3、基本推拉流测试

使用ffmpeg推流rtmp测试:

ffmpeg -re -i 1080P.mp4 -c copy -f flv rtmp://192.168.1.15/live/av1

同时也可以使用ffplay播放:

ffplay rtmp://192.168.1.15/live/av1

image.png

4、多路推流性能测试

测了12路流:
image.png

可以看到入口代码都40多Mbps:
image.png

CPU和负载都没怎么增长。
image.png

(四)一些注意事项

1、开发板介绍

Orangepi的官网:http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/details/Orange-Pi-AIpro.html

对于初学者来说,这个板子的每一个孔,每一个螺丝都应该知道有什么作用,这一点做的还是不错的:


官网介绍说:
OrangePi AIpro(8-12T)采用昇腾AI技术路线,具体为4核64位处理器+AI处理器,集成图形处理器,支持8-12TOPS AI算力,拥有8GB/16GB LPDDR4X,可以外接32GB/64GB/128GB/256GB eMMC模块,支持双4K高清输出。 Orange Pi AIpro引用了相当丰富的接口,包括两个HDMI输出、GPIO接口、Type-C电源接口、支持SATA/NVMe SSD 2280的M.2插槽、TF插槽、千兆网口、两个USB3.0、一个USB Type-C 3.0、一个Micro USB(串口打印调试功能)、两个MIPI摄像头、一个MIPI屏等,预留电池接口,可广泛适用于AI边缘计算、深度视觉学习及视频流AI分析、视频图像分析、自然语言处理、智能小车、机械臂、人工智能、无人机、云计算、AR/VR、智能安防、智能家居等领域,覆盖 AIoT各个行业。 Orange Pi AIpro支持Ubuntu、openEuler操作系统,满足大多数AI算法原型验证、推理应用开发的需求。

看到支持MIPI摄像头,还支持2个;看到支持视频流AI分析,视频图像分析;支持两个HDMI输出顿时兴趣翻倍,但是如果有个HDMI输入就好了。

如果官方人员能看到的话,希望加个HDMI输入哦,这样就可以接入一些HDMI输入源了,可以做很多视频分析的场景和应用!
如果官方人员能看到的话,希望加个HDMI输入哦,这样就可以接入一些HDMI输入源了,可以做很多视频分析的场景和应用!
如果官方人员能看到的话,希望加个HDMI输入哦,这样就可以接入一些HDMI输入源了,可以做很多视频分析的场景和应用!

2、官网手册

http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/service-and-support/Orange-Pi-AIpro.html
image.png

可以看到文档不算太多,才153页
image.png

但是还是挺细致的,从目录来看步骤挺全的:
image.png

3、连接电脑

看文档里描述,支持多种连接电脑的方式:
1、SSH远程;
2、串口方式:4pin串口线和Micro USB数据线;
3、HDMI显示器;

官方提供了多种方式可以让你选择,我特意使用了Micro USB接口的数据线连接串口。

image.png

就随便找了一根,连接成功了:
image.png

连接的时候如何已经开机了,会什么都不打印,回车即可看到都命令行,输入相应的账号和密码即可登录成功:
image.png

接入HDMI也很方便,插上即可工作,然后插入鼠标和键盘即可干活了。

4、体验AI能力

因为香橙派官方的镜像中提供了juypter lab的环境,而且写了部分案例可以测试。

如果你登录的是非HwHiAiUser用户的账号,需要cd到HwHiAiUser的家目录下 /home/HwHiAiUser/

(base) root@orangepiaipro:/home/HwHiAiUser/samples/notebooks# pwd
/home/HwHiAiUser/samples/notebooks
(base) root@orangepiaipro:/home/HwHiAiUser/samples/notebooks#

因为AI相关的samples都在这个用户下。

/home/HwHiAiUser/samples/notebooks目录下有个start的启动脚本:
image.png

运行脚本启动:
image.png

发现在我PC机电脑上无法访问:
image.png

探究了原因,是因为这个启动脚本:
image.png

启动脚本中接收了参数设置为ip,如果没有参数就使用默认的127.0.0.1
image.png

此时就不用局限在板子外接显示器,鼠标,键盘了。
此时其他你工作的电脑上即可访问:
image.png

如果你一开始像我一样,直接输入了ip+端口8888,此时需要让你输入密码或者token:
image.png
token就是命令行中提示的。

登录成功后的界面:
image.png

进入到02-ocr中测试下ocr的能力如何:
image.png

运行:
image.png

结果:

可以看到结果很快就出来了

image.png

可以换一个自己的图片试试:

上传自己的图片:
image.png

修改ocr用例的名字:
image.png

我上传了一个挺复杂的:
image.png

image.png

5、具有linux烧录能力

官方提供了多种烧录的工具:
image.png
做为开发者这么多年,很少见支持Linux下烧写的工具,好奇心加6666+;

image.png

Ubuntu上烧写测试

刚好我比较习惯在Ubuntu上开发。

1、.AppImage的软件可以直接打开:
image.png

1、选择烧录的LInux镜像
需要提前下载好自己需要烧录的镜像:
image.png

我本次使用的是openneuler镜像:
image.png

2、选择TF卡盘
image.png

3、开始烧写到TF卡中:
image.png

有点慢:提示Successful说明成功了
image.png

插卡启动。

新系统的界面变了,成功了:
image.png

密码:Mind@123

6、视频编解码API接口

https://www.hiascend.com/document/detail/zh/canncommercial/63RC1/inferapplicationdev/aclcppdevg/aclcppdevg_000083.html

很详细:
image.png

针对做音视频开发的人员来说,接口流程和函数介绍所有的文档几乎都有。

(五)总结

总体体验下来还是不错的,由于时间和文章篇幅的问题,本文就记录到此为止,下面多方面来总结下。

  • 1、板子接口齐全,功能接口也足够使用了,可以做一些智能小车什么的都绰绰有余,学生党可以使用这个参加各种机器类的比赛,爱好者也可以使用这个研究自己领域的东西;
  • 2、文档资料齐全,只是不太好找而已,全是挺全的,没有写明你在哪里可以找到,需要自己探索寻找的过程;
  • 3、特别留意了下烧写系统的方法,windows,mac,linux都支持烧写,这一点对Ubuntu爱好者比较友好,比如我家用电脑就是Ubuntu的,在这上面工作,开发,学习都很方便;
  • 4、因为板子的AI处理能力非常强,再加上这一版的就有8T的算力,可以做很多AI+N的应用;

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1892382.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

webSocket网页通信---使用js模拟多页面实时通信

webSocket是什么 WebSocket是一种先进的网络技术,它提供了一种在单个TCP连接上进行全双工通信的能力。传统的基于HTTP的通信是单向的,即客户端发起请求,服务器响应请求,然后连接关闭。但是,WebSocket允许服务器和客户端…

Nginx系列(二)---Mac上的快速使用

一、安装 前置软件&#xff1a;Homebrew 安装方法&#xff1a;终端输入/bin/bash -c "$(curl -fsSL <https://cdn.jsdelivr.net/gh/ineo6/homebrew-install/install.sh>)"更新&#xff1a; brew update 设置中科大镜像源&#xff1a;git -C "$(brew --r…

【串口通信】之TTL电平

1. 什么是串口 串口,全称为串行通信端口,是一种计算机硬件接口,用于实现数据的串行传输。与并行通信不同,串口通信一次只传输一个比特,数据通过串行线按顺序传输。串口通信在嵌入式系统、工业控制、计算机与外围设备通信等领域非常常见 2. 什么是串口通信 串口通信是指通过…

和闺蜜的泰国之旅

每当我回想起那次和闺蜜丽丽&#xff08;全名罗莉&#xff09;的泰国之旅&#xff0c;心中总是涌起复杂的情绪。那段经历仿佛一场噩梦&#xff0c;至今仍无法从脑海中挥去。 我们满怀期待地抵达曼谷&#xff0c;热带的阳光、繁忙的街道、美味的街头小吃&#xff0c;都让我们兴…

Redis 管道(Pipeline)是什么?有什么用?

目录 1. redis 客户端-服务端模型的不足之处 2. redis 管道是什么&#xff1f;有什么好处&#xff1f; 3. 管道的使用场景 4. 管道使用的注意事项 1. redis 客户端-服务端模型的不足之处 众所周知&#xff0c;redis 是一个客户端-服务端的模型设计&#xff0c;客户端向服务…

树莓派0 2W重启后突然没有声音

树莓派0 2W重启后突然没有声音。 最近在使用该板卡。重启后突然出现了显示器不能显示界面的情况&#xff0c;接着用putty的ssh方式连接该板卡&#xff0c;能连上。使用vnc方式连接该板卡&#xff0c;也能连上。后来通过修改/boot/config.txt文件&#xff0c;能在显示器上显示界…

WordPress付费进群V2主题,多种引流方法,引私域二次变现

全新前端UI界面&#xff0c;多种前端交互特效让页面不再单调&#xff0c;进群页面群成员数&#xff0c;群成员头像名称&#xff0c;每次刷新页面随机更新不重复&#xff0c;最下面评论和点赞也是如此随机刷新不重复 进群页面简介&#xff0c;群聊名称&#xff0c;群内展示&…

2024年小米SU7维修手册和电路图线路图接线图资料更新

此次更新了2024年小米SU7维修手册和电路图资料&#xff0c;覆盖市面上99%车型&#xff0c;包括维修手册、电路图、新车特征、车身钣金维修数据、全车拆装、扭力、发动机大修、发动机正时、保养、电路图、针脚定义、模块传感器、保险丝盒图解对照表位置等等&#xff01; 汽修帮…

ctfshow-web入门-命令执行(web119、web120、web121、web122)

目录 1、web119 2、web120 3、web121 4、web122 1、web119 采用 118 的 payload&#xff0c;回显 evil input&#xff0c;说明新增了过滤 单独测试一下&#xff0c;是 PATH 、BASH 被过滤了 在上一题的基础上&#xff0c;我们再介绍一个内置变量&#xff1a;$RANDOM 它会…

用Python轻松转换Markdown文件为PDF文档

Markdown&#xff0c;以其简洁的语法和易于阅读的特性&#xff0c;成为了许多作家、开发者和学生记录思想、编写教程或撰写报告的首选格式。然而&#xff0c;在分享或打印这些文档时&#xff0c;Markdown的纯文本形式可能无法满足对版式和布局的专业需求。而将Markdown转换为PD…

mac 上 Docker Desktop的免费开源的替代工具Colima

当谈到在macOS上运行容器时&#xff0c;Docker长期以来一直是首选。但是&#xff0c;必须解决使用适用于macOS的Docker Desktop时出现的一些限制&#xff0c;特别是对于大中型公司&#xff0c;最大的问题是需要购买许可证。另外&#xff0c;macOS 版Docker Desktop的性能问题也…

Go语言实现钉钉机器人接入Dify工作流

go语言实现实现钉钉机器人接入dify工作流&#xff0c;完成ai 流式问答 代码地址 有用的话点个star github地址 效果 配置使用 修改.env_template文件 为.env 设置.env文件内的环境变量 API_KEY: dify的api_keyAPI_URL: dify 的api接口CLIENT_ID : 钉钉机器人应用的idCLIENT…

护眼指南之适合学生写作业的台灯:看看学生护眼台灯哪个品牌好

随着人们健康意识的提高&#xff0c;越来越多的人开始关注眼睛的健康问题&#xff0c;照明技术的进步也为缓解眼疲劳提供了可能&#xff0c;现在的照明产品可以通过调整光线亮度、色温、频闪等参数&#xff0c;使光线更加柔和、均匀&#xff0c;减少眼睛的不适感。人们都希望通…

孕产妇健康管理信息平台,多家医院产科广泛运用,系统稳定,功能齐全 产科管理系统源码,三甲医院产科电子病历系统成品源代码

孕产妇健康管理信息平台&#xff0c;多家医院产科广泛运用&#xff0c;系统稳定&#xff0c;功能齐全 产科管理系统源码&#xff0c;三甲医院产科电子病历系统成品源代码 女性生育过程会面临许多的困难和问题&#xff0c;需要经常性地前往医院做详细的身心检查&#xff0c;在…

【python】Data Augmentation

参考学习来自&#xff1a;使用PythonOpenCV进行数据增广方法综述&#xff08;附代码演练&#xff09; 文章目录 Random CutCutoutColor JitterAdd Noisy Random Cut 随机裁剪图片中的长款缩放为 scale 倍的区域&#xff0c;resize 到原图大小&#xff0c;bounding box 的坐标也…

6域名系统DNS

《计算机网络》第7版&#xff0c;谢希仁 每次记不清楚的知识点&#xff0c;通过上网查找&#xff0c;总是只能看到很零碎的答案。最后还是最喜欢看这个版本的书&#xff0c;一看就回忆起来了&#xff0c;逻辑严谨&#xff0c;循循善诱&#xff0c;知识讲解的全面又清晰&#xf…

Elasticsearch:结合稀疏、密集和地理字段

作者&#xff1a;来自 Elastic Madhusudhan Konda 如何以自定义方式组合多个稀疏、密集和地理字段 Elasticsearch 是一款强大的工具&#xff0c;可用于近乎实时地搜索和分析数据。作为开发人员&#xff0c;我们经常会遇到包含各种不同字段的数据集。有些字段是必填字段&#x…

Cartoon UI(游戏卡通UI图标界面按钮框架)

卡通UI是一套完整的艺术UI组件&#xff0c;图标&#xff0c;按钮&#xff0c;将非常适合你的游戏项目。 所有组件都是高质量的&#xff0c;在专业水平上实现&#xff0c;并具有透明的背景&#xff0c;因此您可以将其放置在任何需要的表面上。 卡通UI包括&#xff1a; -按钮&…

VIO(Virtual_Input_Output) IP 使用笔记

VIO&#xff08;Virtual Input/Output&#xff09;IP 核&#xff0c;即虚拟输入输出 IP&#xff0c;可以通过调试界面模拟 IO 的变化&#xff0c;这可以在板子没有按键等外设、或外设不足的情况下&#xff0c;来模拟外部输入。然而网上关于 VIO 的教程都说的不是很清楚&#xf…

如何学习大型语言模型中的量化

前言 图片来自作者&#xff1a;Flow 展示了量化的必要性。&#xff08;笑脸和生气脸图片来自Yan Krukau) 在我解释上面的图表之前&#xff0c;让我先介绍一下您将在本文中学习的重点内容。 首先&#xff0c;您将了解量化是什么以及为什么量化。接下来&#xff0c;您将深入了解…