物联网被视为继计算机、互联网之后世界信息产业发展的第三次浪潮。据 IoT Analytics 在 2022 年 5月发布的《物联网现状 2022 年春季版》报告显示,2021 年全球物联网连接数量增长 8%,达到 122 亿个活跃端点;到 2022 年,物联网市场预计将增长 18%,达到 144 亿活跃连接。预计到 2025 年,随着供应限制的缓解和增长的进一步加速,将有大约 270 亿台联网物联网设备。
如今我们已进入万物互联时代,随着近年来人工智能技术的成熟与发展,AI 与 IoT 的创新性结合给与物联网更智能化的优势,让万物互联变成“万物智联”。然而在具体实现上,AI 需要进行大量的矩阵运算,需要大量的存储空间和强大的计算能力、高速的数据交互,成本很高,往往只有部署在云端的大型服务器才能胜任这工作。同时 IoT 技术设备需要电池供电,数据在物与物之间的流通不能完全依赖云端,低成本和低功耗的物联网如何能和 AI 更好地做融合?
针对以上痛点,ADI 边缘 AI 技术结合两者的优点,为现实世界与数字世界之间架起桥梁,来实现智能边缘领域的突破性创新。ADI提供结合模拟、数字和软件技术的解决方案,推动数字化工厂、汽车和数字医疗等领域的持续发展,应对气候变化挑战,并建立人与世界万物的可靠互联。
ADI是如何做到的?在近日的“激活边缘智能 · ADI MCU媒体沟通会”上,ADI MCU 产品线资深业务经理李勇、ADI 中国技术支持中心高级工程师辛毅结合丰富的实践,阐释 ADI 边缘 AI 技术与落地应用,分析边缘 AI 的发展新动向。
01 万物互联,离不开“神经中枢”MCU
物联网设备已无处不在,能帮助设备完成传感器管理、数据通讯、电源管理等工作离不开一个神经中枢—— MCU(微控制器)。微控制器的应用场景广泛,在消费、工业、医疗、汽车等各领域均有基于微控制器开发的产品,它与我们的日常生活息息相关、密不可分。
作为业界领先的数据转换和信号处理技术全球领先的供应商,亚德诺半导体(ADI)在微控制器领域投入已久。从1995年至今,ADI MCU产品出货量超 10 亿片。
其产品发展历程可分为:1995-2002 年,推出 8051系列 MCU;2004 年,推出 MAXQ 系列 MCU;2012 年,推出基于 ARM内核系列 MCU;2020 年,ADI 在传统MCU的技术上推出全新的边缘AI MCU,实现在电池供电的 IoT 设备上轻松实现物联网人工智能,成为 ADI MCU 一个划时代的里程碑。
ADIMCU 产品除了拥有通用基本微控制器的功能外,还具备功耗低、接口优、通讯新、评估全、开发易、安全强等六大特色,目前已广泛应用在千行百业。
在功耗上,ADI MCU 具备灵活的操作模式和超低功耗,这将提升电池寿命,延长系统续航时间;
在接口上,ADI MCU 具备高速安全的多时钟选项,可以优化程序性能;
在通讯上,ADI MCU 部分产品集成最新的低功耗蓝牙(BLE)模块,支持远程模式和BLE音频等特色,允许设备在更远的范围内进行通信。
在评估上,针对大多数产品提供完备的评估方案和开发示例,硬件包括评估板、演示套件等;
在软件开发上,提供 SDK、库文件、驱动代码等,帮助用户全面了解产品性能、加速产品开发。
在安全上,ADI 具备 30 多年 MCU IP保护和信任根研发经验,增强系统安全性,帮助安全敏感型的设备制造商快速、高效地为其产品增加安全加密、密钥存储和防篡改功能。
根据功能应用,ADI MCU 产品可分为三类:
第一类是低功耗 MCU,具备小体积、低功耗、大存储的特点,十分通用和实用,适用于工业、物联网、医疗、消费类等产品;
第二类是安全MCU,具备安全的系统架构,拥有抗攻击的加密能力,可用在对安全性能要求较高的智能机器或者是终端上,如POS机、读卡器等;
第三类是 AI MCU,可将 AI 推理从云端推向边缘端,从而助力电池供电的人工智能和物联网设备,如说智能家居、人脸打卡、语音控制等。
02增强边缘 AI 能力,ADI 打造边缘 AI 解决方案 MAX7800X 系列
上文提到,近年来人工智能技术迅速发展,助力万物互联向万物智联演进。其中,边缘AI 技术发挥重要作用。根据预测,2025年将有 75% 数据产生在边缘侧进行处理。例如在森林火灾监测,公路、铁路或者是大坝塌方监测等应用场景,边缘AI可发挥关键作用。
过去,将AI推理布置到边缘意味着从传感器、摄像机和麦克风收集数据,然后将数据发送到云端实现推理算法,再将结果送回到边缘。由于延迟和能耗较大,这种架构对于边缘普及极具挑战。作为替代方案,低功耗微控制器可用于实施简单的神经网络运算,但延迟会受到影响,且只能在边缘执行简单任务。
边缘 AI 作为在设备本地端执行的AI,需要使用电池供电,因此我们需在系统功耗、计算速度和设备成本之间取得平衡。
针对以上难题,ADI 提出边缘AI解决方案MAX7800X 系列。MAX7800X 由两个微控制器内核(ARMCortex-M4F和RISC-V)加卷积神经网络(CNN)加速器构成。该架构针对边缘进行高度优化,由微控制器内核负责数据加载和启动,卷积神经网络加速器专门负责AI推理。MAX7800X 借助在芯片内部集成的卷积神经网络加速器完成AI推理,不需要再通过互联网上传。
在功耗上,由于微控制器内核完成加载和启动后无需其他操作,使用电池可以给系统供电,功耗极低。
在速度上,通常边缘 AI 可由通用微控制器芯片完成,也可由 FPGA、GPU、DSP 等专门的芯片完成。MAX7800X由于独特的架构和完美的分工,与运行在低功耗微控制器上的纯软件解决方案相比,MAX7800X 具备更高的数据吞吐量,速度提高100倍。
在成本上,成本远低于 FPGA或GPU解决方案。
因此,ADI边缘AI解决方案具备速度快、无需外部存储、时钟控制灵活和超低功耗等优势,对于需要使用电池供电、需要及时决策的物联网设备来说十分理想。
MA7800X系列包括MAX78000 和 MAX78002,这两个都是基于 ArmCortex-M4F和RISC-V 的低功耗微处理器,搭载专用的卷积神经网络加速器执行AI推理。MAX78000可支持多达3.5M的模型权重,MAX78002则支持多达16M的模型权重。
目前,MAX7800X 系列可应用在人脸识别、灾难检测、医疗应用、指令识别、Speaker识别等场景上。例如,经过训练,MAX7800X 可以正确识别人脸,应用在考勤打卡、智能门锁等物联网设备上。在识别物品上,通过摄像头集成 MAX78002,实现垃圾分类、产品分装、快递分拣的功能。另外,MAX7800X 系列还支持关键字识别,可用在语音控制的物联网设备上,如智能音箱、电动窗帘、智能照明等。
值得一提的是,为帮助开发者和企业快速做AI研发,针对 MAX7800X 系列产品,ADI 提供数据手册、应用笔记、评估套件、参考设计、教学视频、工具、例程等支持资源, 充分释放边缘 AI 能力。