什么是边缘 AI？

边缘 AI 使设备能够更快地做出更明智的决策，而无需连接到云或异地数据中心。

边缘 AI 是在边缘计算环境中实现人工智能，它允许在实际创建数据的位置附近进行计算，而不是在集中式云计算设施或异地数据中心进行计算。

这种本地化处理允许设备在几毫秒内做出决策，而无需互联网连接或云。从本质上讲，当设备产生数据时，板上的算法可以立即使用数据。

边缘 AI 定义

边缘 AI 是在边缘计算环境中实现人工智能。这意味着人工智能计算是在给定网络的边缘完成的，通常在创建数据的设备上 - 如相机或汽车 - 而不是在集中式云计算设施或异地数据中心。

例如，假设您有一个智能咖啡壶，可以为每个用户生产定制饮料，并随着时间的推移从他们的偏好中学习，这要归功于人工智能。但与大多数智能设备不同的是，这款咖啡壶没有连接到互联网，它用于处理数据的所有算法都是在咖啡壶本身内生成的——这要归功于边缘人工智能。

这种技术的使用远远超出了您的厨房台面的范围。Edge AI 能够以更高的速度、更低的成本和更低的功耗更安全地生成实时分析，这使其成为云计算 AI 的有吸引力的替代品，制造业、医疗保健和能源等行业的公司都在利用这一优势。

什么是边缘 AI？

简而言之，边缘 AI 是边缘计算和人工智能的结合。因此，要了解边缘AI，首先必须了解边缘计算和人工智能。

什么是边缘计算？

边缘计算是一种分布式计算框架，它使计算和数据存储更接近实际设备，而不是异地数据中心。由于数据与设备的接近，边缘计算可以提高速度和响应时间。

如今，智能设备无处不在。从手腕上的手表到车库里的汽车，一切都能够执行自主计算并与其他智能设备交换数据——这一概念通常被称为物联网或物联网。

所有这些来回飞来飞去的数据都给数据中心带来了沉重的压力。但边缘计算旨在通过将一些处理移近其原点来减轻这种负担。因此，可以说，工作不是前往云端，而是在“边缘”完成。

“边缘”仅指正在使用的设备。这可以是手机、相机、汽车、医疗设备或电视。因此，边缘计算是指计算机位于该设备内部或附近。而且，与任何其他计算机一样，边缘计算机旨在处理标准数据。

什么是人工智能？

人工智能是计算机科学的一个分支，涵盖了机器学习和深度学习等广泛的技术。人工智能的目标是构建智能机器，这些机器可以在没有人类监督的情况下工作和执行人类通常完成的任务。

综上所述，边缘AI本质上是“在本地做这项工作并做出决策”，边缘AI初创公司ClearBlade的创始人兼首席技术官Aaron Allsbrook表示。“这都是规则。这是处理，它是收集数据，它是理解数据 - 不是在大型服务器或云中，而是在你的房子里，在工作或工作现场，或者在停车场，“他告诉内置。“这是关于移动不同的数学算法，并在边缘运行这些预测。

边缘 AI 的优势

边缘 AI 具有成本效益

为电子商务初创公司构建机器学习工具的公司Dianthus的创始人兼首席技术官Rob May作为风险投资公司PJC的合伙人首次意识到边缘人工智能，当时Deeplite是一家将AI计算能力引入无人机和相机等边缘设备的公司，被推荐给他作为投资机会。他持怀疑态度，甚至一开始就通过了。

“当我最初考虑边缘AI市场时，我认为这将是一个小市场，”他告诉Built In。但随着他越来越多地思考这个问题，他开始意识到这是一个非常“成本驱动”的行业。因此，当Deeplite再次向PJC推销时，他同意投资它。

“假设你有一个小型安全摄像头，你希望这个摄像头做某种分析。你可能无法一直保持相机云连接，相比之下，只有一个芯片和一个2美元的微控制器，“他继续道。“在很多情况下，[边缘AI]可以是一个更好的模型。

边缘 AI 更快地处理数据

成本效益只是边缘AI的众多吸引力之一。在边缘集成人工智能使实时数据分析成为可能，保留带宽，并减少云连接机器学习模型中经常遇到的延迟。事情可以加速几毫秒，当它用于自动驾驶汽车之类的东西时，这可能会产生很大的不同。此外，由于数据保留在设备中，不会在私有数据中心之间来回移动，因此通常更安全。而且，随着安全性的提高，隐私变得越来越重要，尤其是在物联网设备方面。

尽管如此，边缘人工智能仍然是“相当新的”，Allsbrook说。“我会说它正在出现。我认为我们才刚刚开始看到什么是可能的。

边缘人工智能的缺点

边缘 AI 需要持续培训

边缘 AI 系统可能具有挑战性，因为与其他 AI 模型一样，它们必须定期和持续地进行训练——只需使用来自边缘设备的数据。这通常意味着通过将数据从大量边缘设备传输到云来创建数据集，这可能相当复杂，具体取决于可用带宽和与边缘设备的连接。

边缘AI需要采取额外的安全措施

安全也是一个值得关注的领域，只是方式不同。虽然边缘计算可以通过保持本地处理使系统更加安全，但基础设施和设备本身需要自己的安全措施。这可能包括访问控制、流量监控、数据备份、防病毒和反恶意软件，甚至加密。

边缘AI一直很慢（但这种情况正在改变）

边缘AI市场的增长速度并不像一些人希望的那样快。自从PJC最初投资Deeplite以及更大的边缘AI空间以来，May表示，就普遍采用而言，市场“比预期的要慢一些”。他将此归因于边缘人工智能实际需要的设备（如无人机、手机、汽车）的更长设计周期。他说，其中另一个重要部分是普遍缺乏意识到某些科技公司甚至存在这一空间。

“你必须意识到一些事情，然后你必须把它构建成一个循环。从设计的角度来看，这可能需要18个月才能把一些东西拿出来，“梅说。“我认为所有这些加起来。但我希望它会越来越好。

这似乎已经发生了。根据 Allied Market Research 的数据，2020 年边缘 AI 市场价值仅为 900 万美元，但预计到 2030 年将价值近 6000 万美元。同时，Gartner 在 2020 年预测，到 2025 年，75% 的企业数据将在边缘生成和处理，完全绕过云。（边缘计算社区主导编写的边缘计算年度行业报告也在撰写ing，各位老师请耐心等候）

该领域的公司正在继续吸引投资者的关注。例如，AI芯片初创公司Axelera筹集了2700万美元资金，并聘请英特尔边缘AI和物联网集团前副总裁兼总经理乔纳森·巴隆(Jonathan Ballon)担任董事长。

Del Maffeo 表示，在不久的将来，Axelera 计划专注于安全、零售和工业自动化行业，因为这三个行业都在计算机视觉技术和相机方面投入巨资，而其芯片正是专门针对这些技术而设计的。例如，这些芯片可用于 Amazon Go 杂货店的无收银结账，或者智能城市的安全摄像头，或者需要视觉来防止与人类同事发生事故的协作机器人。“边缘计算可以帮助人们提高生活质量，”Del Maffeo 说。

“我们正处于一个转折点，新技术确实可以对我们周围人们的生活质量产生巨大影响。......如果你展望 10 到 15 年，我们周围的世界将会发生很大变化，而边缘人工智能可以对其产生积极影响。”

边缘 AI 技术如何工作？

借助边缘 AI，机器学习算法可以直接在给定网络的边缘运行，靠近生成运行系统所需的数据和信息的位置，例如物联网设备或配备边缘计算设备的机器。边缘 AI 设备使用嵌入式算法来监控设备的行为，以及收集和处理设备数据。这允许设备做出决策，自动纠正问题并进行未来的性能预测。

边缘 AI 可以在各种硬件上运行，从现有的中央处理器或 CPU 到微控制器和高级神经处理设备。一些最常用的边缘计算机是由英特尔、恩智浦和高通等大型科技公司制造的。

云 AI 与边缘 AI

虽然云 AI 和边缘 AI 之间存在相似之处，但它们有明显的差异。

云 AI 是指在云上处理和存储数据。这为软件工程师在云AI系统的设计和结构方面提供了更大的灵活性，但它需要互联网连接才能运行。云AI对互联网连接的依赖可能会导致效率和安全问题。

由于边缘AI在本地处理和存储数据，无需互联网连接，因此该技术可以生成实时数据并做出独立决策。

May表示，边缘AI设备实现的高水平计算能力最终可能会使边缘AI比云AI更大。但这在很大程度上取决于进入市场的芯片种类，以及它们的便宜和效率。

Axelera 是一家致力于实现这一目标的初创公司，该公司正在设计一种芯片，该芯片可提供高计算性能和可用性，联合创始人兼首席执行官 Fabrizio Del Maffeso 表示，这种芯片是我们今天通常看到的技术的“价格和功耗的一小部分”。因此，该芯片不是将数据从内存转移到 CPU 再转移到内存（这是大多数计算机的典型做法），而是将内存与 CPU 合并在一起，这就是所谓的“内存计算”，他解释道。“我们正在修改内存，并在内存中进行计算。这使得芯片非常高效，因为你不需要移动太多数据。” 他继续说，通过将计算元件本质上嵌入到内存中，可以加速计算机的神经网络。

Axelera 当然不是唯一一家在这一领域进行创新的公司。边缘人工智能硬件市场预计将从 2021 年的 9.2 亿台增长到 2026 年的超过 20 亿台。而且，根据一项估计，到 2025 年，仅边缘人工智能芯片市场预计将增长约 730 亿美元。

边缘 AI 的重要性

总体而言，随着人工智能的日益普及，边缘人工智能正在增长，人工智能正在继续优化日常生活中最平凡的部分——从预测城市垃圾收集的最佳日期，到帮助小企业更高效地运营。尽管技术复杂，但边缘人工智能的最终目标相当简单：更接近设备本身，从而减少需要移动的数据量。

反过来，这可以保留带宽并减少延迟，或者必须传输外围应用数据才能进行处理。此外，由于这些数据不必传播很远，边缘人工智能使实时分析成为可能，这可能会对这个已经快速发展的领域的未来创新产生重大影响。

“边缘人工智能更加实时。它会查看来自实时反馈的数据，从而在实时反馈中做出预测，”Allsbrook说。“如果我们能够在边缘进行人工智能，我们就可以动态地做出非常酷的预测，而无需将数据移动到集中式云或 IT。”

边缘 AI 示例

边缘AI可能因其工业物联网应用而最受欢迎，但这并不是它唯一的用例。边缘AI的其他示例可以在DevOps，机器人技术，消费者技术等中找到。

运行状况监视设备

边缘人工智能使医院和其他医疗保健提供商能够获得人工智能的好处，而不必不必要地传输敏感的患者信息。从心脏追踪器和血压传感器等健康监测设备收集的所有数据都可以在本地进行处理和分析，从而实现实时分析，帮助医疗专业人员为患者提供更好的护理。

边缘 AI 实施软件

Allsbrook的公司ClearBlade专门从事在工业物联网设备中实施边缘AI，特别是当它与预测性维护或预测某些设备何时发生故障有关时。公司可以直接在ClearBlade平台上通过实时物联网数据源进行推理，这要归功于其名为Onyx的引擎，该引擎允许人们使用许多不同的语言和各种类型的工具构建模型。

Allsbrook说，他还注意到人们正在使用Onyx通过边缘AI重新利用他们的旧模型，将它们引入新技术，而无需构建新模型或聘请新的数据科学家团队。