正如近期历史上所有AI领域的情况一样，边缘AI部署也未能免受指数级增长的影响。
随着钟摆从集中式部署转向分布式部署，AI推动了边缘计算的大部分增长，组织越来越多地希望将AI算法和模型部署到本地边缘设备上，消除了不断依赖云基础设施的需求。因此，根据Gartner的研究显示，到2026年，至少有50%的边缘部署将融入机器学习，而这一数字在 2022 年仅为 5% 左右。
边缘不是云
英特尔网络和边缘计算集团软件公司副总裁 Pallavi Mahajan 表示，企业希望边缘计算能够带来与云相同的敏捷性和灵活性。但她指出，区分边缘 AI 和云 AI 非常重要。“边缘计算不是云，它与云有很大不同，因为它是异构的，”她说，“你有不同的硬件、不同的服务器，还有不同的操作系统。”这些设备可以包括从传感器和物联网设备到路由器、综合接入设备 (IAD) 和广域网 (WAN) 接入设备的任何设备。
边缘AI的一个好处是，通过将所有数据存储在边缘环境中而不是数据中心，即使涉及大型数据集，也可以加快决策和数据分析过程，这两者对于旨在为组织提供实时洞察力的AI应用程序都至关重要。生成式AI的普及带来的另一个好处是，尽管模型训练过程发生在远离用户的集中式数据中心，但推理（模型应用其学到的知识）可以在边缘环境中进行，从而减少了将数据发送到集中式服务器并接收响应所需的时间。
与此同时，人才短缺、对效率的需求不断增长以及希望通过提供新服务来缩短上市时间的愿望，都促使企业加大对自动化的投入。Mahajan提到了边缘计算的前述好处，她说目前有三个因素推动其增长：
①企业寻找新的和不同的自动化和创新方式，从而提高利润率；
②对实时洞察力的需求不断增长，这意味着数据必须留在边缘；
③以及关于数据隐私的新法规，这意味着公司必须更加注意客户数据的存储位置。
鉴于AI现在已经成为一种无处不在的工作负载，各个行业的组织都在寻求在边缘部署AI的方法也就不足为奇了。几乎每个组织都部署了智能设备来支持它们的日常业务运营，无论是医院的MRI机器、工厂的传感器还是商店的摄像头，它们都产生了大量可以为组织提供有价值的实时洞察的数据。
GE医疗就是英特尔的一家客户，它使用边缘AI来支持其医疗设备生成的实时洞察力。这家美国医疗保健公司希望在高级医学影像中使用AI来改善患者治疗效果，因此与英特尔合作开发了一套AI算法，该算法可以在胸部X光片上检测到关键发现。Mahajan解释说，实时地，GE的X光机会扫描正在拍摄的图像，并使用机器学习自动检测扫描是否有问题或是否存在需要进一步调查的异常。当病人仍在医院时，机器还可以建议医生拍摄更多图像，可能是从不同角度拍摄，以确保没有遗漏任何东西。AI算法嵌入在成像设备中，而不是在云端或集中式服务器上，这意味着任何潜在的关键状况都可以立即被识别和优先考虑。
“体验正在改变，”Mahajan说。“你能多快地消费数据，你能多快地利用数据获得实时洞察力，这就是边缘AI的全部意义。”
英特尔将AI带到边缘
Mahajan 于 2022 年加入英特尔，此前曾在瞻博网络和 HPE 担任软件工程师。她解释说，她被聘用是为了帮助英特尔构建新的 Edge AI 平台。
该平台于 2024 年 2 月在世界移动通信大会 (MWC) 上亮相，是英特尔去年在英特尔创新活动上首次宣布的代号为 Project Strata 的解决方案的演变。她解释道：“[英特尔] 多年来一直致力于边缘计算……我们觉得需要一个边缘计算平台。”英特尔表示，过去十年来，该公司已在售出的 2 亿个处理器上部署了超过 90,000 个边缘计算平台。
传统上，希望部署自动化的企业必须以非常孤立的方式进行部署。相比之下，Mahajan 解释说，英特尔的新平台将使客户能够拥有一台可以同时托管多个解决方案的服务器。
该公司将其 Edge AI 产品描述为“模块化开放式软件平台，使企业能够在标准硬件上构建、部署、运行、管理和扩展 Edge 和 AI 解决方案。”新平台旨在帮助客户充分利用 Edge AI 机会，并将包括对异构组件的支持，此外还提供更低的总拥有成本和零接触、基于策略的基础设施和应用程序管理，以及通过单一管理平台跨一系列 Edge 节点提供 AI。
该平台由三个关键组件组成：基础设施层和AI应用层，行业解决方案层位于顶部。英特尔提供软件、基础设施和其硅，然后英特尔的客户可以直接在其上部署他们的解决方案。
“基础设施层可以让你走出去并安全地上传所有设备。”Mahajan说。“它使你可以远程管理这些设备，并抽象出存在于边缘的硬件的异构性。然后，在其之上，我们有AI应用层。”这一层包括多种功能和工具，包括应用编排、低代码和高代码AI模型和应用开发，以及水平和特定于行业的边缘服务，如数据稀疏和注释。
最后一层由行业解决方案组成，为了展示该平台可以支持的广泛用例，它与包括亚马逊网络服务、凯捷、联想、L&T技术服务、红帽、SAP、Vericast、Verizon Business和Wipro在内的合作伙伴生态系统一起推出。
Mahajan还列举了英特尔客户已经在平台上部署的一些具体解决方案，举例说明一家制造商通过在好与坏的焊接工作的照片上训练其AI工具，自动检测焊接缺陷。
“这个平台能让你构建和部署这些包含AI的边缘原生应用程序，然后你可以走出去，以一种非常安全的方式管理和操作所有这些边缘设备。”Mahajan说。
在撰写本文时，英特尔边缘AI平台的发布日期尚未确定。然而，在MWC期间，该公司表示将在“本季度晚些时候”。
AI“无处不在”
尽管Gartner在2023年预测边缘AI在两年内将达到顶峰，但英特尔有信心情况并非如此，并将边缘AI平台作为其“AI无处不在”愿景的核心部分。
除了边缘AI平台外，英特尔还在MWC上预览了其Granite Rapids-D处理器。该处理器专为边缘解决方案设计，内置AI加速功能，并将采用最新一代性能核心（P-cores）。
2023 年 10 月，英特尔首席执行官帕特·基辛格 (Pat Gelsinger) 在社交媒体平台 X上撰文表示：“英特尔的重点是将人工智能带到无处不在——让所有人都能更轻松地使用人工智能，并更轻松地在从客户端和边缘到网络和云的各种工作负载中大规模集成。”
正如最近的一系列公告所证明的那样，英特尔显然相信边缘AI刚刚达到顶峰，Mahajan表示，所有行业都会经历她所说的“成熟度S曲线”。在这条曲线中，‘S’的底部代表了对新技术的初步探索，组织在这个阶段进行试点项目和概念验证，而曲线的顶部是市场完全成熟的点。
“我认为我们现在就在那里，”她说，并补充说她认为英特尔是“第一个意识到[边缘AI]平台需求的公司。”她继续说：“这是我们在MWC启动后得到的反馈，每个人都在说，‘是的，这个市场需要一个平台。’
“我相信还会有更多的平台出现，但我很高兴英特尔在这里处于领先地位。”
如果您对边缘云、算力网络、边缘AI、垂直行业边缘计算应用场景感兴趣，诚挚邀请您参加6月22日在深圳举办的2024全球边缘计算大会·深圳站，相信边缘的力量！预见·边缘大模型！
