【观察】让行业AI“触手可及”，NVIDIA创新与实践“从未止步”

毫无疑问，今天AI正与产业结合得越来越紧密，从自动驾驶，到智慧医疗，智慧金融、智慧城市等，AI已经开始渗透到我们生活的方方面面。事实上，即便目前来自传统行业用户的AI转型需求尚未完全激活爆发，但仅仅是浮出水面的这部分需求已经是一个万亿级别的超级市场规模。

但客观地说，AI要走向真实的产业应用，其实是一项非常复杂的精细化工程。特别是对于行业开发者而言，不是简单拿出一个能用的模型就好，而是必须要让模型达到苛刻的产业和行业标准，这就需要非常复杂的工作，可能涉及到算子开发、模型开发、应用开发等数层的上百项开发环节。

因此，开发工具对于行业开发者的重要性不言而喻，假如没有一套完整的AI开发工具，工作就会变成彼此割裂，互不兼容的“孤岛”，不仅会导致开发者在开发过程中疲于奔命，也会让AI产业化以及产业AI化变为“泡影”。

在此背景下，NVIDIA日前宣布发布 NVIDIA AI Enterprise 3.0（简称NVAIE 3.0 ），这是一套能够快速打造AI应用的一站式开发平台，包括了模型的训练、推理优化、部署、模型管理、云原生管理等AI应用开发上线的全流程，以往需要耗时数个月才能开发完成的AI应用，在 NVAIE 3.0 平台下，甚至可以做到数小时完成，可以说极大地加速了行业AI的开发和部署。

从这个角度来看，NVAIE 3.0 的“应运而生”，不仅能够全面提升行业AI开发的效率和行业落地效果，更带来了全新的行业AI落地方式，真正为行业AI的“普惠”提供了最为坚实的技术底座，同时也为AI“扎根”百行千业夯实了牢靠的基础。

行业AI落地三重挑战

可以看到，今天很多行业企业正从数字化走向智能化，而这个过程不仅仅只是单纯的数据汇集，而是要通过实现云边端一体的打通，从海量的数据中筛选有价值的部分，同时将AI产品的算法、算力以及各种能力在整个产业链路上进行灵活调用，才能够真正实现企业和行业的智能化转型。

与此同时，随着行业AI落地的逐步加速，这个过程也暴露出了诸多的痛点，可以从以下三个维度来做观察：

首先，从企业角度看，不同行业的AI算法定制代码工作量大，耗时长，无法快速实现业务上线。比如在数据准备阶段，数据标注与准备非常耗时费力，约占整体开发时间50%，所以有大家常说的“没有人工就没有智能”。同时，定制购买AI模型后，无法自我迭代，再加上行业数据复杂度高，专家知识难以得到有效传承。

其次，从开发角度看，由于业务繁忙，往往导致行业开发者无暇深度研究算法；相似的项目难以简单复用，存在大量重复工作；此外，通用API具有局限性，不支持行业特定业务流程等，也让行业AI开发难以从容入手。

最后，从部署流程看，开发者在云侧开发模型，还需要部署到边侧和端侧才能让AI产生最大效果，这就要云边端之间的兼容打通，实现端云的协同，才能让算力、算法实现场景适配，以达到最好的AI应用效果。

以上仅仅只是行业AI落地难的“冰山一角”。换句话说，当AI技术来到了产业化周期中，需要用更符合社会化大生产的方式向市场提供技术与解决方案支持；更关键的是，产业广泛应用AI技术时，成本要可控、难度可接受。

正是为了解决这一系列难题，2021年3月，NVIDIA 正式对外发布了NVIDIA AI Enterprise 软件套件，这是一款让开发者上手更快、训练更快、部署更快的全流程平台，可以在自动化效率和训练精度之间达成平衡，同时能够极大程度地降低了人工消耗，实现AI开发简单高效。

在此基础上，NVIDIA 又不断进行升级和迭代，不仅应用功能更加丰富，且增加了认证的新OEM和集成商，在生态上也逐渐完善，特别是最新的NVAIE 3.0 提供了丰富的应用工作流库，可使用对话式 AI、视觉 AI、网络安全等简化企业 AI 解决方案的开发和部署。同时，NVAIE 3.0 还经过全面的认证，可以在主流 NVIDIA 认证系统、NVIDIA DGX系统和公有云中运行，从而能够在当前的多云和混合云数据中心内轻松移植AI项目。

不难发现，通过近两年时间的积累和沉淀，NVAIE 3.0 真正为AI开发打开了低门槛的基础通道，也为AI基础设施通向行业应用的大门提供了一把“金钥匙”。那么，NVAIE3.0 究竟有何独特的能力，可以推动AI与行业的深度融合，并最大化的提升行业AI的生产力呢？

“授人以渔”的NVAIE 3.0

据了解，NVAIE 3.0 提供了用于呼叫中心的智能虚拟助手、音频转录和网络安全数字指纹的 AI 工作流，能够帮助企业减少开发时间和成本，加快部署速度。NVAIE 3.0 还加入了对各种 NVIDIA AI 框架和基础设施选项的支持：新增对 NVIDIA Clara Parabricks 和 MONAI 的支持，从而提升对医疗服务的支持；新增对 NVIDIA AI 框架的支持，从而推动客户服务、安全、销售等领域的发展；扩大云认证范围；扩大对混合数据中心的 AI 支持；扩大存储和虚拟化支持等。具体来看：

一是，Accelerated Infrastructure（基础设施支持）方面，NVAIE 3.0 支持真正的跨边缘-核心-公有云环境，确保在不同的环境中为企业提供一致性架构、一致性管理和一致性服务，满足企业在不同环境下使用AI应用的需求。

二是，Infrastructure Optimization（基础设施优化）方面，NVAIE 3.0 通过GPU虚拟化、Magnum IO等技术，为企业在本地或远程存储与 GPU 内存之间提供直接的数据路径，从而进一步加快 AI 工作负载。

三是，Cloud Native Management and Orchestration（云原生管理）方面，NVAIE 3.0 对云原生架构也提供了很好的支持，同时能够部署在任何的云环境之中，即“run anywhere”，这也意味着这个平台开发的应用或者“runtime”都可以很好的横跨运行在任何平台上，无论从私有云还是到公有云的环境。

四是，AI and Data Science Development and Deployment Tools（AI开发和开源软件）方面，NVAIE 3.0 支持机器学习模型从开发到部署的完整生命周期，包括低代码迁移学习工具TAO、主流深度学习框架TF/PyTorch、推理加速TensorRT框架、推理服务引擎等。更为关键的是，这些AI开发工具都是经过NVIDIA长时间测试验证过的工具，相当于NVIDIA提前为大家做了“背书”，企业可以放心快速使用，由此可以大大减少开源软件开发的复杂度，同时安全性和弹性也能够得到企业级保障。

五是，AI Solution Workflows, Frameworks and Pretrained Models（AI解决方案工作流等）方面，NVAIE 3.0 提供了一个应用开发的工具闭环，帮助企业在AI、机器学习等方面快速完成从开发到部署整个AI生命周期，这是NVAIE 3.0 最为强大的功能所在，更是其独特竞争力的“源泉”。截止目前，NVAIE 3.0 已支持 50 多个框架和预训练模型。

以最新发布的用于呼叫中心的智能虚拟助手 AI 解决方案工作流为例，能帮助企业全天候响应客户，从而缩短客户的等待时间，帮助呼叫中心的人工客服腾出时间处理更复杂的问询，同时降低成本。借助该工作流，企业能够开发出发声自然且能提供个性化、精准回答的智能客服。即便通话的音质较差，这些智能客服也能运用 AI 来更准确地理解客户所表达的意思。

此外，借助音频转录 AI 解决方案工作流，企业也可以使用 NVIDIA 自动语音识别技术，快速创建准确的英语、西班牙语、普通话、印地语、俄语、韩语、德语、法语和葡萄牙语转录文本等工作；而数字指纹 AI 解决方案工作流提供的威胁检测功能，则能够帮助企业实现全面的数据可见性，让企业对整体网络中的每个用户、服务、账户和机器进行唯一的指纹识别，以检测异常行为，提高安全性。

这些全新的工作流均使用 NVIDIA AI 框架、预训练模型以及 Helm Chart、Jupyter notebooks 等，同时以云原生微服务的方式运行，用户可以将这些微服务作为独立的 Kubernetes 容器进行部署，也可将其与其他服务组合，打造精度和性能更高的生产就绪型AI应用。

值得一提的是，NVAIE 3.0 还采用了最新版本 NVIDIA TAO Toolkit 中未加密的预训练模型和源代码。NVIDIA TAO Toolkit 是一种低代码的 AI 开发解决方案，用于为语音和计算机视觉 AI 应用创建高精度、自定义的生产就绪型 AI 模型。

这些未加密模型由 NVIDIA AI Enterprise 独家提供，支持用于医疗、智慧城市和零售业的各种影像和视觉 AI 任务，例如病理肿瘤检测、人员检测、车辆检测、姿态预测和动作识别；而开发者可使用未加密的预训练模型来查看模型的权重和偏差，这有助于提高模型的可解释性并理解模型的偏差。此外，未加密的模型更易于调试，也更易于集成到自定义 AI 应用中。

由此可见，NVAIE 3.0 提供一种全新的行业AI落地方式，通过在五个层级方面的迭代和优化，NVAIE 3.0 真正能够以“授人以渔”的方式助力企业构建AI能力，赋能不同行业的应用开发者，让AI变得“触手可及”，这也是NVAIE 3.0 和市场上的其他AI开发工具相比，所构建出的独特市场竞争力。

AI普惠最坚实的底座

作为一款端到端、云原生的 AI 和数据分析软件套件，NVIDIA AI Enterprise无论是对行业开发者，还是对AI走进百行千业而言，均起到了至关重要的作用。

例如，德意志银行近期就宣布与NVIDIA建立长期的创新合作关系，以加快人工智能（AI）和机器学习（ML）在金融服务领域的应用，其中就包括智能虚拟形象、语音AI、欺诈检测等。

德意志银行在一个早期的潜在实施项目中曾利用NVAIE创建了一个3D虚拟形象，其能够为浏览内部系统的员工进行导航，并为其回答人力资源相关问题。未来德意志银行将和NVIDIA借助逼真虚拟助手和数字人，进一步重新定义个性化客户服务。

NVIDIA 的AI能力与Omniverse Enterprise （用于构建和运行元宇宙应用的开放式计算平台）的数字能力相结合，赋予企业探索增进与员工、面试候选人和客户的互动能力，利用3D虚拟形象，提升24小时全天候实时服务体验品质。

从德意志银行的成功案例中，不难发现NVAIE 3.0 为AI“扎根”百行千业，提供了最为坚实的技术底座，同时也带来三个方面的价值：

第一，对行业开发者而言，NVAIE 3.0 真正让行业AI的开发更简化，更高效。在此过程中，开发者可以通过使用NVAIE 3.0套件面向特定行业场景的预置行业工作流，满足快速定制的需求；也可以运用NVAIE 3.0提供的工具灵活编排新的行业工作流，真正让众多企业迈出了自己开发AI的第一步。

第二，对整个行业生态来说，NVAIE 3.0 也会扮演极为关键的角色。它不仅为行业企业提供了一整套的行业AI工具套件和生产力平台，还把开发者的创造力、行业专家的知识经验，以及NVIDIA的核心能力有机的结合起来，一起协作构成了全新的行业AI赋能生态。

第三，从行业AI落地来看，我们知道行业AI的落地重点在于“普惠”，而NVAIE 3.0 提供了一个有力的行业开发者平台，加上一个强大的开发者支持生态，可以说也构成了整个行业AI普惠最为坚实的技术底座。

总的来说，随着数据的爆发式增长，给企业利用人工智能应用带来了更大的挑战，但同样也给整个市场带来了前所未有的机遇。而在此过程中，NVIDIA始终保持着不断地投入与创新，进化与迭代，通过向企业提供端到端、云原生的 AI 和数据分析软件套件NVIDIA AI Enterprise，驱动了企业更快地走向了AI新时代，也为AI真正“扎根”百行千业奠定了关键基础，其价值 “不止于现在，更关乎未来。”

点击“阅读原文”，申请试用，深入了解NVIDIA AI Enterprise 3.0。