NVIDIA DeepStream SDK 说明及链接

news2024/12/23 17:30:31

NVIDIA DeepStream SDK

DeepStream 的多平台支持为您提供了一种更快、更简单的方式来开发视觉AI应用程序和服务。您甚至可以在本地、边缘和云中部署它们,只需单击一个按钮。

开始   在Launchpad上试用


什么是 NVIDIA DeepStream?

NVIDIA 的 DeepStream SDK 是一个基于 GStreamer 的完整流分析工具包,用于基于 AI 的多传感器处理、视频、音频和图像理解。它非常适合视觉 AI 开发人员、软件合作伙伴、初创公司和OEM构建 IVA 应用程序和服务。

您现在可以创建流处理管道,其中包含神经网络和其他复杂的处理任务,如跟踪、视频编码/解码和视频渲染。这些管道可以对视频、图像和传感器数据进行实时分析。

DeepStream 是 NVIDIA Metropolis, 不可或缺的一部分,该平台用于构建端到端服务和解决方案,将像素和传感器数据转化为可操作的见解。

福利

强大灵活的SDK

DeepStream SDK非常适合广泛行业的各种用例。

多种编程选项

使用C/C++、Python或Graph Composer简单直观的UI创建强大的视觉AI应用程序。

实时洞察

了解边缘丰富的多模态实时传感器数据。

托管人工智能服务

在云原生容器中部署AI服务,并使用库伯内特斯编排它们。

TCO降低

通过使用TAO工具包训练、调整和优化模型以及使用DeepStream部署模型来提高流密度。


独特能力

享受从边缘到云的无缝发展

DeepStream为您提供了一种更快、更简单的方式来构建基于AI的视频、音频和图像分析的无缝流媒体管道。它附带40多个hardware-accelerated插件和扩展,以优化前/后处理、推理、多目标跟踪、消息代理等。此外,它还提供了一些世界上性能最好的实时多对象跟踪器。

使用DeepStream的现成容器轻松构建云原生应用程序,这些应用程序可以部署在公共和私有云、由NVIDIA GPU驱动的工作站或NVIDIA Jetson上。其“一次开发,随处部署”方法简化了代码管理并提供了极大的可扩展性。DeepStream Container Builder工具还可以更轻松地使用NVIDIA NGC容器构建高性能、云原生AI应用程序,这些容器可以轻松大规模部署,并使用库伯内特斯和Helm Charts进行管理。

DeepStream REST-API可让您在运行时管理多个参数,简化SaaS解决方案的创建。使用标准REST-API接口,您可以构建用于控制和配置的Web门户,或集成到您现有的应用程序中。

了解更多

构建端到端AI解决方案

通过使用NVIDIA Metcity is构建端到端视觉AI系统,加快整体开发工作并解锁更高的实时性能。从生产质量的视觉AI模型开始,使用TAO Toolkit对其进行调整和优化,并使用DeepStream进行部署。

获得令人难以置信的灵活性——从快速原型设计到完整的生产级解决方案——并选择您的推理路径。通过原生集成到NVIDIA Triton™推理服务r,您可以在PyTorch和TensorFlow等原生框架中部署模型进行推理。使用NVIDIA TensorRT™用于高吞吐量推理,具有多GPU、多流和批处理支持选项,也有助于您实现最佳性能。

PipeTuner 1.0是一种新的开发人员工具,现在可以轻松调整广泛的参数,以优化AI管道以进行推理和跟踪

了解更多

加速视觉AI开发

DeepStream SDK捆绑了30多个示例应用程序,旨在帮助您启动开发工作。大多数示例提供C/C++、Python和Graph Composer版本,并在NVIDIA Jetson和dGPU平台上运行。通过支持Windows Subsystem forLinux(WSL2),您现在可以在Windows环境中进行开发,而无需访问远程Linux系统。

DeepStream Service Maker通过抽象GStreamer的复杂性来简化开发过程,从而轻松构建C++面向对象的应用程序。使用Service Maker只需几行代码即可构建完整的DeepStream管道

DeepStream库由CV-CUDA、NvImageCodec和PyNvVideoCodec提供支持,提供低级GPU加速操作,以优化视觉AI管道的前期和后期阶段。

Graph Composer为DeepStream开发人员提供强大的低代码开发选项,以创建复杂的管道并使用Container Builder快速部署它们。

了解更多

创建下一代人工智能应用程序

严格的调度控制、自定义调度器和高效的资源管理对于与机械臂和自动化质量控制线等确定性系统集成至关重要。

随着图形执行格式(GXF)的引入,与DeepStream管道处理的视觉流传感器相比,可以轻松地与运行在不同时域的控制信号集成。

新的参考应用程序可帮助您快速启动生成式AI应用程序的开发。对传感器融合的新支持BEVFusion增加了激光雷达和雷达输入,可以与相机输入融合,为开发人员带来了一系列新的用例。

了解更多

为Vision AI提供生产就绪的解决方案

DeepStream是英伟达人工智能企业的一部分,英伟达人工智能企业是一个端到端、安全、云原生的人工智能软件平台,经过优化,可将企业加速到人工智能的前沿。
英伟达人工智能企业为英伟达人工智能开源软件提供验证和集成,访问人工智能解决方案工作流程以加快生产时间,在任何地方部署人工智能的认证,以及企业级支持、安全性和应用编程接口稳定性,以降低开源软件的潜在风险。

了解更多


探索多种编程选项

C/C++

用C/C++创建应用程序,直接与GStreamer和DeepStream插件交互,并使用参考应用程序和模板。

了解更多关于C/C++

蟒蛇

DeepStream管道可以使用Gst Python构建,GStreamer框架的Python绑定。绑定和Python示例应用程序的源代码可在GitHub上获得。

了解有关Python的更多信息

Graph Composer

Graph Composer是一个低代码开发工具,增强了DeepStream用户体验。使用简单、直观的UI,处理管道通过拖放操作构建。

了解更多关于Graph Composer

提高准确性和实时性能

Jetson Orin NanoJetson Orin NXJetson Orin AGX™T4A2A10A30A100H100L40L4Quadro(A6000)A4000L4000ARM SBSA
应用型号跟踪器推断分辨率精密GPUGPUDLA1DLA2GPUDLA1DLA2GPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPUGPU
人检测PeopleNet-ResNet34(v2.3.3)无跟踪器960x544INT8256372175175970329329912610
773181961964292951009122920402936187070113017466233613
PeopleNet-ResNet34(v2.3.3)NvDCF(性能)960x544INT82153151701706253103108665682063280642506103427815632855127714135788
车牌识别TrafficCamNet
LPDNet
LPRNet
NvDCF960x544
640x480
96x48
INT8
INT8
FP16
120180--370--382253107113272150280122807411404788670N/A
3D人体姿态估计PeopleNet-ResNet34 BodyPose3DNvDCF960x544
192x256
INT8
FP16
28-40--76--10167160128151255226200235148104313
动作识别ActionRecognitionNet(3DConv)无跟踪器224x224x3x32FP163451--147--173744505529961270<--atag--37/>8703136383193001910

RTX GPU性能仅针对旗舰产品进行报告。所有SKU都支持DeepStream。

DeepStream SDK可让您将AI应用于流式视频,同时优化视频解码/编码、图像缩放以及转换和边缘到云的连接,以实现完整的端到端性能优化。

要了解有关使用DeepStream的性能的更多信息,请查看留档。

阅读客户故事

优化班加罗尔机场的运营

Industry.AI使用包括DeepStream在内的英伟达大都会堆栈来提高机场的安全性和效率。使用视觉人工智能,它能够跟踪被遗弃的行李,标记长长的乘客队列,并提醒安全团队注意潜在问题。

阅读博客

加强配送中心运营

KoiReader使用包含DeepStream SDK的NVIDIA开发人员工具开发了一种人工智能驱动的机器视觉解决方案,以帮助百事可乐在动态分销环境中实现精度和效率。

了解更多关于KoiReader

扩展人工智能驱动的智能空间

FYMA使用NVIDIA DeepStream和NVIDIA Triton™来改进人工智能驱动的空间分析,帧速率超过以前的基准10倍,准确度提高3倍。

了解更多

一般常见问题

DeepStream是开源的吗?

DeepStream是一个闭源SDK。请注意,所有参考应用程序的源代码和几个插件都可用。

可以使用DeepStream SDK部署哪些应用程序?

DeepStream SDK可用于构建端到端人工智能驱动的应用程序来分析视频和传感器数据。一些流行的用例是零售分析、停车管理、管理物流、光学检测、机器人和运动分析。

哪些平台和操作系统与DeepStream兼容?

请参阅平台和操作系统兼容性表。

我可以使用DeepStream在TensorFlow或PyTorch中本地运行我的模型吗?

是的,现在通过集成Triton推理服务器,这是可能的。还有DeepStream6.1.1,应用程序可以使用gPRC与Triton推理服务器的独立/远程实例进行通信。

如何使用DeepStream从TAO Toolkit部署模型?

DeepStream支持开箱即用的几种流行网络。例如,DeepStream支持MaskRCNN。此外,DeepStream还附带了一个示例来运行流行的活在当下的模型,FasterRCNN、SSD和RetinaNet。

NVIDIA Ampere架构GPU是否支持DeepStream?

是的,DS 6.0或更高版本支持安培架构

DeepStream SDK是否支持音频分析?

是的,DeepStream SDK6.1.1支持音频。要开始使用,请下载软件并查看参考音频和自动语音识别(ASR)应用程序。阅读ASR DeepStream插件了解更多信息

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1818784.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

蚂蚁集团:2023年科研投入211.9亿元

6月13日&#xff0c;蚂蚁集团发布2023年可持续发展报告。报告显示&#xff0c;2023年蚂蚁集团科研投入达到211.9亿元&#xff0c;再创历史新高&#xff0c;蚂蚁科技投入的重点是人工智能和数据要素技术。 蚂蚁集团董事长兼CEO井贤栋在报告致辞中说&#xff0c;面向未来&#x…

JasperReport-合并单元格

合并单元格是做报表时经常会遇到的需求。下面列举两种合并单元格的方式。 一、示例一 合并单元格在Subject。 1.1 创建5列的表 1.2 合并Column4和 Column5 按住Ctrl键点击Column4和 Column5,同时选中。然后右键,选择“Group Columns”。 1.3 合并成功 二、示例二 示例一…

信息收集---网站目录和CMS指纹识别

一. 网站目录收集 1. 常见网站敏感文件 网站的备份文件/数据库备份文件 wwwroot.zip Db.zip 后台登陆的目录 manage login 安装包&#xff08;源码&#xff09; 上传的目录uploads mysql的管理界面 phpmyadmin 程序的安装路径 2. Dirb 工具 工具介绍 dirb 是一款用…

端点物联开发教程之(二)开发演示

目录 一、产品定义 二、基础资源下载 三、嵌入式端开发 3.1 工程搭建 3.2 模型文件修改 3.3 头文件定义 3.4 模型功能开发 3.5 mqtt应用层配置 3.6启动任务 四、用户后端开发 4.1 功能分析 4.2 创建模型文件 4.3 添加基础功能 4.4 数据更新 4.5 阈值设置 4.6 模…

Python私教张大鹏 Vue3整合AntDesignVue之Checkbox 多选框

何时使用 在一组可选项中进行多项选择时&#xff1b; 单独使用可以表示两种状态之间的切换&#xff0c;和 switch 类似。区别在于切换 switch 会直接触发状态改变&#xff0c;而 checkbox 一般用于状态标记&#xff0c;需要和提交操作配合。 案例&#xff1a;多选框组件 核心…

计算机图形学入门10:着色

1.真实的世界 经过前面的变换&#xff0c;再到三角形遍历&#xff0c;深度缓存后&#xff0c;屏幕上每个像素都有了对应的颜色&#xff0c;显示的结果大概是如下左图的样子&#xff0c;我们发现物体每个面的颜色都一样&#xff0c;看起来不够真实。而如下右图显得更加真实&…

java学生考勤管理系统

学生考勤管理系统 学生考勤管理系统。功能&#xff1a;登录&#xff0c;班级管理&#xff0c;课程管理&#xff0c;用户管理&#xff0c;课程表管理&#xff0c;个人信心&#xff0c;修改密码。 技术&#xff1a;java&#xff0c;ssh&#xff0c;struts&#xff0c;spring&…

动手学操作系统(七、实现内存分页机制)

动手学操作系统&#xff08;七、实现内存分页机制&#xff09; 在上一节中&#xff0c;我们成功读取了物理内存的容量&#xff0c;并且在之前的学习中&#xff0c;我们的程序已经进入了保护模式&#xff0c;地址空间能够达到4GB&#xff0c;但是所有的进程&#xff08;包括操作…

开发TEE的踩坑之配置PCCS

系统&#xff1a;Ubuntu20.04&#xff08;双系统&#xff0c;非虚拟机&#xff09; 一、解决node.js的版本问题二、解决开启PCCS服务的问题1、解决开启PCCS服务2、解决访问本地的8081端口 本系列为笔者开发TEE&#xff08;Trusted Execution Environment&#xff0c;可信执行环…

k8s metrics-server服务监控pod 的 cpu、内存

项目场景&#xff1a; 需要开启指标服务&#xff0c;依据pod 的 cpu、内存使用率进行自动的扩容或缩容 pod 的数量 解决方案&#xff1a; 下载 metrics-server 组件配置文件&#xff1a; wget https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/…

【已解决】Python 中 AttributeError: ‘NoneType‘ object has no attribute ‘X‘ 报错

本文摘要&#xff1a;本文已解决 AttributeError: ‘NoneType‘ object has no attribute ‘X‘ 的相关报错问题&#xff0c;并总结提出了几种可用解决方案。同时结合人工智能GPT排除可能得隐患及错误。 &#x1f60e; 作者介绍&#xff1a;我是程序员洲洲&#xff0c;一个热爱…

HTML静态网页成品作业(HTML+CSS+JS)—— 美食企业曹氏鸭脖介绍网页(4个页面)

&#x1f389;不定期分享源码&#xff0c;关注不丢失哦 文章目录 一、作品介绍二、作品演示三、代码目录四、网站代码HTML部分代码 五、源码获取 一、作品介绍 &#x1f3f7;️本套采用HTMLCSS&#xff0c;使用Javacsript代码实现 图片轮播切换&#xff0c;共有4个页面。 二、…

称重显示模块 Modbus RTU 通信

目录 一、智能称重数字显示器模块(带通信)1、称重传感器接线说明称重显示模块称重传感器USB 转 TTL 2、校准传感器&#xff08;标定&#xff1a;零点标定、满度标定&#xff09; 二、Modbus RTU 协议1、Modbus RTU 数据帧2、数据帧格式请求帧响应帧 三、上位机电脑与称重显示模…

使用神卓互联来访问单位内部web【内网穿透神器】

在现代工作环境中&#xff0c;有时我们需要从外部访问单位内部的 web 资源&#xff0c;而神卓互联这款内网穿透神器就能完美地满足这一需求。 使用神卓互联来访问单位内部 web 其实并不复杂&#xff0c;以下是大致的使用步骤和配置方法。 首先&#xff0c;我们需要在单位内部的…

基于Unet++在kaggle—2018dsb数据集上实现图像分割

目录 1. 作者介绍2. 理论知识介绍2.1 Unet模型介绍 3. 实验过程3.1 数据集介绍3.2 代码实现3.3 结果 4. 参考链接 1. 作者介绍 郭冠群&#xff0c;男&#xff0c;西安工程大学电子信息学院&#xff0c;2023级研究生 研究方向&#xff1a;机器视觉与人工智能 电子邮件&#xff…

【电机】开环控制系统和闭环控制系统

1 什么是控制系统 控制系统是指由控制主体、控制客体和控制媒体组成的具有自身目标和功能的管理系统。也可以理解为&#xff1a;为了使控制对象达到预期的稳定状态。例如一个水箱的温度控制&#xff0c;可以通过控制加热设备输出的功率进而来改变水温达到目标温度&#xff0c;…

Linux发邮件的工具推荐有哪些?如何配置?

Linux发邮件的功能怎么样&#xff1f;Linux系统如何设置服务器&#xff1f; 在Linux操作系统中&#xff0c;有多种工具可供选择用来发送电子邮件&#xff0c;每种工具都有其独特的特点和适用场景。AokSend将介绍几种常用的Linux发邮件工具&#xff0c;并分析它们的优缺点和适用…

接口自动化测试的全面解析与实战指南!

&#x1f680; 【引言】&#x1f680; 接口自动化测试&#xff0c;作为现代软件开发生命周期中的关键一环&#xff0c;扮演着“质量守门员”的角色。它不仅关乎提升开发速度&#xff0c;更在于确保每一次更新都能可靠地满足用户期待。接下来&#xff0c;我们将踏上一场深入浅出…

Redis分布式锁的实现、优化与Redlock算法探讨

Redis分布式锁最简单的实现 要实现分布式锁,首先需要Redis具备“互斥”能力,这可以通过SETNX命令实现。SETNX表示SET if Not Exists,即如果key不存在,才会设置它的值,否则什么也不做。利用这一点,不同客户端就能实现互斥,从而实现一个分布式锁。 举例: 客户端1申请加…

RH850---注意问题积累--1

硬件规格(引脚分配&#xff0c;内存映射&#xff0c;外设功能规格、电气特性、时序图)和操作说明 注意:有关使用的详细信息&#xff0c;请参阅应用说明 ---------外围函数。。。 1:存储指令完成与后续同步指令的一代 当控制寄存器被存储指令更新时&#xff0c;从存储的执行开始…