6.1.tensorRT高级(1)-概述

news2024/9/21 17:56:10

目录

    • 前言
    • 1. tensorRT高级概述
    • 总结

前言

杜老师推出的 tensorRT从零起步高性能部署 课程,之前有看过一遍,但是没有做笔记,很多东西也忘了。这次重新撸一遍,顺便记记笔记。

本次课程学习 tensorRT 高级-概述

课程大纲可看下面的思维导图

在这里插入图片描述

1. tensorRT高级概述

tensorRT 高级篇按以下的思路进行规划:

1. 高级篇,以实际项目为例,演示 tensorRT 的综合运用

2. 不封装到组件封装,进行演示

3. 针对调试技巧进行讲解,如何发现 bug、调试 bug、解决 bug

4. 高级课程主讲思想和过程,并且提供了大量案例代码,可以自行查阅,这里挑选经典案例进行讲解

课程安排有

1. 经典案例-无封装讲解

2. 关于深度学习的多线程讲解

3. tensorRT 的逐步封装讲解(build、infer、内存分配等)

4. 经典案例-封装讲解

5. 模型的调试技巧,debug 方法

主要案例有

1. 分类器案例,完整的 CNN 分类器推理过程

2. Yolov5 从下载导出 onnx,然后推理,图像预处理到后处理整个过程

3. UNet 场景分割案例,关于分割有何不同

4. alphapose 案例,关于关键点检测,后处理尽量让 onnx 做的思想

5. mmdetection 案例,掌握如何分析 mmdetection 并导出 onnx

6. onnxruntime 的使用,如何利用不同的推理引擎 onnxruntime 进行模型推理(方便做对比)

7. 针对深度学习下的多线程知识(区别于软工)

8. 对 tensorRT 进行封装,并逐步完成改造

9. 自动驾驶场景的车道线检测、深度估计、地面分割

下面是各种案例效果:

在这里插入图片描述

图1 AlphaPose案例效果

在这里插入图片描述

图2 YoloV5案例效果

在这里插入图片描述

图3 RetinaFace案例效果

在这里插入图片描述

图4 InsightFace案例效果

在这里插入图片描述

图5 UNet案例效果

在这里插入图片描述
在这里插入图片描述

图6 HuggingFace-NER案例效果

在这里插入图片描述

图7 YoloV5-OBB案例效果

在这里插入图片描述

图8 Self-Driving-Adas

总结

本次课程为 tensorRT 高级的概述,主要讲解了高级篇我们要如何开展,在高级篇中我们主讲思想和过程,并且提供了大量案例代码,以实际项目为例来演示 tensorRT 的综合运用。除此之外还有关于深度学习的多线程知识、tensorRT 封装以及模型的调试技巧讲解。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/812013.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【C++】入门 --- 缺省参数函数重载

文章目录 🥮一、缺省参数🍕1、基本概念🍕2、缺省参数的分类🚩全缺省参数🚩半缺省参数🚩缺省参数实用案例 🥮二、函数重载🍕1、函数重载概念1️⃣参数类型不同2️⃣参数个数不同3️⃣…

MySQL 数据库 【增删查改(二)】

目录 一、表的设计 1、一对一 2、一对多 3、多对多 二、新增 三、查询 1、聚合查询 (1)聚合函数: (2) group by 子句 (3)having 2、联合查询 (1)内连接 (2)外连接 (3)自链接 (4)…

web前端开发工程师的具体职责范本(合集)

web前端开发工程师的具体职责范本1 职责: 1.负责web前端架构的搭建,核心业务功能开发和核心代码编写。 2.配合产品经理,实现产品UI和交互方面的需求,持续界面优化,提升用户体验。 3.参与相关业务需求变更评审。 4.…

【动态规划part14】| 1143.最长公共子序列、1035.不相交的线、53.最大子序和

目录 🎈LeetCode1143.最长公共子序列 🎈LeetCode1035.不相交的线 🎈LeetCode53.最大子序和 🎈LeetCode1143.最长公共子序列 链接:1143.最长公共子序列 给定两个字符串 text1 和 text2,返回这两个字符串的…

线程操作——创、取、终、分、连

文章目录 线程相关函数线程创建注意: 线程终止线程ID获取线程比较连接终止线程——回收资源线程分离——终止后自动回收资源线程取消——中途终止 线程相关函数 main函数执行的线程叫主线程(main线程),其余创建出来的叫子线程。 线程创建 这…

mybatisplus的id生成策略失效问题

mybatisplus3.4.2 id的默认生成策略是雪花算法 问题重现:无论我设置 yml为 mybatis-plus:global-config:db-config:id-type: auto还是在id的实体类上加入 TableId(type IdType.ASSIGN_ID) 都不起作用 现在直接说结论,原因是之前没有设置生成策略默认生…

【Qt】Qt 实现图像格式转图标 ico 格式的程序

【Qt】Qt 实现图像格式转图标 ico 格式的程序 文章目录 【Qt】Qt 实现图像格式转图标 ico 格式的程序核心代码编写应用程序1. 设计界面2. 头文件3. 源文件 核心代码 此程序得核心代码既是,使用 QImage 打开图片文件,并保存为 ICO 格式。 QImage img(so…

Stable Diffusion 硬核生存指南:WebUI 中的 VAE

本篇文章聊聊 Stable Diffusion 生态中呼声最高、也是最复杂的开源模型管理图形界面 “stable-diffusion-webui” 中和 VAE 相关的事情。 写在前面 Stable Diffusion 生态中有一个很重要的项目,它对于 SD 生态繁荣做出的贡献可以说居功至伟,自去年八月…

操作系统_进程与线程(二)

目录 2. 处理机调度 2.1 调度的基本概念 2.2 调度的层次 2.3 三级调度的联系 2.4 调度的目标 2.5 调度的实现 2.5.1 调度程序(调度器) 2.5.2 调度的时机、切换与过程 2.5.3 进程调度方式 2.5.4 闲逛进程 2.5.5 两种线程的调度 2.6 典型的调度…

服务调用---------Ribbon和Feign

1、Ribbon 1.1 Ribbon简介 Ribbon是一个用于客户端负载均衡的组件,它是Netflix开源的一个项目。在微服务架构中,系统会拆分为多个小型的服务,每个服务都有自己独立的服务器实例。Ribbon所具有的特点:客户端负载均衡,将…

批量插入数据、MVC三层分离

八、批量插入数据 1、使用Statement() 2、使用PreparedStatement() 3、使用批量操作API 4、优化 九、MVC三层分离

Java中static关键字的作用

文章目录 一、使用static关键字修饰成员变量:二、使用static关键字修饰成员方法:三、使用static关键字定义静态代码块:四、使用static关键字定义内部类:五、使用静态导包:六、总结:static关键字在Java中有多…

大数据课程D7——hadoop的YARN

文章作者邮箱:yugongshiyesina.cn 地址:广东惠州 ▲ 本章节目的 ⚪ 了解YARN的概念和结构; ⚪ 掌握YARN的资源调度流程; ⚪ 了解Hadoop支持的资源调度器:FIFO、Capacity、Fair; ⚪ 掌握YA…

Python语法(一、基础)

简介 Python 是一个高层次的结合了解释性、交互性和面向对象的脚本语言。解释型语言: 这意味着开发过程中没有了编译这个环节。作为解释型语言,意味着开发过程中没有了编译这个环节,对代码逐行解析。 Python还具有可嵌入性,如Py…

ConcurrentHashMap基本介绍

介绍 ConcurrentHashMap是线程安全且高效的HashMap。 为什么要使用ConcurrentHashMap 线程不安全的HashMap HashMap多线程情况下put操作会出现并发安全问题,包括死循环、数据丢失(jdk7)以及数据覆盖(jdk8)。 jdk7中…

基于stm32单片机的直流电机速度控制——LZW

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 目录 一、实验目的二、实验方法三、实验设计1.实验器材2.电路连接3.软件设计(1)实验变量(2)功能模块a)电机接收信号…

Github git clone 和 git push 特别慢的解决办法

1.在本地上使用 SSH 命令无法git push 上传 github 项目 2.使用 git clone 下载项目特别慢总是加载不了 解决办法1 将 *** 的连接模式换成:D-i-r-e-c-t(好像不太有用) 后面再找找能不能再G-l-o-b-a-l 下解决该问题 解决办法 2 mac下直接设…

Python 日志记录:6大日志记录库的比较

Python 日志记录:6大日志记录库的比较 文章目录 Python 日志记录:6大日志记录库的比较前言一些日志框架建议1. logging - 内置的标准日志模块默认日志记录器自定义日志记录器生成结构化日志 2. Loguru - 最流行的Python第三方日志框架默认日志记录器自定…

SpringBoot内嵌的Tomcat:

SpringBoot内嵌Tomcat源码: 1、调用启动类SpringbootdemoApplication中的SpringApplication.run()方法。 SpringBootApplication public class SpringbootdemoApplication {public static void main(String[] args) {SpringApplication.run(SpringbootdemoApplicat…

python浅浅替代ps?实现更改照片尺寸,以及更换照片底色

前言 大家早好、午好、晚好吖 ❤ ~欢迎光临本文章 如何用代码来p证件照并且更换底色? 有个小姐姐给我扔了张照片,叫我帮忙给她搞成证件照的尺寸还得换底色 可惜电脑上没有ps只有pycharm,但下载又卸载多麻烦呀 于是,我就用代码来…