NCNN量化详解2

news2024/9/25 17:15:18

1 NCNN量化算法简介

量化算法介绍的文章的话，下面这篇文章的大佬 @章小龙 介绍的比我好多啦。虽然介绍的是NVIDIA TensorRT的算法，但是NCNN是参考其算法做出来的，方法几乎一样

首先NVIDIA有一个PPT，很好的阐述了他们的方案，推荐大家也去看一下：
https://link.zhihu.com/?target=http%3A//on-demand.gputechconf.com/gtc/2017/presentation/s7310-8-bit-inference-with-tensorrt.pdf

变换公式
正常的量化，FP32 Value 和 INT8 Value之间的关系是这样的：
在这里插入图片描述
NVIDIA表示，Bias是没用的，因此变成了一个线性公式：
在这里插入图片描述
取值范围
由于float32的取值范围几乎是无穷的，而int8只有-128~127。因此建

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/372104.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

我来了，RK第七届开发者大会

我来了，RK第七届开发者大会

大家好，我是发哥的朋友windsnake「也是发哥文章里面经常出现的邓总」。今年终于是有时间参加了一次Rk的开发者大会，这篇文章记录下自己的所见所闻，算是对自己福州之行的一次总结。从深圳出发月亮还没睡醒的早上，坐5号线杀到深圳北…
阅读更多...
【项目设计】高并发内存池(二)[高并发内存池整体框架设计｜threadcache]

【项目设计】高并发内存池(二)[高并发内存池整体框架设计｜threadcache]

🎇C学习历程：入门 博客主页：一起去看日落吗持续分享博主的C学习历程博主的能力有限，出现错误希望大家不吝赐教分享给大家一句我很喜欢的话： 也许你现在做的事情，暂时看不到成果，但不要忘记&…
阅读更多...
【无标题String、StringBuffer、StringBuilder区别】

【无标题String、StringBuffer、StringBuilder区别】

一、背景。 这篇文章主要介绍了String、StringBuffer、StringBuilder的区别详细教程,本文通过图文并茂的形式给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下。放假在家里休息，闲来无事，想…
阅读更多...
华为OD机试题，用 Java 解【汽水瓶】问题

华为OD机试题，用 Java 解【汽水瓶】问题

最近更新的博客 华为OD机试 - 猴子爬山 | 机试题算法思路 【2023】华为OD机试 - 分糖果（Java） | 机试题算法思路 【2023】华为OD机试 - 非严格递增连续数字序列 | 机试题算法思路 【2023】华为OD机试 - 消消乐游戏（Java） | 机试题算法思路 【2023】华为OD机试 - 组成最大数…
阅读更多...
【华为OD机试模拟题】用 C++ 实现 - 寻找路径 or 数组二叉树（2023.Q1）

【华为OD机试模拟题】用 C++ 实现 - 寻找路径 or 数组二叉树（2023.Q1）

最近更新的博客 【华为OD机试模拟题】用 C++ 实现 - 获得完美走位（2023.Q1） 文章目录 最近更新的博客使用说明寻找路径 or 数组二叉树题目输入输出描述示例一输入输出示例二输入输出Code使用说明 参加华为od机试，一定要注意不要完全背诵代码，需要理解之后模仿写出，通过…
阅读更多...
华为开源自研AI框架昇思MindSpore数据变换：Transforms

华为开源自研AI框架昇思MindSpore数据变换：Transforms

目录一、环境准备1.进入ModelArts官网2.使用CodeLab体验Notebook实例二、数据变换 TransformsCommon TransformsComposeVision TransformsRescaleNormalizeHWC2CWHText TransformsBasicTokenizerLookupLambda Transforms通常情况下，直接加载的原始数据并不能直接送入…
阅读更多...
线程安全之synchronized和volatile

线程安全之synchronized和volatile

目录 1.线程不安全的原因 2.synchronized和volatile 2.1 synchronized 2.1.1 synchornized的特性 2.1.2 synchronized使用示例 2.2 volatile 我们先来看一段代码： 分析以上代码，t1和t2这两个线程的任务都是分别将count这个变量自增5000次&#xff…
阅读更多...
redis（5）列表List

redis（5）列表List

Redis列表 Redis单键多值：Redis 列表是简单的字符串列表，按照插入顺序排序。你可以添加一个元素到列表的头部(左边)或者尾部(右边)。 它的底层实际是个双向链表，对两端的操作性能很高，通过索引下标的操作中间的节点性能会较差。 常…
阅读更多...
【Linux学习笔记】7.Linux vi/vim

【Linux学习笔记】7.Linux vi/vim

前言 本章介绍Linux的vi/vim。 Linux vi/vim 所有的 Unix Like 系统都会内建 vi 文书编辑器，其他的文书编辑器则不一定会存在。 但是目前我们使用比较多的是 vim 编辑器。 vim 具有程序编辑的能力，可以主动的以字体颜色辨别语法的正确性&#xff0c…
阅读更多...
【华为OD机试模拟题】用 C++ 实现 - 优秀学员统计（2023.Q1）

【华为OD机试模拟题】用 C++ 实现 - 优秀学员统计（2023.Q1）

最近更新的博客 【华为OD机试模拟题】用 C++ 实现 - 货币单位换算（2023.Q1） 【华为OD机试模拟题】用 C++ 实现 - 选座位（2023.Q1） 【华为OD机试模拟题】用 C++ 实现 - 停车场最大距离（2023.Q1） 【华为OD机试模拟题】用 C++ 实现 - 重组字符串（2023.Q1） 【华为OD机试模…
阅读更多...
HashMap数据结构

HashMap数据结构

HashMap概述 HashMap是基于哈希表的Map接口实现的&#xff0c;它存储的是内容是键值对<key,value>映射。此类不保证映 射的顺序&#xff0c;假定哈希函数将元素适当的分布在各桶之间&#xff0c;可为基本操作(get和put)提供稳定的性能。 HashMap在JDK1.8以前数据结构和存…
阅读更多...
网络流与图（三）

网络流与图（三）

经过两篇文章的篇幅&#xff0c;我们介绍了最小费用网络流模型以及解决的算法。今天我们介绍网络流模型的现实应用案例&#xff0c;并针对一些特殊的情景提出更高效的解决算法。传送门&#xff1a;网络流与图&#xff08;一&#xff09;网络流与图&#xff08;二&#xff09;1运…
阅读更多...
多模态预训练模型综述

多模态预训练模型综述

经典预训练模型还未完成后续补上预训练模型在NLP和CV上取得巨大成功&#xff0c;学术届借鉴预训练模型>下游任务finetune>prompt训练>人机指令alignment这套模式&#xff0c;利用多模态数据集训练一个大的多模态预训练模型&#xff08;跨模态信息表示&#xff09;来解…
阅读更多...
【数据结构】栈的接口实现（附图解和源码）

【数据结构】栈的接口实现（附图解和源码）

栈的接口实现&#xff08;附图解和源码&#xff09; 文章目录栈的接口实现&#xff08;附图解和源码&#xff09;前言一、定义结构体二、接口实现&#xff08;附图解源码&#xff09;1.初始化栈2.销毁栈3.入栈4.判断栈是否为空5.出栈6.获取栈顶元素7.获取栈中元素个数三、源代码…
阅读更多...
【华为OD机试模拟题】用 C++ 实现 - 字符匹配（2023.Q1）

【华为OD机试模拟题】用 C++ 实现 - 字符匹配（2023.Q1）

最近更新的博客 【华为OD机试模拟题】用 C++ 实现 - 获得完美走位（2023.Q1） 文章目录 最近更新的博客使用说明字符匹配题目输入输出示例一输入输出说明示例二输入输出说明Code使用说明 参加华为od机试，一定要注意不要完全背诵代码，需要理解之后模仿写出，通过率才会高。…
阅读更多...
C++10：非类型模板参数以及模板的特化

C++10：非类型模板参数以及模板的特化

目录 非类型模板参数 模板的特化 模板类的特化 1.全特化 2.偏特化 模板其实还有其他的玩法&#xff0c;比如非类型模板参数以及模板的特化。 非类型模板参数 在记述非类型模板参数前&#xff0c;我们认识一下C中一个比较鸡肋的类&#xff0c;array #include<iostream&g…
阅读更多...
Kotlin1.8新特性

Kotlin1.8新特性

Kotlin1.8.0新特性 新特性概述 JVM 的新实验性功能&#xff1a;递归复制或删除目录内容提升了 kotlin-reflect 性能新的 -Xdebug 编译器选项&#xff0c;提供更出色的调试体验kotlin-stdlib-jdk7 与 kotlin-stdlib-jdk8 合并为 kotlin-stdlib提升了 Objective-C/Swift 互操作…
阅读更多...
MATLAB绘制泰勒图（Taylor diagram）

MATLAB绘制泰勒图（Taylor diagram）

泰勒图&#xff08;Taylor diagram&#xff09; 泰勒图是Karl E. Taylor于2001年首先提出&#xff0c;主要用来比较几个气象模式模拟的能力&#xff0c;因此该表示方法在气象领域使用最多&#xff0c;但是在其他自然科学领域也有一定的应用。 泰勒图常用于评价模型的精度&…
阅读更多...
使用命令别名一键启动arthas

使用命令别名一键启动arthas

1. 使用命令别名启动arthas 确保单板上有jdk和arthas jdk目录&#xff1a;/home/xinliushijian/arthas/jdk arthas目录&#xff1b;/home/xinliushijian/arthas su xinliushijian编写脚本messi.sh cd /home/xinliushijian/arthas vi messi.sh 内容如下&#xff1a; #!/bin/ba…
阅读更多...
「兔了个兔」玉兔踏青，纯CSS实现瑞兔日历（附源码）

「兔了个兔」玉兔踏青，纯CSS实现瑞兔日历（附源码）

&#x1f482;作者简介&#xff1a; THUNDER王&#xff0c;一名热爱财税和SAP ABAP编程以及热爱分享的博主。目前于江西师范大学会计学专业大二本科在读&#xff0c;同时任汉硕云&#xff08;广东&#xff09;科技有限公司ABAP开发顾问。在学习工作中&#xff0c;我通常使用偏后…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023