模型优化-剪枝 (一)非结构化剪枝

news2024/9/27 12:10:34

环境

  • python 3.9
  • numpy 1.24.1
  • pytorch 2.0.0+cu117

非结构剪枝

  • 特点

                1.简单,将满足某些田间的 weight 置为0即可
                2.pytorch容易访问所有参数(weight)
                3.最精细化

  • 类型

                1.细粒度剪枝(fine-grained)
                2.向量剪枝(vector-level)
                3.卷积核剪枝(kernel-level)

一、细粒度剪枝(fine-grained)

 学习代码:

# -*- coding: utf-8 -*-
import torch
import torch.nn as nn
import numpy as np

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()

        self.my_layers = nn.Sequential(
            # 第一层卷积
            nn.Conv2d(3, 64, kernel_size=3, padding=1),  # 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/504614.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

数据库创建与管理

目录 一、创建数据库 1.准备创建数据库 2.创建数据库实例分析 方法一:使用对象资源或企业管理器创建数据库 方法二:使用Transact-SQL命令创建数据库 二、管理数据库 1.修改数据库 使用SQL命令修改数据库 2&…

珞珈一号夜间灯光数据处理流程

一、前言 “珞珈一号”卫星是长光卫星技术有限公司首次通过商业化订单为武汉大学研制的卫星,是全球首颗专业夜光遥感卫星,主要用于夜光遥感及导航增强技术验证。卫星整星重量仅为20kg,携带的大视场高灵敏夜光遥感相机,具备130m分辨率、260km幅宽的夜光成像能力,为基于夜光…

【全国大学生统计建模大赛】2023年统计建模大赛赛题解读

目录 关于中国式现代化统计测度的几点思考 (一)房祥忠教授——大局层面 一、现代化释义 二、现代化度量的单变量方法 2.1 单一变量情形 2.2 分组评分 三、现代化度量的多变量方法 3.1 问题 3.2 解决方法 四、现代化度量的理想化方法 4.1 问题 …

SSM整合详细教学(中)

SSM整合详细教学(中) 三、异常处理器问题导入1 异常介绍2 异常处理器2.2.1 编写异常处理器2.2.2 RestControllerAdvice注解介绍2.2.3 ExceptionHandler注解介绍 四、项目异常处理方案问题导入1 项目异常分类2 项目异常处理方案3 项目异常处理代码实现3.1…

zookeeper下载安装集群部署

文章目录 一、zookeeper官网下载二、JDK环境安装三、zookeeper安装1.zookeeper解压2.zookeeper配置文件介绍 克隆服务器1.网络检查2.集群配置3.启动集群 一、zookeeper官网下载 下载地址:https://archive.apache.org/dist/zookeeper/找到对应的版本下载 二、JDK环…

Python3.10动态修改Windows系统(win10/win11)本地IP地址(静态IP)

一般情况下,局域网里的终端比如本地服务器设置静态IP的好处是可以有效减少网络连接时间,原因是过程中省略了每次联网后从DHCP服务器获取IP地址的流程,缺点是容易引发IP地址的冲突,当然,还有操作层面的繁琐,…

SpringBoot ( 一 ) 搭建项目环境

1.搭建环境 1.1.创建项目向导 使用idea中的向导创建SpringBoot项目 1.1.1.建立新的项目 位置 : 菜单 > File > New > Project… 1.1.2.选择向导 默认的向导URL 是 https://start.spring.io 建议使用 https://start.aliyun.com 1.1.3.配置项目信息 Group : 组织…

从地方旅游的宣传谈起:如何吸引主流媒体报道,强势刷屏?

传媒如春雨,润物细无声,大家好,我是51媒体网胡老师。 五一小长假已经过去好几天了,大家渐渐的从假期舒适的闲暇转到正常的工作生活中了,但利用五一热点宣传的余温还在继续,今天胡老师就i注意到一篇题为&am…

机器学习之朴素贝斯二、情感分析

目录标题 一、什么是朴素贝叶斯?二、利用朴素贝叶斯进行情感分析1. 数据类别说明2. 什么是词袋模型3. 数据展示4. 利用词袋模型进行词表构建5. 到了这一步,我们的前期工作都已经准备好了,有了样本的向量化数据,开始进行 朴素贝叶斯…

电容笔哪个厂家的产品比较好?苹果平板的电容笔推荐

从目前来说,这个苹果的正版电容笔,售价真的是太贵了,一支就要接近上千元。事实上,对于那些没有很多预算的人来说,平替电容笔是一个很好的选择。一支苹果电容笔,价格是四支平替电容笔的四倍,但平…

机器人控制系统学习和研究中数学的重要性

其实具备科学思维的方式非常非常难,很多情况下脑海中并非客观事实,而是充满了幻觉。 如果在各种AI工具中问及这样的问题,会得到类似如下回复: 机器人控制系统学习和研究中数学的重要性主要体现在以下几个方面: 机器人运…

C961W扫描枪

影像解码技术,微米级条码,轻松扫描 百万像素引擎,擅长读取制造业遇到的高密度,微小尺寸条码。 ≥3mil读码密度,准确解码。 一、产品简介 C961W是一款基于先进影像解码技术和微功率无线跳频传输技术的无线高性能、高…

Java入门 - 内含Java基础,Java高级

Java基础入门 - 内含Java基础,Java高级 Java 基本介绍Java 学习须知Java 学习文档Java 基础Java 基础语法Java 对象与类Java 基本数据类型Java 变量类型Java 修饰符Java 运算符Java 循环结构Java 条件语句Java switch caseJava 数组Java 日期与时间Java 正则表达式J…

好的索引当然是要覆盖了!

如果你的查询中用到了索引,这是一个进步,如果能够更进一步,用到了覆盖索引,那么就更牛了!当我们设计一个索引的时候,如果能够从一个更加全面的角度去设计这个索引,不仅考虑到 where 中的条件&am…

大数据处理技术:从Hadoop到Spark的演进和比较

在过去的十年中,大数据技术的发展突飞猛进,各种开源大数据处理框架层出不穷,其中Hadoop和Spark是最受欢迎的两个框架。Hadoop是最早的开源大数据处理框架之一,而Spark则是在Hadoop之后出现的,它在内存计算和数据处理方…

for...in的用法

一、for…in的用法 1.用于对象的迭代,迭代除了Symbol属性外的可枚举的属性,包括继承的可枚举的属性(可以用于遍历数组,但不建议这么用); const obj {a: 1,b: 2,c: 3,fn: function () {} }obj[Symbol()] …

Vite 的安装和基本使用

注意:Vite 本身也是依赖 Node.js 的,所以也需要安装好 Node 环境,并且 Vite 要求 Node 的版本要大于等于 12 版本。 下面,我们不会按照 Vite 官方文档中那样直接用 Vite 的脚手架搭建出一个完整的项目(npm init vitela…

面向Java开发者的ChatGPT提示词工程(1)

各位Java开发者们,欢迎来到万猫学社!在这里,我将和大家分享ChatGPT提示词工程的系列文章,希望能够和大家一起学习和探讨提示词的最佳实践。 虽然互联网上已经有很多有关提示词的材料,比如那些“每个人都必须知道的30个…

服务(第十八篇)mysql-索引、事务、存储引擎

索引: 相当于一本书的目录。 作用:①对字段进行升序排序 ②加快表的查询速度 副作用:①索引会额外占用磁盘空间 ②更新有索引的表效率很慢 使用场景: ①在没有索引查询某行数据,需要扫描全表定位到某行数据 ②有索…

【876. 链表的中间结点】

Leetcode 876. 链表的中间结点 给你单链表的头结点 head ,请你找出并返回链表的中间结点。 如果有两个中间结点,则返回第二个中间结点。 示例 1: 输入:head [1,2,3,4,5] 输出:[3,4,5] 解释:链表只有一…