机器学习知识经验分享之一:卷积神经网络介绍

news2024/9/23 5:31:29

文章目录

  • 前言
  • 一、卷积神经网络的构成
    • 1.卷积层
    • 2.池化层
    • 3.激活函数
    • 4.批量归一化
    • 5.损失函数
  • 二、卷积神经网络的特点
  • 总结


前言

本系列文章将对机器学习知识进行分享总结。便于大家从理论层面了解人工智能基础原理,从而更好的运用算法发论文写作以及实际应用。关注即免费获取大量人工智能学习资料。


一、卷积神经网络的构成

卷积神经网络主要由多种类型的网络层和多种类型的网络输出层组成。其中网络层包括通用的卷积层、池化层、批归一化层等。经过这些层的组合与连接,进而可以得到各种类型的卷积神经网络模块。 相较于传统机器学习算法,卷积神经网络具有更强大的处理能力和分析能力。自动将复杂的数学计算应用于大规模数据的能力是深度学习重要发展过程。近年来,计算机显卡的计算能力的大幅提高,GPU的并行计算技术已经取代CPU,成为卷积神经网络训练时的主流,GPU的高速计算能力有效地帮助深度学习技术演化为从大量训练数据中学习。

1.卷积层

卷积层是卷积神经网络中最基础同时又是最重要的组成部分,卷积层是卷积神经网络中使用最为频繁的层之一。卷积操作最早应用于信号处理领域,后来被广泛应用于图像滤波、图像去噪等领域。需要注意的是,卷积神经网络中的卷积与信号处理中的卷积并不等同,实际上,卷积神经网络的卷积与信号处理中的互相关等同。但是在卷积神经网络中一般不使用互相关这个名词,一般就用卷积代指。
在这里插入图片描述

2.池化层

池化层的作用是对特征图进行下采样,减小特征图的大小、并降低计算复杂度。如图所示显示了最大值池化操作,其中从选定的子块中选择最大值激活。这个窗口以步幅定义的步长滑过输入特征图。
在这里插入图片描述

3.激活函数

激活函数(Activation Function)是卷积神经网络中的重要组成模块。卷积层和全连接层这些层均包含权重,含有权重的层通常后面都会与非线性激活模块相接。激活函数主要有Sigmoid函数、Tanh函数、ReLU函数、PReLU函数及Leaky ReLU函数等。Sigmoid函数是一个类似S形的平滑阶梯函数,其将含权重的层的输入进行非线性处理,从而获得归一化输出结果,同时Sigmoid的处处可导性对反向传播十分有利。

4.批量归一化

卷积神经网络的训练难度会随着网络深度的增加而增加。在传统的神经网络中,样本在进入输入层之前通常要执行正则化操作。这样的处理会导致每个层的数据分布随着训练期间参数的更新而发生改变。如果卷积神经网络中的隐含层输出的分布不断变化,那么训练过程将会减慢,网络将需要很长时间才能收敛。批量归一化用于调整卷积神经网络内部各层的参数,并且由于其可导,因此可以集成到端到端网络中。

5.损失函数

损失函数(Loss function),也称为目标函数,用于衡量网络的预测值与样本真实值之间的误差。在卷积神经网络中,损失函数是评价网络性能好坏的一个重要指标,也是驱动网络参数得以更新训练的核心要素。

二、卷积神经网络的特点

在卷积神经网络中,随着网络深度的增加,计算资源的消耗会急剧增长。这对于计算机有限的数据处理能力来说是困难的。针对这一问题,卷积神经网络采用局部连接、权值共享等方式来降低计算复杂度。与传统的神经网络相比,卷积神经网络具有以下特点:
(1)局部连接。卷积神经网络在提取图像特征的过程中,通常采用局部连接的方式。在传统BP网络中,神经元在连接时是密集连接,而卷积神经网络的连接是局部连接。局部连接使得降低了一倍,当神经元的数量更多时,降低的比例会更高。卷积神经网络这种局部连接的方式极大地减少了存储空间,提升了网络计算的效率。
在这里插入图片描述
(2)参数共享。在卷积神经网络中,同一个卷积核对输入图像进行卷积运算时卷积核的参数都是相同的,这种参数共享机制降低了卷积神经网络的参数总量,给网络的训练降低了难度。
(3)深度大 。传统的神经网络中,如BP神经网络、RBF神经网络,这些网络的深度一般不超过3层。而卷积神经网络的层数通常都大于5层,最深的可达1000层。更深的网络带来了更好的性能,但也给网络的训练带来了更多困难。

总结

本文介绍了卷积神经网络中基本的组成成分,包含了卷积层、池化层、激活函数、批量归一化等等,最后总结出卷积神经网络的特点,后续将持续进行分享更新机器学习相关知识。关注即免费获取大量人工智能学习资料。

参考文献:张 旭. 基于深度学习的双阶段舰船检测算法研究[D].本文仅用于学术分享,侵权联系删除。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/32716.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

CNI设计解读

何为cni? kubernetes在设计网络方案的时候并没有设计统一的网络方案,只提供了统一的容器网络接口也就是所谓cni,这么做的目的就是为了遵循kubernets的核心理念OutOfTree,简单来讲就是专注于自身核心能力,将其他能力类…

使用albumentations对coco进行数据增强

数据增强的必要性 目前几乎所有描述最先进的图像识别模型的论文都使用了基本的增强技术 深度神经网络需要大量的训练数据来获得良好的结果,并防止过度拟合,然而要获得足够的训练样本往往非常困难,多种原因可能使得收集足够的数据非常困难&a…

【计算机毕业设计】27.仓库管理系统源码

一、系统截图(需要演示视频可以私聊) 摘 要 网络的广泛应用给生活带来了十分的便利。所以把仓库管理与现在网络相结合,利用JSP技术建设仓库管理系统,实现仓库管理系统的信息化。则对于进一步提高公司的发展,丰富仓库管…

户外运动耳机推荐、十大户外运动耳机品牌推荐排名清单

最近南方的天气有点秋高气爽,这样的天气要说最适合进行什么运动,那户外徒步肯定是最佳选择,在这样适宜的天气下去拥抱大自然,体验户外山野环境的美好绝对是个很棒的过程!但是一个人的长时间徒步多少还是会少了些味道&a…

408 | 大纲知识点考点冲刺 复习整理 ——【计网】第三章 数据链路层

自用冲刺笔记整理。 部分图片来自王道。 加油ヾ(◍∇◍)ノ゙ (一)数据链路层的功能 结点: 主机、 路由器。帧 : 链路层的协议数据单元, 封装网络层数据报。其主要作用是加强物理层传输原始比特流的功能,将物理层提供的可能出错的物理连接改造成为逻辑上无差错的数据链路,…

11.24Spring学习第四天

整合Mybatis(重点) 步骤 1.引入依赖 <!--引入相关依赖--><!-- spring jdbc --><dependency><groupId>org.springframework</groupId><artifactId>spring-jdbc</artifactId><version>${spring.version}</version></…

在字节跳动做了5年软件测试,12月无情被辞,想给划水的兄弟提个醒...

前言 先简单交代一下背景吧&#xff0c;某不知名 985 的本硕&#xff0c;17 年毕业加入字节&#xff0c;以“人员优化”的名义无情被裁员&#xff0c;之后跳槽到了有赞&#xff0c;一直从事软件测试的工作。之前没有实习经历&#xff0c;算是5年的工作经验吧。 这5年之间完成…

如何在数据库只保存oss上的文件名, 当查询数据时根据字段的文件名, 获取oss的公网访问地址,并对字段内容重写

如何在数据库只保存oss上的文件名, 当查询数据时根据字段的文件名, 获取oss的公网访问地址,并对字段内容重写. 有这样一个需求, 图片上传到oss 上, 返回文件名和公网访问地址, 但是要求数据库中只存储文件名称. 有两个目的: 数据库只存储文件名称, 方便后期oss 上数据迁移到其他…

面试官:在 Java 中 new 一个对象的流程是怎样的?彻底被问懵了。。

对象怎么创建&#xff0c;这个太熟悉了&#xff0c;new一下(其实还有很多途径&#xff0c;比如反射、反序列化、clone等&#xff0c;这里拿最简单的new来讲)&#xff1a; Dog dog new Dog();我们总是习惯于固定语句的执行&#xff0c;却对于背后的实现过程缺乏认知&#xff0…

[附源码]java毕业设计医院门诊信息管理系统

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; SSM mybatis Maven Vue 等等组成&#xff0c;B/S模式 M…

【多线程 (二)】线程安全问题、同步代码块、同步方法、Lock锁、死锁

文章目录线程安全问题前言2.1多线程模拟卖票出现的问题2.2卖票案例中出现的问题分析2.3同步代码块解决数据安全问题2.4同步方法解决数据安全问题2.5Lock锁2.6死锁总结线程安全问题 前言 之前我们讲了多线程的基础知识&#xff0c;但是在我们解决实际问题中会遇到一些错误&…

接口自动化测试实战之智能场景如何攻破

智能场景的意思就是怎么样才能让接口自动化智能化&#xff0c;让使用接口框架的人越来越没有要求&#xff0c;大街上随便拉一个人来&#xff0c;一分钟了解框架的使用&#xff0c;就能完美地去完成接口自动化测试。 1.找出公司要求我们测试的接口的共同点 假设有10个接口&…

【附源码】计算机毕业设计JAVA移动电商网站

【附源码】计算机毕业设计JAVA移动电商网站 目运行 环境项配置&#xff1a; Jdk1.8 Tomcat8.5 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; JAVA mybati…

(一)进程与线程

黑马程序员深入学习Java并发编程&#xff0c;JUC并发编程全套教程_哔哩哔哩_bilibili 一、进程与线程&#xff08;P5&#xff09; 1. 进程 &#xff08;1&#xff09;程序由指令和数据组成&#xff0c;但这些指令要运行&#xff0c;数据要读写&#xff0c;就必须将指令加载至…

查阅标准文档以及effective c++作者文笔 真正搞懂万能引用和引用折叠以及完美转发

在解释任何东西以前 我都必须要强调 我们为什么需要这个东西 如果一个东西我们都是不需要的 那么我们解释他干嘛? 假定你彻底了解了一个东西 但是你并不知道你为什么需要他 他能解决什么问题 那你仅仅就只是背了一段理论性的东西 对于你本人的成长毫无用处 这里我们一次性讲懂…

sqli-labs/Less-58

这一关只有五次机会了 哎怎么办啊 那就只能找出每轮的共同点 这一关肯定不能一轮就完成所有的操作 至少得分个两轮进行操作才可以 前一轮进行注入类型的获取 后一轮进行各种爆破操作 分配好了 首先去判断一下注入类型是否属于数字型注入 输入如下 id1 and 12 回显如下 不属于…

Web大学生网页作业成品 基于HTML+CSS+JavaScript---个人介绍5页 带视频 带报告

⛵ 源码获取 文末联系 ✈ Web前端开发技术 描述 网页设计题材&#xff0c;DIVCSS 布局制作,HTMLCSS网页设计期末课程大作业 | ‍个人博客网站 | ‍个人主页介绍 | 个人简介 | 个人博客设计制作 | 等网站的设计与制作 | 大学生个人HTML网页设计作品 | HTML期末大学生网页设计作业…

大规模 Spring Cloud 微服务无损上下线探索与实践

作者&#xff1a;十眠 “从一次常见的发布说起&#xff0c;在云上某个系统应用发布时&#xff0c;重启阶段会导致较大数量的 OpenAPI、上游业务的请求响应时间明显增加甚至超时失败。随着业务的发展&#xff0c;用户数和调用数越来越多&#xff0c;该系统又一直保持一周发布二…

CAD特殊符号,你不一定会!!!

在CAD软件中&#xff0c;有时候会输入一些特殊的符号。比如在标明高低差的时候会输入“”号&#xff0c;在标明管子或者钢筋的直径为输入直径符号“”&#xff0c;为了标明角度值需要输入符号“”&#xff0c;那么这些符号怎么快速的绘制出来呢&#xff1f;我们一起用CAD梦想画…

专利解析|多维建模结合AI识别商品特征的方法

企业采购数字化转型的背景 国家“十四五”规划纲要提出要推进产业数字化转型&#xff0c;在供给侧结构性改革大背景下&#xff0c;国家出台了《企业数字化采购实施指南》&#xff0c;大大促进了企业采购电商化的发展。企业电商化采购能提高企业的采购效率、加快物流速度、降低…