生命在于学习——Python人工智能原理(3.5)

news2024/11/25 19:38:26

在这里插入图片描述

三、深度学习

9、常见神经网络

在这里插入图片描述

常见的神经网络有卷积神经网络(AlexNet、VGGNet)、循环神经网络(RNN)
长短时记忆网络(LSTM)。

(1)AlexNet

AlexNet于2012年由Hinton学生Alex提出,是Lenet加宽版,包含65万神经元,5个卷积层,3个后面带有池化层,最后用了3个全连接。
Alex采用了一系列新技术,首次采用了GPU硬件加速,成功使用ReLU作为CNN的激活函数,并验证其效果在较深的网络超过了Sigmod,成功解决了Sigmod在网络较深时的梯度弥散问题。

(2)VGGNet

又牛津大学的视觉几何组和Goole DeeoMind公司的研究院一起研发的深度卷积神经网络,它主要的共享是展示出网络的深度是算法优良性能的关键部分,导目前为止,VGGNet依然经常被用来提取图像特征。

(3)循环神经网络

a、循环神经网络的基本结构

卷积神经网络层与层之间全连接或部分连接,但每层之间的节点没有连接,因而处理序列信息CNN并不擅长,由此出现了可以处理和预测序列信息的循环神经网络。
循环网络的展开在模型训练中有重要意义,假设序列长度为N,将RNN展开后可以视为一个有N个中间层的前馈神经网络,可以用反向传播算法进行训练。
在这里插入图片描述

b、循环神经网络的计算

RNN可以看做同意神经网络结构(输入层-隐藏层-输出层)在时间序列上被复制多次的结果,这个被复制多次的结构称为循环体。
在这里插入图片描述

(4)LSTM

循环神经网络处理序列的数据效果较好,但是当序列较长时,RNN可能会丧失学习到长距离信息的能力,比如用RNN构建模型预测下一个词,当预测the clouds are in the后面是什么词时,RNN可以预测到是SKY,但如果预测 I grew up in China — I speak,后面是什么词,RNN能预测到这里是一种语言的名字,但是什么语言RNN则不能有效的预测到。
理论上,RNN可以处理这样的问题,但在时间中,即使仔细挑选参数,RNN也不能有效处理这种长期依赖问题。除此之外、RNN还很容易出现梯度消失和梯度爆炸问题。由此,Hochreiter和Schmidhuber提出了长短时记忆网络,LSTM可以解决RNN中普遍存在的长期以来问题,能有效传递和表达长时间序列中的信息并且不会导致长时间前的有效信息被忽略。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1835389.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

DolphinScheduler日志乱码、worker日志太多磁盘报警、版本更新导致不兼容怎么办?

作者 | 刘宇星 本文作者总结了在使用Apache DolphinScheduler过程中遇见过的常见问题及其解决方案,包括日志出现乱码、worker日志太多磁盘报警、版本更新导致不兼容问题等,快来看看有没有困扰你想要的答案吧! DolphinScheduler集群环境有多…

背就有效!2024下《系统架构设计师》50个高频考点汇总

宝子们!上半年软考已经结束一段时间了,准备备考下半年软考高级-系统架构设计师的小伙伴可以开始准备了,毕竟高级科目的难度可是不低的,相信参加过上半年架构的小伙伴深有体会。 这里给大家整理了50个高频考点,涵盖全书…

月薪没到20K,必啃的WebGIS系统技术栈,你练到哪一步了?

WebGIS(网络地理信息系统)是目前地理信息系统(GIS)开发的主流,它利用互联网技术来发布、共享和交互地理空间数据。 一个完整的WebGIS项目通常涉及以下几个主要环节:具备一定的理论知识,数据生产…

数据压缩还能这么玩,国产数据库有救了!

页级压缩 opengauss数据库是以数据页面(Page)为单位进行压缩解压,本特性自openGauss 3.0.0版本开始引入,通过对数据页的透明页压缩和维护页面存储位置的方式,做到高压缩、高性能。提高数据库对磁盘的利用率。 页级压缩…

文心一言 VS 讯飞星火 VS chatgpt (284)-- 算法导论21.2 2题

二、对定理 21.1 的整体证明进行改造,得到使用链表表示和加权合并启发式策略下的 MAKE-SET 和 FIND-SET 的摊还时间上界为 O(1),以及 UNION 的摊还时间上界为 O(lgn)。如果要写代码,请用go语言。 文心一言: 在Go语言中实现使用链…

Golang——channel

channel是Go在语言层面提供的协程间的通信方式。通过channel我们可以实现多个协程之间的通信,并对协程进行并发控制。 使用注意: 管道没有缓冲区时,从管道中读取数据会阻塞,直到有协程向管道中写入数据。类似地,向管道…

Java快速开发:力推开源项目若依RuoYi

在Java开发开源框架中,首屈一指的应该若依,在行业里,不管小公司中公司还是大公司,都能够看到若依项目的身影。足以见得 若依框架的受众之大。 RuoYi-Cloud RuoYi-Cloud 是一个 Java EE 分布式微服务架构平台,基于经典…

轻兔推荐 —— who.cx

via:轻兔推荐 - https://app.lighttools.net/ 简介 who.cx是一个域名whois查询工具,界面简洁,可查询域名基本信息,注册续费价格,支持查看一级域名解析记录 - 对于已注册域名可以查看注册商注册时间、 过期时间等基础信…

大多数JAVA程序员都干不到35岁吗?

在开始前刚好我有一些资料,是我根据网友给的问题精心整理了一份「java的资料从专业入门到高级教程」, 点个关注在评论区回复“666”之后私信回复“666”,全部无偿共享给大家!!! 很遗憾是的,对…

idea2020版本下载及注册

一。准备idea2020和BetterIntelliJ插件和补丁key 二、开始安装。 idea就正常安装,然后打开,选择试用30天打开即可,然后File - settings - plugins 点击 Install Plugin from Disk 然后选择BetterIntelliJ这个,这个后期不可变名称…

漏洞挖掘 | 记一次某src拿下高危漏洞

一、获取web端管理员权限 0x01简单查看一下,发现存在登录以及证书查询操作指南等功能 因该站特征较为明显,所以对页面进行了强打码 0x02弱口令测试(无成果) 既然存在登录口,那么肯定要试试弱口令了,开干…

124M中国十大城市群规划范围数据

城市群是由若干个都市圈构成的广域城镇化形态,其内部应该包含若干个中心城市。 都市圈是指围绕某一个中心城市,即超大或特大城市的城镇化形态。 无论在体量还是在层级上,都市圈要低于城市群的概念。 现在,我们就来为你分享一下…

国内能用的ai聊天软件有哪些?这三款还不错

国内能用的ai聊天软件有哪些?在人工智能飞速发展的今天,AI聊天软件已经成为我们日常生活和工作中不可或缺的一部分。它们不仅可以帮助我们快速获取信息,还能提供有趣的对话体验。今天,就为大家推荐三款国内能用的AI聊天软件&#…

Consul 如何删除不需要的服务

一、找到需要删除的id 二、打开postman 使用put请求 http://ip:port/v1/agent/service/deregister/mc-admin-192-168-0-182-8084三、区域如果要验证输入验证

粒子群算法PSO优化BP神经网络预测MATLAB代码实现(PSO-BP预测)

本文以MATLAB自带的脂肪数据集为例,数据集为EXCEL格式,接下来介绍粒子群算法优化BP神经网络预测的MATLAB代码步骤,主要流程包括1. 读取数据 2.划分训练集和测试集 3.归一化 4.确定BP神经网络的隐含层最优节点数量 5. 使用粒子群算法优化BP的神…

vue3实现div盒子的内容hover上去时样式改变及部分元素的显隐

样式&#xff1a; hover后的样式&#xff1a; 整体盒子的背景颜色发生了改变&#xff0c;盒子内边距发生了改变&#xff0c;右下侧的箭头出现 实现方式&#xff1a; 利用mouseover和mouseout并结合css样式实现 template中&#xff1a; <divclass"new-item"v-f…

uniapp滚动加载

uniapp实现滚动加载&#xff0c;先获取10条数据&#xff0c;滚动到底时&#xff0c;再获取10条数据&#xff0c;以此类推&#xff0c;直至没有数据为止。 使用scroll-view&#xff0c;注意一定要给一个固定高度&#xff0c;隐藏滚动条会更美观 2. 在data中定义 3. 获取数据 …

【回溯算法题记录】39. 组合总和

题目&#x1f517; 题目描述 给你一个 无重复元素 的整数数组 candidates 和一个目标整数 target &#xff0c;找出 candidates 中可以使数字和为目标数 target 的 所有 不同组合 &#xff0c;并以列表形式返回。你可以按 任意顺序 返回这些组合。 candidates 中的 同一个 数…

2. kafka消息队列

kafka消息队列 一、kafka消息队列二、消息服务的术语三、kafka消息确认机制 ACK四、kafka安装部署1、环境规划2、使用事先部署好的zookeeper管理kafka的高可用3、安装jdk4、安装kafka5、配置kafka6、启动kafka7、测试生产者、消费者模型7.1 创建主题7.2 测试生产者产生数据7.3 …

Contact-Rich Robot ManipulationTask:grinding and Peg-in-Hole Assembly

Contact-Rich Robot Manipulation Task涵盖了多种需要机器人与环境或物体进行密切接触的复杂操作。 1. Grinding&#xff08;研磨&#xff09; 任务描述&#xff1a;研磨是制造业中常见的加工过程&#xff0c;涉及使用研磨工具去除材料表面的一层或多层&#xff0c;以达到预定…