LeNet5模型与全连接模型的差异

news2025/2/24 21:30:27

1 问题

深度学习训练过程中,有很多的训练模型,我们组就在思考LeNet模型与之前运用的全连接模型在训练精度损失与验证精度损失上有什么差别?

2 方法

这是LeNet模型的主要代码,对数据进行两成卷积与两次池化之后再建立三成全连接即可。

class MyNet(nn.Module):
   def __init__(self):
       super().__init__()
       self.conv1 = nn.Conv2d(
           in_channels=1,
           out_channels=6,
           kernel_size=5,
           stride=1,
           padding=0
       )
       self.avg_pool_1 = nn.AvgPool2d(2)
       self.conv2 = nn.Conv2d(
           in_channels=6,
           out_channels=16,
           kernel_size=5,
           stride=1,
           padding=0
       )
       self.avg_pool_2 = nn.AvgPool2d(2)
       self.fc1 = nn.Linear(
           in_features=256,  
           out_features=120
       )
       self.fc2 = nn.Linear(
           in_features=120,
           out_features=84
       )
       self.fc3 = nn.Linear(
           in_features=84,
           out_features=10
       )
   def forward(self, x):
       x = self.conv1(x)
       x = self.avg_pool_1(x)
       x = self.conv2(x)
       x = self.avg_pool_2(x)
       x = torch.flatten(x, 1)  # ! [B,C,H,W]
       x = self.fc1(x)
       x = self.fc2(x)
       out = self.fc3(x)
       return out
LeNet模型结果如下:
83cc148c4b3b3067c3a111e73cab54d8.png
全连接模型结果如下:
0ba1259ed43d532a6281cba2d9cd4936.png

3 结语

 对于LeNet模型与全连接模型结果比较分析,我训练了50个周期来相比较,可发现LeNet模型相比于全连接模型训练精度与验证精度上升地更快,且验证损失的下降也更快,说明LeNet模型有着更高的训练效率,能够运用更少的周期达到更高的精度与更少的损失。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/162299.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Oracle数据库的监控指标

一、Oracle 监控指标 Oracle数据库常见性能指标主要有:当前登录数、非阻塞锁数、当前死锁数、阻塞锁数、当前锁数、会话数等内容,如下图所示。 注意:以下是 Oracle 监控所需要的指标,具体根据需要监控哪些、超阈值而定。 1.1 新建主机群组 1.2 新建模板 1.3 创建主机 …

Qt 6.4.2在Windows上安装过程及简单验证

Qt是一个跨平台的C开发库,用来开发图形用户界面(Graphical User Interface, GUI)。它支持Windows、Linux、macOS、Android、iOS、QNX等平台,一个框架、一套代码库、任意平台部署。Qt有开源和商业两种许可。 Qt从5.15开始官方不再直接提供开源的exe…

H5——连连看小游戏实现思路及源码

部门要求推广新产品用连连看小游戏的方式, 设计那边UI还没有排期,先撸个功能demo,正好记录一下; 连连看都玩过,程序的关键在于判断连续点击的两张图片是否能够消除,两个图片消除的条件有两个: …

【3 - 特征工程】菜菜sklearn机器学习

课程地址:《菜菜的机器学习sklearn课堂》_哔哩哔哩_bilibili 第一期:sklearn入门 & 决策树在sklearn中的实现第二期:随机森林在sklearn中的实现第三期:sklearn中的数据预处理和特征工程第四期:sklearn中的降维算法…

Blog Navigation

Blog Navigation Linux Kernel 0x01_LinuxKernel_内核的启动(一)之启动前准备[2022-7-5]0x02_LinuxKernel_内核的启动(二)SMP多核处理器启动过程分析 [TODO]0x21_LinuxKernel_内核活动(一)之系统调用 [20…

【OpenGL学习】OpenGL窗口创建

OpenGL窗口创建 本节介绍如何在利用配置好的GLFW和GLAD进行一个简单窗口的绘制,首先明白在OpenGL中进行图形绘制到窗口的整个流程: 初始化GLFW创建窗口window创建OpenGL上下文初始化Glad渲染循环结束绘制 初始化GLFW 然后我们从上面的流程逐步进行窗…

知微传感3D相机SDK开发文档一查找相机

知微传感3D相机SDK开发文档一查找相机 主要对知微传感3D相机的SDK文件做一个介绍,大家一个界面显示程序包含图像的获得,相机的查找和链接 查找相机,通过UDP广播形式查找局域网相机链接相机,通过IP地址链接局域网内的相机获取图片&…

如何提升计算机的运行速度-正确清理C盘的方法

本文是向大家介绍清理C盘的方法,它能够实现给系统盘瘦身,能够带来提升计算机运行速度价值。提升计算机的运行速度-清理C盘的方法1 利用Windows附带的磁盘清理工具鼠标右击【C盘】选择【属性】选择【磁盘清理】勾选需要清理的文件,点击【确定】…

2023 hgame --- week1 wp

文章目录Miscsign ine99p1ant_want_girlfriend神秘的海报Where am IWebClassic Childhood GameBecome A MemberGuess Who I AmShow Me Your BeautyCryptoRSABe Stream神秘的电话兔兔的车票Retest_your_IDAeasyasmencodeeasyenca_cup_of_teaPwntest_nciotHelp the uncle who can…

【阶段三】Python机器学习29篇:机器学习项目实战:DBSCAN算法的基本原理与DBCSAN新闻聚类分群模型

本篇的思维导图: DBSCAN模型 DBSCAN(全称为Density-Based Spatial Clustering of Applications with Noise)是一种以密度为基础的空间聚类算法,可以用密度的概念剔除不属于任一类别的噪声点。该算法将簇定义为密度相连的点的最大集合,将具有足够密度的区域划分为…

rabbitmq命令大全

大家好,我是早九晚十二,目前是做运维相关的工作。写博客是为了积累,希望大家一起进步! 我的主页:早九晚十二 文章目录服务管理启动服务后台启动查看状态用户管理新增账号删除用户所有用户:修改密码:清除密码角色管理设…

MinIO安装总结

概述 初学者安装MinIO还是会遇到很多坑的,这里做个总结,希望能够大家可以快速的搭建MinIO环境,可以更好的快速入门。 linux下手动安装(不推荐) cd /opt/testMinIO wget https://dl.min.io/server/minio/release/linux-amd64/minio chmod x…

spark Shuffle

Spark Shuffle的演进及SortShuffle的基本思想 1. 演进 HashShuffle -> HashShuffle 的Consolidate机制 -> SortBasedShuffle -> Tungsten-sort Based Shuffle 2. 各种 Shuffle的介绍 2.1 HashShuffle Spark 之所以一开始就提供基于 Hash 的 Shuffle 实现机制&…

高级驾驶辅助系统(ADAS)——自适应巡航控制系统

一、定速巡航——L1级别 定速巡航系统(CCS:Cruise Control):驾驶员设定目标车速(手动加速或减速),不能根据实际路况对车辆的行驶状态进行调节或者给予必要的预警提示,缺乏对环境的应…

【信管8.2】建设与管理项目团队

建设与管理项目团队在经过制定人力资源管理计划之后,我们就有了人力资源计划文档,然后通过组建团队也让团队有了正式的成员,接下来要干什么呢?当然就是在项目的开发过程中不断地建设团队和管理团队了。这两个部分的内容也是我们项…

斜方向三消查找算法的原理和实现

本文首发于微信公众号: 小蚂蚁教你做游戏。欢迎关注领取更多学习做游戏的原创教程资料,每天学点儿游戏开发知识。嗨!大家好,我是小蚂蚁。上篇文章中我们讲了三消查找算法的原理和实现,在宝石方块中,除了水平…

雅思经验(2)

写作技巧:雅思写作忌讳的就是一边倒,辩论的精华在于驳斥,能够找出对方的漏洞,证明对方的观点和论据是没有道理的,这个点很重要。考官评价:“it does not address all parts of the question,so it loses ma…

【JVM系列】字符串常量池

字符串常量池 概念 字符串常量池是一个大小固定的HashTable,默认长度是1009。java6存放在永久代,java7和java8存放到java堆中。 常见面试题 用双引号定义的字符串是直接存储到常量池,用new String创建的是存放在堆中。 String s1 "1…

BI技巧丨计算Topn品名

BOSS:白茶,问你个事,能不能动态的根据我们的销量,告诉我销量前三的商品有哪些?这样便于我针对商品进行调控。 白茶:Topn问题? BOSS:什么套不套的,我不懂,你就…

深入理解数据结构 —— 并查集

什么是并查集 并查集是一种数据结构,主要能够高效地实现以下两个功能 给出图中任意两点a,b: union(a,b) :将a,b所在的集合合并起来isConnected(a,b) :问这a,b两点能否通过任意路径连接起来 …