【机器学习300问】20、什么是神经网络?和深度学习什么关系?

news2024/11/17 17:52:16

        在学习深度学习的相关知识之前,我们首先得了解什么是神经网络,解开神经网络的神秘面纱后,什么是深度学习的问题也就迎刃而解。我依旧会采用我习惯的方式:先给出例子直观理解,在给出定义深入理解,最后在实际应用中强化理解。

一、什么是神经网络?

(1)感知机就是单个神经元

        看到神经网络自然会想到,这是一个仿生学的概念(模拟动物大脑中的神经网络),既然是一张网必然是无数个点线组成,那么首先了解神经网络最基本的单位(感知机)肯定没错。

两个输入的感知机
两个输入的感知机

        

        图中是一个接收两个输入信号的感知机的例子。x1x2是输入信号, y是输出信号,w1w2权重(wweight的首字母)。图中的○圆圈称为“神经元”或者“节点”。输入信号被送往神经元时,会被分别乘以固定的权重(w_{1}x_{1},w_{2}x_{2})神经元会计算传送过来的信号的总和,只有当这个总和超过了某个界限值时,才会输出1。这也称为“神经元被激活”。这里将这个界限值称为阈值,用符号θ表示。

        写成数学公式的形式如下:

        权重越大说明这个信号越重要。

(2)多层感知机便构成了网络即神经网络

        叠加了多层的感知机,被成为多层感知机,这里面首先就得先弄懂什么是“层”layer

2层神经网络

        上图中的感知机总共由 3层构成,但是因为拥有权重的层实质上只有2层(第0层和第1层之间,第1层和第2层之间),所以称为“2层神经网络”。更简单的记忆方式就是不计算第0层。

  • 0层的两个神经元接收输入信号,并将信号发送至第1层的神经元
  • 1层的神经元将信号发送至第2层的神经元,第2层的神经元输出y

        单层感知机(也称作单层神经网络)本质上是一个线性分类器。它的决策边界是由输入特征的线性组合所确定的,这意味着它只能划分线性可分的数据集。对于非线性可分的数据集,单层感知机无法找到一个适当的决策边界来进行有效的分类。

        多层感知机(也称作神经网络)则能够表示非线性空间。这是因为多层感知机由多层神经元组成,每一层的输出可以作为下一层的输入。在网络中引入非线性激活函数(如sigmoid)之后,即使每一层单独看都是线性的,但多层的非线性变换叠加在一起就可以学习到极其复杂的非线性决策边界,从而解决非线性可分的问题。

(3)神经网络的定义

        神经网络或者叫人工神经网络,它是一种模仿生物神经系统结构和功能的计算模型,由大量的人工神经元及其相互连接构成,用于解决各种机器学习和模式识别问题。在神经网络中,每个神经元都有输入端接收信号,通过加权和及非线性变换(激活函数)处理这些信号,并在其输出端产生响应。神经元之间通过权重连接,形成了多层的网络结构,允许网络进行复杂的模式识别、分类、回归和其他类型的预测任务。

        看完神经网络的定义后,有必要对其中的一些词汇做出解释。

① 神经网络分哪些层?

神经网络的分层
名词解释
输入层接收外部特征的输入
中间层(又叫隐藏层)至少有一个或多个中间层,负责对输入数据进行学习
输出层生成最终的预测结果

        我在这里只介绍最基本的三个层,其他的像是池化层卷积层后面的文章再展开说。

 ② 神经网络到底在学习什么?

参数:权重w和偏置b

        在机器学习中,特征的提取是需要人的参与,倘若特征特别多或者难以人工提取呢?神经网络的出现就是为了解决这个问题。因此神经网络的一个重要性质是它可以自动地从数据中学习到合适的权重参数

③ 一些符号的说明

 

       

符号解释
x_{1}表示第1个输入 
w_{12}^{(1)}上标表示第1层网络的权重,下标表示它来自前一层的第1个节点,输出到后一层的第二个节点
a_{1}^{(1)}表示第一层的第一个节点
b_{1}^{(1)}第1层网络中第1个节点的偏置

二、神经网络和深度学习什么关系?

        深度学习则是神经网络的扩展和深化。传统的神经网络只有两到三层,而深度学习则使用了更深层次的网络结构(通常是十几层或者更多),这也是"深度"一词的由来。深度学习通过这种更深层次的神经网络,可以从原始输入数据中学习到更加复杂和高级的特征,具有更强大的学习和处理能力。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1419667.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

HarmonyOS NEXT 星河版项目案例

参考代码:HeimaHealthy: 鸿蒙项目案例练习 (gitee.com) 1.欢迎页面 Entry Component struct WelcomePage {State message: string Hello Worldbuild() {Column({space: 10}) {Row() {// 1.中央slogonImage($r(app.media.home_slogan)).width(260)}.layoutWeight(…

二叉搜索树的后序遍历序列

作者简介:大家好,我是smart哥,前中兴通讯、美团架构师,现某互联网公司CTO 联系qq:184480602,加我进群,大家一起学习,一起进步,一起对抗互联网寒冬 学习必须往深处挖&…

16.Golang结构体标签与json互转

目录 概述实践结束 概述 本文主要介绍 Golang 中结构体与json互相转化 实践 完整的代码如下: package mainimport ("encoding/json""fmt" )type Movice struct {Title string json:"title"Year int json:"year&qu…

【论文阅读|半监督小苹果检测方法S3AD】

论文题目 : : Semi-supervised Small Apple Detection in Orchard Environments 项目链接:https://www.inf.uni-hamburg.de/en/inst/ab/cv/people/wilms/mad.html 摘要(Abstract) 农作物检测是自动估产或水果采摘等精准农业应用不…

搭建 prometheus + grafana + springboot3 监控

下载安装包 下载prometheus:https://github.com/prometheus/prometheus/releases/download/v2.42.0/prometheus-2.42.0.windows-amd64.zip 下载grafana: https://dl.grafana.com/enterprise/release/grafana-enterprise-9.4.1.windows-amd64.zip Spr…

优化器刺客之limit 1--Order by col limit n 代价预估优化探索

一、现象 order by 排序加了limit后更慢了? test# explain analyze select userid from dba_users where username like %aaaaaaaaaaaaaaaaaa% order by userid ;QUERY PLAN --------------…

Android Gradle Sync Task list is empty

问题 有时候 Android studio 打开项目,可能会遇到构建没有明显报错,但是 Gradle 却没有 Task list,或者 Task list 不完整只有零星几个配置项。连打包任务都没有,我怎么打包! 异常情况: 正常情况&#xf…

【Python机器学习系列】建立XGBoost模型预测心脏疾病(完整实现过程)

一、引言 前文回顾: 一文彻底搞懂机器学习中的归一化与反归一化问题 【Python机器学习系列】一文彻底搞懂机器学习中表格数据的输入形式(理论源码) 【Python机器学习系列】一文带你了解机器学习中的Pipeline管道机制(理论源码…

启发式搜索(A*、IDDFS、IDA*)

我们在解决图问题的时候,通常需要使用DFS和BFS搜索,可是这两种搜索方式的效率较低,我们会遍历到很多空白节点,有没有办法可以优化这种低效问题呢?今天要推出我们的主角:启发式搜索。 一、A* 什么是A*算法…

关于如何将Win幻兽帕鲁服务端存档转化为单人本地存档的一种方法(无损转移)

本文转自博主的个人博客:https://blog.zhumengmeng.work,欢迎大家前往查看。 原文链接:点我访问 **起因:**最近大火的开放世界缝合体游戏幻兽帕鲁的大火也是引起了博主的注意,然后博主和周边小伙伴纷纷入手,博主也是利…

npm 和 yarn 的使用

安装 yarn npm i yarn -g查看版本 npm -v yarn --version切换 npm/yarn 的下包镜像源 // 查看当前的镜像源 npm config get registry// 切换淘宝镜像源 // 新的淘宝源,旧的淘宝源已于2022年05月31日零时起停止服务 npm config set registry https://registry.…

【英语趣味游戏】填字谜(Crossword)第2天

谜题出处 柯林斯字谜大全(6),Collins——Big Book of Crosswords (Book 6) Puzzle Number: 115 本期单词 横向 1、Fetch (8) 拿,取,8个字母 答案:Retrieve,取到,拿回 5、Common s…

【JaveWeb教程】(34)SpringBootWeb案例之《智能学习辅助系统》的详细实现步骤与代码示例(7)配置文件的设置

目录 SpringBootWeb案例054. 配置文件4.1 参数配置化4.2 yml配置文件4.3 ConfigurationProperties SpringBootWeb案例05 前面我们已经实现了员工信息的条件分页查询以及删除操作,以及实现新增和修改员工。 本节的主要内容: 配置文件的设置 4. 配置文件…

<网络安全>《10 高级威胁检测系统ATD》

1 APT 高级长期威胁(英语:Advanced Persistent Threat,缩写:APT),又称高级持续性威胁、先进持续性威胁等,是指隐匿而持久的电脑入侵过程,通常由某些人员精心策划,针对特…

FairGuard游戏加固入选《CCSIP 2023中国网络安全行业全景册(第六版)》

2024年1月24日, FreeBuf咨询正式发布《CCSIP 2023中国网络安全行业全景册(第六版)》。本次发布的全景图,共计展示20个一级分类、108个细分安全领域,旨在为广大企业提供网络安全产品选型参考,帮助企业了解中国网络安全技术与市场的…

selenium总结-css 定位高级语法

文章目录 推荐的定位方式的优先级定位元素的注意事项(划重点)CSS选择器组成id 选择器class 选择器标签选择器分组选择器属性选择器组合选择符伪类最佳实践 推荐的定位方式的优先级 优先级最高:ID优先级其次:name优先级再次&#…

C++3.0

#include <iostream>using namespace std;class Per//封装一个Per类 { private://表示私有属性string name;//姓名int age;//年龄int *height;//身高double *weight;//体重 public://无参构造函数Per(){cout << "Per::无参构造函数" << endl;}//有…

IndexedDB查询

Indexeddb 创建、增删改查_indexdb 删除表-CSDN博客本地数据库IndexedDB - 学员管理系统之条件筛选&#xff08;四&#xff09;_indexdb条件查询-CSDN博客 <div align"center"><input type"text" id"input_search"> <button id&q…

Vue深入学习3—数据响应式原理

1、数据响应式原理 1.1、MVVM是什么&#xff1f; 简单来说&#xff0c;就是数据变了&#xff0c;视图也会跟着变&#xff0c;首先你得定义一个带有{{ }}的模板Model&#xff0c;当数据中的值变化了&#xff0c;视图View就会跟着变化&#xff1b;视图模型View-model是模板Model和…

从零开始:Linux systemd Unit文件编写全攻略

从零开始&#xff1a;Linux systemd Unit文件编写全攻略 引言基础知识Systemd简介Unit文件的概念Unit文件的类型 Unit文件结构详解基本结构必要的配置项不同类型Unit文件的特殊配置 编写Unit文件的步骤准备工作和环境设置实际编写步骤 实战案例案例背景步骤一&#xff1a;编写服…