常见范数介绍

news2025/1/21 0:55:46

一、在线性代数中,符号 ( ||x|| ) 表示向量 ( x ) 的范数(Norm)。范数是一个将向量映射到非负值的函数,它衡量了向量的大小或长度。范数可以是多种类型,其中最常见的有:

  1. 欧几里得范数(L2范数): 对于一个实数或复数向量 ( x = (x_1, x_2, \ldots, x_n)),它的欧几里得范数定义为:||x||_2 = \sqrt{x_1^2 + x_2^2 + \ldots + x_n^2} 在二维空间中,欧几里得范数就是向量的长度,即从原点到向量所在点的距离。

  2. L1范数: ( L1 ) 范数是向量元素绝对值之和,即: ||x||_1 = |x_1| + |x_2| + \ldots + |x_n|它衡量了向量元素绝对值之和。

  3. 无穷范数(Infinity范数)( \infty ) 范数是向量元素绝对值中的最大值,即: ||x||_{\infty} = \max(|x_1|, |x_2|, \ldots, |x_n|) 它衡量了向量中最大的绝对值元素。

除了这些常见的范数之外,还有其他类型的范数,如 ( L_p ) 范数(( p ) 范数),其中 ( p \geq 1 )。范数的选择取决于具体的问题和应用场景。

因此,当看到符号 ( ||x|| ) 时,需要根据上下文来确定是哪种范数。通常情况下,若无特别说明,默认是指欧几里得范数(L2范数)。

对L2范数的求导:

假设有一个实数向量 ( \mathbf{x} = (x_1, x_2, \ldots, x_n) ),它的L2范数(欧几里得范数)定义为:

 ||\mathbf{x}||_2 = \sqrt{x_1^2 + x_2^2 + \ldots + x_n^2} 

如果要对 ( ||\mathbf{x}||_2) 求导数,我们首先定义一个辅助函数:

f(\mathbf{x}) = \sqrt{x_1^2 + x_2^2 + \ldots + x_n^2} 

然后,我们对( f(\mathbf{x}) ) 中的每个分量 ( x_i ) 分别求偏导数。注意到( f(\mathbf{x}) )是一个复合函数,因此我们需要使用链式法则。

对于第 ( i ) 个分量 (x_i),链式法则给出:

 \frac{\partial f}{\partial x_i} = \frac{1}{2\sqrt{x_1^2 + x_2^2 + \ldots + x_n^2}} \cdot 2x_i = \frac{x_i}{\sqrt{x_1^2 + x_2^2 + \ldots + x_n^2}}

用更紧凑的矩阵形式表示:

 \nabla f(\mathbf{x}) = \frac{1}{||\mathbf{x}||_2} \cdot \mathbf{x} 

这是L2范数关于向量 (\mathbf{x}) 的梯度。

对L2范数的的平方的求导:

||\mathbf{x}||_2^2 = (\sqrt{x_1^2 + x_2^2 + \ldots + x_n^2})^2 = x_1^2 + x_2^2 + \ldots + x_n^2 

现在,我们可以对每个分量 (x_i) 求导数。因为每个 (x_i) 项与其他项无关,所以对每个 ( x_i) 求导相当于对 (x_i^2 ) 求导,即:

\frac{\partial ||\mathbf{x}||_2^2}{\partial x_i} = \frac{\partial (x_1^2 + x_2^2 + \ldots + x_n^2)}{\partial x_i} = 2x_i 

所以,整体的梯度向量是:

\nabla ||\mathbf{x}||_2^2 = \left(2x_1, 2x_2, \ldots, 2x_n\right) 

或者用更紧凑的矩阵形式表示:

\nabla ||\mathbf{x}||_2^2 = 2\mathbf{x} 

这是L2范数的平方关于向量 ( \mathbf{x} ) 的梯度。

对应点已知时最优变换求解介绍以及SVD代码示例-CSDN博客

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1447015.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

8868体育助力西甲皇家马德里足球俱乐部 皇马占据争冠优势

西甲的皇家马德里足球俱乐部是8868体育合作的俱乐部之一,这支拥有悠久历史和辉煌成就的豪门球队,本赛季再次展现了它的强大实力。18胜4平1负,暂居榜首,这样的成绩足以让任何对手望而却步。然而,足球场上的对决永远充满…

《Linux 简易速速上手小册》第7章: 网络配置与管理(2024 最新版)

文章目录 7.1 Linux 网络基础7.1.1 重点基础知识7.1.2 重点案例:配置静态 IP 地址7.1.3 拓展案例 1:使用 nmcli 配置网络(适用于 Fedora/CentOS)7.1.4 拓展案例 2:配置无线网络连接 7.2 静态与动态 IP 配置7.2.1 重点基…

使用Docker快速部署MySQL

部署MySQL 使用Docker安装,仅仅需要一步即可,在命令行输入下面的命令 docker run -d \--name mysql \-p 3306:3306 \-e TZAsia/Shanghai \-e MYSQL_ROOT_PASSWORD123456 \mysql MySQL安装完毕!通过任意客户端工具即可连接到MySQL. 当我们执…

【JVM篇】什么是双亲委派机制

文章目录 🍔什么是双亲委派机制⭐案例 🌹双亲委派机制有什么用 🍔什么是双亲委派机制 指的是:当一个类加载器接收到加载类的任务的时候,会向上查找是否加载过,再从上到下进行加载 (因为要上下查…

Java实现软件学院思政案例库系统 JAVA+Vue+SpringBoot+MySQL

目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能模块2.1 系统管理员2.2 普通教师 三、系统展示四、核心代码4.1 查询思政案例4.2 审核思政案例4.3 查询思政课程4.4 思政案例点赞4.5 新增思政案例评语 五、免责说明 一、摘要 1.1 项目介绍 基于JAVAVueSpringBootMySQL的软件学…

Excel一键导入导出-EasyPOI

EasyPOI是一款优秀的开源Java库,专为简化和优化Excel文件的导入导出操作而设计。下面,我会介绍EasyPOI在项目中使用EasyPOI,实现Excel文件的高效操作。帮助读者全面了解和掌握这一工具。 EasyPOI简介 官网: http://www.wupaas.co…

python 基础知识点(蓝桥杯python科目个人复习计划39)

今日复习内容:排序 昨天晚上快睡的时候,脑子里就突然想到了排序,所以就打算再复习一遍相关知识点。 我先说一下冒泡排序,冒泡排序其实很好理解,比如有n个人排队(从矮到高),先从这n…

Codeforces Round 923 (Div. 3) C. Choose the Different Ones(Java)

比赛链接:Round 923 (Div. 3) C题传送门:C. Choose the Different Ones! 题目: ** Example** ** input** 6 6 5 6 2 3 8 5 6 5 1 3 4 10 5 6 5 6 2 3 4 5 6 5 1 3 8 10 3 3 3 4 1 3 5 2 4 6 2 5 4 1 4 7 3 4 4 2 1 4 2 2 6 4 4 2 1 5 2 3 …

强大的头像制作神器微信小程序源码/支持外卖CPS等优惠劵小程序源码

强大的头像制作神器微信小程序源码,支持外卖CPS等优惠劵小程序源码;这是一款目前见到比较丰富的头像制作小程序,拥有丰富的模板,多种分类基本大全。 支持直接获取微信头像,或者直接上传图片;另外上传的话还…

代码控制邮件服务器发送电子邮件

1、引言 在用户注册的时候我们如果需要让用户接收动态验证码通常有两种方式。一种是给用户发送短信验证码,另一种是发送邮箱验证码。而发送短信验证码的话就必须购买短信流量,这无疑增加了投入的成本,那么此时我们可以使用发送邮箱验证码的形…

Vision Transformer Pytorch 实现代码学习记录

目前运营的社交平台账号: CSDN 【雪天鱼】: 雪天鱼-CSDN博客哔哩哔哩 【雪天鱼】: 雪天鱼个人主页-bilibili.com 可能后续有更新,也可能没有更新,谨慎参考 V1.0 24-02-13 ViT 代码的基本训练, 预测推理脚本运行 1 学习目标 能用官方的 ViT…

渗透测试练习题解析 3(CTF web)

1、[网鼎杯 2020 朱雀组]phpweb 1 考点:反序列化漏洞利用 进入靶场,查看检查信息,发现存在两个参数 func 和 p 查看页面源代码 payload:funcfile_get_contents&pphp://filter/resourceindex.php 整理后,就是 PHP 代…

操作系统——1.3 操作系统运行环境

1.3 操作系统运行环境 一、概念 操作系统运行机制总览 应用程序与内核程序 特权指令与非特权指令 内核态与用户态 CPU在内核态与用户态的切换 操作系统运行机制的总结 中断和异常总览 中断的作用 中断的类型 内中断的例子 外中断的例子 中断的分类&am…

腾讯云4核8G服务器多少钱?轻量和CVM报价2024新版

腾讯云4核8G服务器S5和轻量应用服务器优惠价格表,轻量应用服务器和CVM云服务器均有活动,云服务器CVM标准型S5实例4核8G配置价格15个月1437.3元,5年6490.44元,标准型SA2服务器1444.8元一年,轻量应用服务器4核8G12M带宽一…

漫漫数学之旅018

文章目录 经典格言数学习题古今评注名人小传 - 库尔特哥德尔 经典格言 一个毫无自由的社会——一个人凡事都要遵循严格统一的规则——将在行为上既不一致也不完全,甚至不能解决某些也许很重要的问题。——库尔特哥德尔(Kurt Gdel) 库尔特哥德…

机器学习:卷积介绍及代码实现卷积操作

传统卷积运算是将卷积核以滑动窗口的方式在输入图上滑动,当前窗口内对应元素相乘然后求和得到结果,一个窗口一个结果。相乘然后求和恰好也是向量内积的计算方式,所以可以将每个窗口内的元素拉成向量,通过向量内积进行运算&#xf…

C++ 音视频原理

本篇文章我们来描述一下音视频原理 音视频录制原理: 下面是对这张思维导图的介绍 摄像头部分: 麦克风采集声音 摄像头采集画面 摄像头采集回来的数据可以用RGB也可以用YUV来表示 图像帧帧率 一秒能处理多少张图像 图像处理 :调亮度 图像帧队列 :意思是将数据取…

算法刷题:盛水最多的容器

盛水最多的容器 .习题链接题目题目解析算法原理我的答案 . 习题链接 盛水最多的容器 题目 题目解析 VH*W h为左右两边低的一边,w为左右两边之间的距离 算法原理 定义两个指针 left0,rightn-1; left从左往右对数组进行遍历,right从右往左进行遍历 遍历的过程中,每一次都需要…

10块钱的AI数字人!

🔥10元的小报童写‬出了500元的‬价值! 所以就爆了🔥! 不到两天‬就冲到‬了近3000人! 太恐怖了,大佬的微‬信都被加‬爆了, 10块钱还配套‬了一个‬群 就是这‬么牛逼! 可能‬…

有状态DHCPv6快速模式配置及EUI-64介绍

正文共:1024 字 15 图,预估阅读时间:3 分钟 我们现在已经熟悉了IPv6的地址架构(IPv6地址架构一本通),掌握了IPv6地址的手工配置方式(IPv6从入门到精通)和DHCPv6有状态地址配置&#…