线性代数|机器学习-P32循环矩阵的特征向量-傅里叶矩阵

news2024/9/22 3:50:34

文章目录

  • 1. 大纲
  • 2. 循环矩阵
    • 2.1 移位矩阵P
    • 2.2 P的特征值和特征向量
    • 2.3 循环卷积矩阵
    • 2.4 循环卷积计算
  • 3. 傅里叶矩阵

1. 大纲

  • 循环矩阵在机器学习,图像处理中的应用
  • 循环卷积矩阵的特征值,特征向量,卷积规则
  • 循环卷积矩阵多项式表达: C = c 0 I + c 1 P + c 2 P 2 + ⋯ + c n − 1 P n − 1 C=c_0 I+c_1P+c_2P^2+\cdots+c_{n-1}P^{n-1} C=c0I+c1P+c2P2++cn1Pn1
  • 离散傅里叶DFT介绍

2. 循环矩阵

2.1 移位矩阵P

我们定义一个移位矩阵P 表示如下:
P = [ 0 1 0 0 0 0 1 0 0 0 0 1 1 0 0 0 ] ; P x = [ 0 1 0 0 0 0 1 0 0 0 0 1 1 0 0 0 ] [ x 1 x 2 x 3 x 4 ] = [ x 2 x 3 x 4 x 1 ] ; \begin{equation} P=\begin{bmatrix} 0&1&0&0\\\\ 0&0&1&0\\\\ 0&0&0&1\\\\ 1&0&0&0 \end{bmatrix};Px=\begin{bmatrix} 0&1&0&0\\\\ 0&0&1&0\\\\ 0&0&0&1\\\\ 1&0&0&0 \end{bmatrix}\begin{bmatrix} x_1\\\\ x_2\\\\ x_3\\\\ x_4 \end{bmatrix}=\begin{bmatrix} x_2\\\\ x_3\\\\ x_4\\\\ x_1\end{bmatrix}; \end{equation} P= 0001100001000010 ;Px= 0001100001000010 x1x2x3x4 = x2x3x4x1 ;

  • 那么我们可以将一个循环卷积矩阵C 分解为移位矩阵P的多项式之和:
    在这里插入图片描述

2.2 P的特征值和特征向量

我们根据P来定义其特征值和特征向量可得:
P x = λ x → x 2 = λ x 1 ; x 3 = λ x 2 ; x 4 = λ x 3 ; x 1 = λ x 4 ; \begin{equation} Px=\lambda x\to x_2=\lambda x_1; x_3=\lambda x_2; x_4=\lambda x_3; x_1=\lambda x_4; \end{equation} Px=λxx2=λx1;x3=λx2;x4=λx3;x1=λx4;

  • 整理可得:
    x 1 = λ 4 x 1 → ( 1 − λ 4 ) x 1 = 0 → λ 0 = 1 , λ 1 = i , λ 2 = − 1 , λ 3 = − i \begin{equation} x_1=\lambda ^4x_1\to (1-\lambda^4)x_1=0\to \lambda_0=1,\lambda_1=i,\lambda_2=-1,\lambda_3=-i \end{equation} x1=λ4x1(1λ4)x1=0λ0=1,λ1=i,λ2=1,λ3=i
  • 也就是说P的根为 Z N = 1 Z^N=1 ZN=1的根,这里是N=4,所以有4个根;
    在这里插入图片描述

2.3 循环卷积矩阵

我们有一个循环卷积矩阵C,n行n列,因为矩阵C的特殊性,其斜线上的元素相等,所以可得:
C = [ c 0 c 1 c 2 ⋯ c n − 1 c n − 1 c 0 c 1 ⋯ c n − 2 ⋮ ⋱ ⋱ ⋱ ⋮ c 1 c 2 c 3 ⋯ c 0 ] ; \begin{equation} C=\begin{bmatrix} c_0&c_1&c_2&\cdots&c_{n-1}\\\\ c_{n-1}&c_0&c_1&\cdots&c_{n-2}\\\\ \vdots&\ddots&\ddots&\ddots&\vdots\\\\ c_{1}&c_2&c_3&\cdots&c_{0} \end{bmatrix}; \end{equation} C= c0cn1c1c1c0c2c2c1c3cn1cn2c0 ;

  • 那么可以将上述循环矩阵C用移位矩阵P进行展开可得如下:
    C = c 0 I + c 1 P + c 2 P 2 + ⋯ + c n − 1 P n − 1 \begin{equation}C=c_0 I+c_1P+c_2P^2+\cdots+c_{n-1}P^{n-1}\end{equation} C=c0I+c1P+c2P2++cn1Pn1

2.4 循环卷积计算

假设我们有一个序列 x 1 ( n ) = { 1 , 2 , 3 } , x 2 ( n ) = { 5 , 0 , 4 } x_1(n)=\{1,2,3\},x_2(n)=\{5,0,4\} x1(n)={1,2,3},x2(n)={5,0,4},需要对其进行循环卷积计算,根据数字信号分析中可得:
x 1 ( n ) L ◯ x 2 ( n ) = [ ∑ m = 0 L − 1 x 1 ( m ) x 2 ( ( n − m ) ) L ] R L ( n ) \begin{equation} x_1(n)\textcircled{L} x_2(n)=[\sum_{m=0}^{L-1}x_1(m)x_2((n-m))_L]R_L(n) \end{equation} x1(n)Lx2(n)=[m=0L1x1(m)x2((nm))L]RL(n)

  • 转换成循环卷积如下:
    [ 5 4 0 0 5 4 4 0 5 ] [ 1 2 3 ] = [ 13 22 19 ] ; \begin{equation} \begin{bmatrix} 5&4&0\\\\ 0&5&4\\\\ 4&0&5 \end{bmatrix}\begin{bmatrix} 1\\\\ 2\\\\ 3 \end{bmatrix}=\begin{bmatrix} 13\\\\ 22\\\\ 19\end{bmatrix}; \end{equation} 504450045 123 = 132219 ;
  • 综上所述可得:两个序列的循环卷积运算可以转换为一个序列的循环卷积矩阵与另外一个序列的乘积。

3. 傅里叶矩阵

我们知道移位矩阵P的特征值为 z N = 1 z^N=1 zN=1的复数根,其特征向量如下:
q k = [ 1 , λ k , λ k 2 , ⋯   , λ k N − 1 ] ; λ k = e 2 π i N \begin{equation} q_k=\begin{bmatrix} 1,\lambda_k,\lambda_k^2,\cdots,\lambda_k^{N-1} \end{bmatrix};\lambda_k=\mathrm{e}^{\frac{2\pi i}{N}} \end{equation} qk=[1,λk,λk2,,λkN1];λk=eN2πi

  • 我们之前推导过对于任意的循环卷积矩阵C来说可以表示如下:
    C = c 0 I + c 1 P + c 2 P 2 + ⋯ + c n − 1 P n − 1 \begin{equation}C=c_0 I+c_1P+c_2P^2+\cdots+c_{n-1}P^{n-1}\end{equation} C=c0I+c1P+c2P2++cn1Pn1
  • 我们可得矩阵C的特征值和特征向量与P的特征值特征向量相同。我们两边同时乘以 q k q_k qk,且定义如下
    C q k = λ k ( C ) q k , P q k = λ k q k Cq_k=\lambda_k(C) q_k,Pq_k=\lambda_kq_k Cqk=λk(C)qk,Pqk=λkqk
    C q k = c 0 q k + c 1 P q k + c 2 P 2 q k + ⋯ + c n − 1 P n − 1 q k \begin{equation}Cq_k=c_0q_k+c_1Pq_k+c_2P^2q_k+\cdots+c_{n-1}P^{n-1}q_k\end{equation} Cqk=c0qk+c1Pqk+c2P2qk++cn1Pn1qk
  • 代入特征方程可得:
    λ k ( C ) q k = c 0 q k + c 1 P q k + c 2 P 2 q k + ⋯ + c n − 1 P n − 1 q k \begin{equation}\lambda_k(C)q_k=c_0q_k+c_1Pq_k+c_2P^2q_k+\cdots+c_{n-1}P^{n-1}q_k\end{equation} λk(C)qk=c0qk+c1Pqk+c2P2qk++cn1Pn1qk
  • 整理可得:
    λ k ( C ) q k = c 0 q k + c 1 λ k q k + c 2 λ k 2 q k + ⋯ + c n − 1 λ k n − 1 q k \begin{equation}\lambda_k(C)q_k=c_0q_k+c_1\lambda_kq_k+c_2\lambda_k^2q_k+\cdots+c_{n-1}\lambda_k^{n-1}q_k\end{equation} λk(C)qk=c0qk+c1λkqk+c2λk2qk++cn1λkn1qk
  • 整理可得:
    λ k ( C ) = c 0 + c 1 λ k + c 2 λ k 2 + ⋯ + c n − 1 λ k n − 1 \begin{equation}\lambda_k(C)=c_0+c_1\lambda_k+c_2\lambda_k^2+\cdots+c_{n-1}\lambda_k^{n-1}\end{equation} λk(C)=c0+c1λk+c2λk2++cn1λkn1
  • 我们知道: λ k = e 2 π k N = w k , w = e 2 π N \lambda_k=\mathrm{e}^{\frac{2\pi k}{N}}=w^k,w=\mathrm{e}^{\frac{2\pi }{N}} λk=eN2πk=wk,w=eN2π
  • 那么可得:
    在这里插入图片描述
  • 小结1:这么做的主要用于:[后续补充,要补充的逻辑思路太多了]
    两个序列的循环卷积为离散傅里叶 D F T 变换下的序列相乘 两个序列的循环卷积为离散傅里叶DFT变换下的序列相乘 两个序列的循环卷积为离散傅里叶DFT变换下的序列相乘
  • 小结2: 所有的循环卷积矩阵都可以分解为离散傅里叶矩阵F和系数序列c相乘,它们的特征向量一致。
    后续更新逻辑思维图 后续更新逻辑思维图 后续更新逻辑思维图

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2096323.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

kaggle平台free使用GPU

1、注册 请保证在【科学上网】条件下进入如下操作,只有在注册账户和手机号验证时需要。 step1:注册账户 进入kaggle官网:https://www.kaggle.com/,点击右上角【Register】进入注册页面 最好选择使用邮箱注册(&#…

零域(微隔离)详述

一、什么是零信任微隔离? 微隔离的实现方式是将数据中心内部所有的业务按照特定的原则划分为数个微小的网络节点,根据动态策略分析对这些节点执行访问控制,在逻辑上将这些节点隔离开,限制用户横向移动,这就是微…

docker-compose 快速部署nacos-standalone单节点

一、nacos 介绍 官网: https://nacos.io/ 一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台 二、如何使用docker-compose 快速部署nacos2.3.1 ⚠️ : nacos-standalone 部署方式 依赖于 数据库,请先配置好数据库实例&…

日系编曲:了解日系音乐 日系和声特征 设计日系和声 和弦进行摘抄

了解日系音乐 日系音乐风格多样,涵盖流行、摇滚、民谣、古典等多种类型。以下是部分知名的日系音乐作品、歌手及乐队: 作品 《First Love》是宇多田光的代表作之一,旋律悠扬,情感真挚,展现了初恋的美好与青涩&#xf…

c++ 原型模式

文章目录 什么是原型模式为什么要使用原型模式使用场景示例 什么是原型模式 用原型实例指定创建对象的种类,并通过拷贝这些原型创建新的对象,简单理解就是“克隆指定对象” 为什么要使用原型模式 原型模式(Prototype Pattern)是…

C++学习笔记----6、内存管理(一)---- 使用动态内存(1)

当你使用现代结构,例如std::vector,std::string等等,从一开始到现在以及到未来,C是一个安全的编程语言。该语言提供了许多的道路,路线以及红绿灯,比如C核心指导,静态代码分析器来分析代码的正确性&#xff…

SQLite3 数据库

一、SQLite3 命令 1. 基本命令 .tables:用于查看数据库中的表。.headers on/off:开启或者关闭表头,方便查看表结构。.mode column:使列对齐,增强数据的可读性。.width 列宽1 列宽2:设置每一列的列宽&…

大量图片进行自适应处理

首先我们手里有一个视频,但是我们对视频进行图像处理的话视频很难暂停进行观察,我们可以写一个按键坚挺,但是小编这里介绍另一个办法,大致思路为,把视频进行截帧为图片的集合,再对该集合进行统一的图像处理…

基于UniApp+Springboot花店微信小程序

此花店小程序是多商家,多用户,以及后台管理员操作的花市集小程序系统,前端采用vue 和 UniApp,后端采用java Springboot 设计开发。前后端分离的花店微信小程序系统,数据库采用独立的数据库mysql 小程序端界面主要采用…

yolo数据集钢材表面缺陷v8下载适用yolov5等全版本已标注txt格式

钢材表面缺陷检测数据集介绍 数据集概述 本数据集专为钢材表面缺陷检测任务而设计,包含了大量的钢材表面图像,每张图像均带有详细的缺陷标注信息。数据集旨在帮助研究人员和开发人员训练高精度的目标检测模型,以应用于钢材制造和质量控制等多…

本地化云桌面系统环境VMware horizon搭建

前言:预准备使用空闲服务器,搭建轻办公云桌面环境,类似“华为云桌面FusionAccess”,或天翼云桌面系统。注意云桌面不是桌面云,云桌面的适用场景为团队化云上办公,可私有部署/云化部署。horizon是VMware旗下…

Linux 软硬连接

1. 硬链接 实际上并不是通过文件名来找到磁盘上的文件,而是通过inode。在linux中可以让多个文件名对应于同一个 inode,而这种方式就是建立硬链接。硬链接是文件系统中的一种链接类型,它创建了文件的一个额外的目录项,但不占用额外…

网工面试题(安全)

上一篇:网工面试题(数通) 防火墙 防火墙的应用场景 防火墙:部署在网络出口处/服务器区(数据中心)/广域网接入,用于防止外界黑客攻击、保护内网安全硬件。 传统防火墙和下一代防火墙的区别 传统防火墙的功能…

访问win10共享文件夹:用户或密码不正确 以及 未授予用户在此计算机上的请求登录类型

因为安装的是神州网信政府版,该版本通常包含更严格的安全策略和访问控制,设置了共享文件夹后,访问共享文件夹时出现错误。 1、首先报错:用户或密码不正确 将》网络访问:本地账户的共享和安全模型,修改为&a…

C#上位机使用Microsoft.Office.Interop.Excel和EPPlus库对Excel或WPS表格进行读写操作

C#上位机使用Microsoft.Office.Interop.Excel和EPPlus库对Excel或WPS表格进行写操作 一、使用Microsoft.Office.Interop.Excel库 1、通过NuGet包管理器添加引用 按照下图中红框所示进行操作。 需要安装Microsoft.Office.Interop.Excel包 添加Microsoft Office 16.0 Object …

预训练语言模型的前世今生 - 从Word Embedding到BERT

目录 一、预训练 1.1 图像领域的预训练1.2 预训练的思想二、语言模型 2.1 统计语言模型2.2 神经网络语言模型三、词向量 3.1 独热(Onehot)编码3.2 Word Embedding四、Word2Vec 模型五、自然语言处理的预训练模型六、RNN 和 LSTM 6.1 RNN6.2 RNN 的梯度消…

Maven的相关配置和使用

Maven的配置: Maven的配置和Java差不多,从镜像站下载相关的Maven版本压缩包,然后解压到自己的D盘,在进行系统变量的配置,新建变量Maven_HOME,然后值设置为Maven的地址,一定是点开文件后就能出现…

【LLM】文生视频相关开源数据集(VidGen、Panda、Cogvideox等)

note 总结了VidGen数据集、Panda-70m数据集、Openvid数据集、OpenVid-1M数据集、Cogvideox训练数据准备过程、ShareGPT4Video数据集等在一篇综述中还总结了评估指标包括:峰值信噪比(PSNR)、结构相似性指数(SSIM)、Inc…

NLP从零开始------16.文本中阶处理之序列到序列模型(1)

1. 序列到序列模型简介 序列到序列( sequence to sequence, seq2seq) 是指输入和输出各为一个序列(如一句话) 的任务。本节将输入序列称作源序列,输出序列称作目标序列。序列到序列有非常多的重要应用, 其中最有名的是机器翻译( machine translation), 机…

Day-01—QT项目的新建

1.选择创建的项目类型,可以看到,这里可以创建多种语言的项目,可以直接用QT来进行前期C 的学习。 2.创建的名字中不要包含中文,可以用英文就用英文,如果不会英文,就用拼音也可以,保存地址中也不要…