第一种形式很常见
多元正态分布
多元正态分布(Multivariate Normal Distribution),也称为多变量正态分布或多维正态分布,是统计学中一种重要的概率分布,用于描述多个随机变量的联合分布。
假设有 n n n 个随机变量 X 1 , X 2 , … , X n X_1, X_2, \ldots, X_n X1,X2,…,Xn,它们服从多元正态分布,则这 n n n 个随机变量的联合概率密度函数(PDF)可以表示为:
f ( x 1 , x 2 , … , x n ) = 1 ( 2 π ) n ∣ Σ ∣ exp ( − 1 2 ( x − μ ) ⊤ Σ − 1 ( x − μ ) ) f(x_1, x_2, \ldots, x_n) = \frac{1}{\sqrt{(2\pi)^n |\Sigma|}} \exp\left(-\frac{1}{2} (x - \mu)^\top \Sigma^{-1} (x - \mu)\right) f(x1,x2,…,xn)=(2π)n∣Σ∣1exp(−21(x−μ)⊤Σ−1(x−μ))
其中:
- x = ( x 1 , x 2 , … , x n ) ⊤ x = (x_1, x_2, \ldots, x_n)^\top x=(x1,x2,…,xn)⊤ 是一个 n × 1 n \times 1 n×1 的列向量,表示 n n n 个随机变量的观测值。
- μ = ( μ 1 , μ 2 , … , μ n ) ⊤ \mu = (\mu_1, \mu_2, \ldots, \mu_n)^\top μ=(μ1,μ2,…,μn)⊤ 是一个 n × 1 n \times 1 n×1 的列向量,表示 n n n 个随机变量的均值。
- Σ \Sigma Σ 是一个 n × n n \times n n×n 的对称正定矩阵,称为协方差矩阵,其元素 σ i j \sigma_{ij} σij 表示 X i X_i Xi 和 X j X_j Xj 之间的协方差。
- ∣ Σ ∣ |\Sigma| ∣Σ∣ 表示协方差矩阵 Σ \Sigma Σ 的行列式。
- Σ − 1 \Sigma^{-1} Σ−1 是协方差矩阵 Σ \Sigma Σ 的逆矩阵。
- ( x − μ ) ⊤ (x - \mu)^\top (x−μ)⊤ 是 ( x − μ ) (x - \mu) (x−μ) 的转置。
二维高斯函数(也称为二维正态分布函数)是统计学和物理学中常用的一个函数,用于描述二维空间中的随机变量的分布。这里我们讨论两种形式的二维高斯函数,其中第二种形式通过几何变换(如旋转和平移)从第一种形式推导出来。
二元正态分布
在二元正态分布中,如果已知两个变量 X X X和 Y Y Y的相关系数 ρ \rho ρ以及它们的标准差 σ X \sigma_X σX和 σ Y \sigma_Y σY,那么协方差矩阵 Σ \Sigma Σ可以表示为:
Σ = ( σ X 2 ρ σ X σ Y ρ σ X σ Y σ Y 2 ) \Sigma = \begin{pmatrix} \sigma_X^2 & \rho \sigma_X \sigma_Y \\ \rho \sigma_X \sigma_Y & \sigma_Y^2 \end{pmatrix} Σ=(σX2ρσXσYρσXσYσY2)
这里, σ X 2 \sigma_X^2 σX2和 σ Y 2 \sigma_Y^2 σY2分别是 X X X和 Y Y Y的方差,而 ρ σ X σ Y \rho \sigma_X \sigma_Y ρσXσY是它们的协方差。
接下来,需要计算这个协方差矩阵的逆矩阵 Σ − 1 \Sigma^{-1} Σ−1。首先,计算协方差矩阵的行列式 ∣ Σ ∣ |\Sigma| ∣Σ∣:
∣ Σ ∣ = σ X 2 σ Y 2 − ( ρ σ X σ Y ) 2 = σ X 2 σ Y 2 ( 1 − ρ 2 ) |\Sigma| = \sigma_X^2 \sigma_Y^2 - (\rho \sigma_X \sigma_Y)^2 = \sigma_X^2 \sigma_Y^2 (1 - \rho^2) ∣Σ∣=σX2σY2−(ρσXσY)2=σX2σY2(1−ρ2)
然后,利用行列式的值和协方差矩阵的元素来构造逆矩阵。逆矩阵 Σ − 1 \Sigma^{-1} Σ−1的元素可以表示为:
Σ − 1 = 1 ∣ Σ ∣ ( σ Y 2 − ρ σ X σ Y − ρ σ X σ Y σ X 2 ) \Sigma^{-1} = \frac{1}{|\Sigma|} \begin{pmatrix} \sigma_Y^2 & -\rho \sigma_X \sigma_Y \\ -\rho \sigma_X \sigma_Y & \sigma_X^2 \end{pmatrix} Σ−1=∣Σ∣1(σY2−ρσXσY−ρσXσYσX2)
将行列式的值代入上式,得到:
Σ − 1 = 1 σ X 2 σ Y 2 ( 1 − ρ 2 ) ( σ Y 2 − ρ σ X σ Y − ρ σ X σ Y σ X 2 ) \Sigma^{-1} = \frac{1}{\sigma_X^2 \sigma_Y^2 (1 - \rho^2)} \begin{pmatrix} \sigma_Y^2 & -\rho \sigma_X \sigma_Y \\ -\rho \sigma_X \sigma_Y & \sigma_X^2 \end{pmatrix} Σ−1=σX2σY2(1−ρ2)1(σY2−ρσXσY−ρσXσYσX2)
进一步化简,得到:
Σ − 1 = 1 1 − ρ 2 ( 1 σ X 2 − ρ σ X σ Y − ρ σ X σ Y 1 σ Y 2 ) \Sigma^{-1} = \frac{1}{1 - \rho^2} \begin{pmatrix} \frac{1}{\sigma_X^2} & -\frac{\rho}{\sigma_X \sigma_Y} \\ -\frac{\rho}{\sigma_X \sigma_Y} & \frac{1}{\sigma_Y^2} \end{pmatrix} Σ−1=1−ρ21(σX21−σXσYρ−σXσYρσY21)
这个逆矩阵代入多元正态分布就是第一种形式。
第一种形式:标准二维高斯函数
标准二维高斯函数(也称为二维正态分布的概率密度函数)的表达式为:
f ( x , y ) = 1 2 π σ x σ y 1 − ρ 2 exp ( − 1 2 ( 1 − ρ 2 ) [ ( x − μ x σ x ) 2 − 2 ρ ( x − μ x σ x ) ( y − μ y σ y ) + ( y − μ y σ y ) 2 ] ) f(x, y) = \frac{1}{2\pi\sigma_x\sigma_y\sqrt{1-\rho^2}} \exp\left(-\frac{1}{2(1-\rho^2)}\left[\left(\frac{x-\mu_x}{\sigma_x}\right)^2 - 2\rho\left(\frac{x-\mu_x}{\sigma_x}\right)\left(\frac{y-\mu_y}{\sigma_y}\right) + \left(\frac{y-\mu_y}{\sigma_y}\right)^2\right]\right) f(x,y)=2πσxσy1−ρ21exp(−2(1−ρ2)1[(σxx−μx)2−2ρ(σxx−μx)(σyy−μy)+(σyy−μy)2])
其中,
- μ x \mu_x μx 和 μ y \mu_y μy 分别是 x x x 和 y y y 的均值(位置参数)。
- σ x \sigma_x σx 和 σ y \sigma_y σy 分别是 x x x 和 y y y 的标准差(尺度参数)。
- ρ \rho ρ 是 x x x 和 y y y 的相关系数(形状参数)。
第二种出现在Gabor滤波器中,第二种又有多种变形,认清它是高斯函数。
Gabor函数
Gabor滤波器是一种基于Gabor函数的特定频率和方向选择性滤波器,是一种用于图像纹理分析和特征提取的线性滤波器,由Dennis Gabor于1946年提出,广泛应用于图像处理和计算机视觉领域。在空间域中,一个二维Gabor滤波器可以看作是一个正弦平面波和高斯核函数的乘积。
g ( x , y ; λ , θ , ψ , σ , γ ) = exp ( − x ′ 2 + γ 2 y ′ 2 2 σ 2 ) cos ( 2 π x ′ λ + ψ ) g(x, y; \lambda, \theta, \psi, \sigma, \gamma) = \exp\left(-\frac{x'^2 + \gamma^2 y'^2}{2\sigma^2}\right) \cos\left(2\pi\frac{x'}{\lambda} + \psi\right) g(x,y;λ,θ,ψ,σ,γ)=exp(−2σ2x′2+γ2y′2)cos(2πλx′+ψ)
其中,
- ( x , y ) (x, y) (x,y) 是图像中像素的坐标。
- λ \lambda λ 是正弦函数的波长。
- θ \theta θ 是Gabor核函数的方向,表示Gabor函数平行条纹的方向。
- ψ \psi ψ 是相位偏移,通常设置为0或 π 2 \frac{\pi}{2} 2π。
- σ \sigma σ 是高斯函数的标准差,决定了Gabor滤波器的带宽。
- γ \gamma γ 是空间纵横比,决定了Gabor滤波器的椭圆率。当 γ = 1 \gamma = 1 γ=1时,滤波器形状是圆的;当 γ < 1 \gamma < 1 γ<1时,滤波器形状沿平行于 θ \theta θ的方向拉长。
x ′ x' x′ 和 y ′ y' y′ 是通过旋转坐标轴得到的坐标,它们与原始坐标 ( x , y ) (x, y) (x,y)的关系为:
( x ′ y ′ ) = ( cos θ sin θ − sin θ cos θ ) ( x y ) \begin{pmatrix} x' \\ y' \end{pmatrix} = \begin{pmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} (x′y′)=(cosθ−sinθsinθcosθ)(xy)
这个旋转矩阵用于将Gabor滤波器的方向调整到 θ \theta θ指定的角度。
Gabor滤波器的一个重要特性是它能够捕捉图像中特定频率和方向的信息。通过调整 λ \lambda λ、 θ \theta θ、 σ \sigma σ和 γ \gamma γ等参数,可以生成一系列具有不同频率和方向选择性的Gabor滤波器,从而用于图像的纹理分析和特征提取。
在实际应用中,通常会使用多个Gabor滤波器(具有不同的参数组合)对图像进行滤波,然后分析滤波后的图像以提取有用的特征信息。
第二种形式高斯函数
1
f ( x , y ) = A exp ( − x ′ 2 + γ 2 y ′ 2 2 σ 2 ) f(x, y) =A\exp\left(-\frac{x'^2 + \gamma^2 y'^2}{2\sigma^2}\right) f(x,y)=Aexp(−2σ2x′2+γ2y′2)是高斯函数,可由标准正态分布通过几何变换推出。
2
也可以写为
f
(
x
,
y
)
=
A
e
−
1
2
(
x
ˊ
2
σ
x
2
+
x
ˊ
2
σ
y
2
)
f(x, y) =A{\rm e} ^{-{ \tfrac {1}{2} \left( \tfrac { \acute{x} ^{2} } {\sigma_x ^{2}} + \tfrac { \acute{x} ^{2} } { \sigma_y ^{2}} \right) }}
f(x,y)=Ae−21(σx2xˊ2+σy2xˊ2)
σ x \sigma_x σx和 σ y \sigma_y σy为 x x x和 y y y方向上高斯函数的标准差, γ = σ x / σ y \gamma = \sigma_x /\sigma_y γ=σx/σy表示高斯函数的椭圆率。
滤波器在 x x x方向上的“宽度”可以由标准差 σ x \sigma_x σx控制,而在 y y y方向上的“宽度”可以由另一个标准差 σ y \sigma_y σy控制。但在实际应用中,我们并不直接设置这两个标准差,而是通过设置一个主标准差 σ \sigma σ和一个空间纵横比 γ \gamma γ来间接控制。
空间纵横比 γ \gamma γ定义了滤波器在 x x x和 y y y方向上的相对“宽度”。当 γ = 1 \gamma = 1 γ=1时,滤波器是圆形的;当 γ < 1 \gamma < 1 γ<1时,滤波器在 y y y方向上的“宽度”比 x x x方向小,形成椭圆形,且椭圆的长轴与 x x x轴平行;当 γ > 1 \gamma > 1 γ>1时,情况相反。
在Gabor滤波器的标准定义中,通常只关注一个标准差 σ \sigma σ和一个空间纵横比 γ \gamma γ。这两个参数共同决定了滤波器在不同方向上的形状和带宽。
3
将 f ( x , y ) f(x, y) f(x,y)写成关于 x x x和 y y y的函数,这是一个指数项有交叉项的形式。
z = A e − [ a ( x − μ x ) 2 + 2 b ( x − μ x ) ( y − μ y ) + c ( y − μ y ) 2 ] z = A e^{-\left[a(x - \mu_x)^2 + 2b(x - \mu_x)(y - \mu_y) + c(y - \mu_y)^2\right]} z=Ae−[a(x−μx)2+2b(x−μx)(y−μy)+c(y−μy)2]
其中,
- a = cos 2 θ 2 δ x 2 + sin 2 θ 2 δ y 2 a = \frac{\cos^2\theta}{2\delta_x^2} + \frac{\sin^2\theta}{2\delta_y^2} a=2δx2cos2θ+2δy2sin2θ
- b = − sin ( 2 θ ) 4 δ x 2 + sin ( 2 θ ) 4 δ y 2 b = -\frac{\sin(2\theta)}{4\delta_x^2} + \frac{\sin(2\theta)}{4\delta_y^2} b=−4δx2sin(2θ)+4δy2sin(2θ)
-
c
=
sin
2
θ
2
δ
x
2
+
cos
2
θ
2
δ
y
2
c = \frac{\sin^2\theta}{2\delta_x^2} + \frac{\cos^2\theta}{2\delta_y^2}
c=2δx2sin2θ+2δy2cos2θ