---

一、随机变量的数学期望

1.1 概念

1. 一维离散型随机变量的数学期望

设 $X$ 为离散型随机变量，其分布律为 P { X = x i } = p i ( i = 1 , 2 , ⋯   ) , P\{X=x_i\}=p_i(i=1,2,\cdots), P{X=xi​}=pi​(i=1,2,⋯), 若级数 ${\sum }_{i=1}^{\infty }{x}_i{p}_i$ 绝对收敛，称级数 ${\sum }_{i=1}^{\infty }{x}_i{p}_i$ 的和为随机变量 $X$ 的数学期望，记为 $E(X)$ ，即 $E(X)={\sum }_{i=1}^{\infty }{x}_i{p}_i$ 。

设随机变量 $Y=u(x)$ ，且级数 ${\sum }_{i=1}^{\infty }u(x_i)p_i$ 绝对收敛，称级数 ${\sum }_{i=1}^{\infty }u(x_i)p_i$ 的和为随机变量 $Y$ 的数学期望。

2. 一维连续型随机变量的数学期望

设 $X$ 为连续型随机变量，其概率密度为 $f(x)$ ，若广义积分 ${\int }_{-\infty }^{\infty }xf(x)dx$ 绝对收敛，称 ${\int }_{-\infty }^{\infty }xf(x)dx$ 为随机变量 $X$ 的数学期望，记为 $E(X)$ ，即 $$E(X)={\int }_{-\infty }^{\infty }xf(x)dx.$$ 对于随机变量 $Y=u(X)$ ，有和 1. 中离散型类似的结论。

3. 二维离散型随机变量的数学期望

设二维离散型随机变量 $(X,Y)$ 的联合分布律为 P { X = x i , Y = y i } = p i j ( i = 1 , 2 , ⋯   ; j = 1 , 2 , ⋯   ) , P\{X=x_i,Y=y_i\}=p_{ij}(i=1,2,\cdots;j=1,2,\cdots), P{X=xi​,Y=yi​}=pij​(i=1,2,⋯;j=1,2,⋯), 又 $Z=u(X,Y)$ ，若 ${\sum }_{i=1}^{\infty }{\sum }_{j=1}^{\infty }u(x_i,y_i)p_{ij}$ 绝对收敛，其和为随机变量 $Z$ 的数学期望，即 $$E(Z)=\sum _{i=1}^{\infty }\sum _{j=1}^{\infty }u(x_i,y_i)p_{ij}.$$

4. 二维连续型随机变量的数学期望

设 $(X,Y)$ 为二维连续型随机变量，其联合密度函数为 $f(x,y)$ ，又 $Z=u(X,Y)$ ，若广义积分 ${\int }_{-\infty }^{\infty }dx{\int }_{-\infty }^{\infty }u(x,y)f(x,y)dy$ 绝对收敛，称其为随机变量 $Z$ 的数学期望，即 $$E(Z)={\int }_{-\infty }^{\infty }dx{\int }_{-\infty }^{\infty }u(x,y)f(x,y)dy.$$

规律还是很明显的，离散型用级数，连续型用积分。

1.2 数学期望的性质

性质 1 —— $E(C)=C,E(kX)=kE(X),E(X+Y)=E(X)+E(Y).$

性质 2 —— 设 $X_1,X_2,\cdots ,X_n$ 为 $n$ 个存在数学期望的随机变量，$k_1,k_2,\cdots ,k_n$ 为 $n$ 个常数，则 $E(k_1{X}_1+k_2{X}_2+\cdots +k_n{X}_n)=k_{1}E(X_1)+k_{2}E(X_2)+\cdots +k_{n}E(X_n).$

性质 3 —— 设随机变量 $X,Y$ 相互独立，则 $E(XY)=E(X)\cdot E(Y).$
证明： 不妨设 $(X,Y)$ 为二维连续型随机变量，其联合密度函数为 $f(x,y)$ ，由独立可知，$f(x,y)=f_X(x)\cdot f_Y(y)$ ,则有 $$E(XY)={\int }_{-\infty }^{\infty }dx{\int }_{-\infty }^{\infty }xyf(x,y)dy={\int }_{-\infty }^{\infty }x{f}_X(x)dx{\int }_{-\infty }^{\infty }y{f}_Y(y)dy=E(X)\cdot E(Y).$$

---

二、随机变量的方差

2.1 概念

设 $X$ 为随机变量，若 $E\{[X-E(X){]}^2\}$ 存在，称其为随机变量 $X$ 的方差，记为 $D(X)$ ，即 $$D(X)=E\{[X-E(X){]}^2\},$$ 称 $\sqrt{D(X)}$ 为随机变量 $X$ 的均方差或标准差。

2.2 计算公式

定理 1 —— 设 $X$ 为随机变量，且 $E(X),E(X^2)$ 均存在，则有 $D(X)=E(X^2)-[E(X){]}^2$ 。
证明： 由方差定义， D ( X ) = E { [ X − E ( X ) ] 2 } = E { X 2 − 2 X E ( X ) + [ E ( X ) ] 2 } = E ( X 2 ) − 2 E ( X ) E ( X ) + [ E ( X ) ] 2 = E ( X 2 ) − [ E ( X ) ] 2 D(X)=E\{[X-E(X)]^2\}=E\{X^2-2XE(X)+[E(X)]^2\}=E(X^2)-2E(X)E(X)+[E(X)]^2=E(X^2)-[E(X)]^2 D(X)=E{[X−E(X)]2}=E{X2−2XE(X)+[E(X)]2}=E(X2)−2E(X)E(X)+[E(X)]2=E(X2)−[E(X)]2 ，即可得到原命题。

记住 $E(X)$ 是一个常数。

对任意随机变量 $X$ ，总有 $D(X)\ge 0$ 。因为方差实质还是数学期望，从可以看出，方差是一系列非负值的数学期望，自然也是非负的。

2.3 方差的性质

性质 1 —— $D(C)=0,D(aX+b)=a^{2}D(X).$

性质 2 —— 若 $X,Y$ 相互独立，有（1） $D(aX+bY)=a^{2}D(X)+b^{2}D(Y)$ ；（2）$D(XY)\ge D(X)D(Y)$ 。

2.4 常见随机变量的数学期望与方差

1. 常见离散型随机变量的数学期望与方差

2. 常见连续型随机变量的数学期望与方差

三、随机变量的协方差与相关系数

3.1 概念

1. 两个随机变量协方差的概念

设 $X,Y$ 为随机变量，且存在 $D(X),D(Y)$ ，称 $E\{[X-E(X)][Y-E(Y)]\}$ 为随机变量 $X,Y$ 的协方差，记为 $Cov(X,Y)$ ，即 $$Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}.$$ 2. 两个随机变量相关系数的概念

设 $X,Y$ 为随机变量，$X,Y$ 的方差存在且 $D(X)>0,D(Y)>0$ ，称 $${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\cdot \sqrt{D(X)}}$$ 为随机变量 $X,Y$ 的相关系数，其中

（1）若 ${\rho }_{XY}=-1$ ，称随机变量 $X,Y$ 负相关；
（2）若 ${\rho }_{XY}=0$ ，称随机变量 $X,Y$ 不相关；
（1）若 ${\rho }_{XY}=1$ ，称随机变量 $X,Y$ 正相关。

3.2 协方差的计算公式

设 $X,Y$ 为随机变量，且存在 $E(X),E(Y),E(XY)$ ，则 $$Cov(X,Y)=E(XY)-E(X)E(Y).$$ 证明： 根据协方差定义， C o v ( X , Y ) = E { [ X − E ( X ) ] [ Y − E ( Y ) ] } = E { X Y − X E ( Y ) − Y E ( X ) + E ( X ) E ( Y ) } = E ( X Y ) − E ( Y ) E ( X ) − E ( X ) E ( Y ) + E ( X ) E ( Y ) = E ( X Y ) − E ( X ) E ( Y ) Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}=E\{XY-XE(Y)-YE(X)+E(X)E(Y)\}=E(XY)-E(Y)E(X)-E(X)E(Y)+E(X)E(Y)=E(XY)-E(X)E(Y) Cov(X,Y)=E{[X−E(X)][Y−E(Y)]}=E{XY−XE(Y)−YE(X)+E(X)E(Y)}=E(XY)−E(Y)E(X)−E(X)E(Y)+E(X)E(Y)=E(XY)−E(X)E(Y) 。

3.3 协方差与相关系数的性质

性质 1 —— $Cov(X,X)=D(X),Cov(X,Y)=Cov(Y,X);$

性质 2 —— $Cov(kX,Y)=Cov(X,kY)=kCov(X,Y);$

性质 3 —— 若 $X,Y$ 相互独立，则 $Cov(X,Y)=0$ ，但反之不对。

性质 4 —— 设 $X,Y_1,Y_2,\cdots ,Y_n$ 为随机变量，$k_1,k_2,\cdots ,k_n$ 为 $n$ 个常数，则 $$Cov(X,k_1{Y}_1+k_2{Y}_2+\cdots +k_n{Y}_n)=k_{1}Cov(X,Y_1)+\cdots +k_{n}Cov(X,Y_n).$$ 性质 5 —— $|{\rho }_{XY}\le 1|$ ，其中

（1）${\rho }_{XY}=1$ 的充分必要条件是 P { Y = a X + b } = 1 ( a > 0 ) ; P\{Y=aX+b\}=1(a>0); P{Y=aX+b}=1(a>0);
（2）${\rho }_{XY}=-1$ 的充分必要条件是 P { Y = a X + b } = 1 ( a < 0 ) ; P\{Y=aX+b\}=1(a<0); P{Y=aX+b}=1(a<0);
（1）${\rho }_{XY}=0$ 的充分必要条件是 $E(XY)=E(X)E(Y).$

有了协方差的概念和性质，我们可以对前述方差的性质进行证明，即证明若 $X,Y$ 相互独立，有 $D(aX+bY)=a^{2}D(X)+b^{2}D(Y)$ 。
证明： 由 $Cov(aX+bY,aX+bY)=aCov(aX+bY,X)+bCov(aX+bY,Y)=a[aCov(X,X)+bCov(Y,X)]+b[aCov(X,Y)+bCov(Y,Y)]=a^{2}D(X)+2abCov(X,Y)+b^{2}D(Y)=a^{2}D(X)+b^{2}D(Y)$ 。