概率论和随机过程的学习和整理20：条件概率我知道，但什么是条件期望？可用来解决递归问题

news2024/10/7 3:50:15

1 目标问题：什么是条件期望？条件期望有什么用？

2 条件期望，全期望公式

3 条件期望，全期望公式和条件概率，全概率公式的区别和联系

3.1 公式如下

3.2 区别和联系

3.3 概率和随机过程

4 有什么用：---可以解决很多递归的问题

4.1 使用前有个前提：界定清楚你要求的随机变量的目标和类型

4.1.1 求的是次数，还是数量？

4.1.2 确定你要求的目标变量

4.2 例题1：计算出去的时间= 步数 =次数，属于这一类问题

4.3 例题2：求次数，计算几何分布的期望

4.4 例题3：求个数，适合二项分布求成功的次数的期望

5 条件期望全期望公式和马尔可夫转移区别

1 目标问题：什么是条件期望？条件期望有什么用？

这次先不说目标，先引用一个小学数学题作为开头

Q:假设已知1班平均分是93，2班平均分是95，那么两个班的平均分怎么算？

错误算法: (93+95)/2=94

除非两个班的学生数量一样，否则就是错的
这个不能用简单算术平均，得用加权平均

正确算法

假设1班学生数量n1,平均分A1=93，假设2班学生数量n2,平均分A2=95
根据平均分的定义
A0 = 总分数/总人数
= (A1*n1 + A2*n2)/(n1+n2)
= n1/(n1+n2)*A1 + n2/(n1+n2)*A2
= 系数1*A1+系数2*A2
= 人数权重比例1*A1+人数权重比例2*A2
而权重 = 本班人数/ sum(所有班级人数和)

从这里引出了一个问题

Q1: 我们想知道总体的平均值，当然可以直接用总体的数计算，比如A0 = 总分数/总人数。但是如果我们已经知道了总体的每个部分的平均值，是否可以根据这些算出总体的平均值呢？

A1: 答案是可以的，前面这个例子已经看到是可以的，总体均值= Σ部分均值*权重比例。

Q2: 接着问，如果这个总体不是确定的，而是一个随机变量，比如我们要求的是：这个随机变量的期望呢？

A2: 那么权重比例就变成了随机变量的概率，其实这个也就是条件期望和全期望公式的内容

因此，引出了我们要讨论的主题：

类比：总体均值= Σ部分均值*权重比例
全期望可以这么看
E(X) = ΣPi*E(X|Yi) 和上面是同一个表达方式
E(X) =E(E(X|Y))
E(X) = P1*E(X|Y1) + ..... +Pk*E(X|Yk) = ΣPi*E(X|Yi)
E(X) = E(E(X|Y)) = ΣPI*E(X|Yi) = P1*E(X|Y1) + ..... +Pk*E(X|Yk) ,其中i属于(1,k)

2 条件期望，全期望公式

下面不同写法的概念是不同的

step1: E(X) 是一个具体的数，随机变量的数学期望=随机变量的(概率)加权平均值=具体的数
step2: 因为在Y=y1的前提下，X还是有可能有几种情况，假设也是x1,x2...xk所以条件期望 E(X|Y=y1) = Σxi*P(xi|Y=y1) = x1*P(x1|Y=y1) +x2*P(x2|Y=y1) +...+xk*P(xk|Y=y1)
step3: 而对于随机变量X,Y还有多个取值y1,y2....yj，比如 E(X|Y=y1) 本身还对应着一个概率 Pj. 因此可以求期望 E(E(X|Y)) =ΣPI*E(X|Yj) = P1*E(X|Y1) + P2*E(X|Y2) +.....+Pj*E(X|Yj) 而实际上可证明，E(E(X|Y))=E(X)
step4: 所以全期望公式 E(X) = E(E(X|Y)) = ΣPI*E(X|Yi) = P1*E(X|Y1) + P2*E(X|Y2) + ..... +Pj*E(X|Yj) ,其中i属于(1,j)

看下面的图理解

图是知乎的，参考 zhuanlan.zhihu.com/p/612709393