概率论基础01_事件概率

一、事件

1、概率

1.1基本事件

1.3必然事件

1.4不可能事件

1.5样本空间

1.6样本点

2、事件间的关系

2.1包含关系

2.2并集

2.3交集

2.4差集

2.5互斥事件

2.6对立事件

2.7完备事件组

3、运算律

3.1交换律

3.2结合律

3.3分配律

3.4对偶律

二、概率

1、定义

2、古典模型

3、排列（不重复排列）

4、组合

5、几何模型

6、频率

7、基本性质（公理化）

8、条件概率

9、全概率公式

10、贝叶斯公式

11、事件独立性

12、伯努利模型

一、事件

1、概率

1.1基本事件

基本事件是指试验中不可再分的最简单的事件。每个基本事件代表一个单一的可能结果。（e.g. 抛一枚硬币：基本事件是“正面”和“反面”。）

1.2复合事件

复合事件是由多个基本事件组合而成的事件，代表多个可能结果的集合。（e.g.抛两枚硬币：复合事件可以是“至少一个正面”，这个事件包含“正面-正面”、“正面-反面”和“反面-正面”三个基本事件）

1.3必然事件

必然事件是指在试验中一定会发生的事件。必然事件的概率为1。在样本空间中，必然事件包括了样本空间中的所有样本点。

1.4不可能事件

不可能事件是指在试验中绝对不会发生的事件。不可能事件的概率为0。通常用 $\phi$ 表示。

1.5样本空间

样本空间是指试验中所有可能结果的集合。通常用大写字母 Ω 表示。

1.6样本点

样本点是指样本空间中的每一个元素，即每一个可能的结果。样本点通常用小写字母ω表示。

2、事件间的关系

2.1包含关系

包含关系是指一个事件是另一个事件的子集。如果事件 A 包含在事件 B 中，那么 A 发生时，B 必然发生，即：A⊆B

2.2并集

并事件是指两个或多个事件中至少有一个事件发生的情况。

事件 A 和事件 B 的并事件记作 A∪B或A+B，表示 A 或 B 发生。

2.3交集

交事件是指两个或多个事件同时发生的情况。

事件A 和事件 B 的交事件记作 A∩B或AB，表示 A 和 B 同时发生。

2.4差集

如果事件 A 发生而事件 B 不发生，则表示这些事件的差集发生了，即将事件A中的A和B的公共部分去掉。

事件 A 和 B 的差集表示为 A−B

$A-B=A-AB$

2.5互斥事件

互斥事件是指两个事件不能同时发生。

如果事件A 和事件 B 是互斥事件，那么 A 和 B 的交集为空集，即：AB=∅

2.6对立事件

对立事件是指两个事件互为对立，即一个事件发生时，另一个事件必然不发生。

如果事件 A 和事件 B 是对立事件，那么 A 和 B 的并集是样本空间，且 A 和 B 的交集为空集，即：A+B=Ω且AB=∅

通常，事件 A 的对立事件记作 $A^c$ 或 $\overline A$

$A-B=A-AB=A\overline B$

互斥和对立事件的区别：

1.两个事件对立，则一定是互斥事件

2.互斥事件适用于多个事件，对立适用于两个事件

3.互斥事件，A和B不能同时发生，也可以都不发生；对立事件有且只有一个发生。

2.7完备事件组

完备事件组是一组事件，它们满足以下两个条件：

互斥性：完备事件组中的任意两个事件不能同时发生。也就是说，这些事件两两互斥。
完备性：完备事件组中的事件涵盖了样本空间中所有可能的结果，并且至少有一个事件必然发生。换句话说，这些事件的并集是整个样本空间，且它们的并集是必然事件。

3、运算律

3.1交换律

交换律是指事件的并集和交集运算满足交换性，即运算的顺序不影响结果。

A∪B=B∪A
A ∩B=B ∩A

3.2结合律

结合律是指事件的并集和交集运算满足结合性，即多个事件的运算顺序不影响结果。

(A∪B)∪C=A∪(B∪C)
(A∩B)∩C=A∩(B∩C)

3.3分配律

分配律是指事件的并集和交集运算满足分配性，即一个运算对另一个运算的分配关系。

A∪(B∩C)=(A∪B)∩(A∪C)
A∩(B∪C)=(A∩B)∪(A∩C)

3.4对偶律

对偶律是指事件的补集运算的对偶关系，即并集的补集和交集的补集之间的关系。

第一对偶律： $\overline{(A\cup B)}=\overline{A}\cap \overline{B}$
第二对偶律： $\overline{(A\cap B)}=\overline{A}\cup \overline{B}$

二、概率

1、定义

对于一个事件 A，其概率 P(A) 定义为：

2、古典模型

古典概率模型，也称为古典模型或等可能模型，是一种概率论中用于计算随机事件发生概率的方法。基于以下假设：

有限性：样本空间是有限的，即所有可能的结果可以被列举出来。
等可能性：样本空间中的每个基本事件（样本点）出现的可能性是相等的。

在古典模型中，一个事件的概率可以通过以下公式计算：

3、排列（不重复排列）

给定一个包含 n 个元素的集合，从中选择 r 个不同元素（r≤n）进行排列。

排列通常用 P(n,r)表示，读作“n 个中取 r个的排列数”。

其计算公式为：

4、组合

给定一个包含 n 个元素的集合，从中选择 r 个不同元素（r≤n）进行组合，意味着这 r 个元素的顺序并不重要。

组合通常用 $C(n,r)$ 或 $\begin{pmatrix} n \\ r \end{pmatrix}$ 表示，读作“n 选 r”或“二项式系数”。

其计算公式为：

其性质：

对称性：C(n,r)=C(n,n−r)
边界条件：C(n,0)=C(n,n)=1
当 r>n 时，C(n,r)=0

5、几何模型

几何概型是概率论中的一个基本概念，它用于处理那些结果可以被表示为几何区域（如线段、平面区域、立体区域等）的随机试验的概率问题。

其基本思想是将概率问题转化为几何区域上的面积、体积或长度等几何量的比值。

其计算公式：

如果事件 A 对应的几何区域的度量为 m(A)，样本空间 Ω 的度量为 m(Ω)，则 A 的概率 P(A)为：

6、频率

频率是一个经验概念，它通过实际观察或实验来确定。频率是某个事件在一系列重复实验中发生的次数与总实验次数之比。

频率的值可以是任何非负实数，包括0（事件一次也没发生）和任意正数（事件多次发生）。

概率与频率的关系

大数定律：随着实验次数的增加，事件发生的频率趋近于其概率。
长期稳定性：在大量重复实验中，频率的稳定性可以作为概率的一个估计。
经验估计：在没有理论模型的情况下，可以通过频率来估计概率。

7、基本性质（公理化）

非负性：对于任意事件 A，有 P(A)≥0。
规范性：必然事件的概率为1，即 P(Ω)=1。
可加性：对于事件 A 和 B，有 P(A+B)=P(A)+P(B)。

性质1：P(∅)=0

性质2： $P(\overline A)=1-P(A)$

性质3：

$P(A-B)=P(A)-P(AB)$

$A\supset B,P(A-B)=P(A)-P(B)$ ，且 $P(A)\geq P(B)$

性质4：P(A+B)=P(A)+P(B)-P(AB)

性质4是可加性的一般性描述，如果A和B互斥那么AB为空集，则P(AB)=0 。

性质4在多个事件中的运用：P(A+B+C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)

8、条件概率

条件概率用于描述在已知某一事件发生的情况下，另一事件发生的概率。

条件概率通常表示为 P(A∣B)，读作“在事件 B 发生的条件下，事件 A 发生的概率”。

说明：

P(A)：无条件概率，样本空间为Ω

P(A|B)：条件概率，样本空间不再是Ω，而是B或者 $\Omega {_B}$

所以条件概率定义公式中P(B)为B事件发生的总事件数概率，P(A∩B)是在B发生的条件下A发生的事件概率，即A和B共同发生的事件概率。

基本性质

非负性：对于任意事件 A和B，有 P(A|B)≥0。
规范性： P(Ω|B)=1。
可加性：对于互斥事件

乘法公式

条件概率的乘法公式是：

这个公式说明了事件 A 和事件 B 同时发生的概率等于事件 B 发生的概率乘以在 B 发生的条件下 A 发生的概率。

更多事件下：如果有A、B、C事件

9、全概率公式

假设事件 A1,A2,...,An 是样本空间 Ω 的一个完备事件组，即这些事件两两互斥，并且它们的并集是整个样本空间。如果想计算事件 B 的概率，可以使用全概率公式：

计算某一事件的总概率，通过将其分解为多个互斥事件的条件概率之和。

10、贝叶斯公式

贝叶斯公式描述了在已知其他条件概率的情况下，一个条件概率的计算方法。

贝叶斯公式是逆概率理论的核心，它允许我们根据已知的某些概率来更新我们对另一个概率的信念。

如果事件 B1,B2,...,Bn是样本空间 Ω 的一个完备事件组，即这些事件两两互斥且它们的并集是整个样本空间，那么对于任意事件 A，贝叶斯公式可以表示为：

其中：

P(Bi∣A) 是在事件 A 发生的条件下事件 Bi发生的条件概率(后验概率)。
P(A∣Bi)是在事件 Bi发生的条件下事件 A 发生的条件概率(似然度)。
P(Bi)是事件 Bi发生的边缘概率(先验概率)。
P(A)是事件 A 发生的边缘概率(先验概率)，可以通过全概率公式计算得出：

说明：事件A理解为结果，在已知事件A的条件下，事件Bi发生的概率即为贝叶斯公式。

11、事件独立性

如果两个事件是独立的，那么一个事件的发生不会影响另一个事件发生的概率。

条件概率与独立性

如果事件 A 和事件 B 是独立的，那么事件 A 在事件 B 发生的条件下的条件概率 P(A∣B)等于事件 A 的先验概率 P(A)： P(A∣B)=P(A)

同样地，事件 B 在事件 A 发生的条件下的条件概率 P(B∣A)等于事件 B 的先验概率 P(B)：P(B∣A)=P(B)

故由条件概率公式可知：

定义

设 A 和 B 是两个事件。如果满足以下条件，则称事件 A 和事件 B 是独立的：

P(AB)=P(A)⋅P(B)

其中：

P(AB)是事件 A 和事件 B 同时发生的概率（联合概率）。
P(A)是事件 A 发生的概率。
P(B) 是事件 B 发生的概率。

独立性的性质

对称性：如果 A 和 B 独立，那么 B 和 A 也独立。
传递性：如果 A 与 B 独立，且 B 与 C 独立，那么 A 与 C 独立（仅当这些事件的联合概率分布是乘性的）。
零概率事件：任何事件与零概率事件(P(A)=0)总是独立的。
对立事件：如果 A 与 B 独立，那么 A 与其对立事件 $\overline{B}$ 也独立。

定理

1.P(A)>0，P(B)>0，A、B独立的充分必要条件是P(AB)=P(A)⋅P(B)

2.P(A)>0，P(B)>0，互不相容和独立不会同时出现。

12、伯努利模型

伯努利模型是一种基础的概率模型，它描述了一个随机试验只有两种可能结果的情况：成功或失败。这些结果用事件S和事件F来表示，其中S表示成功，F表示失败。

伯努利模型的关键特点是每次试验的结果是相互独立的，即前一次试验的结果不会影响后一次试验的结果，每次试验中成功的概率为p，失败的概率为1-p，并且这些概率对于每次试验都保持不变。

前置概念

伯努利试验：
- 伯努利试验是一种特殊类型的随机试验，其结果只有两种可能：成功或失败。
- 伯努利试验的结果是二元的，通常用1表示成功，用0表示失败。
n重伯努利试验：
- n重伯努利试验是指伯努利试验重复进行n次，每次试验都是独立的。
- 在n重伯努利试验中，每次试验的成功概率相同，通常用p表示，失败概率为1-p。