条件概率与全概率、贝叶斯公式

条件概率

条件概率的定义

条件概率

设 AA 和 BB 是两个事件,且 P(B)>0P(B) > 0,则在事件 BB 发生的条件下,事件 AA 发生的概率称为条件概率,记为 P(A∣B)P(A|B),定义为: P(A∣B)=P(A∩B)P(B)P(A|B) = \frac{P(A \cap B)}{P(B)}

条件概率的直观理解

理解:条件概率 P(A∣B)P(A|B) 表示在已知事件 BB 发生的条件下,事件 AA 发生的概率。它反映了事件 BB 的发生对事件 AA 发生概率的影响。

条件概率的性质

性质 1:0≤P(A∣B)≤10 \leq P(A|B) \leq 1

性质 2:P(Ω∣B)=1P(\Omega|B) = 1,P(∅∣B)=0P(\varnothing|B) = 0

性质 3:如果 A1,A2,…,AnA_1, A_2, \dots, A_n 两两互斥,则: P(A1∪A2∪⋯∪An∣B)=P(A1∣B)+P(A2∣B)+⋯+P(An∣B)P(A_1 \cup A_2 \cup \dots \cup A_n|B) = P(A_1|B) + P(A_2|B) + \dots + P(A_n|B)

性质 4:P(A‾∣B)=1−P(A∣B)P(\overline{A}|B) = 1 - P(A|B)

条件概率的乘法公式

乘法公式

对任意两个事件 AA 和 BB,有: P(A∩B)=P(B)P(A∣B)=P(A)P(B∣A)P(A \cap B) = P(B)P(A|B) = P(A)P(B|A)

推广:对任意 nn 个事件 A1,A2,…,AnA_1, A_2, \dots, A_n,有: P(A1∩A2∩⋯∩An)=P(A1)P(A2∣A1)P(A3∣A1∩A2)…P(An∣A1∩A2∩⋯∩An−1)P(A_1 \cap A_2 \cap \dots \cap A_n) = P(A_1)P(A_2|A_1)P(A_3|A_1 \cap A_2) \dots P(A_n|A_1 \cap A_2 \cap \dots \cap A_{n-1})

条件概率的例子

例 1:从一副扑克牌中随机抽取一张牌

  • 设 A={抽到红桃}A = \{\text{抽到红桃}\}
  • 设 B={抽到红牌}B = \{\text{抽到红牌}\}
  • P(A)=1352=14P(A) = \frac{13}{52} = \frac{1}{4}
  • P(A∣B)=P(A∩B)P(B)=13522652=12P(A|B) = \frac{P(A \cap B)}{P(B)} = \frac{\frac{13}{52}}{\frac{26}{52}} = \frac{1}{2}

例 2:掷两颗骰子

  • 设 A={第一颗骰子出现6}A = \{\text{第一颗骰子出现6}\}
  • 设 B={两颗骰子点数之和为8}B = \{\text{两颗骰子点数之和为8}\}
  • P(A)=16P(A) = \frac{1}{6}
  • P(B)=536P(B) = \frac{5}{36}(有 5 种情况:(2,6), (3,5), (4,4), (5,3), (6,2))
  • P(A∩B)=136P(A \cap B) = \frac{1}{36}(只有(6,2)一种情况)
  • P(A∣B)=136536=15P(A|B) = \frac{\frac{1}{36}}{\frac{5}{36}} = \frac{1}{5}

全概率公式

全概率公式的定义

全概率公式

设 A1,A2,…,AnA_1, A_2, \dots, A_n 是样本空间 Ω\Omega 的一个划分(即 Ai∩Aj=∅A_i \cap A_j = \varnothing 对 i≠ji \neq j,且 A1∪A2∪⋯∪An=ΩA_1 \cup A_2 \cup \dots \cup A_n = \Omega),且 P(Ai)>0P(A_i) > 0 对 i=1,2,…,ni = 1, 2, \dots, n,则对任意事件 BB,有: P(B)=∑i=1nP(Ai)P(B∣Ai)P(B) = \sum_{i=1}^n P(A_i)P(B|A_i)

全概率公式的直观理解

理解:全概率公式将复杂事件 BB 的概率分解为在不同条件下发生的概率的加权和。它体现了”分而治之”的思想。

全概率公式的证明

证明:

  1. B=B∩Ω=B∩(A1∪A2∪⋯∪An)B = B \cap \Omega = B \cap (A_1 \cup A_2 \cup \dots \cup A_n)
  2. =(B∩A1)∪(B∩A2)∪⋯∪(B∩An)= (B \cap A_1) \cup (B \cap A_2) \cup \dots \cup (B \cap A_n)
  3. 由于 A1,A2,…,AnA_1, A_2, \dots, A_n 两两互斥,所以 (B∩A1),(B∩A2),…,(B∩An)(B \cap A_1), (B \cap A_2), \dots, (B \cap A_n) 也两两互斥
  4. 因此 P(B)=∑i=1nP(B∩Ai)P(B) = \sum_{i=1}^n P(B \cap A_i)
  5. 由乘法公式,P(B∩Ai)=P(Ai)P(B∣Ai)P(B \cap A_i) = P(A_i)P(B|A_i)
  6. 所以 P(B)=∑i=1nP(Ai)P(B∣Ai)P(B) = \sum_{i=1}^n P(A_i)P(B|A_i)

全概率公式的例子

例 3:有三个盒子,分别含有 2、3、5 个球,随机选一盒取一球

  • 设 Ai={选第 i 盒}A_i = \{\text{选第 } i \text{ 盒}\},i=1,2,3i = 1, 2, 3
  • 设 B={取到白球}B = \{\text{取到白球}\}
  • P(A1)=P(A2)=P(A3)=13P(A_1) = P(A_2) = P(A_3) = \frac{1}{3}
  • 假设第 1 盒全白,第 2 盒全白,第 3 盒有 3 白 2 黑
  • P(B∣A1)=1P(B|A_1) = 1,P(B∣A2)=1P(B|A_2) = 1,P(B∣A3)=35P(B|A_3) = \frac{3}{5}
  • P(B)=13×1+13×1+13×35=13+13+15=1115P(B) = \frac{1}{3} \times 1 + \frac{1}{3} \times 1 + \frac{1}{3} \times \frac{3}{5} = \frac{1}{3} + \frac{1}{3} + \frac{1}{5} = \frac{11}{15}

贝叶斯公式

贝叶斯公式的定义

贝叶斯公式

在全概率公式的条件下,对任意事件 BB 且 P(B)>0P(B) > 0,有: P(Ai∣B)=P(Ai)P(B∣Ai)∑j=1nP(Aj)P(B∣Aj)P(A_i|B) = \frac{P(A_i)P(B|A_i)}{\sum_{j=1}^n P(A_j)P(B|A_j)}

贝叶斯公式的直观理解

理解:贝叶斯公式用于计算在事件 BB 发生的条件下,事件 AiA_i 发生的概率。它体现了”逆概率”的思想,即从结果反推原因。

贝叶斯公式的证明

证明:

  1. 由条件概率定义,P(Ai∣B)=P(Ai∩B)P(B)P(A_i|B) = \frac{P(A_i \cap B)}{P(B)}
  2. 由乘法公式,P(Ai∩B)=P(Ai)P(B∣Ai)P(A_i \cap B) = P(A_i)P(B|A_i)
  3. 由全概率公式,P(B)=∑j=1nP(Aj)P(B∣Aj)P(B) = \sum_{j=1}^n P(A_j)P(B|A_j)
  4. 所以 P(Ai∣B)=P(Ai)P(B∣Ai)∑j=1nP(Aj)P(B∣Aj)P(A_i|B) = \frac{P(A_i)P(B|A_i)}{\sum_{j=1}^n P(A_j)P(B|A_j)}

贝叶斯公式的例子

例 4:继续例 3 的问题,求取到白球的条件下,球来自第 3 盒的概率

  • P(A3∣B)=P(A3)P(B∣A3)P(B)P(A_3|B) = \frac{P(A_3)P(B|A_3)}{P(B)}
  • =13×351115=151115=311= \frac{\frac{1}{3} \times \frac{3}{5}}{\frac{11}{15}} = \frac{\frac{1}{5}}{\frac{11}{15}} = \frac{3}{11}

例 5:某工厂生产的产品由三个车间生产,第一车间生产 40%,第二车间生产 35%,第三车间生产 25%。第一车间的次品率为 2%,第二车间的次品率为 1%,第三车间的次品率为 3%。现从产品中随机抽取一件,发现是次品,求它来自第一车间的概率。

解:

  1. 设 Ai={产品来自第 i 车间}A_i = \{\text{产品来自第 } i \text{ 车间}\},i=1,2,3i = 1, 2, 3
  2. 设 B={产品是次品}B = \{\text{产品是次品}\}
  3. P(A1)=0.4P(A_1) = 0.4,P(A2)=0.35P(A_2) = 0.35,P(A3)=0.25P(A_3) = 0.25
  4. P(B∣A1)=0.02P(B|A_1) = 0.02,P(B∣A2)=0.01P(B|A_2) = 0.01,P(B∣A3)=0.03P(B|A_3) = 0.03
  5. P(B)=0.4×0.02+0.35×0.01+0.25×0.03=0.008+0.0035+0.0075=0.019P(B) = 0.4 \times 0.02 + 0.35 \times 0.01 + 0.25 \times 0.03 = 0.008 + 0.0035 + 0.0075 = 0.019
  6. P(A1∣B)=0.4×0.020.019=0.0080.019≈0.421P(A_1|B) = \frac{0.4 \times 0.02}{0.019} = \frac{0.008}{0.019} \approx 0.421

事件的独立性

事件独立性的定义

事件的独立性

如果事件 AA 和 BB 满足: P(A∩B)=P(A)P(B)P(A \cap B) = P(A)P(B)

则称事件 AA 和 BB 独立。

事件独立性的等价条件

等价条件:事件 AA 和 BB 独立的充要条件是: P(A∣B)=P(A)或P(B∣A)=P(B)P(A|B) = P(A) \quad \text{或} \quad P(B|A) = P(B)

事件独立性的性质

性质 1:如果 AA 和 BB 独立,则 AA 和 B‾\overline{B} 独立,A‾\overline{A} 和 BB 独立,A‾\overline{A} 和 B‾\overline{B} 独立。

性质 2:如果 AA 和 BB 独立,且 P(B)>0P(B) > 0,则 P(A∣B)=P(A)P(A|B) = P(A)。

性质 3:不可能事件与任意事件独立。

多个事件的独立性

相互独立

事件 A1,A2,…,AnA_1, A_2, \dots, A_n 称为相互独立,如果对任意 kk 个事件 Ai1,Ai2,…,AikA_{i_1}, A_{i_2}, \dots, A_{i_k},都有: P(Ai1∩Ai2∩⋯∩Aik)=P(Ai1)P(Ai2)…P(Aik)P(A_{i_1} \cap A_{i_2} \cap \dots \cap A_{i_k}) = P(A_{i_1})P(A_{i_2}) \dots P(A_{i_k})

独立性的例子

例 6:掷两颗骰子

  • 设 A={第一颗骰子出现6}A = \{\text{第一颗骰子出现6}\}
  • 设 B={第二颗骰子出现6}B = \{\text{第二颗骰子出现6}\}
  • P(A)=16P(A) = \frac{1}{6},P(B)=16P(B) = \frac{1}{6}
  • P(A∩B)=136=16×16=P(A)P(B)P(A \cap B) = \frac{1}{36} = \frac{1}{6} \times \frac{1}{6} = P(A)P(B)
  • 所以 AA 和 BB 独立

练习题

练习 1

已知 P(A)=0.3,P(B∣A)=0.5P(A) = 0.3, P(B|A) = 0.5,求 P(A∩B)P(A \cap B)。

参考答案

解题思路: 使用乘法公式计算。

详细步骤:

  1. P(A∩B)=P(A)P(B∣A)P(A \cap B) = P(A)P(B|A)
  2. =0.3×0.5=0.15= 0.3 \times 0.5 = 0.15

答案:0.150.15

练习 2

有三个盒子,分别含有 2、3、5 个球,随机选一盒取一球,求取到白球的条件下该球来自第 3 盒的概率(第 3 盒有 3 白 2 黑,其他全白)。

参考答案

解题思路: 使用贝叶斯公式计算。

详细步骤:

  1. 设 Ai={选第 i 盒}A_i = \{\text{选第 } i \text{ 盒}\},i=1,2,3i = 1, 2, 3
  2. 设 B={取到白球}B = \{\text{取到白球}\}
  3. P(A1)=P(A2)=P(A3)=13P(A_1) = P(A_2) = P(A_3) = \frac{1}{3}
  4. P(B∣A1)=1P(B|A_1) = 1,P(B∣A2)=1P(B|A_2) = 1,P(B∣A3)=35P(B|A_3) = \frac{3}{5}
  5. P(B)=13×1+13×1+13×35=1115P(B) = \frac{1}{3} \times 1 + \frac{1}{3} \times 1 + \frac{1}{3} \times \frac{3}{5} = \frac{11}{15}
  6. P(A3∣B)=P(A3)P(B∣A3)P(B)=13×351115=311P(A_3|B) = \frac{P(A_3)P(B|A_3)}{P(B)} = \frac{\frac{1}{3} \times \frac{3}{5}}{\frac{11}{15}} = \frac{3}{11}

答案:311\frac{3}{11}

练习 3

已知 P(A)=0.6,P(B)=0.5,P(A∩B)=0.3P(A) = 0.6, P(B) = 0.5, P(A \cap B) = 0.3,判断 A、B 是否独立。

参考答案

解题思路: 检查是否满足独立性条件。

详细步骤:

  1. P(A)P(B)=0.6×0.5=0.3P(A)P(B) = 0.6 \times 0.5 = 0.3
  2. P(A∩B)=0.3P(A \cap B) = 0.3
  3. 所以 P(A∩B)=P(A)P(B)P(A \cap B) = P(A)P(B)
  4. 因此 AA 和 BB 独立

答案:AA 和 BB 独立

练习 4

某工厂生产的产品由两个车间生产,第一车间生产 60%,第二车间生产 40%。第一车间的次品率为 1%,第二车间的次品率为 2%。现从产品中随机抽取一件,发现是次品,求它来自第一车间的概率。

参考答案

解题思路: 使用贝叶斯公式计算。

详细步骤:

  1. 设 A1={产品来自第一车间}A_1 = \{\text{产品来自第一车间}\},A2={产品来自第二车间}A_2 = \{\text{产品来自第二车间}\}
  2. 设 B={产品是次品}B = \{\text{产品是次品}\}
  3. P(A1)=0.6P(A_1) = 0.6,P(A2)=0.4P(A_2) = 0.4
  4. P(B∣A1)=0.01P(B|A_1) = 0.01,P(B∣A2)=0.02P(B|A_2) = 0.02
  5. P(B)=0.6×0.01+0.4×0.02=0.006+0.008=0.014P(B) = 0.6 \times 0.01 + 0.4 \times 0.02 = 0.006 + 0.008 = 0.014
  6. P(A1∣B)=0.6×0.010.014=0.0060.014=37P(A_1|B) = \frac{0.6 \times 0.01}{0.014} = \frac{0.006}{0.014} = \frac{3}{7}

答案:37\frac{3}{7}

练习 5

掷两颗骰子,设 A={第一颗骰子出现偶数}A = \{\text{第一颗骰子出现偶数}\},B={两颗骰子点数之和为7}B = \{\text{两颗骰子点数之和为7}\},判断 AA 和 BB 是否独立。

参考答案

解题思路: 计算相关概率并检查独立性。

详细步骤:

  1. P(A)=36=12P(A) = \frac{3}{6} = \frac{1}{2}
  2. P(B)=636=16P(B) = \frac{6}{36} = \frac{1}{6}(有 6 种情况:(1,6), (2,5), (3,4), (4,3), (5,2), (6,1))
  3. A∩B={第一颗骰子出现偶数且和为7}={(2,5),(4,3),(6,1)}A \cap B = \{\text{第一颗骰子出现偶数且和为7}\} = \{(2,5), (4,3), (6,1)\}
  4. P(A∩B)=336=112P(A \cap B) = \frac{3}{36} = \frac{1}{12}
  5. P(A)P(B)=12×16=112P(A)P(B) = \frac{1}{2} \times \frac{1}{6} = \frac{1}{12}
  6. 所以 P(A∩B)=P(A)P(B)P(A \cap B) = P(A)P(B),AA 和 BB 独立

答案:AA 和 BB 独立