区间估计与置信区间

区间估计的基本概念

区间估计的定义

置信区间

设总体 XX 的分布函数为 F(x;θ)F(x;\theta),其中 θ\theta 是未知参数。从总体中抽取样本 X1,X2,…,XnX_1, X_2, \dots, X_n,构造两个统计量 θ^1=θ^1(X1,X2,…,Xn)\hat{\theta}_1 = \hat{\theta}_1(X_1, X_2, \dots, X_n) 和 θ^2=θ^2(X1,X2,…,Xn)\hat{\theta}_2 = \hat{\theta}_2(X_1, X_2, \dots, X_n),使得: P(θ^1≤θ≤θ^2)=1−αP(\hat{\theta}_1 \leq \theta \leq \hat{\theta}_2) = 1 - \alpha 则称区间 [θ^1,θ^2][\hat{\theta}_1, \hat{\theta}_2] 为参数 θ\theta 的置信区间,1−α1 - \alpha 称为置信水平。

置信区间的直观理解

理解:置信区间给出了参数可能取值的范围。置信水平 1−α1 - \alpha 表示在大量重复抽样中,有 100(1−α)%100(1-\alpha)\% 的置信区间包含真值。

置信区间的性质

性质 1:置信区间是随机的,真值是固定的 性质 2:置信水平越高,置信区间越宽 性质 3:样本量越大,置信区间越窄

置信区间的构造方法

枢轴量法

思想:构造一个包含参数和样本的统计量,其分布已知且不依赖于参数。

步骤:

  1. 构造枢轴量 G(X1,X2,…,Xn;θ)G(X_1, X_2, \dots, X_n; \theta)
  2. 确定枢轴量的分布
  3. 找到常数 a,ba, b,使得 P(a≤G≤b)=1−αP(a \leq G \leq b) = 1 - \alpha
  4. 解不等式 a≤G≤ba \leq G \leq b 得到置信区间

正态总体均值的置信区间

方差已知的情况

总体:X∼N(μ,σ2)X \sim N(\mu, \sigma^2),σ2\sigma^2 已知

枢轴量:Z=X‾−μσ/n∼N(0,1)Z = \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \sim N(0,1)

置信区间: P(−zα/2≤X‾−μσ/n≤zα/2)=1−αP(-z_{\alpha/2} \leq \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \leq z_{\alpha/2}) = 1 - \alpha

解得: μ∈[X‾−zα/2σn,X‾+zα/2σn]\mu \in [\overline{X} - z_{\alpha/2}\frac{\sigma}{\sqrt{n}}, \overline{X} + z_{\alpha/2}\frac{\sigma}{\sqrt{n}}]

方差未知的情况

总体:X∼N(μ,σ2)X \sim N(\mu, \sigma^2),σ2\sigma^2 未知

枢轴量:T=X‾−μS/n∼t(n−1)T = \frac{\overline{X} - \mu}{S/\sqrt{n}} \sim t(n-1)

置信区间: P(−tα/2(n−1)≤X‾−μS/n≤tα/2(n−1))=1−αP(-t_{\alpha/2}(n-1) \leq \frac{\overline{X} - \mu}{S/\sqrt{n}} \leq t_{\alpha/2}(n-1)) = 1 - \alpha

解得: μ∈[X‾−tα/2(n−1)Sn,X‾+tα/2(n−1)Sn]\mu \in [\overline{X} - t_{\alpha/2}(n-1)\frac{S}{\sqrt{n}}, \overline{X} + t_{\alpha/2}(n-1)\frac{S}{\sqrt{n}}]

正态总体方差的置信区间

总体:X∼N(μ,σ2)X \sim N(\mu, \sigma^2)

枢轴量:χ2=(n−1)S2σ2∼χ2(n−1)\chi^2 = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)

置信区间: P(χ1−α/22(n−1)≤(n−1)S2σ2≤χα/22(n−1))=1−αP(\chi^2_{1-\alpha/2}(n-1) \leq \frac{(n-1)S^2}{\sigma^2} \leq \chi^2_{\alpha/2}(n-1)) = 1 - \alpha

解得: σ2∈[(n−1)S2χα/22(n−1),(n−1)S2χ1−α/22(n−1)]\sigma^2 \in [\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}]

两个正态总体均值差的置信区间

方差已知的情况

总体:X∼N(μ1,σ12)X \sim N(\mu_1, \sigma_1^2),Y∼N(μ2,σ22)Y \sim N(\mu_2, \sigma_2^2),σ12,σ22\sigma_1^2, \sigma_2^2 已知

枢轴量:Z=(X‾−Y‾)−(μ1−μ2)σ12n1+σ22n2∼N(0,1)Z = \frac{(\overline{X} - \overline{Y}) - (\mu_1 - \mu_2)}{\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}} \sim N(0,1)

置信区间: (μ1−μ2)∈[(X‾−Y‾)−zα/2σ12n1+σ22n2,(X‾−Y‾)+zα/2σ12n1+σ22n2](\mu_1 - \mu_2) \in [(\overline{X} - \overline{Y}) - z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}, (\overline{X} - \overline{Y}) + z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}}]

方差未知但相等的情况

总体:X∼N(μ1,σ2)X \sim N(\mu_1, \sigma^2),Y∼N(μ2,σ2)Y \sim N(\mu_2, \sigma^2)

枢轴量:T=(X‾−Y‾)−(μ1−μ2)Sp1n1+1n2∼t(n1+n2−2)T = \frac{(\overline{X} - \overline{Y}) - (\mu_1 - \mu_2)}{S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}} \sim t(n_1 + n_2 - 2)

其中 Sp2=(n1−1)S12+(n2−1)S22n1+n2−2S_p^2 = \frac{(n_1-1)S_1^2 + (n_2-1)S_2^2}{n_1 + n_2 - 2}

置信区间: (μ1−μ2)∈[(X‾−Y‾)−tα/2(n1+n2−2)Sp1n1+1n2,(X‾−Y‾)+tα/2(n1+n2−2)Sp1n1+1n2](\mu_1 - \mu_2) \in [(\overline{X} - \overline{Y}) - t_{\alpha/2}(n_1 + n_2 - 2)S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}, (\overline{X} - \overline{Y}) + t_{\alpha/2}(n_1 + n_2 - 2)S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}]

两个正态总体方差比的置信区间

总体:X∼N(μ1,σ12)X \sim N(\mu_1, \sigma_1^2),Y∼N(μ2,σ22)Y \sim N(\mu_2, \sigma_2^2)

枢轴量:F=S12/σ12S22/σ22∼F(n1−1,n2−1)F = \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \sim F(n_1-1, n_2-1)

置信区间: P(F1−α/2(n1−1,n2−1)≤S12/σ12S22/σ22≤Fα/2(n1−1,n2−1))=1−αP(F_{1-\alpha/2}(n_1-1, n_2-1) \leq \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \leq F_{\alpha/2}(n_1-1, n_2-1)) = 1 - \alpha

解得: σ12σ22∈[S12S221Fα/2(n1−1,n2−1),S12S221F1−α/2(n1−1,n2−1)]\frac{\sigma_1^2}{\sigma_2^2} \in [\frac{S_1^2}{S_2^2}\frac{1}{F_{\alpha/2}(n_1-1, n_2-1)}, \frac{S_1^2}{S_2^2}\frac{1}{F_{1-\alpha/2}(n_1-1, n_2-1)}]

置信区间的应用

样本量的确定

问题:给定置信水平和精度要求,确定所需的样本量。

例 1:对于正态总体均值估计,给定置信水平 1−α1-\alpha 和精度 δ\delta,求样本量 nn。

解:

  1. 置信区间长度:2zα/2σn≤2δ2z_{\alpha/2}\frac{\sigma}{\sqrt{n}} \leq 2\delta
  2. 解得:n≥(zα/2σδ)2n \geq (\frac{z_{\alpha/2}\sigma}{\delta})^2

置信区间的解释

正确解释:在大量重复抽样中,有 100(1−α)%100(1-\alpha)\% 的置信区间包含真值。

错误解释:真值有 100(1−α)%100(1-\alpha)\% 的概率落在置信区间内。

置信区间的选择

双侧置信区间:适用于一般情况 单侧置信区间:适用于有方向性的问题

例 2:估计产品寿命的下限

  • 单侧置信区间:[θ^L,+∞)[\hat{\theta}_L, +\infty)
  • P(θ≥θ^L)=1−αP(\theta \geq \hat{\theta}_L) = 1 - \alpha

置信区间的性质

置信水平与区间长度的关系

关系:置信水平越高,置信区间越长。

原因:置信水平越高,需要覆盖真值的概率越大,因此区间必须更宽。

样本量与区间长度的关系

关系:样本量越大,置信区间越短。

原因:样本量越大,估计越精确,因此区间越窄。

置信区间的对称性

正态分布:置信区间通常是对称的 其他分布:置信区间可能不对称

常见分布的置信区间

二项分布参数的置信区间

总体:X∼B(1,p)X \sim B(1,p)

大样本近似: p∈[p^−zα/2p^(1−p^)n,p^+zα/2p^(1−p^)n]p \in [\hat{p} - z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}, \hat{p} + z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}]

其中 p^=1n∑i=1nXi\hat{p} = \frac{1}{n}\sum_{i=1}^n X_i

泊松分布参数的置信区间

总体:X∼Poisson(λ)X \sim Poisson(\lambda)

大样本近似: λ∈[λ^−zα/2λ^n,λ^+zα/2λ^n]\lambda \in [\hat{\lambda} - z_{\alpha/2}\sqrt{\frac{\hat{\lambda}}{n}}, \hat{\lambda} + z_{\alpha/2}\sqrt{\frac{\hat{\lambda}}{n}}]

其中 λ^=X‾\hat{\lambda} = \overline{X}

练习题

练习 1

写出正态总体均值 μ\mu 的 1−α1-\alpha 置信区间(方差已知)。

参考答案

解题思路: 使用枢轴量法构造置信区间。

详细步骤:

  1. 枢轴量:Z=X‾−μσ/n∼N(0,1)Z = \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \sim N(0,1)
  2. P(−zα/2≤X‾−μσ/n≤zα/2)=1−αP(-z_{\alpha/2} \leq \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \leq z_{\alpha/2}) = 1 - \alpha
  3. 解得:μ∈[X‾−zα/2σn,X‾+zα/2σn]\mu \in [\overline{X} - z_{\alpha/2}\frac{\sigma}{\sqrt{n}}, \overline{X} + z_{\alpha/2}\frac{\sigma}{\sqrt{n}}]

答案:[X‾−zα/2σn,X‾+zα/2σn][\overline{X} - z_{\alpha/2}\frac{\sigma}{\sqrt{n}}, \overline{X} + z_{\alpha/2}\frac{\sigma}{\sqrt{n}}]

练习 2

设 X1,X2,…,XnX_1, X_2, \dots, X_n 是来自总体 X∼N(μ,σ2)X \sim N(\mu, \sigma^2) 的样本,σ2\sigma^2 未知,求 μ\mu 的 95%95\% 置信区间。

参考答案

解题思路: 使用 t 分布构造置信区间。

详细步骤:

  1. 枢轴量:T=X‾−μS/n∼t(n−1)T = \frac{\overline{X} - \mu}{S/\sqrt{n}} \sim t(n-1)
  2. P(−t0.025(n−1)≤X‾−μS/n≤t0.025(n−1))=0.95P(-t_{0.025}(n-1) \leq \frac{\overline{X} - \mu}{S/\sqrt{n}} \leq t_{0.025}(n-1)) = 0.95
  3. 解得:μ∈[X‾−t0.025(n−1)Sn,X‾+t0.025(n−1)Sn]\mu \in [\overline{X} - t_{0.025}(n-1)\frac{S}{\sqrt{n}}, \overline{X} + t_{0.025}(n-1)\frac{S}{\sqrt{n}}]

答案:[X‾−t0.025(n−1)Sn,X‾+t0.025(n−1)Sn][\overline{X} - t_{0.025}(n-1)\frac{S}{\sqrt{n}}, \overline{X} + t_{0.025}(n-1)\frac{S}{\sqrt{n}}]

练习 3

设 X1,X2,…,XnX_1, X_2, \dots, X_n 是来自总体 X∼N(μ,σ2)X \sim N(\mu, \sigma^2) 的样本,求 σ2\sigma^2 的 1−α1-\alpha 置信区间。

参考答案

解题思路: 使用卡方分布构造置信区间。

详细步骤:

  1. 枢轴量:χ2=(n−1)S2σ2∼χ2(n−1)\chi^2 = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)
  2. P(χ1−α/22(n−1)≤(n−1)S2σ2≤χα/22(n−1))=1−αP(\chi^2_{1-\alpha/2}(n-1) \leq \frac{(n-1)S^2}{\sigma^2} \leq \chi^2_{\alpha/2}(n-1)) = 1 - \alpha
  3. 解得:σ2∈[(n−1)S2χα/22(n−1),(n−1)S2χ1−α/22(n−1)]\sigma^2 \in [\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}]

答案:[(n−1)S2χα/22(n−1),(n−1)S2χ1−α/22(n−1)][\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}]

练习 4

设两总体方差分别为 σ12,σ22\sigma_1^2, \sigma_2^2,检验 H0:σ12=σ22H_0: \sigma_1^2=\sigma_2^2,应选用哪种检验?

参考答案

解题思路: 根据检验对象选择合适的检验方法。

详细步骤:

  1. 检验两个正态总体方差比
  2. 使用 F 检验
  3. 检验统计量:F=S12S22∼F(n1−1,n2−1)F = \frac{S_1^2}{S_2^2} \sim F(n_1-1, n_2-1)

答案:F 检验

练习 5

设 X1,X2,…,XnX_1, X_2, \dots, X_n 是来自总体 X∼N(μ,σ2)X \sim N(\mu, \sigma^2) 的样本,σ2\sigma^2 已知,求 μ\mu 的 90%90\% 置信区间。

参考答案

解题思路: 使用正态分布构造置信区间。

详细步骤:

  1. 枢轴量:Z=X‾−μσ/n∼N(0,1)Z = \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \sim N(0,1)
  2. P(−z0.05≤X‾−μσ/n≤z0.05)=0.90P(-z_{0.05} \leq \frac{\overline{X} - \mu}{\sigma/\sqrt{n}} \leq z_{0.05}) = 0.90
  3. 解得:μ∈[X‾−z0.05σn,X‾+z0.05σn]\mu \in [\overline{X} - z_{0.05}\frac{\sigma}{\sqrt{n}}, \overline{X} + z_{0.05}\frac{\sigma}{\sqrt{n}}]

答案:[X‾−z0.05σn,X‾+z0.05σn][\overline{X} - z_{0.05}\frac{\sigma}{\sqrt{n}}, \overline{X} + z_{0.05}\frac{\sigma}{\sqrt{n}}]


总结

本文出现的希腊字母

希腊字母读音说明
α\alpha阿尔法 (alpha)表示显著性水平,1−α1-\alpha 为置信水平
μ\mu缪 (mu)表示总体均值
σ\sigma西格玛 (sigma)表示总体标准差
χ\chi希 (chi)表示卡方分布中的卡方统计量