概率论中的应用

联合概率密度

二维连续型随机变量

联合概率密度

(X,Y)(X, Y) 是二维连续型随机变量,如果存在非负可积函数 f(x,y)f(x,y),使得对于任意平面区域 DD,有

P\{(X,Y) \in D\} = \iint_D f(x,y) \, dx\,dy

则称 f(x,y)f(x,y)(X,Y)(X,Y)联合概率密度函数(简称联合密度)。

联合密度满足:

  1. 非负性f(x,y)0f(x,y) \geq 0
  2. 归一性\iint_{\mathbb{R}^2} f(x,y) \, dx\,dy = 1

概率的几何意义

P\{(X,Y) \in D\} 等于以区域 DD 为底、以曲面 z=f(x,y)z = f(x,y) 为顶的曲顶柱体的体积。

边缘概率密度

边缘概率密度

由联合密度 f(x,y)f(x,y) 可以求出 XXYY 各自的概率密度(边缘密度):

f_X(x) = \int_{-\infty}^{+\infty} f(x,y) \, dy f_Y(y) = \int_{-\infty}^{+\infty} f(x,y) \, dx

边缘密度是联合密度在另一变量上的积分——将二维分布”压缩”到一维。

条件概率密度

条件概率密度

fY(y)>0f_Y(y) > 0 时,在 Y=yY = y 条件下 XX 的条件概率密度为:

f_{X|Y}(x|y) = \frac{f(x,y)}{f_Y(y)}

fX(x)>0f_X(x) > 0 时,在 X=xX = x 条件下 YY 的条件概率密度为:

f_{Y|X}(y|x) = \frac{f(x,y)}{f_X(x)}

独立性

定理1

随机变量 XXYY 相互独立的充要条件是:

f(x,y)=fX(x)fY(y)f(x,y) = f_X(x) \cdot f_Y(y)

对几乎所有的 (x,y)(x,y) 成立。

几何解释
推论
证明
符号说明

数学期望

二维随机变量函数的期望

随机变量函数的数学期望

Z=g(X,Y)Z = g(X,Y) 是二维随机变量的函数,则:

E(Z) = E[g(X,Y)] = \iint_{\mathbb{R}^2} g(x,y) f(x,y) \, dx\,dy

特别地:

  • E(X)=xf(x,y)dxdy=xfX(x)dxE(X) = \iint x f(x,y) \, dx\,dy = \int x f_X(x) \, dx
  • E(Y)=yf(x,y)dxdy=yfY(y)dyE(Y) = \iint y f(x,y) \, dx\,dy = \int y f_Y(y) \, dy

协方差与相关系数

协方差与相关系数

协方差\text{Cov}(X,Y) = E[(X-EX)(Y-EY)] = E(XY) - EX \cdot EY =(xEX)(yEY)f(x,y)dxdy= \iint (x-EX)(y-EY) f(x,y) \, dx\,dy

相关系数\rho_{XY} = \frac{\text{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}

X,YX, Y 独立,则 \text{Cov}(X,Y) = 0(反之不成立)。

典型例题

例题1:联合密度的归一化与概率

设二维随机变量 (X,Y)(X,Y) 的联合密度为: f(x,y) = \begin{cases} Axy, & 0 \leq x \leq 1, \, 0 \leq y \leq 1 \\ 0, & \text{其他} \end{cases} 求:(1) 常数 AA;(2) P\{X+Y \leq 1\};(3) 边缘密度 fX(x),fY(y)f_X(x), f_Y(y)

参考答案(4 个标签)
联合密度归一化边缘密度概率计算

解题思路: 利用归一性求 AA,用二重积分求概率,用单积分求边缘密度。

详细步骤

(1) 归一性: \int_0^1 \int_0^1 Axy \, dx\,dy = A \int_0^1 x \, dx \int_0^1 y \, dy = A \cdot \frac{1}{2} \cdot \frac{1}{2} = \frac{A}{4} = 1 所以 A=4A = 4

(2) P\{X+Y \leq 1\}: 区域 D:0x1,0y1xD: 0 \leq x \leq 1, \, 0 \leq y \leq 1-x P = \int_0^1 dx \int_0^{1-x} 4xy \, dy = \int_0^1 4x \cdot \frac{(1-x)^2}{2} dx = 2\int_0^1 x(1-2x+x^2) dx = 2\int_0^1 (x-2x^2+x^3) dx = 2[\frac{x^2}{2} - \frac{2x^3}{3} + \frac{x^4}{4}]_0^1 = 2(\frac{1}{2} - \frac{2}{3} + \frac{1}{4}) = 2 \cdot \frac{1}{12} = \frac{1}{6}

(3) 边缘密度: f_X(x) = \int_0^1 4xy \, dy = 4x \cdot \frac{1}{2} = 2x0x10 \leq x \leq 1),其他为0。 f_Y(y) = \int_0^1 4xy \, dx = 4y \cdot \frac{1}{2} = 2y0y10 \leq y \leq 1),其他为0。

答案:(1) A=4A=4;(2) P\{X+Y\leq1\} = \frac{1}{6};(3) fX(x)=2x,fY(y)=2yf_X(x)=2x, \, f_Y(y)=2y0x,y10\leq x,y\leq1

例题2:均匀分布与期望

(X,Y)(X,Y) 在区域 D:0x1,x2yxD: 0 \leq x \leq 1, \, x^2 \leq y \leq x 上服从均匀分布,求 E(X)E(X)E(Y)E(Y)

参考答案(4 个标签)
均匀分布数学期望联合密度二重积分

解题思路: 先求区域面积,得到联合密度,再用二重积分求期望。

详细步骤

  1. 区域面积:S = \int_0^1 dx \int_{x^2}^x dy = \int_0^1 (x-x^2) dx = [\frac{x^2}{2} - \frac{x^3}{3}]_0^1 = \frac{1}{6}
  2. 联合密度:f(x,y) = \begin{cases} 6, & (x,y) \in D \\ 0, & \text{其他} \end{cases}
  3. E(X) = \iint_D x \cdot 6 \, dx\,dy = 6\int_0^1 x \, dx \int_{x^2}^x dy = 6\int_0^1 x(x-x^2) dx = 6\int_0^1 (x^2-x^3) dx = 6[\frac{x^3}{3} - \frac{x^4}{4}]_0^1 = 6(\frac{1}{3} - \frac{1}{4}) = 6 \cdot \frac{1}{12} = \frac{1}{2}
  4. E(Y) = \iint_D y \cdot 6 \, dx\,dy = 6\int_0^1 dx \int_{x^2}^x y \, dy = 6\int_0^1 \frac{x^2-x^4}{2} dx = 3\int_0^1 (x^2-x^4) dx = 3[\frac{x^3}{3} - \frac{x^5}{5}]_0^1 = 3(\frac{1}{3} - \frac{1}{5}) = 3 \cdot \frac{2}{15} = \frac{2}{5}

答案E(X) = \frac{1}{2}E(Y) = \frac{2}{5}

例题3:正态分布的概率

(X,Y)(X,Y) 服从二维正态分布,联合密度为: f(x,y) = \frac{1}{2\pi} e^{-\frac{x^2+y^2}{2}}P\{X^2 + Y^2 \leq R^2\}

参考答案(4 个标签)
二维正态分布极坐标概率计算卡方分布

解题思路: 区域是圆,用极坐标计算。

详细步骤

  1. P\{X^2+Y^2 \leq R^2\} = \iint_{x^2+y^2 \leq R^2} \frac{1}{2\pi} e^{-\frac{x^2+y^2}{2}} dx\,dy
  2. 极坐标:= \frac{1}{2\pi} \int_0^{2\pi} d\theta \int_0^R e^{-\frac{\rho^2}{2}} \cdot \rho \, d\rho = \int_0^R \rho e^{-\frac{\rho^2}{2}} d\rho = [-e^{-\frac{\rho^2}{2}}]_0^R = 1 - e^{-\frac{R^2}{2}}

答案1 - e^{-\frac{R^2}{2}}

(这是自由度为2的卡方分布的分布函数。)


练习题

练习1

(X,Y)(X,Y) 的联合密度为 f(x,y) = \begin&#123;cases&#125; e^&#123;-(x+y)&#125;, & x>0, \, y>0 \\ 0, & \text&#123;其他&#125; \end&#123;cases&#125;,判断 XXYY 是否独立,并求 P\&#123;X < Y\&#125;

参考答案(4 个标签)
独立性指数分布概率计算联合密度

解题思路: 求边缘密度,判断是否独立;用二重积分求概率。

详细步骤

  1. 边缘密度: f_X(x) = \int_0^&#123;+\infty&#125; e^&#123;-(x+y)&#125; dy = e^&#123;-x&#125;x>0x>0f_Y(y) = \int_0^&#123;+\infty&#125; e^&#123;-(x+y)&#125; dx = e^&#123;-y&#125;y>0y>0
  2. f(x,y) = e^&#123;-x&#125; \cdot e^&#123;-y&#125; = f_X(x) f_Y(y),所以 X,YX, Y 独立。
  3. P\&#123;X < Y\&#125; = \int_0^&#123;+\infty&#125; dx \int_x^&#123;+\infty&#125; e^&#123;-(x+y)&#125; dy = \int_0^&#123;+\infty&#125; e^&#123;-x&#125; \cdot e^&#123;-x&#125; dx = \int_0^&#123;+\infty&#125; e^&#123;-2x&#125; dx = \frac&#123;1&#125;&#123;2&#125;

答案X,YX, Y 独立(均服从参数为1的指数分布);P\&#123;X<Y\&#125; = \frac&#123;1&#125;&#123;2&#125;

练习2

(X,Y)(X,Y) 在圆域 x2+y2R2x^2+y^2 \leq R^2 上服从均匀分布,求协方差 \text&#123;Cov&#125;(X,Y)

参考答案(4 个标签)
均匀分布协方差对称性圆域

解题思路: 利用对称性,E(X)=E(Y)=0E(X)=E(Y)=0,再计算 E(XY)E(XY)

详细步骤

  1. 联合密度:f(x,y) = \frac&#123;1&#125;&#123;\pi R^2&#125;x2+y2R2x^2+y^2 \leq R^2
  2. 由对称性,E(X)=0,E(Y)=0E(X) = 0, \, E(Y) = 0
  3. E(XY) = \iint_&#123;x^2+y^2 \leq R^2&#125; xy \cdot \frac&#123;1&#125;&#123;\pi R^2&#125; dx\,dy
  4. 被积函数 xyxy 关于 xx(或 yy)是奇函数,积分区域关于 yy 轴(或 xx 轴)对称,所以积分为0。
  5. \text&#123;Cov&#125;(X,Y) = E(XY) - EX \cdot EY = 0 - 0 = 0

答案\text&#123;Cov&#125;(X,Y) = 0

(注意:协方差为零不代表独立,本题中 X,YX, Y 实际上不独立。)


总结

本文出现的符号

符号类型读音/说明在本文中的含义
f(x,y)f(x,y)联合概率密度joint probability density二维随机变量的联合密度函数
fX(x)f_X(x)边缘概率密度marginal densityX 的边缘概率密度
fY(y)f_Y(y)边缘概率密度marginal densityY 的边缘概率密度
$f_{XY}(x|y)$条件概率密度conditional density
E(X)E(X)数学期望expected value随机变量 X 的期望
\text&#123;Cov&#125;(X,Y)协方差covarianceX 与 Y 的协方差
\rho_&#123;XY&#125;相关系数correlation coefficientX 与 Y 的相关系数
D(X)D(X)方差variance随机变量 X 的方差

中英对照

中文术语英文术语音标说明
联合概率密度joint probability density/dʒɔɪnt ˌprɒbəˈbɪləti ˈdɛnsəti/二维随机变量的密度函数
边缘概率密度marginal probability density/ˈmɑːrdʒɪnəl ˌprɒbəˈbɪləti ˈdɛnsəti/单个变量的概率密度
条件概率密度conditional probability density/kənˈdɪʃənəl ˌprɒbəˈbɪləti ˈdɛnsəti/条件分布的密度
数学期望expected value / expectation/ɪkˈspɛktɪd ˈvæljuː/随机变量的平均值
协方差covariance/koʊˈvɛriəns/两个变量协同变化的程度
相关系数correlation coefficient/ˌkɒrəˈleɪʃən ˌkoʊɪˈfɪʃənt/标准化的协方差
独立性independence/ˌɪndɪˈpɛndəns/随机变量间无关联
均匀分布uniform distribution/ˈjuːnɪfɔːrm ˌdɪstrɪˈbjuːʃən/概率密度为常数的分布
二维正态分布bivariate normal distribution/baɪˈvɛriət ˈnɔːrməl ˌdɪstrɪˈbjuːʃən/二维的正态分布
卡方分布chi-square distribution/kaɪ skwɛər ˌdɪstrɪˈbjuːʃən/标准正态变量平方和的分布