概率论中的应用

联合概率密度

二维连续型随机变量

联合概率密度

设 (X,Y)(X, Y) 是二维连续型随机变量,如果存在非负可积函数 f(x,y)f(x,y),使得对于任意平面区域 DD,有

P{(X,Y)∈D}=∬Df(x,y) dx dyP\{(X,Y) \in D\} = \iint_D f(x,y) \, dx\,dy

则称 f(x,y)f(x,y) 为 (X,Y)(X,Y) 的联合概率密度函数(简称联合密度)。

联合密度满足:

  1. 非负性:f(x,y)≥0f(x,y) \geq 0
  2. 归一性:∬R2f(x,y) dx dy=1\iint_{\mathbb{R}^2} f(x,y) \, dx\,dy = 1

概率的几何意义

P{(X,Y)∈D}P\{(X,Y) \in D\} 等于以区域 DD 为底、以曲面 z=f(x,y)z = f(x,y) 为顶的曲顶柱体的体积。

边缘概率密度

边缘概率密度

由联合密度 f(x,y)f(x,y) 可以求出 XX 和 YY 各自的概率密度(边缘密度):

fX(x)=∫−∞+∞f(x,y) dyf_X(x) = \int_{-\infty}^{+\infty} f(x,y) \, dy fY(y)=∫−∞+∞f(x,y) dxf_Y(y) = \int_{-\infty}^{+\infty} f(x,y) \, dx

边缘密度是联合密度在另一变量上的积分——将二维分布”压缩”到一维。

条件概率密度

条件概率密度

当 fY(y)>0f_Y(y) > 0 时,在 Y=yY = y 条件下 XX 的条件概率密度为:

fX∣Y(x∣y)=f(x,y)fY(y)f_{X|Y}(x|y) = \frac{f(x,y)}{f_Y(y)}

当 fX(x)>0f_X(x) > 0 时,在 X=xX = x 条件下 YY 的条件概率密度为:

fY∣X(y∣x)=f(x,y)fX(x)f_{Y|X}(y|x) = \frac{f(x,y)}{f_X(x)}

独立性

定理1

随机变量 XX 和 YY 相互独立的充要条件是:

f(x,y)=fX(x)⋅fY(y)f(x,y) = f_X(x) \cdot f_Y(y)

对几乎所有的 (x,y)(x,y) 成立。

数学期望

二维随机变量函数的期望

随机变量函数的数学期望

设 Z=g(X,Y)Z = g(X,Y) 是二维随机变量的函数,则:

E(Z)=E[g(X,Y)]=∬R2g(x,y)f(x,y) dx dyE(Z) = E[g(X,Y)] = \iint_{\mathbb{R}^2} g(x,y) f(x,y) \, dx\,dy

特别地:

  • E(X)=∬xf(x,y) dx dy=∫xfX(x) dxE(X) = \iint x f(x,y) \, dx\,dy = \int x f_X(x) \, dx
  • E(Y)=∬yf(x,y) dx dy=∫yfY(y) dyE(Y) = \iint y f(x,y) \, dx\,dy = \int y f_Y(y) \, dy

协方差与相关系数

协方差与相关系数

协方差: Cov(X,Y)=E[(X−EX)(Y−EY)]=E(XY)−EX⋅EY\text{Cov}(X,Y) = E[(X-EX)(Y-EY)] = E(XY) - EX \cdot EY =∬(x−EX)(y−EY)f(x,y) dx dy= \iint (x-EX)(y-EY) f(x,y) \, dx\,dy

相关系数: ρXY=Cov(X,Y)D(X)D(Y)\rho_{XY} = \frac{\text{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}

若 X,YX, Y 独立,则 Cov(X,Y)=0\text{Cov}(X,Y) = 0(反之不成立)。

典型例题

例题1:联合密度的归一化与概率

设二维随机变量 (X,Y)(X,Y) 的联合密度为: f(x,y)={Axy,0≤x≤1, 0≤y≤10,其他f(x,y) = \begin{cases} Axy, & 0 \leq x \leq 1, \, 0 \leq y \leq 1 \\ 0, & \text{其他} \end{cases} 求:(1) 常数 AA;(2) P{X+Y≤1}P\{X+Y \leq 1\};(3) 边缘密度 fX(x),fY(y)f_X(x), f_Y(y)。

联合密度归一化边缘密度概率计算

解题思路: 利用归一性求 AA,用二重积分求概率,用单积分求边缘密度。

详细步骤:

(1) 归一性: ∫01∫01Axy dx dy=A∫01x dx∫01y dy=A⋅12⋅12=A4=1\int_0^1 \int_0^1 Axy \, dx\,dy = A \int_0^1 x \, dx \int_0^1 y \, dy = A \cdot \frac{1}{2} \cdot \frac{1}{2} = \frac{A}{4} = 1 所以 A=4A = 4。

(2) P{X+Y≤1}P\{X+Y \leq 1\}: 区域 D:0≤x≤1, 0≤y≤1−xD: 0 \leq x \leq 1, \, 0 \leq y \leq 1-x P=∫01dx∫01−x4xy dy=∫014x⋅(1−x)22dx=2∫01x(1−2x+x2)dx=2∫01(x−2x2+x3)dx=2[x22−2x33+x44]01=2(12−23+14)=2⋅112=16P = \int_0^1 dx \int_0^{1-x} 4xy \, dy = \int_0^1 4x \cdot \frac{(1-x)^2}{2} dx = 2\int_0^1 x(1-2x+x^2) dx = 2\int_0^1 (x-2x^2+x^3) dx = 2[\frac{x^2}{2} - \frac{2x^3}{3} + \frac{x^4}{4}]_0^1 = 2(\frac{1}{2} - \frac{2}{3} + \frac{1}{4}) = 2 \cdot \frac{1}{12} = \frac{1}{6}

(3) 边缘密度: fX(x)=∫014xy dy=4x⋅12=2xf_X(x) = \int_0^1 4xy \, dy = 4x \cdot \frac{1}{2} = 2x(0≤x≤10 \leq x \leq 1),其他为0。 fY(y)=∫014xy dx=4y⋅12=2yf_Y(y) = \int_0^1 4xy \, dx = 4y \cdot \frac{1}{2} = 2y(0≤y≤10 \leq y \leq 1),其他为0。

最终答案:(1) A=4A=4;(2) P{X+Y≤1}=16P\{X+Y\leq1\} = \frac{1}{6};(3) fX(x)=2x, fY(y)=2yf_X(x)=2x, \, f_Y(y)=2y(0≤x,y≤10\leq x,y\leq1)

例题2:均匀分布与期望

设 (X,Y)(X,Y) 在区域 D:0≤x≤1, x2≤y≤xD: 0 \leq x \leq 1, \, x^2 \leq y \leq x 上服从均匀分布,求 E(X)E(X) 和 E(Y)E(Y)。

均匀分布数学期望联合密度二重积分

解题思路: 先求区域面积,得到联合密度,再用二重积分求期望。

详细步骤:

  1. 区域面积:S=∫01dx∫x2xdy=∫01(x−x2)dx=[x22−x33]01=16S = \int_0^1 dx \int_{x^2}^x dy = \int_0^1 (x-x^2) dx = [\frac{x^2}{2} - \frac{x^3}{3}]_0^1 = \frac{1}{6}
  2. 联合密度:f(x,y)={6,(x,y)∈D0,其他f(x,y) = \begin{cases} 6, & (x,y) \in D \\ 0, & \text{其他} \end{cases}
  3. E(X)=∬Dx⋅6 dx dy=6∫01x dx∫x2xdy=6∫01x(x−x2)dx=6∫01(x2−x3)dx=6[x33−x44]01=6(13−14)=6⋅112=12E(X) = \iint_D x \cdot 6 \, dx\,dy = 6\int_0^1 x \, dx \int_{x^2}^x dy = 6\int_0^1 x(x-x^2) dx = 6\int_0^1 (x^2-x^3) dx = 6[\frac{x^3}{3} - \frac{x^4}{4}]_0^1 = 6(\frac{1}{3} - \frac{1}{4}) = 6 \cdot \frac{1}{12} = \frac{1}{2}
  4. E(Y)=∬Dy⋅6 dx dy=6∫01dx∫x2xy dy=6∫01x2−x42dx=3∫01(x2−x4)dx=3[x33−x55]01=3(13−15)=3⋅215=25E(Y) = \iint_D y \cdot 6 \, dx\,dy = 6\int_0^1 dx \int_{x^2}^x y \, dy = 6\int_0^1 \frac{x^2-x^4}{2} dx = 3\int_0^1 (x^2-x^4) dx = 3[\frac{x^3}{3} - \frac{x^5}{5}]_0^1 = 3(\frac{1}{3} - \frac{1}{5}) = 3 \cdot \frac{2}{15} = \frac{2}{5}

最终答案:E(X)=12E(X) = \frac{1}{2},E(Y)=25E(Y) = \frac{2}{5}

例题3:正态分布的概率

设 (X,Y)(X,Y) 服从二维正态分布,联合密度为: f(x,y)=12πe−x2+y22f(x,y) = \frac{1}{2\pi} e^{-\frac{x^2+y^2}{2}} 求 P{X2+Y2≤R2}P\{X^2 + Y^2 \leq R^2\}。

二维正态分布极坐标概率计算卡方分布

解题思路: 区域是圆,用极坐标计算。

详细步骤:

  1. P{X2+Y2≤R2}=∬x2+y2≤R212πe−x2+y22dx dyP\{X^2+Y^2 \leq R^2\} = \iint_{x^2+y^2 \leq R^2} \frac{1}{2\pi} e^{-\frac{x^2+y^2}{2}} dx\,dy
  2. 极坐标:=12π∫02πdθ∫0Re−ρ22⋅ρ dρ=∫0Rρe−ρ22dρ=[−e−ρ22]0R=1−e−R22= \frac{1}{2\pi} \int_0^{2\pi} d\theta \int_0^R e^{-\frac{\rho^2}{2}} \cdot \rho \, d\rho = \int_0^R \rho e^{-\frac{\rho^2}{2}} d\rho = [-e^{-\frac{\rho^2}{2}}]_0^R = 1 - e^{-\frac{R^2}{2}}

最终答案:1−e−R221 - e^{-\frac{R^2}{2}}

(这是自由度为2的卡方分布的分布函数。)


练习题

练习1

设 (X,Y)(X,Y) 的联合密度为 f(x,y)={e−(x+y),x>0, y>00,其他f(x,y) = \begin{cases} e^{-(x+y)}, & x>0, \, y>0 \\ 0, & \text{其他} \end{cases},判断 XX 和 YY 是否独立,并求 P{X<Y}P\{X < Y\}。

独立性指数分布概率计算联合密度

解题思路: 求边缘密度,判断是否独立;用二重积分求概率。

详细步骤:

  1. 边缘密度: fX(x)=∫0+∞e−(x+y)dy=e−xf_X(x) = \int_0^{+\infty} e^{-(x+y)} dy = e^{-x}(x>0x>0) fY(y)=∫0+∞e−(x+y)dx=e−yf_Y(y) = \int_0^{+\infty} e^{-(x+y)} dx = e^{-y}(y>0y>0)
  2. f(x,y)=e−x⋅e−y=fX(x)fY(y)f(x,y) = e^{-x} \cdot e^{-y} = f_X(x) f_Y(y),所以 X,YX, Y 独立。
  3. P{X<Y}=∫0+∞dx∫x+∞e−(x+y)dy=∫0+∞e−x⋅e−xdx=∫0+∞e−2xdx=12P\{X < Y\} = \int_0^{+\infty} dx \int_x^{+\infty} e^{-(x+y)} dy = \int_0^{+\infty} e^{-x} \cdot e^{-x} dx = \int_0^{+\infty} e^{-2x} dx = \frac{1}{2}

最终答案:X,YX, Y 独立(均服从参数为1的指数分布);P{X<Y}=12P\{X<Y\} = \frac{1}{2}。

练习2

设 (X,Y)(X,Y) 在圆域 x2+y2≤R2x^2+y^2 \leq R^2 上服从均匀分布,求协方差 Cov(X,Y)\text{Cov}(X,Y)。

均匀分布协方差对称性圆域

解题思路: 利用对称性,E(X)=E(Y)=0E(X)=E(Y)=0,再计算 E(XY)E(XY)。

详细步骤:

  1. 联合密度:f(x,y)=1πR2f(x,y) = \frac{1}{\pi R^2}(x2+y2≤R2x^2+y^2 \leq R^2)
  2. 由对称性,E(X)=0, E(Y)=0E(X) = 0, \, E(Y) = 0
  3. E(XY)=∬x2+y2≤R2xy⋅1πR2dx dyE(XY) = \iint_{x^2+y^2 \leq R^2} xy \cdot \frac{1}{\pi R^2} dx\,dy
  4. 被积函数 xyxy 关于 xx(或 yy)是奇函数,积分区域关于 yy 轴(或 xx 轴)对称,所以积分为0。
  5. Cov(X,Y)=E(XY)−EX⋅EY=0−0=0\text{Cov}(X,Y) = E(XY) - EX \cdot EY = 0 - 0 = 0

最终答案:Cov(X,Y)=0\text{Cov}(X,Y) = 0

(注意:协方差为零不代表独立,本题中 X,YX, Y 实际上不独立。)


总结

本文出现的符号

符号类型读音/说明在本文中的含义
f(x,y)f(x,y)联合概率密度joint probability density二维随机变量的联合密度函数
fX(x)f_X(x)边缘概率密度marginal densityX 的边缘概率密度
fY(y)f_Y(y)边缘概率密度marginal densityY 的边缘概率密度
fX∣Y(x∣y)f_{X\mid Y}(x\mid y)条件概率密度conditional densityY=y 条件下 X 的密度
E(X)E(X)数学期望expected value随机变量 X 的期望
Cov(X,Y)\text{Cov}(X,Y)协方差covarianceX 与 Y 的协方差
ρXY\rho_{XY}相关系数correlation coefficientX 与 Y 的相关系数
D(X)D(X)方差variance随机变量 X 的方差

中英对照

中文术语英文术语音标说明
联合概率密度joint probability density/dʒɔɪnt ˌprɒbəˈbɪləti ˈdɛnsəti/二维随机变量的密度函数
边缘概率密度marginal probability density/ˈmɑːrdʒɪnəl ˌprɒbəˈbɪləti ˈdɛnsəti/单个变量的概率密度
条件概率密度conditional probability density/kənˈdɪʃənəl ˌprɒbəˈbɪləti ˈdɛnsəti/条件分布的密度
数学期望expected value / expectation/ɪkˈspɛktɪd ˈvæljuː/随机变量的平均值
协方差covariance/koʊˈvɛriəns/两个变量协同变化的程度
相关系数correlation coefficient/ˌkɒrəˈleɪʃən ˌkoʊɪˈfɪʃənt/标准化的协方差
独立性independence/ˌɪndɪˈpɛndəns/随机变量间无关联
均匀分布uniform distribution/ˈjuːnɪfɔːrm ˌdɪstrɪˈbjuːʃən/概率密度为常数的分布
二维正态分布bivariate normal distribution/baɪˈvɛriət ˈnɔːrməl ˌdɪstrɪˈbjuːʃən/二维的正态分布
卡方分布chi-square distribution/kaɪ skwɛər ˌdɪstrɪˈbjuːʃən/标准正态变量平方和的分布

发现内容有问题?

告诉我们哪里需要改进。