多元随机变量及其分布

一、二元离散型随机变量

1.1 联合分布律

设 $(X,Y)$ 所有可能取值为 $(x_i,y_j)$，则称

$P(X=x_i,Y=y_j)=p_{ij}（i,j=1,2,\dots）$

为二元离散型随机变量 $(X,Y)$ 的联合概率分布律，也可简称为 $(X,Y)$ 的分布律。

性质

• $p_{ij}\gt{0}$；
• $\sum\limits_{i=1}^{\infty}\sum\limits_{j=1}^{\infty}p_{ij}=1$；
• $P((X,Y)\in{D})=\sum\limits_{(x_i,y_j)\in{D}}p_{ij}$。

1.2 边际分布律

对于离散型随机变量 $(X,Y)$，分布律为 $P(X=x_i,Y=y_j)=p_{ij}$，$i,j=1,2,\dots$，则 $X$ 的边际分布律为：

$P(X=x_i)=P(X=x_i,\bigcup_{j=1}^{\infty}(Y=y_j))=\sum_{j=1}^{\infty}p_{ij}\overset{记为}{=}p_{i\cdot}$

注：记号 $p_{i\cdot}$ 表示是由 $p_{ij}$ 关于 $j$ 求和后得到的。

1.3 条件分布律

设 $(X,Y)$ 是二元离散型随机变量，对于固定的 $y_j$，若 $P(Y=y_j)>0$，则称：

$P(X=x_i|Y=y_j)=\frac{P(X=x_i,Y=y_j)}{P(Y=y_j)}$

为在 $Y=y_j$ 条件下，随机变量 $X$ 的条件分布律。

二、二元连续型随机变量

2.1 联合概率密度

对于二元随机变量 $(X,Y)$ 的分布函数 $F(x,y)$，如果存在非负函数 $f(x,y)$，使对于任意 $x,y$，有

$F(x,y)=\int_{-\infty}^{x}\int_{-\infty}^{y}f(u,v)\mathrm{d}u\mathrm{d}v$

称 $(X,Y)$ 为二元连续型随机变量，并称 $f(x,y)$ 为二元随机变量 $(X,Y)$ 的（联合）概率密度（函数）。

性质

• $f(x,y)\ge{0}$；
• $\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}x\mathrm{d}y=1$；
• 设 $D$ 是 $xoy$ 平面上的区域，$P((X,Y)\in{D})=\iint\limits_{D}f(x,y)\mathrm{d}x\mathrm{d}y$；
• 在 $f(x,y)$ 的连续点 $(x,y)$，有 $\frac{\partial^2F(x,y)}{\partial{x}\partial{y}}=f(x,y)$。

2.2 边际概率密度

对于连续型随机变量 $(X,Y)$，概率密度为 $f(x,y)$，则 $X,Y$ 的边际概率密度为：

$f_X(x)=\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}y$

$f_Y(y)=\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}x$

2.3 条件概率密度

设二元随机变量 $(X,Y)$ 的概率密度为 $f(x,y)$，$X,Y$ 关于 $Y$ 的边际概率密度为 $f_Y(y)$，若对于固定的 $y$，$f_Y(y)>0$，且 $f_Y(y)$ 连续，则在 $Y=y$ 的条件下，$X$ 的条件概率密度为：

$f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}$

同理，若对于固定的 $x$，$f_X(x)>0$，且 $f_X(x)$ 连续，则在 $X=x$ 的条件下，$Y$ 的条件概率密度为：

$f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)}$

三、二元随机变量分布函数

3.1 联合分布函数

设 $(X,Y)$ 是二元随机变量，对于任意实数 $x,y$，二元函数

$F(x,y)=P\{(X\le{x})\cap{(Y\le{y})}\}\overset{记为}{=}P(X\le{x},Y\le{y})$

称为二元随机变量 $(X,Y)$ 的联合分布函数。

性质

$F(x,y)$ 关于 $x,y$ 单调不减，即：

$x_1<x_2\Rightarrow{F(x_1,y)\le{F(x_2,y)}}，y_1<y_2\Rightarrow{F(x,y_1)\le{F(x,y_2)}}$

$0\le{F(x,y)}\le{1}$，$F(+\infty,+\infty)=1$，对任意 $x,y$ 有：

$F(-\infty,y)=F(x,-\infty)=F(-\infty,-\infty)=0$

$F(x,y)$ 关于 $x,y$ 右连续，即：

$\lim\limits_{\varepsilon\rightarrow{0^{+}}}F(x+\varepsilon,y)=\lim\limits_{\varepsilon\rightarrow{0^{+}}}F(x,y+\varepsilon)=F(x,y)$

若 $x_1<x_2,y_1<y_2$，则有：

$P(x_1<X\le{x_2},y_1<Y\le{y_2})=F(x_2,y_2)-F(x_1,y_2)-F(x_2,y_1)+F(x_1,y_1)\ge{0}$

3.2 边际分布函数

二元随机变量 $(X,Y)$ 作为整体，有其联合分布函数 $F(x,y)$，$X$ 和 $Y$ 也有它们自己的分布函数，分别记为：$F_X(x)$ 和 $F_Y(y)$，并称它们为边际分布函数。

$F_X(x)=F(x,+\infty)=\lim_{y\rightarrow{\infty}}F(x,y)$

$F_Y(y)=F(+\infty,y)=\lim_{x\rightarrow\infty}F(x,y)$

3.3 条件分布函数

若 $P(Y=y)>0$，则在 $Y=y$ 条件下，$X$ 的条件分布函数为：

$F_{X|Y}(x|y)=P(X\le{x}|Y=y)=\frac{P(X\le{x},Y=y)}{P(Y=y)}$

若 $P(Y=y)=0$，但对任一 $\varepsilon>0$，$P(y<Y\le{y+\varepsilon})>0$，则在 $Y=y$ 条件下，$X$ 的条件分布函数为：

$F_{X|Y}(x|y)=\lim_{\varepsilon\rightarrow{0^+}}P(X\le{x}|y<Y\le{y+\varepsilon})=\lim_{\varepsilon\rightarrow{0^+}}\frac{P(X\le{x},y<Y\le{y+\varepsilon})}{P(y<Y\le{y+\varepsilon})}\overset{记为}{=}P(X\le{x}|Y=y)$

即：$F_{X|Y}(x|y)=P(X\le{x}|Y=y)$。

四、二元均匀分布

若二元随机变量 $(X,Y)$ 的概率密度在平面上的一个有界区域 $D$ 内是常数，而在其余地方取值为零，称 $(X,Y)$ 在 $D$ 上服从均匀分布。则

$f(x,y)=\left\{\begin{array}{c}\frac{1}{A},&(x,y)\in{D};\\0,&其他.\\\end{array}\right.$

其中 $A$ 为区域 $D$ 的面积。

性质

二元均匀分布的条件分布仍为均匀分布。

五、二元正态分布

设二元随机变量 $(X,Y)$ 的概率密度为：

$f(x,y)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp\left\{\frac{-1}{2(1-\rho^2)}\left[\frac{(x-\mu_1)^2}{\sigma_1^2}-2\rho\frac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}+\frac{(y-\mu_2)^2}{\sigma_2^2}\right]\right\}$

其中 $\mu_1,\mu_2,\sigma_1>0,\sigma_2>0,-1<\rho<1$ 都是常数，称 $(X,Y)$ 为服从参数为 $\mu_1,\mu_2,\sigma_1,\sigma_2,\rho$ 的二元正态分布。记为：

$(X,Y)\sim{N(\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rho)}$

性质

二元正态分布的两个边际分布都是一元正态分布，并且都不依赖于参数 $\rho$。

在 $X=x$ 条件下，$Y$ 的条件分布仍是正态分布，即

$Y|X=y\sim{N(\mu_2+\rho\frac{\sigma_2}{\sigma_1}(x-\mu_1),(1-\rho^2)\sigma_2^2)}$

六、随机变量的独立性

6.1 独立性定义

设 $F(x,y)$ 是二元随机变量 $(X,Y)$ 的分布函数，$F_X(x)$ 是 $X$ 的边际分布函数，$F_Y(y)$ 是 $Y$ 的边际分布函数，若对所有 $x,y$ 有 $P(X\le{x},Y\le{y})=P(X\le{x})P(Y\le{y})$，即：

$F(x,y)=F_X(x)F_Y(y)$

称随机变量 $X,Y$ 相互独立。

6.2 独立性等价判断

离散型

用分布律判断。对一切 $i,j$ 都满足：

$P(X=x_i,Y=y_j)=P(X=x_i)P(Y=y_j)$

连续型

用密度函数判断。对在平面的点 $(x,y)$ 几乎处处成立：

$f(x,y)=f_X(x)f_Y(y)$

即在平面上除去“面积”为零的集合后，上述等式处处成立。

七、随机变量函数的分布

7.1 连续型随机变量 Z=X+Y 的分布

卷积公式

当 $X$ 和 $Y$ 相互独立时，$Z=X+Y$ 的密度函数公式称为卷积公式，即：

$f_Z(z)=\int_{-\infty}^{+\infty}f_X(z-y)f_Y(y)\mathrm{d}y=\int_{-\infty}^{+\infty}f_X(x)f_Y(z-x)\mathrm{d}x$

推广结论

设 $X,Y$ 相互独立，$X\sim{N(\mu_1,\sigma_1^2)}$，$Y\sim{N(\mu_2,\sigma_2^2)}$，则

$Z=X+Y\sim{N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)}$

更一般的结论

$n$ 个独立的正态变量的线性组合仍服从正态分布。

若 $X_i\sim{N(\mu_i,\sigma_i^2)}$，$i=1,2,\cdots,n$，且它们相互独立，则其线性组合：

$c_0+c_1X_1+c_2X_2+\cdots+c_nX_n\sim{N(\mu,\sigma^2)}$

其中 $c_1,c_2,\cdots,c_n$ 是不全为零的常数，两个参数（可由期望及方差得到）为：

$\mu=c_0+c_1\mu_1+\cdots+c_n\mu_n,\\\sigma^2=c_1^2\sigma_1^2+c_2^2\sigma_2^2+\cdots+c_n^2\sigma_n^2$

7.2 离散型随机变量 Z=X+Y 的分布

两点分布

$X_1,X_2,\cdots,X_n$ 独立且均服从 $B(1,p)$，则 $X_1+X_2+\cdots+X_n\sim{B(n,p)}$。

二项分布

$X\sim{B(n_1,p)},Y\sim{B(n_2,p)}$，两者独立，则 $X+Y\sim{B(n_1+n_2,p)}$。

泊松分布

$X\sim{\pi(\lambda_1)},Y\sim{\pi(\lambda_2)}$，两者独立，则 $X+Y\sim{\pi(\lambda_1+\lambda_2)}$。

7.3 max(X,Y) 和 min(X,Y) 的分布

设 $X,Y$ 是两个相互独立的随机变量，它们的分布函数分别为 $F_X(x)$ 和 $F_Y(y)$，则

$M=\max(X,Y)$ 的分布函数为：

$\begin{aligned}F_{\max}(z)&=P(M\le{z})\\&=P(X\le{z},Y\le{z})\\&=P(X\le{z})P(Y\le{z})\\&=F_X(z)F_Y(z)\end{aligned}$

$N=\min(X,Y)$ 的分布函数为：

$\begin{aligned}F_{\min}(z)&=P(N\le{z})\\&=1-P(N>z)\\&=1-P(X>z,Y>z)\\&=1-P(X>z)P(Y>z)\\&=1-(1-F_X(z))(1-F_Y(z))\end{aligned}$