基本概念

一、样本空间、随机事件

1.1 样本空间

随机试验的所有可能结果构成的集合称为样本空间，记为 $S=\{e\}。S$ 中的元素 $e$ 称为样本点。

1.2 随机事件

样本空间 $S$ 的子集 $A$ 称为随机事件 $A$，简称事件 $A$。当且仅当 $A$ 中的某个样本点发生称事件 $A$ 发生。

事件 $A$ 可用集合表示，也可用语言来表示。

事件分类

• 如果事件在每次试验中总是发生，则称其为必然事件。
• 如果事件只包含一个样本点，则称其为基本事件。
• 如果事件是空集，里面不包含任何样本点，记为 $\phi$，则每次试验 $\phi$ 都不发生，称 $\phi$ 为不可能事件。

二、事件的相互关系及运算

2.1 事件的关系

• $A\subset{B}$：事件 $A$ 发生一定导致 $B$ 发生。
• $A=B\Leftrightarrow\left\{\begin{aligned}A\subset{B}\\B\subset{A}\\\end{aligned}\right.$

2.2 事件的运算及关系

• $A$ 与 $B$ 的和事件，记为 $A\cup{B}$，表示 $A$ 与 $B$ 至少有一发生。
• $A$ 与 $B$ 的积事件，记为 $A\cap{B}$ 或 $AB$，表示 $A$ 与 $B$ 同时发生。
• $A$ 与 $B$ 的差事件，记为 $A-B$，表示 $A$ 发生 $B$ 不发生。
  • $A-B=A\overline{B}=A\cup{B}-B=A-AB$。
• $A$ 的逆事件，记为 $\overline{A}$，也称 $A$ 的互逆、对立事件。
  • $A\cup\overline{A}=S$，$A\overline{A}=\phi$，$\overline{\overline{A}}=A$
• 当 $AB=\phi$ 时，称事件 $A$ 与 $B$ 不相容或互斥。

2.3 事件的运算定律

交换律

• $A\cup{B}=B\cup{A}$；
• $A\cap{B}=B\cap{A}$。

结合律

• $A\cup(B\cup{C})=(A\cup{B})\cup{C}$；
• $A\cap(B\cap{C})=(A\cap{B})\cap{C}$。

分配律

• $A\cup(B\cap{C})=(A\cup{B})\cap(A\cup{C})$；
• $A\cap(B\cup{C})=(A\cap{B})\cup(A\cap{C})$。

对偶律（德·摩根定律）

• $\overline{A\cup{B}}=\overline{A}\cap\overline{B}$；
• $\overline{A\cap{B}}=\overline{A}\cup\overline{B}$。

对偶律推广：

• $\overline{\bigcap\limits_{i=1}^{n}A_i}=\bigcup\limits_{i=1}^{n}\overline{A_i}=\overline{A_1}\cup\overline{A_2}\cup\cdots\cup\overline{A_n}$；
• $\overline{\bigcup\limits_{i=1}^{n}A_i}=\bigcap\limits_{i=1}^{n}\overline{A_i}=\overline{A_1}\cap\overline{A_2}\cap\cdots\cap\overline{A_n}$。

三、频率

3.1 频率的定义

$f_n(A)=\frac{n_A}{n}$

其中 $n_A$ 是 $A$ 发生的次数（频数），$n$ 是总试验次数。

称 $f_n(A)$ 为 $A$ 在这 $n$ 次试验中发生的频率。

3.2 频率的性质

• $0\le{f_n(A)}\le{1}$；
• $f_n(S)=1$；
• 若 $A_1,A_2,\dots,A_k$ 两两不相容，则 $f_n(\bigcup\limits_{i=1}^{k}A_i)=\sum\limits_{i=1}^{k}f_n{A_i}$。

注：$f_n(A)$ 随 $n$ 的增大渐趋稳定，稳定值为 $p$。

四、概率

4.1 统计性定义

当试验的次数增加时，随机事件 $A$ 发生的频率的稳定值 $p$ 称为概率，记为 $P(A)=p$。

4.2 公理化定义

设随机试验对应的样本空间为 $S$，对每个事件 $A$，定义 $P(A)$，满足：

1. 非负性：$P(A)\ge{0}$；
2. 规范性：$P(S)=1$；
3. 可列可加性：$A_1,A_2,\dots$ 两两互斥，则 $P(\bigcup\limits_{i=1}^{\infty}A_i)=\sum\limits_{i=1}^{\infty}P(A_i)$。

称 $P(A)$ 为事件 $A$ 的概率。

4.3 概率的性质

• $P(\phi)=0$；
• $P(A)=1-P(\overline{A})$；
• 有限可加性：$A_1,A_2,\dots,A_n,A_iA_j=\phi,i\not=j\Rightarrow{P(\bigcup\limits_{i=1}^{n}A_i)=\sum\limits_{i=1}^{n}P(A_i)}$；
• 若 $A\subset{B}$，则有 $P(B-A)=P(B)-P(A)$；
• 概率的加法公式：$P(A\cup{B})=P(A)+P(B)-P(AB)$。

加法公式的推广

• $P(A\cup{B}\cup{C})=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)$
• $P(\bigcup\limits_{i=1}^{n}A_i)=\sum\limits_{i=1}^{n}P(A_i)-\sum\limits_{1\le{i}<j\le{n}}P(A_iA_j)+\sum\limits_{1\le{i}<j<k\le{n}}P(A_iA_jA_k)+\dots+(-1)^{n-1}P(A_1A_2\dots{A_n})$

五、等可能概型（古典概型）

若试验满足：

1. 样本空间 $S$ 中的样本点有限（有限性）
2. 出现每一个样本点的概率相等（等可能性）

称这种试验为等可能概型（古典概型）。

$P(A)=\frac{A \text{所包含的样本点数} }{S \text{中的样本点数} }$

六、条件概率

6.1 条件概率的定义

$P(B|A)=\frac{P(AB)}{P(A)},P(A)\not=0$

6.2 条件概率的性质

• 非负性：$P(B|A)\ge0$；
• 规范性：$P(S|A)=1$；
• 可列可加性：$B_1,B_2,\dots,B_n,B_iB_j=\phi,i\not=j\Rightarrow{P(\bigcup\limits_{i=1}^{n}B_i|A)=\sum\limits_{i=1}^{n}P(B_i|A)}$。

注：$P(\cdot|A)$ 具有概率的所有性质。

6.3 条件概率的乘法公式

当下面的条件概率都有意义时：

• $P(AB)=P(A)P(B|A)=P(B)P(A|B)$；
• $P(ABC)=P(A)P(B|A)P(C|AB)$；
• $P(A_1A_2\dots{A_n})=P(A_1)P(A_2|A_1)P(A_3|A_1A_2)\dots{P(A_n|A_1A_2\dots{A_{n-1}})}$。

七、全概率公式与贝叶斯公式

7.1 全概率公式

设 $B_1,B_2,\dots,B_n$ 为 $S$ 的一个划分，且 $P(B_i)>0$，则有全概率公式：

$P(A)=\sum\limits_{j=1}^{n}P(B_j)P(A|B_j)$

注：在运用全概率公式时，关键是构造合适的划分。

7.2 贝叶斯公式

设 $B_1,B_2,\dots,B_n$ 为 $S$ 的一个划分且 $P(B_i)>0$，对 $P(A)>0$ 有 $Bayes$ 公式：

$P(B_i|A)=\frac{P(B_i)P(A|B_i)}{\sum\limits_{j=1}^{n}P(B_j)P(A|B_j)}$

八、事件独立性

设 $A,B$ 是两随机事件，如果 $P(AB)=P(A)P(B)$，则称 $A$ 与 $B$ 相互独立。

若 $P(A)>0,P(B)>0$，则：

$P(AB)=P(A)P(B)\Rightarrow\left\{\begin{aligned}P(A|B)=P(A)\\P(B|A)=P(B)\\\end{aligned}\right.$