概率论与数理统计(一)
第 1 讲:样本空间 随机事件
样本空间
随机试验的所有可能结果构成的集合称为样本空间,记为 $S=\{e\}$。$S$ 中的元素 $e$ 称为样本点。
随机事件
样本空间 $S$ 的子集 $A$ 称为随机事件 $A$,简称事件 $A$。当且仅当 $A$ 中的某个样本点发生称事件 $A$ 发生。
事件 $A$ 可用集合表示,也可用语言来表示。
事件分类
- 如果事件在每次试验中总是发生,则称其为必然事件。
- 如果事件只包含一个样本点,则称其为基本事件。
- 如果事件是空集,里面不包含任何样本点,记为 $\phi$,则每次试验 $\phi$ 都不发生,称 $\phi$ 为不可能事件。
第 2 讲:事件的相互关系及运算
事件的关系
- $A\subset{B}$:事件 $A$ 发生一定导致 $B$ 发生。
- $A=B\Leftrightarrow\left\{\begin{aligned}A\subset{B}\\B\subset{A}\\\end{aligned}\right.$
事件的运算及关系
- $A$ 与 $B$ 的和事件,记为 $A\cup{B}$,表示 $A$ 与 $B$ 至少有一发生。
- $A$ 与 $B$ 的积事件,记为 $A\cap{B}$ 或 $AB$,表示 $A$ 与 $B$ 同时发生。
$A$ 与 $B$ 的差事件,记为 $A-B$,表示 $A$ 发生 $B$ 不发生。
- $A-B=A\overline{B}=A\cup{B}-B=A-AB$。
$A$ 的逆事件,记为 $\overline{A}$,也称 $A$ 的互逆、对立事件。
- $A\cup\overline{A}=S$,$A\overline{A}=\phi$,$\overline{\overline{A}}=A$
- 当 $AB=\phi$ 时,称事件 $A$ 与 $B$不相容或互斥。
事件的运算定律
交换律
- $A\cup{B}=B\cup{A}$
- $A\cap{B}=B\cap{A}$
结合律
- $A\cup(B\cup{C})=(A\cup{B})\cup{C}$
- $A\cap(B\cap{C})=(A\cap{B})\cap{C}$
分配率
- $A\cup(B\cap{C})=(A\cup{B})\cap(A\cup{C})$
- $A\cap(B\cup{C})=(A\cap{B})\cup(A\cap{C})$
对偶率(德·摩根定律)
- $\overline{A\cup{B}}=\overline{A}\cap\overline{B}$
- $\overline{A\cap{B}}=\overline{A}\cup\overline{B}$
对偶率推广:
- $\overline{\bigcap\limits_{i=1}^{n}A_i}=\bigcup\limits_{i=1}^{n}\overline{A_i}=\overline{A_1}\cup\overline{A_2}\cup\cdots\cup\overline{A_n}$
- $\overline{\bigcup\limits_{i=1}^{n}A_i}=\bigcap\limits_{i=1}^{n}\overline{A_i}=\overline{A_1}\cap\overline{A_2}\cap\cdots\cap\overline{A_n}$
第 3 讲:频率
定义
$$f_n(A)=\frac{n_A}{n}$$
其中 $n_A$ 是 $A$ 发生的次数(频数),$n$ 是总试验次数。
称 $f_n(A)$ 为 $A$ 在这 $n$ 次试验中发生的频率。
性质
- $0\le{f_n(A)}\le{1}$
- $f_n(S)=1$
- 若 $A_1,A_2,\dots,A_k$ 两两不相容,则 $f_n(\bigcup\limits_{i=1}^{k}A_i)=\sum\limits_{i=1}^{k}f_n{A_i}$
注:$f_n(A)$ 随 $n$ 的增大渐趋稳定,稳定值为 $p$。
第 4 讲:概率
统计性定义
当试验的次数增加时,随机事件 $A$ 发生的频率的稳定值 $p$ 称为概率,记为 $P(A)=p$。
公理化定义
设随机试验对应的样本空间为 $S$,对每个事件 $A$,定义 $P(A)$,满足:
- 非负性:$P(A)\ge{0}$
- 规范性:$P(S)=1$
- 可列可加性:$A_1,A_2,\dots$ 两两互斥,则 $P(\bigcup\limits_{i=1}^{\infty}A_i)=\sum\limits_{i=1}^{\infty}P(A_i)$
称 $P(A)$ 为事件 $A$ 的概率。
性质
- $P(\phi)=0$
- $P(A)=1-P(\overline{A})$
- 有限可加性:$A_1,A_2,\dots,A_n,A_iA_j=\phi,i\not=j\Rightarrow{P(\bigcup\limits_{i=1}^{n}A_i)=\sum\limits_{i=1}^{n}P(A_i)}$
- 若 $A\subset{B}$,则有 $P(B-A)=P(B)-P(A)$
- 概率的加法公式:$P(A\cup{B})=P(A)+P(B)-P(AB)$
性质 5 推广
$$P(\bigcup\limits_{i=1}^{n}A_i)=\sum\limits_{i=1}^{n}P(A_i)-\sum\limits_{1\le{i}<j\le{n}}P(A_iA_j)+\dots+(-1)^{n-1}P(A_1A_2\dots{A_n})$$
第 5 讲:等可能概型(古典概型)
定义
若试验满足:
- 样本空间 $S$ 中的样本点有限(有限性)
- 出现每一个样本点的概率相等(等可能性)
称这种试验为等可能概型(古典概型)。
$$P(A)=\frac{A所包含的样本点数}{S中的样本点数}$$
第 6 讲:条件概率
定义
$$P(B|A)=\frac{P(AB)}{P(A)},P(A)\not=0$$
性质
- 非负性:$P(B|A)\ge0$
- 规范性:$P(S|A)=1$
- 可列可加性:$B_1,B_2,\dots,B_n,B_iB_j=\phi,i\not=j\Rightarrow{P(\bigcup\limits_{i=1}^{n}B_i|A)=\sum\limits_{i=1}^{n}P(B_i|A)}$
注:$P(\cdot|A)$ 具有概率的所有性质。
乘法公式
当下面的条件概率都有意义时:
- $P(AB)=P(A)P(B|A)=P(B)P(A|B)$
- $P(ABC)=P(A)P(B|A)P(C|AB)$
- $P(A_1A_2\dots{A_n})=P(A_1)P(A_2|A_1)P(A_3|A_1A_2)\dots{P(A_n|A_1A_2\dots{A_{n-1}})}$
第 7 讲:全概率公式与贝叶斯公式
全概率公式
设 $B_1,B_2,\dots,B_n$ 为 $S$ 的一个划分,且 $P(B_i)>0$,则有全概率公式:
$$P(A)=\sum\limits_{j=1}^{n}P(B_j)P(A|B_j)$$
注:在运用全概率公式时,关键是构造合适的划分。
贝叶斯公式
设 $B_1,B_2,\dots,B_n$ 为 $S$ 的一个划分且 $P(B_i)>0$,对 $P(A)>0$ 有 $Bayes$ 公式:
$$P(B_i|A)=\frac{P(B_i)P(A|B_i)}{\sum\limits_{j=1}^{n}P(B_j)P(A|B_j)}$$
第 8 讲:事件独立性
定义
设 $A,B$ 是两随机事件,如果 $P(AB)=P(A)P(B)$,则称 $A$ 与 $B$ 相互独立。
若 $P(A)>0,P(B)>0$,则:
$$P(AB)=P(A)P(B)\Rightarrow\left\{\begin{aligned}P(A|B)=P(A)\\P(B|A)=P(B)\\\end{aligned}\right.$$