人工智能数学基础之概率论_人工智能数学实验

基础概念

随机试验

试验是指为了观察某事的结果或某物的性能而从事的某种活动。在概率论中，一个试验如果具有以下3个特点：

1. 可重复性：在相同条件下可以重复进行
2. 可观察性：每次实现的可能结果不止一个，并且能事先明确实验的所有可能结果
3. 不确定性：一次试验之前，不能预知会出现哪一个结果

这样的试验是一个随机试验，简称为试验

样本点和样本空间

每次试验的每一个结果成为基本事件，也称作样本点，记作$w_1,w_2,\cdots$, 全部样本点的集合成为样本空间，记作$\Omega$，则 Ω = { w 1 , w 2 , ⋯   } \Omega=\{w_1,w_2,\cdots\} Ω={w1​,w2​,⋯}

假设掷一颗均匀骰子，观察出现的点数。这是一个随机试验，样本空间 Ω = { 1 , 2 , 3 , 4 , 5 , 6 } \Omega=\{1,2,3,4,5,6\} Ω={1,2,3,4,5,6}

随机事件

基本事件是不可再分解的、最基本的事件，其他事件均可由它们复合而成，由基本事件复合而成的事件称为随机事件或简称为事件。
常用大写字母$A,B,C$等表示事件。不如 A = { 出现的点数为偶数 } = { 2 , 4 , 6 } A=\{出现的点数为偶数\}=\{2,4,6\} A={出现的点数为偶数}={2,4,6}

随机事件的概率

概率是用来描述随机事件发生的可能性大小。比如抛硬币的试验，抛得次数越多，出现正面的 次数与投掷次数之间的比例愈加趋于$0.5$。它的数学定义为：

在多次重复试验中，若事件$A$发生的频率稳定在常数$p$附近摆动，且随着试验次数的增加，这种摆动的幅度是很微小的。则称确定常数$p$为事件$A$发生的概率，记作$P(A)=p$

例子
设一年有365天，求下列事件$A,B$的概率：
A = { n 个人中没有 2 人同一天生日 } B = { n 个人中有 2 人同一天生日 } A = \{n个人中没有2人同一天生日\} B = \{n个人中有2人同一天生日\} A={n个人中没有2人同一天生日}B={n个人中有2人同一天生日}

解
显然事件$A,B$是对立事件，有$P(B)=1-P(A)$
由于每人的生日可能是365天的任意一天，因此，$n$个人的生日有$365^n$种可能结果，而且每种结果是等可能的，因而是古典概型，事件$A$的发生必须是$n$个不同的生日，因而$A$的样本点数为从$365$中取$n$个的排列数$P_{365}^n$，于是

$$\begin{gathered} P(A)=\frac{P_{365}^n}{365^n} \\ P(B)=1-P(A)=1-\frac{P_{365}^n}{365^n} \end{gathered}$$

条件概率

设$A,B$是两个事件，且$P(A)>0$，则称
$$P(B|A)=\frac{P(AB)}{P(A)}$$
为在事件$A$发生的条件下，事件$B$的条件概率
$P(AB)$表示$A,B$这两个事件同时发生的概率。

例子
某种原件用满$6000h$未坏的概率是$3/4$，用满$10000h$未坏的概率是$1/2$，现有一个此种元件，已经用过$6000h$未坏，试求它能用到$10000h$的概率。

解

设$A$表示 { 满 10000 h 未坏 } \{满10000h未坏\} {满10000h未坏},$B$表示 { 满 6000 小时未坏 } \{满6000小时未坏\} {满6000小时未坏}，则
$$P(B)=3/4,P(A)=1/2$$

由于$B\supset A,AB=A$，因而$P(AB)=1/2$，因此，
$$P(A|B)=\frac{P(AB)}{P(B)}=\frac{\frac{1}{2}}{\frac{3}{4}}=\frac{2}{3}$$

解释一下，这里由于事件$A$包括事件$B$的。

事件的独立性

如果事件$B$发生的可能性不受事件$A$发生与否的影响，即
$$P(B|A)=P(B)$$
则称事件$B$对于事件$A$独立，显然，若$B$对$A$对立，则$A$对$B$也一定独立，称事件$A$与事件$B$相互独立。

例子
口袋里装有5个黑球与3个白球，从中有放回地取2次，每次取一个，设事件$A$表示第一次取到黑球，事件$B$表示第二次取到黑球，则有
$$P(A)=\frac{5}{8},P(B)=\frac{5}{8},P(AB)=\frac{5}{8}\times \frac{5}{8}=\frac{25}{64}$$

因而
$$P(B|A)=\frac{P(AB)}{P(A)}=\frac{5}{8}$$
因此，$P(B|A)=P(B)$，这表明无论$A$是否发生，都对$B$发生的概率无影响。事件$A，B$相互独立

性质

事件$A$和事件$B$相互独立的充分必要条件是
$$P(AB)=P(A)P(B)$$

全概率公式

如果事件$A_1,A_2,\cdots ,A_n$是一个完备事件组(一个事件发生的所有可能性都在这里面)，并且都有正概率，则有
$$P(B)=P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+\cdots +P(A_n)P(B|A_n)=\sum _{i=1}^{n}P(A_i)P(B|A_i)$$

对于任何事件$B$，事件$A\overline{A}$构成最简单的完备事件组，根据全概率公式得
$$P(B)=P(AB+\overline{A}B)=P(AB)+P(\overline{A}B)=P(A)P(B|A)+P(\overline{A})P(B|\overline{A})$$

贝叶斯公式

设事件$A_1,A_2,\cdots ,A_n$是一个完备事件组，则对任一事件$B$，$P(B)>0$，有
$$P(A_i|B)=\frac{P(A_{i}B)}{P(B)}=\frac{P(A_i)P(B|A_i)}{{\sum }_{i=1}^{n}P(A_i)P(B|A_i)}$$

以上公式就叫贝叶斯公式，可由条件概率的定义及全概率公式证明。

例子
市场上供应的某种商品由甲、乙、丙3个厂商生存，甲厂占45%，乙厂占35%，丙厂占20%。如果各厂的次品率依次为4%，2%，5%。现从市场上购买1件这种商品，发现是次品，试判断它是由甲厂生产的概率。

解

设事件$A_1,A_2,A_3$，分别表示商品由甲、乙、丙厂生产的，事件$B$表示商品为次品，得概率
$$\begin{gathered} P(A_1)=0.45,P(A_2)=0.35,P(A_3)=0.20 \\ P(B|A_1)=0.04,P(B|A_2)=0.02,P(B|A_3)=0.05 \end{gathered}$$

根据贝叶斯公式，可得：
$$\begin{gathered} P(A_1|B)=\frac{P(A_{1}B)}{P(B)}=\frac{P(A_1)P(B|A_1)}{P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+P(A_3)P(B|A_3)} \\ =\frac{0.45\times 0.04}{0.45\times 0.04+0.35\times 0.02+0.2\times 0.05}\approx 0.514 \end{gathered}$$

在购买一件商品这个试验中，$P(A_i)$是在试验以前就已经知道的概率，所以习惯地称为先验概率。试验结果出现了次品，这时条件概率$P(A_i|B)$反映了在试验以后对$B$发生的来源(次品的来源)的各种可能性的大小，称为后验概率。

随机变量

在引入随机变量之前先来看下三元组的概念，三元组$(\Omega ,\mathcal{F},P)$——上帝视角，来自《程序员的数学2》，值得一读，以一种全新的视角来讲解概率论知识。将概率看成是一种测度，测度可以理解为面积与体积等可测量的量的泛化概念。

借助平行世界的概念，有很多个平行世界，每个世界中发生的事件并不相同，比如骰子在一个世界中的结果为1，在另一个世界中则是5。但这些世界中的结果有预先的剧本——我们假定每个世界都会准备专用的剧本。即，对于某个特定的纾解来说，所有的结果都已确定，不存在任何随机事件。

以计算抛硬币 本文内容由网友自发贡献，转载请注明出处：【wpsshop博客】