阿里云天池机器学习训练营(Day4,Day5):机器学习算法（二）: 朴素贝叶斯(Naive Bayes)_successfully installed threadpoolctl-3.1.0 note: y

机器学习算法（二）: 朴素贝叶斯(Naive Bayes)

1. 实验室介绍

1.1 实验环境

1. python3.7
2. numpy >= '1.16.4'
3. sklearn >= '0.23.1'
1
2
3

1.2 朴素贝叶斯的介绍

 朴素贝叶斯算法（Naive Bayes, NB) 是应用最为广泛的分类算法之一。它是基于贝叶斯定义和特征条件独立假设的分类器方法。由于朴素贝叶斯法基于贝叶斯公式计算得到，有着坚实的数学基础，以及稳定的分类效率。NB模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。当年的垃圾邮件分类都是基于朴素贝叶斯分类器识别的。

 什么是条件概率，我们从一个摸球的例子来理解。我们有两个桶：灰色桶和绿色桶，一共有7个小球，4个蓝色3个紫色，分布如下图：

 从这7个球中，随机选择1个球是紫色的概率p是多少？选择过程如下：

1. 先选择桶
2. 再从选择的桶中选择一个球
    
   $$\begin{gathered} p(球=紫色) \\ =p(选择灰桶)\cdot p(从灰桶中选择紫色)+p(选择绿桶)\cdot p(从灰桶中选择紫色) \\ =\frac{1}{2}\cdot \frac{2}{4}+\frac{1}{2}\cdot \frac{1}{2} \end{gathered}$$

 上述我们选择小球的过程就是条件概率的过程，在选择桶的颜色的情况下是紫色的概率，另一种计算条件概率的方法是贝叶斯准则。

 贝叶斯公式是英国数学家提出的一个数据公式:

 $$p(A|B)=\frac{p(A,B)}{p(B)}=\frac{p(B|A)\cdot p(A)}{{\sum }_{a\in {\mathcal{F}}_A}p(B|a)\cdot p(a)}$$

 p(A,B)：表示事件A和事件B同时发生的概率。

 p(B)：表示事件B发生的概率，叫做先验概率；p(A)：表示事件A发生的概率。

 p(A|B)：表示当事件B发生的条件下，事件A发生的概率叫做后验概率。

 p(B|A)：表示当事件A发生的条件下，事件B发生的概率。

 我们用一句话理解贝叶斯：世间很多事都存在某种联系，假设事件A和事件B。人们常常使用已经发生的某个事件去推断我们想要知道的之间的概率。
例如，医生在确诊的时候，会根据病人的舌苔、心跳等来判断病人得了什么病。对病人来说，只会关注得了什么病，医生会通道已经发生的事件来
确诊具体的情况。这里就用到了贝叶斯思想，A是已经发生的病人症状，在A发生的条件下是B_i的概率。

1.3 朴素贝叶斯的应用

 朴素贝叶斯算法假设所有特征的出现相互独立互不影响，每一特征同等重要，又因为其简单，而且具有很好的可解释性一般。相对于其他精心设计的更复杂的分类算法，朴素贝叶斯分类算法是学习效率和分类效果较好的分类器之一。朴素贝叶斯算法一般应用在文本分类，垃圾邮件的分类，信用评估，钓鱼网站检测等。

2. 实验室手册

2.1 学习目标

1. 掌握贝叶斯公式
2. 结合两个实例了解贝朴素叶斯的参数估计
3. 掌握贝叶斯估计

2.2 代码流程

Part 1. 莺尾花数据集–贝叶斯分类

Step1: 库函数导入
Step2: 数据导入&分析 
Step3: 模型训练 
Step4: 模型预测
Step5: 原理简析
1
2
3
4
5

Part 2. 模拟离散数据集–贝叶斯分类

Step1: 库函数导入
Step2: 数据导入&分析 
Step3: 模型训练&可视化
Step4: 原理简析
1
2
3
4

2.3 算法实战

莺尾花数据集–贝叶斯分类

Step1: 库函数导入

import warnings
warnings.filterwarnings('ignore')
import numpy as np
# 加载莺尾花数据集
from sklearn import datasets
# 导入高斯朴素贝叶斯分类器
from sklearn.naive_bayes import GaussianNB
from sklearn.model_selection import train_test_split
1
2
3
4
5
6
7
8

Step2: 数据导入&分析

X, y = datasets.load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)
1
2

我们需要计算两个概率分别是：条件概率： 
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/黑客灵魂/article/detail/945641