Python 实现朴素贝叶斯 MNIST数据集_python朴素贝叶斯分类mnist数据集

Python实现朴素贝叶斯算法

朴素贝叶斯是机器学习的一种算法，之所以成为朴素，是因为它的想法“简单”，简单地认为样本中所有的特征都无关，即P(AB) = P(A)P(B)。所以，有

P(y|xi) = P(y)P(x0 = xi0|y)P(x1 = xi1|y)P(x2 = xi2|y)…P(xk = xik|y)

P(y|xi)是贝叶斯对于xi是y类的估计大小

最终对xi的预测分类是argmaxP(y|xi) y属于类别集合
代码如下

最终的预测准确率可以达到85%左右。

import numpy as np
from tensorflow.examples.tutorials.mnist import input_data

mnist = input_data.read_data_sets('MNIST_data', one_hot=False)
train_num = 5000
test_num = 100
class_num = 10
desimon = 784
#pca_desimon = 20

# 这里我本来想用PCA来降维的，可能是求特征值的时候发现矩阵不可逆，返回的是一个复数矩阵，所以就放弃了
# def pca(X, target):
# 
1
2
3
4
5
6
7
8
9
10
11
12