赞
踩
模块:sklearn.naive_bayes
理论基础:每队特征之间相互对立;其需要的训练数据比较少,通过计算属于每个类的概率并取概率最大的类作为预测类
共有三类:①高斯贝叶斯(from sklearn.naive_bayes import GaussianNB)
②多项式模型贝叶斯(from sklearn.naive_bayes import MultinomialNB):用于文本分类,处理多项离散数据集
③伯努利模型贝叶斯(from sklearn.naive_bayes import BernoulliNB)
下面贴上用多项式模型贝叶斯用于文本分类的代码
from numpy import * from sklearn.naive_bayes import MultinomialNB #1:准备数据 #①直接给出训练集:原始数据(切分好的已除去标点的词条集合)及对应标签 def DataSet(): original_group=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'], ['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'], ['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'], ['stop', 'posting', 'stupid', 'worthless', 'garbage'], ['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'], ['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']] #给出5组数据 original_labels = [0,1,0,1,0,1] #给出相应5组标签,1 is abusive, 0 not return original_group,original_labels #返回初始数据及标签 #②根据初始数据创建不重复数据(不重复的词条集合) def nonre_DataSet(original_group): nonre_group = [] #先创建空集 for document in original_group: #逐一取dataSet中的元素 nonre_group = list(set(nonre_group).union(set(document))) #求两个 # nonre_group=nonre_group.tolist()#求两集合的并集,set()的作用为去除每一个[]中的重复词条 return nonre_group #返回不重复数据 #③输出任意数据(词汇列表)相对于总数据的向量列表 def Vec_group(nonre_group, inputgroup): #输入的两个参数为非重复性数据列表和新增数据,输出为新增数据的向量(0或1) #0表示非重复性数据列表在新增数据中没有出现,1表示出现 inputVec = [0]*len(nonre_group) #创建空集,表示所有非重复性词汇在新增数据中都没有出现 for word in inputgroup: #逐一读取新增数据 if word in nonre_group: #如果新增数据的词汇存在于总(非重复性)数据列表中 inputVec[nonre_group.index(word)] = 1 #将总数据列表中word的序列提取(如a),再 inputVec[a]=1,表明该向量1对 # 应总数据位置的词汇存在 else: print("the word: %s is not in my Vocabulary!"%word)# %s为占位符,后接%word将词汇插入占位符中 return inputVec #④实验输出总数据列表;某词汇列表的向量 original_group,original_labels= DataSet() #取得原始据列表及对应标签 nonre_group=nonre_DataSet(original_group) #取得总(非重复性)列表 #print(original_group[5],original_labels) #print(nonre_group) #print(len(nonre_group)==size(nonre_group)) #验证非重复性数据列表是否是重复 inputVec=[] for i in arange(6): X=Vec_group(nonre_group,original_group[i]) inputVec.append(X) print(shape(inputVec),shape(original_labels)) #取得任一数据相对总数据的向量 print(inputVec,original_labels) #输出原始数据中第一个元素的向量及坐标,以上学习了如何将一组单词转换成一组数字以 # 及该文档所属的类别 #2:训练算法 clf=MultinomialNB() clf.fit(inputVec,original_labels) print(inputVec[0]) print(clf.predict(array(inputVec[0]).reshape(1,32))) print(inputVec[1]) print(clf.predict(array(inputVec[1]).reshape(1,32))) #于初始值完全相符
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。