python字符串情感分析_python使用Word2Vec进行情感分析解析

python实现情感分析(Word2Vec)

** 前几天跟着老师做了几个项目，老师写的时候劈里啪啦一顿敲，写了个啥咱也布吉岛，线下自己就瞎琢磨，终于实现了一个最简单的项目。输入文本，然后分析情感，判断出是好感还是反感。看最终结果：↓↓↓↓↓↓

1

2

大概就是这样，接下来实现一下。

实现步骤

加载数据，预处理

数据就是正反两类，保存在neg.xls和pos.xls文件中，

数据内容类似购物网站的评论，分别有一万多个好评和一万多个差评，通过对它们的处理，变成我们用来训练模型的特征和标记。

首先导入几个python常见的库，train_test_split用来对特征向量的划分，numpy和pands是处理数据常见的库，jieba库用来分词，joblib用来保存训练好的模型，sklearn.svm是机器学习训练模型常用的库，我觉得核心的就是Word2Vec这个库了，作用就是将自然语言中的字词转为计算机可以理解的稠密向量。

from sklearn.model_selection import train_test_split

import numpy as np

import pandas as pd

import jieba as jb

from sklearn.externals import joblib

from sklearn.svm import SVC

from gensim.models.word2vec import Word2Vec

加载数据，将数据分词，将正反样本拼接，然后创建全是0和全是1的向量拼接起来作为标签，

neg =pd.read_excel("data/neg.xls",header=None,index=None)

pos =pd.read_excel("data/pos.xls",header=None,index=None)

# 这是两类数据都是x值

pos['words'] = pos[0].apply(lambda x:list(jb.cut(x)))

neg['words'] = neg[0].apply(lambda x:list(jb.cut(x)))

#需要y值 0 代表neg 1代表是pos

y = np.concatenate((np.ones(len(pos)),np.zeros(len(neg))))

X = np.concatenate((pos['words'],neg['words']))

切分训练集和测试集

利用train_test_split函数切分训练集和测试集，test_size表示切分的比例，百分之二十用来测试，这里的random_state是随机种子数，为了保证程序每次运行都分割一样的训练集和测试集。否则，同样的算法模型在不同的训练集和测试集上的效果不一样。训练集和测试集的标签无非就是0和1，直接保存，接下来单独处理特征向量。

X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.2,random_state=3)

#保存数据

np.save("data/y_train.npy",y_train)

np.save("data/y_test.npy",y_test)

词向量计算

网上搜到的专业解释是这样说的：使用一层神经网络将one-hot(独热编码)形式的词向量映射到分布式形式的词向量。使用了Hierarchical softmax， negative sampling等技巧进行训练速度上的优化。作用：我们日常生活中使用的自然语言不能够直接被计算机所理解，当我们需要对这些自然语言进行处理时，就需要使用特定的手段对其进行分析或预处理。使用one-hot编码形式对文字进行处理可以得到词向量，但是，由于对文字进行唯一编号进行分析的方式存在数据稀疏的问题，Word2Vec能够解决这一问题，实现word embedding

专业解释的话我还是一脸懵，后来看了一个栗子，大概是这样：

word2vec也叫word embeddings，中文名“词向量”，作用就是将自然语言中的字词转为计算机可以理解的稠密向量(Dense Vector)。在word2vec出现之前，自然语言处理经常把字词转为离散的单独的符号，也就是One-Hot Encoder。

在语料库中，杭州、上海、宁波、北京各对应一个向量，向量中只有一个值为1，其余都为0。但是使用One-Hot Encoder有以下问题。一方面，城市编码是随机的，向量之间相互独立，看不出城市之间可能存在的关联关系。其次，向量维度的大小取决于语料库中字词的多少。如果将世界所有城市名称对应的向量合为一个矩阵的话，那这个矩阵过于稀疏，并且会造成维度灾难。

使用Vector Representations可以有效解决这个问题。Word2Vec可以将One-Hot Encoder转化为低维度的连续值，也就是稠密向量，并且其中意思相近的词将被映射到向量空间中相近的位置。

如果将embed后的城市向量通过PCA降维后可视化展示出来，那就是这个样子。

计算词向量

#初始化模型和词表

wv = Word2Vec(size=300,min_count=10)

wv.build_vocab(x_train)

# 训练并建模

wv.train(x_train,total_examples=1, epochs=1)

#获取train_vecs

train_vecs = np.concatenate([ build_vector(z,300,wv) for z in x_train])

#保存处理后的词向量

np.save('data/train_vecs.npy',train_vecs)

#保存模型

wv.save("data/model3.pkl")

wv.train(x_test,total_examples=1, epochs=1)

test_vecs = np.concatenate([build_vector(z,300,wv) for z in x_test])

np.save('data/test_vecs.npy',test_vecs)

•对句子中的所有词向量取均值，来生成一个句子的vec

def build_vector(text,size,wv):

#创建一个指定大小的数据空间

vec = np.zeros(size).reshape((1,size))

#count是统计有多少词向量

count = 0

#循环所有的词向量进行求和

for w in text:

try:

vec += wv[w].reshape((1,size))

count +=1

except:

continue

#循环完成后求均值

if count!=0:

vec/=count

return vec

训练SVM模型

训练就用SVM，sklearn库已经封装了具体的算法，只需要调用就行了，原理也挺麻烦，老师讲课的时候我基本都在睡觉，这儿就不装哔了。(想装装不出来。。