大数据最全Python大数据-电商产品评论情感数据分析，2024年大数据开发程序员职业规划

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

一、项目背景

二、项目目标

三、分析方法与分析过程

四、数据清洗

数据抓取

评论去重

分词

停用词

词云图绘制

五、 数据分析

评论数据情感倾向分析

匹配情感词

修正情感倾向

LDA模型进行主题分析

寻找最优主题数

评价主题分析结果

六、 结论分析

---

一、项目背景

======

• 网上购物已经成为大众生活的重要组成部分。人们在电商平台上浏览商品并购物，产生了海量的用户行为数据，用户对商品的评论数据对商家具有重要的意义。利用好这些碎片化、非结构化的数据，将有利于企业在电商平台上的持续发展，同时，对这部分数据进行分析，依据评论数据来优化现有产品也是大数据在企业经营中的实际应用。

• 分析产品：韶音 AfterShokz Aeropex AS800骨传导蓝牙耳机运动无线耳骨传导耳机跑步骑行 环法特别版（Aeropex AS800是AfterShokz韶音的网红新品，很多国内外的跑者都在使用，在Instagram上也有很高的热度。）

• 分析平台：京东

• 数据获取量：由于京东对评论的设置只显示前100页数据，抓取前100页最新评论数据和差评数据作为分析对象

• 使用的主要工具：python --jupyter notebook、阿里云数据库、Navicat Premium(My SQL)

二、项目目标

=======

• 随着当今时代电子信息技术的飞速发展，网购已经普及千家万户，给电商行业的发展带来了巨大的机遇，与此同时，这种需求也推动了更多电商企业的崛起，引发了激烈的竞争。而在这种激烈竞争的大背景下，除了提高商品质量、压低价格外，了解更多消费者的心声对电商企业来说也变得越来越有必要。其中，一种非常重要的方式就是对消费者的评论文本数据进行内在信息的分析。

• 评论信息中蕴含着消费者对特点给产品的主管感受，反应了人们的态度、立场和意见，具有非常宝贵的研究价值，对企业来说分析评论数据可以更好的了解客户的喜好，从而针对性的提高服务和产品质量，增加自身的竞争力，对于用户自身来讲可以为购物抉择提供更多的参考依据，本次分析主要想实现以下目标：

• 对京东商城中韶音 AfterShokz Aeropex AS800骨传导蓝牙耳机的评论进行情感分析

• 从评论文本中挖掘用户的需求、意见、购买原因及产品的优缺点等信息

• 根据模型结果给出产品改善的建议

三、分析方法与分析过程

===============

• 主要分析步骤如下：

• 使用python对韶音 AfterShokz Aeropex AS800骨传导蓝牙耳机在京东商城中的评论信息进行爬取

• 使用python对爬取到的数据进行数据清洗、数据分词、停用词过滤的数据清洗工作

• 对处理后的数据进行情感分析，把评论文本根据情感倾向分为正面评论数据（好评）和反面评论数据（差评）

• 对正、负评论数据进行LDA主题分析，提取其中有价值的内容

• ​

四、数据清洗

======

数据抓取

本文主要目标是对数据进行分析，数据抓取具有时效性，在这里对抓取的方法不进行赘述，有不懂的可以看Python爬虫-抓取数据到可视化全流程的实现

评论去重

从数据库中取出数据，可以看到共有1260条评论数据，分为8列

#导包

import pandas as pd

import numpy as np

import pymysql

import matplotlib.pyplot as plt

import re

import jieba.posseg as psg

db_info={

‘host’:“***”,

‘user’:“***”,

‘passwd’:‘***’,

‘database’:‘cx’,# 这里说明我要连接哪个库

‘charset’:‘utf8’

}

conn = pymysql.connect(**db_info)

cursor = conn.cursor()

sql = ‘select * from jdsppl’

result = pd.read_sql(sql,conn)

result

result.shape

部分电商平台对长时间未完成订单评价的客户会进行默认评价，此类数据没有分析价值，但是本次爬取的数据来自于京东，京东默认只保留前100页的评论数据，其他数据归为帮助不大的数据，因此在此次爬取的数据中，不存在这样的情况，同时如果在某个商品的评论中出现了完全相同的评论，一次两次或者多次，那么这种情况下的数据肯定是毫无意义的问题数据，这种评论数据只认为其第一条即首次出现时认为其存在一定价值。在评论中会出现一部分评论相似程度很高，但并不完全相同，个别词语还存在明显差异，对于这种情况，全部删除是不正确和不合适的，可以只删除重复的部分，保留有用的文本评论信息，留下更多有用的语料。

reviews = reviews[[‘content’, ‘content_type’]].drop_duplicates()

content = reviews[‘content’]

reviews

可以看到有17条重复数据已经被删除

通过人工观察数据发现,评论中夹杂着许多数字与字母，对于本案例的挖掘目标而言，这类数据本身并没有实质性帮助。另外，由于该评论文本数据主要是围绕京东商城中韶音 AfterShokz Aeropex AS800骨传导蓝牙耳机进行评价的，**其中“京东”“京东商城”“韶音”“耳机”“蓝牙耳机”等词出现的频数很大，但是对分析目标并没有什么作用，**因此可以在分词之前将这些词去除，对数据进行清洗

去除去除英文、数字等

由于评论中不重要词语

strinfo = re.compile(‘[0-9a-zA-Z]|京东|京东商城|韶音|耳机|蓝牙耳机|’)

content=result[‘评价内容’]

content = content.apply(lambda x: strinfo.sub(‘’, x))

content

字段已经去除

分词

• 分词是文本信息处理的基础环节，是将一个单词序列切分成单个单词的过程。汉语的基本单位是字，由字可以组成词，由词可以组成句子，进而由一些句子组成段、节、章、篇。可见，如果需要处理一篇中文语料，从中正确地识别出词是一件非常基础且重要的工作。然而，中文以字为基本书写单位，词与词之间没有明显的区分标记。

• 当使用基于词典的中文分词方法进行中文信息处理时，不得不考虑未登录词的处理。未登录词是指词典中没有登录过的人名、地名、机构名、译名及新词语等。当采用匹配的办法来切分词语时，由于词典中没有登录这些词，会引起自动切分词语的困难。常见的未登陆词有命名实体，如“张三”“北京”“联想集团”“酒井法子”等;专业术语，如“贝叶斯算法”“模态”“万维网”;新词语，如“卡拉 OK”“美刀”“啃老族”等。另外，中文分词还存在切分歧义问题，如“当结合成分子时”这个句子可以有以下切分方法:“当/结合/成分/子时”“当/结合/成/分子/时”“当/结/合成/分子/时”“当/结/合成分/子时”等。可以说，中文分词的关键问题为切分歧义的消解和未登录词的识别。分词最常用的工作包是jieba分词包,jieba分词是Python写成的一个分词开源库，专门用于中文分词。

停用词

• **停用词( Stop Words)，词典译为“电脑检索中的虚字、非检索用字”。在SEO搜索引擎中，为节省存储空间和提高搜索效率，搜索引擎在索引页面或处理搜索请求时会自动忽略某些字或词,这些字或词即被称为停用词。**通常来讲，停用词大体可以分为两类，一种是使用过于广泛和频繁的词语，比如英文的i、is,中文的“我”“你”等等，另一种是出现频率很高，但是意义不大的词，这种单词一般包括语气助词、副词、介词、连词等等，自身本身并无意义，在经过分词后，评论由一个字符串的形式转换成了多个由文字或词语组成的字符串形式，用来判断评论中的词语是否是停用词。

分词

worker = lambda s: [(x.word, x.flag) for x in psg.cut(s)] # 自定义简单分词函数

seg_word = content.apply(worker)

将词语转为数据框形式，一列是词，一列是词语所在的句子ID，最后一列是词语在该句子的位置

n_word = seg_word.apply(lambda x: len(x)) # 每一评论中词的个数

n_content = [[x+1]*y for x,y in zip(list(seg_word.index), list(n_word))]

index_content = sum(n_content, []) # 将嵌套的列表展开，作为词所在评论的id

seg_word = sum(seg_word, [])

word = [x[0] for x in seg_word] # 词

nature = [x[1] for x in seg_word] # 词性

content_type = [[x]*y for x,y in zip(list(reviews[‘content_type’]), list(n_word))]

content_type = sum(content_type, []) # 评论类型

result = pd.DataFrame({“index_content”:index_content,

“word”:word,

“nature”:nature,

“content_type”:content_type})

删除标点符号

result = result[result[‘nature’] != ‘x’] # x表示标点符号

删除停用词

stop_path = open(“…/data/stoplist.txt”, ‘r’,encoding=‘UTF-8’)

stop = stop_path.readlines()

stop = [x.replace(‘\n’, ‘’) for x in stop]

word = list(set(word) - set(stop))

result = result[result[‘word’].isin(word)]

构造各词在对应评论的位置列

n_word = list(result.groupby(by = [‘index_content’])[‘index_content’].count())

index_word = [list(np.arange(0, y)) for y in n_word]

index_word = sum(index_word, []) # 表示词语在改评论的位置

合并评论id，评论中词的id，词，词性，评论类型

result[‘index_word’] = index_word

result

处理后表格样式

​

提取含有名词的评论

• 由于本次分析的目标是对产品特征的优缺点进行分析，**类似“不错，很好的产品”“很不错，继续支持”等评论虽然表达了对产品的情感倾向，但是实际上无法根据这些评论提取出哪些产品特征是用户满意的。**评论中只有出现明确的名词，如机构团体及其他专有名词时，才有意义，因此需要对分词后的词语进行词性标注。之后再根据词性将含有名词类的评论提取出来。jieba关于词典词性标记，采用ICTCLAS 的标记方法，对于词性标注大家可以看：ICTCLAS汉语词性标注集

提取评论中词性含有**“n”(名词）**的评论，

提取含有名词类的评论

ind = result[[‘n’ in x for x in result[‘nature’]]][‘index_content’].unique()

result = result[[x in ind for x in result[‘index_content’]]]

词云图绘制

进行数据预处理后，可绘制词云查看分词效果，词云会将文本中出现频率较高的“关键词”予以视觉上的突出。首先需要对词语进行词频统计，将词频按照降序排序，选择前100个词，使用wordcloud模块中的WordCloud绘制词云，查看分词效果（常用字体代码）

import matplotlib.pyplot as plt

from wordcloud import WordCloud

frequencies = result.groupby(by = [‘word’])[‘word’].count()

frequencies = frequencies.sort_values(ascending = False)

backgroud_Image=plt.imread(‘…/data/pl.jpg’)

wordcloud = WordCloud(font_path=“simkai.ttf”,

max_words=100,

background_color=‘white’,

mask=backgroud_Image)

my_wordcloud = wordcloud.fit_words(frequencies)

plt.imshow(my_wordcloud)

plt.axis(‘off’)

plt.show()

​从生成的词云图中可以初步判断用户比较在意的是音质、质感、续航、舒适度等关键词

五、 数据分析

=======

评论数据情感倾向分析

---

匹配情感词

• 情感倾向也称为情感极性。在某商品评论中，可以理解为用户对该商品表达自身观点所持的态度是支持、反对还是中立，即通常所指的正面情感、负面情感、中性情感。对评论情感倾向进行分析首先要对情感词进行匹配，使用知网发布的“情感分析用词语集 ( beta版)"中的“中文正面评价”词表、“中文负面评价”“中文正面情感”“中文负面情感”词表等。将“中文正面评价”“中文正面情感”两个词表合并，并给每个词语赋予初始权重1，作为正面评论情感词表。将“中文负面评价”“中文负面情感”两个词表合并，并给每个词语赋予初始权重-1，作为负面评论情感词表。

• 读入正负面评论情感词表，正面词语赋予初始权重1，负面词语赋予初始权重-1，使用merge函数按照词语情感词表与分词结果进行匹配。

import pandas as pd

import numpy as np

word = pd.read_csv(“…/tmp/result.csv”)

读入正面、负面情感评价词

pos_comment = pd.read_csv(“…/data/正面评价词语（中文）.txt”, header=None,sep=“\n”,

encoding = ‘utf-8’, engine=‘python’)

neg_comment = pd.read_csv(“…/data/负面评价词语（中文）.txt”, header=None,sep=“\n”,

encoding = ‘utf-8’, engine=‘python’)

pos_emotion = pd.read_csv(“…/data/正面情感词语（中文）.txt”, header=None,sep=“\n”,

encoding = ‘utf-8’, engine=‘python’)

neg_emotion = pd.read_csv(“…/data/负面情感词语（中文）.txt”, header=None,sep=“\n”,

encoding = ‘utf-8’, engine=‘python’)

合并情感词与评价词

positive = set(pos_comment.iloc[:,0])|set(pos_emotion.iloc[:,0])

negative = set(neg_comment.iloc[:,0])|set(neg_emotion.iloc[:,0])

intersection = positive&negative # 正负面情感词表中相同的词语

positive = list(positive - intersection)

negative = list(negative - intersection)

positive = pd.DataFrame({“word”:positive,

“weight”:[1]*len(positive)})

negative = pd.DataFrame({“word”:negative,

“weight”:[-1]*len(negative)})

posneg = positive.append(negative)

将分词结果与正负面情感词表合并，定位情感词

data_posneg = posneg.merge(word, left_on = ‘word’, right_on = ‘word’,

how = ‘right’)

data_posneg = data_posneg.sort_values(by = [‘index_content’,‘index_word’])

修正情感倾向

• 情感倾向修正主要根据情感词前面两个位置的词语是否存在否定词而去判断情感值的正确与否，由于汉语中存在多重否定现象，即当否定词出现奇数次时，表示否定意思;当否定词出现偶数次时，表示肯定意思。按照汉语习惯，搜索每个情感词前两个词语,若出现奇数否定词，则调整为相反的情感极性。

根据情感词前时候有否定词或双层否定词对情感值进行修正

载入否定词表

notdict = pd.read_csv(“…/data/not.csv”)

处理否定修饰词

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

两个位置的词语是否存在否定词而去判断情感值的正确与否，由于汉语中存在多重否定现象，即当否定词出现奇数次时，表示否定意思;当否定词出现偶数次时，表示肯定意思。按照汉语习惯，搜索每个情感词前两个词语,若出现奇数否定词，则调整为相反的情感极性。

根据情感词前时候有否定词或双层否定词对情感值进行修正

载入否定词表

notdict = pd.read_csv(“…/data/not.csv”)

处理否定修饰词

[外链图片转存中…(img-oOpaJGIi-1715422310354)]
[外链图片转存中…(img-LPfNECeU-1715422310354)]

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！