用Python爬取陈奕迅歌曲10万条评论的新发现_定义每首歌评论的爬取数量代码

一、抓数据

要想做成词云图表，首先得有数据才行。于是需要一点点的爬虫技巧。

基本思路为：抓包分析、加密信息处理、抓取热门评论信息

1.抓包分析

我们首先用浏览器打开网易云音乐的网页版，进入陈奕迅《我们》歌曲页面，可以看到下面有评论。接着F12进入开发者控制台（审查元素）。

接下来就要做的是，找到歌曲评论对应的url，并分析验证其数据跟网页现实的数据是否吻合，步骤如下图：

查看hreaders的信息，发现浏览器使用的是POST的方式进行的请求

具体字段如上图，会发现表单中需要填两个数据，名称为params和encSecKey。后面紧跟的是一大串字符，换几首歌会发现，每首歌的params和encSecKey都是不一样的，因此，这两个数据可能经过一个特定的算法进行加密过的

2.加密信息处理

然后经过我的测试，直接把浏览器上这俩数据拿过来就可以。但是要想真正的解决这个加密处理，还需要有点加解密的只是存储。

我们在这里就只需要用我们这种偷懒的办法就可以完成需求了。这里我就使用这么个临时的方法好了，而且对于不同的歌曲是可以重用的，待会我们可以验证一下。

3.抓取热门评论信息

代码块如下：

import requests


import json


'''
更多Python学习资料以及源码教程资料，可以在群1136201545免费获取
'''


url = 'http://music.163.com/weapi/v1/resource/comments/R_SO_4_551816010?csrf_token=568cec564ccadb5f1b29311ece2288f1'





headers = {


    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36',


    'Referer':'http://music.163.com/song?id=551816010',


    'Origin':'http://music.163.com',


    'Host':'music.163.com'


}


#加密数据，直接拿过来用


user_data = {


    'params': 'vRlMDmFsdQgApSPW3Fuh93jGTi/ZN2hZ2MhdqMB503TZaIWYWujKWM4hAJnKoPdV7vMXi5GZX6iOa1aljfQwxnKsNT+5/uJKuxosmdhdBQxvX/uwXSOVdT+0RFcnSPtv',


    'encSecKey': '46fddcef9ca665289ff5a8888aa2d3b0490e94ccffe48332eca2d2a775ee932624afea7e95f321d8565fd9101a8fbc5a9cadbe07daa61a27d18e4eb214ff83ad301255722b154f3c1dd1364570c60e3f003e15515de7c6ede0ca6ca255e8e39788c2f72877f64bc68d29fac51d33103c181cad6b0a297fe13cd55aa67333e3e5'


}





response = requests.post(url,headers=headers,data=user_data)





data = json.loads(response.text)


hotcomments = []


for hotcommment in data['hotComments']:


    item = {


        'nickname':hotcommment['user']['nickname'],


        'content':hotcommment['content'],


        'likedCount':hotcommment['likedCount']     


    }


    hotcomments.append(item)





#获取评论用户名，内容，以及对应的获赞数   
content_list = [content['content'] for content in hotcomments]
nickname = [content['nickname'] for content in hotcomments]
liked_count = [content['likedCount'] for content in hotcomments]
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93

二、数据可视化

在获得相关评论数据后，我们将其做成图表与词云图，将让人看起来更直观。

接下来需要在自己电脑上安装需要相关的安装包： pyecharts（图表包）、matplotlib（绘图功能包）、 WordCloud（词云包）

其中，pyecharts 是一个用于生成 Echarts 图表的类库。 Echarts 是百度开源的一个数据可视化 JS 库，主要用于数据可视化，同时pyecharts 兼容 Python2 和 Python3。安装非常简单，只需：

pip install pyecharts
1

接下来就是代码的实现：

利用之前获得评论用户名和对应的点赞数，将其制作成图表图：

from pyecharts import Bar
bar = Bar("热评中点赞数示例图")
bar.add( "点赞数",nickname, liked_count, is_stack=True,mark_line=["min", "max"],mark_point=["average"])
bar.render()
1
2
3
4

由此可以看出，获得最高赞数（95056）评论是：

@鱼大叔Uncle：后来的我，离开了他，永远的离开了他，十年的感情不过寥寥几句话。后来的我，嫁给了一个很普通的人，没有他的浪漫，却有不一样的温暖。

大多数赞数为20000-30000之间，最低都达到7000+，（基本与网页里评论中数据吻合）。

最后，我们将所有的热门评论内容，制作成词云图展示出来，代码块如下：

from wordcloud import WordCloud
import matplotlib.pyplot as plt
'''
更多Python学习资料以及源码教程资料，可以在群1136201545免费获取
'''
content_text = " ".join(content_list)
wordcloud = WordCloud(font_path=r"C:\simhei.ttf",max_words=200).generate(content_text)
plt.figure()
plt.imshow(wordcloud,interpolation='bilinear')
plt.axis('off')
plt.show()
1
2
3
4
5
6
7
8
9
10
11

结果图：