当前位置:   article > 正文

2024年最新dy视频评论爬虫采集纯python代码编辑以及封装成采集软件使用教程_抖音评论采集

抖音评论采集

本篇属于软件和源码销售,介意者请绕道!

近期,有小伙伴需要dy平台的视频评论数据做分析,于是就有了今天的案例文章,文章分为两部分:一部分是具有python基础的源码,一部分是针对无代码经验的纯小白使用的dy视频评论采集软件使用教程。

开撸!

第一部分:python源码公布

python源码编辑,requests请求实现,不涉及selenium动态爬虫,这样对于一些只会基础python爬虫的小伙伴就更友好更容易理解了。源码可以自行二次更改使用,但是特此声明:本源码只做学习交流使用!那你自行使用的用途和后果自行承担!

部分源码示例:

  1. import os
  2. import tkinter as tk
  3. import threading
  4. from douyin import Douyinrep
  5. class Douyin(threading.Thread):
  6. def __init__(self, runs, *args):
  7. super().__init__()
  8. self.runs = runs
  9. self.args = args
  10. self.setDaemon(True)
  11. self.start()
  12. def run(self):
  13. self.runs(*self.args)
  14. def task(data_text):
  15. log = Log_week()
  16. logger = log.get_logger()
  17. video_link_str = entry_vd.get("0.0", 'end')
  18. video_link_list = video_link_str.replace(" ", "").split("\n")
  19. video_link_list = [i for i in video_link_list if i]
  20. video_id_list = [i.replace("https://www.douyin.com/video/", "") for i in video_link_list]
  21. cookie_val = entry_ck.get("0.0", 'end')
  22. cookie_val = str(cookie_val).strip()
  23. #print('cookie_val:\n', cookie_val)
  24. entry_us = entry_ua.get("0.0", 'end')
  25. entry_us = str(entry_us).strip()
  26. Douyinrep(cookie_val, video_id_list,entry_us, txt_msglist, logger).get_dy_cmt()
  27. work_path = os.getcwd()
  28. if not os.path.exists(work_path + "/logs"):
  29. os.makedirs(work_path + "/logs")
  30. #创建窗口
  31. window=tk.Tk()
  32. window.withdraw()
  33. window.update()
  34. window.title('DY_REP(唯一官方在售淘宝店铺:词云社-https://ciyunshe.taobao.com)')
  35. window.iconbitmap('img/logo.ico')
  36. window.resizable(0,0)
  37. width=800
  38. height=600
  39. screenwidth=window.winfo_screenwidth()
  40. screenheight=window.winfo_screenheight()
  41. login_size='%dx%d+%d+%d'%(width,height,(screenwidth-width)/2,
  42. (screenheight-height)/2)
  43. window.geometry(login_size)
  44. window.deiconify()
  45. canvas = tk.Canvas(window, width=width, height=height, highlightthickness=0)
  46. bg_image=tk.PhotoImage(file='img/main.gif')
  47. canvas.create_image(width/2, height/2, image=bg_image)
  48. canvas.pack()
  49. #软件信息介绍
  50. canvas.create_text(400,570, text='''
  51. 版本号:1.0dy评论采集版 官方唯一在售淘宝店铺-词云社:https://ciyunshe.taobao.com
  52. 其他均属盗版侵权,不享受任何售后服务! 服务咨询邮箱:ciyunshe@163.com
  53. 声明:本软件仅供学习交流使用,内置信息受法律保护,未经许可严禁传播!''',
  54. font=('Microsoft JhengHei UI',7,),fill='#b7b7bd')
  55. # 创建cookie输入框
  56. #cookies = tk.StringVar()
  57. entry_ck = tk.Text(
  58. window,
  59. font=("Microsoft JhengHei UI", 9),
  60. bg="#ffffff",
  61. fg="#000000",
  62. background='#eae9d6',
  63. borderwidth=0,)
  64. canvas.create_window(448, 68, width=498, height=17, window=entry_ck)
  65. canvas.pack()
  66. # 创建user_agent输入框
  67. #user_agents = tk.StringVar()
  68. entry_ua = tk.Text(
  69. window,
  70. font=("Microsoft JhengHei UI", 9),
  71. bg="#ffffff",
  72. fg="#000000",
  73. background='#eae9d6',
  74. borderwidth=0,)
  75. canvas.create_window(448, 105, width=498, height=17, window=entry_ua)
  76. canvas.pack()
  77. # 创建视频链接输入框
  78. #videos = tk.StringVar()
  79. entry_vd = tk.Text(
  80. window,
  81. font=("Microsoft JhengHei UI", 9),
  82. bg="#ffffff",
  83. fg="#000000",
  84. background='#eae9d6',
  85. borderwidth=0,)
  86. canvas.create_window(448, 216, width=498, height=119, window=entry_vd)
  87. canvas.pack()
  88. frame1 = tk.Frame(window, width=498, height=129,)
  89. frame1.pack_propagate(0)
  90. frame1.place(x=198, y=312)
  91. # 滚动条
  92. scroll = tk.Scrollbar(frame1,width=15)
  93. # 放到Y轴竖直方向
  94. scroll.pack(side=tk.RIGHT, fill=tk.Y)
  95. # 显示采集数据文本框
  96. data_text = tk.Text(frame1, width=498, height=129,background='#eae9d6')
  97. data_text.config(yscrollcommand=scroll.set)
  98. data_text.pack()
  99. #启动采集按钮
  100. btn_st=tk.PhotoImage(file='img/st.gif')
  101. btn_upst=tk.Button(window,image=btn_st,borderwidth=0,highlightthickness=0,activebackground="#11123b",command=lambda: MyThread(task, data_text))
  102. btn_upst.place(x=322,y=496)
  103. #退出软件按钮
  104. btn_ov=tk.PhotoImage(file='img/ov.gif')
  105. btn_upov=tk.Button(window,image=btn_ov,borderwidth=0,highlightthickness=0,activebackground="#11123b",command=window.quit)
  106. btn_upov.place(x=488,y=496)
  107. window.mainloop()

完整源码可以根据以上代码中的地址(店铺:词云社,https://ciyunshe.taobao.com)咨询客服自行选购(功能不同价格不同,源码较贵,但是封装成的软件已经贱卖了,根据自己需求自选即可),看下最终采集效果(包括主体一级评论和回复性二级评论数据):

python源码介绍完毕,下面是第二部分:针对纯小白使用的dy评言仑采集软件教程(仅适用win7-11系统,其他系统请绕道!)该软件获取方式依然是直接根据以上代码中的地址(店铺:词云社,https://ciyunshe.taobao.com)咨询客服自行选购。

DY_REP采集器使用文档

由于dy平台采集相比其他平台难度较大,因此软件中的参数设置是有要求的(特别是视频链接的转换!),请务必认真查看此文档参数查找方式后再使用DY_REP采集软件,否则采集数据会报错!!!

一、重要参数-Cookie值和User-agent值查找方式:

1、用dy账号登录dy平台(不登录,Cookie值无法使用)。

2、登陆后,按键盘上的快捷键F12调出开发者界面:

  1. 点选“网络”
  2. 点选“Fetch/XHR
  3. 输入框输入“Cookie”,多余的字符删除,键盘回车键确认。
  4. 下方出现的链接中随便点选一条即可(如果此处没有出现一些地址链接,按键盘Ctrl+R键刷新一下,重新操作以上步骤即可)
  5. 点选右侧“标头”
  6. 下滑鼠标即可找到Cookie值,再下滑即可找到User-agent值。一定要复制粘贴完整!!!(不同的浏览器可能位置不同,这两个值就在右侧的”标头“中下滑鼠标查找即可。)

二、重要参数-视频链接的转换方式:

1、dy平台的数据采集,需要将我们待采集的视频链接进行转换后才能使用:

  1. 首先进入我们需要待采集的视频
  2. 点选界面右侧“分享按钮-点选“复制链接”
  3. 将复制好的链接粘贴至浏览器输入框中,不要按确认键!!!这个链接就是我们要转换的链接。(或者也可以复制粘贴到新建一个txt文本中待用)。
  4. 注意!重点!以上图视频举例,此时复制过来的链接形式一般是这样的:

7.99 jPx:/ o@q.Rx 04/03 《车祸模拟器》嘿嘿,我下次一定做个好司机 # steam游戏 # 出租生涯模拟城市驾驶 https://v.douyin.com/iFMth11f/ 复制此链接!

  1. 其中的标红字段(https://v.douyin.com/iFMth11f/才是采集需要的转换链接,复制-粘贴到浏览器输入框-回车键确认即可自动转换链接,此时该链接会在浏览器输入框中转换成“https://www.douyin.com/video/7344246197063781643”。
  2. 将以上转换后的视频链接复制粘贴入软件对应参数输入框中即可。
  3. 其他视频链接转换同以上方式操作即可。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/553904
推荐阅读
相关标签
  

闽ICP备14008679号