- 1机器翻译的新波：探索零 shot和一 shot翻译方法
- 2前端开发攻略---封装calendar日历组件，实现日期多选。可根据您的需求任意调整，可玩性强。
- 3【个人总结】大二这一年我都干了啥？_字节日常实习简历全部都挂掉了为什么
- 4数据结构（一）：数组及面试常考的算法_数据结构常考算法
- 5selenium-语法_selenium版块官方文档
- 6深度强化学习笔记——基本方法分类与一般思路_深度强化学习分类
- 7分布式锁其实很简单，6行代码教你实现redis分布式锁，千万不要再用redisTemplate写redis分布式锁代码实现
- 8【整理】BIOS、BootLoader、uboot对比
- 9java可以开发人工智能吗_java能做智能产品吗
- 10STM32 HAL库F103系列之DAC实验（一）
GitHub超级火！任意爬取，超全开源爬虫工具箱
赞
踩
*最近国内一位开发者在 GitHub 上开源了个集众多数据源于一身的爬虫工具箱——InfoSpider，一不小心就火了！！！
现在一般网站都有反爬虫机制，对于爱爬虫的朋友来说，想爬虫些数据，做下数据分析。是越来越难了。不过最近我们，发现一个超宝藏的爬虫工具箱。
这个爬虫工具箱有多火呢？
开源没几天就登上GitHub周榜第四，标星1.3K，累计分支 172 个。同时作者已经开源了所有的项目代码及使用文档，并且在B站上还有使用视频讲解。
项目代码：
https://github.com/kangvcar/InfoSpider
项目使用文档：
https://infospider.vercel.app
项目视频演示：
https://www.bilibili.com/video/BV14f4y1R7oF/
在这样一个信息爆炸的时代，每个人都有很多个账号，账号一多就会出现这么一个情况：个人数据分散在各种各样的公司之间，就会形成数据孤岛，多维数据无法融合，这个项目可以帮你将多维数据进行融合并对个人数据进行分析，这样你就可以更直观、深入了解自己的信息。
InfoSpider 是一个集众多数据源于一身的爬虫工具箱，旨在安全快捷的帮助用户拿回自己的数据，工具代码开源，流程透明，并提供数据分析功能，基于用户数据生成图表文件。
目前支持数据源包括GitHub、QQ邮箱、网易邮箱、阿里邮箱、新浪邮箱、Hotmail邮箱、Outlook邮箱、京东、淘宝、支付宝、中国移动、中国联通、中国电信、知乎、哔哩哔哩、网易云音乐、QQ好友、QQ群、生成朋友圈相册、浏览器浏览历史、12306、博客园、CSDN博客、开源中国博客、简书。
根据创建者介绍，InfoSpider 具有以下特性：
-
安全可靠：本项目为开源项目，代码简洁，所有源码可见，本地运行，安全可靠。
-
使用简单：提供 GUI 界面，只需点击所需获取的数据源并根据提示操作即可。
-
结构清晰：本项目的所有数据源相互独立，可移植性高，所有爬虫脚本在项目的 Spiders 文件下。
-
数据源丰富：本项目目前支持多达24+个数据源，持续更新。
-
数据格式统一：爬取的所有数据都将存储为json格式，方便后期数据分析。
-
个人数据丰富：本项目将尽可能多地为你爬取个人数据，后期数据处理可根据需要删减。
-
数据分析：本项目提供个人数据的可视化分析，目前仅部分支持。
InfoSpider使用起来也非常简单，你只需要安装python3和Chrome浏览器，运行 python3 main.py，在打开的窗口点击数据源按钮, 根据提示选择数据保存路径，接着输入账号密码，就会自动爬取数据，根据下载的目录就可以查看爬下来的数据。
依赖安装
-
安装python3和Chrome浏览器
-
安装与Chrome浏览器相同版本的驱动
-
安装依赖库 ./install_deps.sh (Windows下只需pip install -r requirements.txt)
工具运行
-
进入 tools 目录
-
运行 python3 main.py
-
在打开的窗口点击数据源按钮, 根据提示选择数据保存路径
-
弹出的浏览器输入用户密码后会自动开始爬取数据, 爬取完成浏览器会自动关闭
在对应的目录下可以查看下载下来的数据(xxx.json), 数据分析图表(xxx.html)
作者认为该项目的最大潜力在于能把多维数据进行融合并对个人数据进行分析，是个人数据效益最大化。
当然如果你想自己去练习和学习爬虫，作者也开源了所有的爬取代码，非常适合实战。
举个例子，比如爬取taobao的：
import json
import random
import time
import sys
import os
import requests
import numpy as np
import math
from lxml import etree
from pyquery import PyQuery as pq
from selenium import webdriver
from selenium.webdriver import ChromeOptions
from selenium.webdriver.common.by import By
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver import ChromeOptions, ActionChains
from tkinter.filedialog import askdirectory
from tqdm import trange
def ease_out_quad(x):
return 1 - (1 - x) * (1 - x)
def ease_out_quart(x):
return 1 - pow(1 - x, 4)
def ease_out_expo(x):
if x == 1:
return 1
else:
return 1 - pow(2, -10 * x)
def get_tracks(distance, seconds, ease_func):
tracks = [0]
offsets = [0]
for t in np.arange(0.0, seconds, 0.1):
ease = globals()[ease_func]
offset = round(ease(t / seconds) * distance)
tracks.append(offset - offsets[-1])
offsets.append(offset)
return offsets, tracks
def drag_and_drop(browser, offset=26.5):
knob = browser.find_element_by_id(‘nc_1_n1z’)
offsets, tracks = get_tracks(offset, 12, ‘ease_out_expo’)
ActionChains(browser).click_and_hold(knob).perform()
for x in tracks:
ActionChains(browser).move_by_offset(x, 0).perform()
ActionChains(browser).pause(0.5).release().perform()
def gen_session(cookie):
session = requests.session()
cookie_dict = {}
list = cookie.split(‘;’)
for i in list:
try:
cookie_dict[i.split(‘=’)[0]] = i.split(‘=’)[1]
except IndexError:
cookie_dict[‘’] = i
requests.utils.add_dict_to_cookiejar(session.cookies, cookie_dict)
return session
class TaobaoSpider(object):
def __init__(self, cookies_list):
self.path = askdirectory(title=‘选择信息保存文件夹’)
if str(self.path) == “”:
sys.exit(1)
self.headers = {
‘User-Agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36’,
}
option = ChromeOptions()
option.add_experimental_option(‘excludeSwitches’, [‘enable-automation’])
option.add_experimental_option(“prefs”, {“profile.managed_default_content_settings.images”: 2}) # 不加载图片,加快访问速度
option.add_argument(‘–headless’)
self.driver = webdriver.Chrome(options=option)
self.driver.get(‘https://i.taobao.com/my_taobao.htm’)
for i in cookies_list:
self.driver.add_cookie(cookie_dict=i)
self.driver.get(‘https://i.taobao.com/my_taobao.htm’)
self.wait = WebDriverWait(self.driver, 20) # 超时时长为10s
# 模拟向下滑动浏览 def swipe\_down(self, second): for i in range(int(second / 0.1)): # 根据i的值，模拟上下滑动 if (i % 2 == 0): js = "var q=document.documentElement.scrollTop=" + str(300 + 400 \* i) else: js = "var q=document.documentElement.scrollTop=" + str(200 \* i) self.driver.execute\_script(js) time.sleep(0.1) js = "var q=document.documentElement.scrollTop=100000" self.driver.execute\_script(js) time.sleep(0.1) # 爬取淘宝 我已买到的宝贝商品数据, pn 定义爬取多少页数据 def crawl\_good\_buy\_data(self, pn=3): # 对我已买到的宝贝商品数据进行爬虫 self.driver.get("https://buyertrade.taobao.com/trade/itemlist/list\_bought\_items.htm") # 遍历所有页数 for page in trange(1, pn): data\_list = \[\] # 等待该页面全部已买到的宝贝商品数据加载完毕 good\_total = self.wait.until( EC.presence\_of\_element\_located((By.CSS\_SELECTOR, '#tp-bought-root > div.js-order-container'))) # 获取本页面源代码 html = self.driver.page\_source # pq模块解析网页源代码 doc = pq(html) # # 存储该页已经买到的宝贝数据 good\_items = doc('#tp-bought-root .js-order-container').items() # 遍历该页的所有宝贝 for item in good\_items: # 商品购买时间、订单号 good\_time\_and\_id = item.find('.bought-wrapper-mod\_\_head-info-cell\_\_\_29cDO').text().replace('\\n', "").replace('\\r', "") # 商家名称 # good\_merchant = item.find('.seller-mod\_\_container\_\_\_1w0Cx').text().replace('\\n', "").replace('\\r', "") good\_merchant = item.find('.bought-wrapper-mod\_\_seller-container\_\_\_3dAK3').text().replace('\\n', "").replace('\\r', "") # 商品名称 # good\_name = item.find('.sol-mod\_\_no-br\_\_\_1PwLO').text().replace('\\n', "").replace('\\r', "") good\_name = item.find('.sol-mod\_\_no-br\_\_\_3Ev-2').text().replace('\\n', "").replace('\\r', "") # 商品价格 good\_price = item.find('.price-mod\_\_price\_\_\_cYafX').text().replace('\\n', "").replace('\\r', "") # 只列出商品购买时间、订单号、商家名称、商品名称 # 其余的请自己实践获取 data\_list.append(good\_time\_and\_id) data\_list.append(good\_merchant) data\_list.append(good\_name) data\_list.append(good\_price) #print(good\_time\_and\_id, good\_merchant, good\_name) #file\_path = os.path.join(os.path.dirname(\_\_file\_\_) + '/user\_orders.json') # file\_path = "../Spiders/taobao/user\_orders.json" json\_str = json.dumps(data\_list) with open(self.path + os.sep + 'user\_orders.json', 'a') as f: f.write(json\_str) # print('\\n\\n') # 大部分人被检测为机器人就是因为进一步模拟人工操作 # 模拟人工向下浏览商品，即进行模拟下滑操作，防止被识别出是机器人 # 随机滑动延时时间 swipe\_time = random.randint(1, 3) self.swipe\_down(swipe\_time) # 等待下一页按钮 出现 good\_total = self.wait.until(EC.presence\_of\_element\_located((By.CSS\_SELECTOR, '.pagination-next'))) good\_total.click() time.sleep(2) # while 1: # time.sleep(0.2) # try: # good\_total = self.driver.find\_element\_by\_xpath('//li\[@title="下一页"\]') # break # except: # continue # # 点击下一页按钮 # while 1: # time.sleep(2) # try: # good\_total.click() # break # except Exception: # pass # 收藏宝贝 传入爬几页 默认三页 https://shoucang.taobao.com/nodejs/item\_collect\_chunk.htm?ifAllTag=0&tab=0&tagId=&categoryCount=0&type=0&tagName=&categoryName=&needNav=false&startRow=60 def get\_choucang\_item(self, page=3): url = 'https://shoucang.taobao.com/nodejs/item\_collect\_chunk.htm?ifAllTag=0&tab=0&tagId=&categoryCount=0&type=0&tagName=&categoryName=&needNav=false&startRow={}' pn = 0 json\_list = \[\] for i in trange(page): self.driver.get(url.format(pn)) pn += 30 html\_str = self.driver.page\_source if html\_str == '': break if '登录' in html\_str: raise Exception('登录') obj\_list = etree.HTML(html\_str).xpath('//li') for obj in obj\_list: item = {} item\['title'\] = ''.join(\[i.strip() for i in obj.xpath('./div\[@class="img-item-title"\]//text()')\]) item\['url'\] = ''.join(\[i.strip() for i in obj.xpath('./div\[@class="img-item-title"\]/a/@href')\]) item\['price'\] = ''.join(\[i.strip() for i in obj.xpath('./div\[@class="price-container"\]//text()')\]) if item\['price'\] == '': item\['price'\] = '失效' json\_list.append(item) # file\_path = os.path.join(os.path.dirname(\_\_file\_\_) + '/shoucang\_item.json') json\_str = json.dumps(json\_list) with open(self.path + os.sep + 'shoucang\_item.json', 'w') as f: f.write(json\_str) # 浏览足迹 传入爬几页 默认三页 https://shoucang.taobao.com/nodejs/item\_collect\_chunk.htm?ifAllTag=0&tab=0&tagId=&categoryCount=0&type=0&tagName=&categoryName=&needNav=false&startRow=60 def get\_footmark\_item(self, page=3): url = 'https://www.taobao.com/markets/footmark/tbfoot' self.driver.get(url) pn = 0 item\_num = 0 json\_list = \[\] for i in trange(page): html\_str = self.driver.page\_source obj\_list = etree.HTML(html\_str).xpath('//div\[@class="item-list J\_redsList"\]/div')\[item\_num:\] for obj in obj\_list: item\_num += 1 item = {} item\['date'\] = ''.join(\[i.strip() for i in obj.xpath('./@data-date')\]) item\['url'\] = ''.join(\[i.strip() for i in obj.xpath('./a/@href')\]) item\['name'\] = ''.join(\[i.strip() for i in obj.xpath('.//div\[@class="title"\]//text()')\]) item\['price'\] = ''.join(\[i.strip() for i in obj.xpath('.//div\[@class="price-box"\]//text()')\]) json\_list.append(item) self.driver.execute\_script('window.scrollTo(0,1000000)') # file\_path = os.path.join(os.path.dirname(\_\_file\_\_) + '/footmark\_item.json') json\_str = json.dumps(json\_list) with open(self.path + os.sep + 'footmark\_item.json', 'w') as f: f.write(json\_str) # 地址 def get\_addr(self): url = 'https://member1.taobao.com/member/fresh/deliver\_address.htm' self.driver.get(url) html\_str = self.driver.page\_source obj\_list = etree.HTML(html\_str).xpath('//tbody\[@class="next-table-body"\]/tr') data\_list = \[\] for obj in obj\_list: item = {} item\['name'\] = obj.xpath('.//td\[1\]//text()') item\['area'\] = obj.xpath('.//td\[2\]//text()') item\['detail\_area'\] = obj.xpath('.//td\[3\]//text()') item\['youbian'\] = obj.xpath('.//td\[4\]//text()') item\['mobile'\] = obj.xpath('.//td\[5\]//text()') data\_list.append(item) # file\_path = os.path.join(os.path.dirname(\_\_file\_\_) + '/addr.json') json\_str = json.dumps(data\_list) with open(self.path + os.sep + 'address.json', 'w') as f: f.write(json\_str) if \_\_name\_\_ == '\_\_main\_\_': # pass cookie\_list = json.loads(open('taobao\_cookies.json', 'r').read()) t = TaobaoSpider(cookie\_list) t.get\_orders() # t.crawl\_good\_buy\_data() # t.get\_addr() # t.get\_choucang\_item() # t.get\_footmark\_item()
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
- 68
- 69
- 70
- 71
- 72
- 73
- 74
- 75
- 76
- 77
- 78
- 79
- 80
- 81
- 82
- 83
- 84
- 85
- 86
- 87
- 88
- 89
- 90
- 91
- 92
- 93
- 94
- 95
- 96
- 97
- 98
- 99
- 100
- 101
- 102
- 103
- 104
- 105
- 106
- 107
- 108
- 109
- 110
- 111
- 112
- 113
- 114
- 115
- 116
- 117
- 118
- 119
- 120
- 121
- 122
- 123
- 124
- 125
- 126
- 127
- 128
- 129
- 130
- 131
- 132
- 133
- 134
- 135
- 136
- 137
- 138
- 139
- 140
- 141
- 142
- 143
- 144
- 145
- 146
- 147
- 148
- 149
- 150
- 151
- 152
- 153
- 154
- 155
- 156
- 157
- 158
- 159
- 160
- 161
- 162
- 163
- 164
- 165
- 166
- 167
- 168
- 169
- 170
- 171
