scrapy安装与使用_scrapy软件菜鸟级详细安装和使用教程

1、概述

Scrapy，Python开发的一个快速、高层次的屏幕抓取和web抓取框架，用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛，可以用于数据挖掘、监测和自动化测试。他是一个框架，可供任何人修改。

2、五大基本构成

Scrapy框架主要由五大组件组成，它们分别是调度器(Scheduler)、下载器(Downloader)、爬虫（Spider）和实体管道(Item Pipeline)、Scrapy引擎(Scrapy Engine)。下面我们分别介绍各个组件的作用。
这些文件主要是：
scrapy.cfg: 项目配置文件
items.py: 项目items文件
pipelines.py: 项目管道文件
settings.py: 项目配置文件
spiders: 放置spider的目录

3、scrapy安装步骤

3.1 调出cmd
3.2 输入python -m pip install --upgrade pip更新下载器
3.3 pip install wheel
3.4 pip install lxml
3.5pip install twisted
3.6 pip install pywin32
3.7 pip install scrapy
1
2
3
4
5
6
7

4、代码部分

CONCURRENT_REQUESTS：最大并发数，很好理解，就是同时允许开启多少个爬虫线程
DOWNLOAD_DELAY：下载延迟时间，单位是秒
1