当前位置:   article > 正文

网络爬虫系统

网络爬虫系统

爬虫系统有5个组件构成:

Spider 爬虫整体控制

下载器

网页处理器

处理管线

调度器

整个流程,向调度器加入初始请求-》下载器下载对应网页-》分析器,获取网页上的链接,以及网页内容-》处理管线将分析到的有效内容保存下来

转载于:https://my.oschina.net/u/186074/blog/3025936

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/煮酒与君饮/article/detail/1007515
推荐阅读
相关标签
  

闽ICP备14008679号