当前位置:   article > 正文

Python 爬取大众点评 50 页数据,最好吃的成都火锅竟是它!

Python 爬取大众点评 50 页数据,最好吃的成都火锅竟是它!

在这里插入图片描述

代码


import time

import requests

from pyquery import PyQuery as pq

import pandas as pd

headers = {‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36’}

def restaurant(url):

获取网页静态源代码

try:

response = requests.get(url, headers=headers)

if response.status_code == 200:

return response.text

except Exception:

return None

name=[]

url = []

star = []

comment = []

avg_price = []

taste = []

environment = []

services = []

recommend = []

num = {‘hs-OEEp’: 0, ‘hs-4Enz’: 2, ‘hs-GOYR’: 3, ‘hs-61V1’: 4, ‘hs-SzzZ’: 5, ‘hs-VYVW’: 6, ‘hs-tQlR’: 7, ‘hs-LNui’: 8, ‘hs-42CK’: 9}

def detail_number(htm):

try:

a = str(htm)

a = a.replace(‘1<’, ‘<’)

a = a.replace(‘.’, ‘’)

b = pq(a)

cn = b(‘span’).items()

number = ‘’

for i in cn:

attr = i.attr(‘class’)

if attr in num:

attr = num[attr]

number = number + str(attr)

number = number.replace(‘None’, ‘’)

except:

number = ‘’

return number

def info_restaurant(html):

获取饭店的名称和链接

doc = pq(html)

for i in range(1,16):

#获取饭店名称

shop_name = doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.tit > a:nth-child(1) > h4’).text()

if shop_name == ‘’:

break

name.append(shop_name)

#获取饭店链接

url.append(doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.pic > a’).attr(‘href’))

try:

star.append(doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.comment > span’).attr(‘title’))

except:

star.append(“”)

#获取评论数量

comment_html = doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.comment > a.review-num > b’)

comment.append(detail_number(comment_html))

#获取人均消费

avg_price_html = doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.comment > a.mean-price > b’)

avg_price.append(detail_number(avg_price_html))

#获取口味评分

taste_html = doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > span > span:nth-child(1) > b’)

taste.append(detail_number(taste_html))

#获取环境评分

environment_html = doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > span > span:nth-child(2) > b’)

environment.append(detail_number(environment_html))

#获取服务评分

services_html = doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > span > span:nth-child(3) > b’)

services.append(detail_number(services_html))

#推荐菜,都是显示三道菜

try:

recommend.append(doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.recommend > a:nth-child(2)’).text()+str(‘,’)+\

doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.recommend > a:nth-child(3)’).text()+str(‘,’)+\

doc(‘#shop-all-list > ul > li:nth-child(’+str(i)+‘) > div.txt > div.recommend > a:nth-child(4)’).text())

except:

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
img
img



既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Python开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以添加V获取:vip1024c (备注Python)
img

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。

一个人可以走的很快,但一群人才能走的更远。如果你从事以下工作或对以下感兴趣,欢迎戳这里加入程序员的圈子,让我们一起学习成长!

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算

ums/4304bb5a486d4c3ab8389e65ecb71ac0)

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/AllinToyou/article/detail/507741
推荐阅读
相关标签
  

闽ICP备14008679号