Python 爬虫：获取 JS 动态内容—，大厂Python研发岗面试复盘_爬取网页js动态折线图数据

（2）使用 Selenium 对网页进行模拟访问。

下面我们将介绍第一种方法。第二种方法可以参考这里。

1.2 从网页响应中找到 JS 脚本返回的数据   既然网页内容是由 JS 动态生成加载的，那么 JS 就需要先对某个接口进行调用，然后根据接口返回的数据再进行加载和渲染。那我们可以先找到 JS 调用的数据接口，从数据接口中找到网页中最后呈现的数据。   下面我们就以应用宝的搜索应用页面为例，进行说明。

1.2.1 找到 JS 请求的数据接口

---

按照如下步骤进行操作：

将看到如下信息：

• 打开应用宝的搜索页面（https://android.myapp.com/myapp/search.htm）

• 按 F12 打开网页调试工具

• 选择 “Network” 选项卡

• 选择 “XHR”（即 XMLHTTPRequest，是 Ajax（Asynchronous JavaScript and XML，异步的 JavaScript 和 XML） 中的概念。 ）

• 输入应用名（例如：微信）

在这里，我们看到只有一个 request（其他网页可能会存在多个）。点击这个 request，然后选择 “Preview”，可以看到如下数据：

在上面的数据中，我们发现了“微信”、“多开助手”等信息，这些就是搜索出来的应用列表信息。

通过上面的分析，可以知道搜索出来的应用列表信息正是通过这个 request 获取的。这个 request 对应 URL 为 https://android.myapp.com/myapp/searchAjax.htm?kw=%E5%BE%AE%E4%BF%A1&pns=&sid=（获取方法：将鼠标移动到这个 request 上 -> 然后右键单击 -> Copy -> Copy link address）。

将上面的 URL 在浏览器中打开，会返回一串数据。看起来似乎很乱，但实际上是 JSON 格式的数据。

这样，我们就找到了 JS 请求的数据接口。

1.2.2 URL 编码   上面我们找到的 JS 请求的数据接口是 https://android.myapp.com/myapp/searchAjax.htm?kw=%E5%BE%AE%E4%BF%A1&pns=&sid=，但是其中的 %E5%BE%AE%E4%BF%A1 代表什么意思呢？

实际上 %E5%BE%AE%E4%BF%A1 是中文 微信 的 URL 编码。在 Python 中，可以使用 urllib.parse.quote() 得到，即 '%E5%BE%AE%E4%BF%A1' = urllib.parse.quote('微信')。

按照标准，URL 中只允许包含英文字母、数字以及部分符号，其他字符（比如中文）是不符合 URL 标准的。这个时候就需要进行 URL 编码。

1.2.3 代码实现

---

按照以下 4 步进行实现：

（1）引入相关的库；

（2）对 JS 请求的数据接口进行请求；

做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。

别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。

我先来介绍一下这些东西怎么用，文末抱走。

---

（1）Python所有方向的学习路线（新版）

这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

最近我才对这些路线做了一下新的更新，知识体系更全面了。

（2）Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

（3）100多个练手项目

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。

（4）200多本电子书

这些年我也收藏了很多电子书，大概200多本，有时候带实体书不方便的话，我就会去打开电子书看看，书籍可不一定比视频教程差，尤其是权威的技术书籍。

基本上主流的和经典的都有，这里我就不放图了，版权问题，个人看看是没有问题的。

（5）Python知识点汇总

知识点汇总有点像学习路线，但与学习路线不同的点就在于，知识点汇总更为细致，里面包含了对具体知识点的简单说明，而我们的学习路线则更为抽象和简单，只是为了方便大家只是某个领域你应该学习哪些技术栈。

（6）其他资料

还有其他的一些东西，比如说我自己出的Python入门图文类教程，没有电脑的时候用手机也可以学习知识，学会了理论之后再去敲代码实践验证，还有Python中文版的库资料、MySQL和HTML标签大全等等，这些都是可以送给粉丝们的东西。

这些都不是什么非常值钱的东西，但对于没有资源或者资源不是很好的学习者来说确实很不错，你要是用得到的话都可以直接抱走，关注过我的人都知道，这些都是可以拿到的。

小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数初中级Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python爬虫全套学习资料》送给大家，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助，可以添加下面V无偿领取！（备注：python）

衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。**

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助，可以添加下面V无偿领取！（备注：python）
[外链图片转存中…(img-J6dVqvic-1711060600078)]