〖Python网络爬虫实战㉓〗- Ajax数据爬取之什么是Ajax

news2024/10/6 1:38:52

订阅：新手可以订阅我的其他专栏。免费阶段订阅量1000+

python项目实战

Python编程基础教程系列（零基础小白搬砖逆袭)

说明：本专栏持续更新中，目前专栏免费订阅，在转为付费专栏前订阅本专栏的，可以免费订阅付费专栏，可报销（名额有限，先到先得）。

即将转为付费专栏，更多详细请看，五一之后会有优惠活动哦。

关于专栏〖Python网络爬虫实战〗转为付费专栏的订阅说明

作者：爱吃饼干的小白鼠。Python领域优质创作者，2022年度博客新星top100入围，荣获多家平台专家称号。

🌟上节回顾

我们在上一节，我们讲解了使用 MYSQL和 MongoDB 两种数据库，在前面一段时间，我们讲解了数据的存储，接下来的一段时间，我们开始和大家介绍Ajax数据的爬取。

🌟Ajax数据爬取

这种情况大家可能都遇到过，有时候我们在用 requests 抓取页面的时候，得到的结果可能和在浏览器中看到的不一样,在浏览器中可以看到正常显示的页面数据，但是使用 requests 得到的结果并没有。

这是因为 requests 获取的都是原始的 HTML 文档，而浏览器中的页面则是经过 JavaScript 处理数据后生成的结果，这些数据的来源有多种，可能是通过 Ajax 加载的，可能是包含在 HTML 文档中的，也可能是经过 JavaScript 和特定算法计算后生成的。

对于第一种情况，数据加载是一种异步加载方式，原始的页面最初不会包含某些数据，原始页面加载完后，会再向服务器请求某个接口获取数据，然后数据才被处理从而呈现到网页上，这其实就是发送了一个 Ajax 请求。

我觉得按照Web 发展的趋势来看，这种形式的页面越来越多。网页的原始 HTML 文档不会包含任何数据，数据都是通过 Ajax 统一加载后再呈现出来的，这样在 Web 开发上可以做到前后端分离，而且降低服务器直接渲染页面带来的压力。

所以如果遇到这样的页面，直接利用 requests 等库来抓取原始页面，是无法获取到有效数据的，这时需要分析网页后台向接口发送的 Ajax 请求，如果可以用 requests 来模拟 Ajax 请求，那么就可以成功抓取了。

⭐️什么是Ajax

Ajax，全称为 Asynchronous JavaScript and XML，即异步的 JavaScript 和 XML。它不是一门编程语言，而是利用 JavaScript 在保证页面不被刷新、页面链接不改变的情况下与服务器交换数据并更新部分网页的技术。

对于传统的网页，如果想更新其内容，那么必须刷新整个页面，但有了 Ajax，便可以在页面不被全部刷新的情况下更新其内容。在这个过程中，页面实际上是在后台与服务器进行了数据交互，获取到数据之后，再利用 JavaScript 改变网页，这样网页内容就会更新了。

🌟1. 实例引入

我们大家在浏览网页的时候，我们有时会发现很多网页都有下滑查看更多的选项。比如，拿微博来说，在微博页面，我们一直下滑，可以发现下滑几个微博之后，再向下就没有了，转而会出现一个加载的页面或者点击加载更多，不一会儿下方就继续出现了新的微博内容，这个过程其实就是 Ajax 加载的过程。

我们注意到页面其实并没有整个刷新，也就意味着页面的网页链接没有变化，但是网页中却多了新内容，也就是后面刷出来的新微博。这就是通过 Ajax 获取新数据并呈现的过程。

🌟2. 基本原理

Ajax（Asynchronous JavaScript and XML）是一种异步通信技术，它允许在客户端浏览器中通过JavaScript向服务器发送请求，并在服务器端处理响应后再将响应返回给客户端。以下是Ajax的基本原理：

浏览器向服务器发送请求：客户端的JavaScript代码通过XMLHttpRequest对象向服务器发送请求。XMLHttpRequest对象是一个全局函数，可以在浏览器中任何地方使用，包括函数内部和浏览器界面中的任何地方。
服务器接收请求并响应：服务器端通过XMLHttpRequest对象接收请求，并根据请求的类型和参数执行相应的操作，例如发送HTTP响应或生成缓存数据。服务器生成的响应可以是HTML、JSON、XML等格式，具体取决于服务器的设置和响应体裁剪标头。
客户端获取响应：一旦服务器生成了响应，客户端的JavaScript代码就可以通过XMLHttpRequest对象获取响应数据。响应数据可以是HTML、JSON、XML等格式，具体取决于客户端的设置和响应体裁剪标头。
无刷新局部刷新：Ajax通过异步调用和同步调用相结合，实现了无刷新的局部刷新效果。在异步调用过程中，客户端可以继续执行其他任务，不需要等待服务器响应完成就可以发送下一个请求。在同步调用过程中，客户端必须等待服务器响应完成才能继续执行。
Ajax的局部刷新：为了实现局部刷新效果，Ajax采用了一种称为“partial updates”的技术。在这种技术中，客户端只发送需要更新的部分数据给服务器，而不是整个页面。服务器收到更新的数据后，只有其中需要更新的部分会被刷新，而不是整个页面。这样可以减少页面刷新次数，提高页面加载速度和用户体验。