深入解析Cloudflare五秒盾与爬虫绕过技巧

news2024/11/23 12:10:28

  最近一个朋友发现一个比较有趣的网站,他说正常构造一个HTTP请求居然拿不到网站页面的信息,网站页面如下:
在这里插入图片描述

别看它只是一个普普通通的小说网站。随后我在本地环境验证了一下,果不其然得到了以下信息:

异常反馈

从上面反馈的信息中来看的话,倒是跟之前碰到的一个境外网站有着一点异曲同工之妙

没错!它这个反馈信息就是Cloudflare的防护页面。这个页面要求验证是否为真实用户,以防止机器人或恶意攻击

之前有一段时间研究了一下Bot自动化攻击智能阻断与防护相关的一些东西。发现像现在的一些安全厂商很多都拥有多机制阻断和防护爬虫的风控类产品,我们都知道以前的反爬虫产品大多都是基于规则的,是有天然缺陷的。Cloudflare针对爬虫的防护机制如下:

  1、JS环境检测与行为分析:网站可以通过JavaScript监测和分析用户的行为模式,包括鼠标移动、点击、键盘输入等。要继续访问网站,客户端必须执行JS代码,然后重新发送经过验证的请求。这种机制可防止简单的爬虫,因为它们通常不能执行JavaScript代码

  2、IP封禁:Cloudflare可以封禁恶意爬虫使用的IP地址。它维护一个全球性的恶意IP地址数据库,并使用这些数据来自动封禁或限制具有恶意行为的IP地址的访问

  3、人机识别:Cloudflare通过人机识别来区分正常的用户和爬虫。这可以包括识别用户的行为模式、验证用户的身份(例如,通过验证码)或要求用户执行特定的交互行为

  4、异常流量分析:Cloudflare使用机器学习和数据分析来检测异常的访问模式和流量模式。如果请求的频率或模式与正常用户行为相比异常,Cloudflare可以将其标记为恶意爬虫,并阻止相关的请求

  5、签名识别:Cloudflare使用预定义的规则和模式识别技术来检测已知的爬虫和恶意行为。这些规则可以基于HTTP头部、请求模式、用户代理等来进行匹配和识别

  6、WAF:Cloudflare的WAF功能可以检测和防御常见的Web应用程序攻击,包括针对爬虫的攻击,例如SQL注入、跨站点脚本(XSS)等。WAF可以根据规则和模式匹配来识别和阻止恶意爬虫的行为

接下来,要想正常拿到上面说的到网站页面数据。很简单!只需要使用Docker运行一个容器就可以了。命令如下:

docker run -d \
  --name=flaresolverr \
  -p 8191:8191 \
  -e LOG_LEVEL=info \
  --restart unless-stopped \
  ghcr.io/flaresolverr/flaresolverr:latest

镜像

容器启动以后,会开启8191端口。通过这个端口发送http请求,让它将请求转发给目标网站,就可以绕过Cloudflare防护:

import json
import requests

url = 'http://localhost:8191/v1'

payload = json.dumps({
    "cmd": "request.get",
    "url": 'https://www.asxs.com/',
    "maxTimeout": 60000
})

headers = {'Content-Type': 'application/json'}

response = requests.post(url, headers=headers, data=payload)

print(response.json()['solution']['response'])

通过上述代码,就能正常获取到页面数据了,效果图如下所示:

数据
为什么启动了这个容器之后就可以绕过CloudFlare的防护了?关键原因就在这个项目中:FlareSolverr。我们看一下源代码可以发现FlareSolverr 就是一个代理服务器,内置了一个浏览器,处理我们发送的请求。

可能有些人会觉得多此一举,为什么不直接自己使用Selenium模拟请求呢???

  我仔细看了一下这个项目的源码,并且总结了一下FlareSolverr这个项目的亮点,主要体现在以下几个方面:

  1、动态解析和执行 JavaScript:FlareSolverr 能够解析和执行Cloudflare的JS 代码,这样就可以模拟浏览器行为并执行页面中的 JavaScript,以获取真实的网页内容。这是相对传统的静态解析方式(比如直接获取页面源码)的一种突破

  2、自动化处理验证页面:它在容器内部运行一个Webdriver的服务,用于自动处理 Cloudflare 验证页面。这种自动化处理方式相对于手动模拟浏览器操作更加高效和方便,减少了人工干预的需要

  3、缓存和复用验证结果:FlareSolverr具有缓存机制,可以将已经解析和验证过的网站结果缓存起来,并在后续的请求中进行复用。这样可以减少重复的验证过程,提高访问速度和效率

那么我们再说到为什么不直接使用Selenium。因为尽管FlareSolverr 和使用Selenium模拟浏览器都可以绕过 Cloudflare 验证页面,但两者之间我感觉是存在一些本质的区别的:

  1、集成度和依赖性:这个项目算是一个专门为解决Cloudflare绕过而设计的工具,它可以作为独立的服务部署,对外提供 API 接口(而使用 Selenium 需要自行搭建浏览器环境并编写脚本进行模拟操作

  2、环境隔离和资源消耗:这个项目使用了容器化技术,在独立的环境中执行验证操作,避免了对本地环境的影响(而使用 Selenium 需要在本地搭建浏览器环境,可能占用较多的系统资源

  3、验证处理方式:这个项目使用自动化的方式处理验证页面,可以自动识别和完成验证操作(而使用 Selenium需要编写脚本来模拟用户操作,可能需要更多的代码编写和维护工作

总体而言的话,FlareSolverr在处理 Cloudflare绕过上面提供了一种更加集成化、自动化和高效的解决方案,相对于手动模拟浏览器操作或使用Selenium等方式,可以节省开发和维护的成本,并提供更好的性能和可靠性

好了,到这里又到了跟大家说再见的时候了。创作不易,帮忙点个赞再走吧。你的支持是我创作的动力,希望能带给大家更多优质的文章

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/624882.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Yakit: 集成化单兵安全能力平台使用教程·进阶篇

Yakit: 集成化单兵安全能力平台使用教程进阶篇 1.数据处理数据对比Codec2.插件仓库1.数据处理 数据对比 该功能主要提供一个可视化的差异比对工具,用于分析两次数据之间的区别。使用场景可能包括:枚举用户名时比较登录成功和失败时服务器端反馈结果的差异、使用 Web Fuzzer…

【css3实现华为充电】那些你没想到的CSS效果之华为充电效果(附源码下载)

【写在前面】今天是高考的第二天,在这里我也祝各位学子能够旗开得胜,进入自己理想的大学,借着今天这个吉日我就和大家介绍一下如何用css实现华为充电效果。 涉及知识点:CSS3特效,华为充电特效实现,CSS属性f…

部署DR模式 LVS负载均衡群集

部署DR模式 LVS负载均衡群集 一、LVS-DR数据包流向分析二、DR模型的特点三、DR模式 LVS负载均衡群集部署 一、LVS-DR数据包流向分析 (1)客户端发送请求到 Director Server(负载均衡器),请求的数据报文(源 …

SYSU程设c++(第十五周)

vector容器 1.要开vector库 2.vector<T> 是动态的连续数组&#xff0c;可以列表初始化 vector<int> ivec(10, 2); //创建10个值为2的元素 3.可以靠[ ]、at(int)、front、back、迭代器访问其中元素&#xff0c;其中at会自动检查下标越界&#xff0c;抛出异常 4.迭…

【资料分享】ESD防护设计-常见ESD保护电路图

ESD防护设计 ESD防护设计的目的是&#xff0c;当集成电路任意两个输入/输出引脚之间发生ESD事件时&#xff0c;集成电路内部的ESD防护系统能及时开启来泄放掉大量的瞬时电流/电压,使内部电路免遭破坏。此外&#xff0c;在集成电路正常工作时&#xff0c;即未发生ESD事件时&…

Jmeter Suite安装中influx一直处于pending状态

目录 【前言】 【背景说明】 【问题表现】 【排查思路】 简单重试 深入分析 直面本质 【小结】 【写在最后】 完整版文档下载方式&#xff1a; 【前言】 今天要和大家聊聊一个关于Jmeter Suite安装的问题——“influx一直处于pending状态”。 作为一名老测试&#…

文心一言 VS 讯飞星火 VS chatgpt (35)-- 算法导论5.3 5题

五、证明:在过程 PERMUTE-BY-SORTING的数组 P中&#xff0c;所有元素都唯一的概率至少是1-1/n。 文心一言&#xff1a; 证明&#xff1a; 在过程PERMUTE-BY-SORTING中&#xff0c;对于输入数组P中的每个元素&#xff0c;其出现次数为1&#xff0c;因此对于每个元素&#xff…

配置Linux服务器时间同步

这里说一下为什么要配置时间同步这个问题&#xff0c;为了避免各虚拟机的时间出现不一致的情况而引发集群故障。这里还要了解一下什么是系统时间&#xff0c;什么是硬件时间。   这里配置时间同步我选择的是Chrony。Chrony是网络时间协议&#xff08;NTP&#xff09;的通用实…

这11款协同软件大大提升你的工作效率

无论是产品经理还是开发工程师&#xff0c;他们都是各自领域的专家&#xff0c;所以他们可以成为设计过程的一部分。 协作设计软件为设计过程提供了沟通方式和工具&#xff0c;以便团队成员甚至客户能够交流、分享他们的意见和想法。 本文将盘点11个协作设计软件&#xff01;…

Jenkins DingTalk 钉钉通知插件

目录 前言 一、相关文档 二、组件版本 三、钉钉配置 四、Jenkins配置 1、安装钉钉插件DingTalk 2、在Jenkins用户管理中填写钉钉手机号 3、在Jenkins中配置钉钉 5、在流水线任务中编写pipeline 写在最后 完整版文档下载方式&#xff1a; 前言 今天要和大家聊聊一个…

docker安装golang

最近玩 docker 比较多&#xff0c;试试安装 golang 操作系统&#xff1a;Linux 第一步 先看一下镜像&#xff1a; docker images 看一下我们目前的镜像中&#xff0c;是不是有go 如果有&#xff0c;版本不合适等&#xff0c;可以考虑删除&#xff0c;重新安装&#xff0c;也…

【嵌入式烧录/刷写文件】-1.9-S19文件的地址对齐Address Alignment

案例背景(共5页精讲): 对一个Motorola S-record(S19/SREC/mot/SX)文件&#xff0c;进行地址对齐Address Alignment。 目录 1 为什么要进行“地址对齐Address Alignment” 1.1 “对齐长度”的选择 2 使用Vector HexView工具对S19文件进行“地址对齐Address Alignment” 2.1…

SpringBoot统一功能的处理

目录 SpringBoot拦截器 自定义拦截器 将自定义拦截器加入系统配置项 统一异常处理 创建异常处理类 实现业务方法 统一数据返回格式 为什么需要统一数据返回格式 统一数据返回格式的实现 返回String时的报错愿意及处理方案 SpringBoot拦截器 使用SpringBoot拦截器来实现…

Figma文件保存图片教程,4个详细步骤一网打尽!

在设计领域中&#xff0c;Figma 作为一款备受欢迎的在线协同设计软件&#xff0c;给设计师们带来了许多便利。然而&#xff0c;Figma 目前并不能直接保存图片。那么&#xff0c;有没有什么方法可以解决这个问题呢&#xff1f;答案是使用「即时设计」&#xff0c;这是一款国产的…

Git初始化提交项目代码并与远端建立连接

如题 闲来无事&#xff0c;炒个冷饭。。。 步骤 1. 先本地建仓库 方法一&#xff1a; 执行命令&#xff08;使用git bash或者类似工具&#xff0c;或者IDEA下terminal命令行&#xff09;&#xff1a; git init会在当前目录下创建一个新的空Git库。 方法二&#xff1a; 在…

JDBC API 万字详解(通俗易懂)

目录 一、前言 二、JDBC API概述 三、获取连接的三种方式 0.朝花夕拾 : 1.方式一 —— 通过new关键字 : 2.方式二 —— 通过反射机制 : 3.方式三 —— 通过DriverManager Δ方式三简化版 Δ方式三优化版 四、 ResultSet 1.简介 : 2.代码演示 : 3.底层实现 : 五、SQL…

20分钟搞定 Stable Diffusion 模型在线服务部署

文章目录 AIGC之 AI 绘画20分钟搞定 Stable Diffusion 模型在线服务部署认识 Amazon SageMaker借助 Amazon SageMaker 进行环境搭建和模型推理1. 创建 jupyter notebook 运行环境2. 一键运行所有代码 关键代码分析如下1. 环境准备&#xff0c;代码模型下载2. 在Notebook中配置并…

Next 主题配置

当前用得最多的是next主题&#xff0c;那为什么用得多呢&#xff1f;当然是符合大多数人的审美。我使用的是next(v7.8.0)&#xff0c;下载地址&#xff1a;theme-next/hexo-theme-next 1 基本设置 1.1 主题设置 打开博客根目录 Blog 文件夹&#xff0c;右键 Git Bash&#xf…

制作投票链接怎么做微信上投票连接怎么样做投票链接

关于微信投票&#xff0c;我们现在用的最多的就是小程序投票&#xff0c;今天的网络投票&#xff0c;在这里会教大家如何用“活动星投票”小程序来进行投票。 我们现在要以“小手绘盛夏”为主题进行一次投票活动&#xff0c;我们可以在在微信小程序搜索&#xff0c;“活动星投票…

RuoYi-Cloud本地运行

启动nacos bin目录打开cmd&#xff0c;输入startup.cmd -m standalone&#xff0c;单机模式启动 http://localhost:8848/nacos/ 用户名密码都是nacos 启动redis 在 D:\Redis-x64-3.2.100 目录下 按shift鼠标右键&#xff0c;打开powerShell&#xff0c;输入 .\redis-server…