关于PhantomCrawler
PhantomCrawler是一款功能强大的多代理IP网站请求生成工具,该工具允许广大研究人员通过不同的代理IP地址来模拟与目标Web站点的交互行为。
PhantomCrawler基于Python、requests和BeautifulSoup实现其功能,并提供了一种简单且高效的方法来测试不同代理配置下的网站安全行为。
功能介绍
1、支持使用指定文件中的代理IP地址列表;
2、同时支持HTTP和HTTPS代理;
3、允许用户输入目标网站URL、代理文件路径和静态端口;
4、支持使用每个代理向指定的网站发出HTTP请求;
5、支持分析HTML内容以提取和访问网页上的链接;
工具使用场景
1、PoC测试;
2、Web流量提升;
3、代理翻转测试;
4、Web爬取测试;
5、DDoS识别;
注意事项
如需添加新的代理,可以按照下列地址格式(IP地址+端口)将新的代理地址添加到proxies.txt文件中:
50.168.163.176:80
除此之外,我们还可以点击【这里】获取新的免费代理,不过这些免费代理不够稳定,可能有些无法正常工作,因此在添加前请确保代理地址可使用。
工具下载
由于该工具基于Python 3开发,因此我们首先需要在本地设备上安装并配置好最新版本的Python 3环境。
接下来,广大研究人员可以直接使用下列命令将该项目源码克隆至本地:
git clone https://github.com/spyboy-productions/PhantomCrawler.git
然后切换到项目目录中,使用pip3工具和项目提供的requirements.txt文件安装该工具所需的其他依赖组件:
cd PhantomCrawler pip3 install -r requirements.txt
工具使用
下列命令即可直接执行工具脚本:
python3 PhantomCrawler.py
工具运行截图
许可证协议
本项目的开发与发布遵循AGPL-3.0开源许可证协议。
项目地址
PhantomCrawler:【GitHub传送门】
参考资料
https://free-proxy-list.net/