一、概念

万维网之所以叫做网，是因为通过点击超链接或者进入URL，我们可以访问任何网络资源，从一个网页跳转到另一个网页，所有的相关资源连接在一起，就形成了一个网。

而爬虫呢，听名字就让人想起来一个黏糊糊的蠕虫或者蜘蛛等，实际上，爬虫本质上即使一个程序蜘蛛，按照一定的规则，自动沿着这张网抓取上面的信息。

用处：

• 收集目标信息：比如爬取招聘网站，找出给python工程师的薪资排在前10的本地公司，你可以用它来比较价格等。（个人）
• 舆情监控
• 市场调研
• 搜索引擎

二、安装。

python直接去官网下载即可，python编辑器我这里用的是pycharm软件。

安装教程直接百度即可。

三、爬虫流程

我们都听说过，爬虫学的好，牢饭吃的早。那么我们应该怎么正确利用爬虫技术呢？哪些事情是我们能做的，哪些是我们不能做的。

那接下来我们就来聊一聊爬虫的流程大概是什么样子的！

1. 获取网页内容：我们会通过代码给一个网站服务器发送请求，它会返回给我们网页上的内容。在我们平时用浏览器访问网页内容时，本质上也是给网站服务器发送一个请求，服务器返回网页内容。（只不过，浏览器还会进行一个额外的步骤，就是把内容渲染成直观优美的页面给用户进行展现，而用程序获得的内容更加原始）
2. 解析网页内容：在上一个步骤，我们可以获取整个网页的内容，那太多太复杂了，而我们其实根本不想要看到这么多信息，这个时候我们需要进行筛选。比如去tb买东西，我们可能只关注商品种类和价格，对于活动信息或者用户评价等内容不感兴趣。所以需要对内容进行解析，把想要的数据提取出来。
3. 储存或分析数据：取决于具体需求。比如你一开始是为了收集数据集，那这一步骤可能就是把数据存储进数据库；如果你一开始是为了分析数据趋势，那这一步骤可能就是把数据做成可视化图表；如果你一开始是为了做舆情监控，这一步骤可能就是用AI做文本情绪分析。

爬虫大概的流程讲完了，那么我们来讲讲怎么避免吃牢饭！！！

为了能够成为社会主义好青年，请你务必遵守一些规则：

• 不要爬取共鸣隐私数据
• 不要爬取受著作权保护的内容
• 不要爬取国家事务、国防建设、尖端科学技术领域的计算机系统等

除了以上红线不能跨过以外，还有一些事情是需要我们注意的。

• 爬虫的请求数量和频率不能过高，否则可能无异于DDos攻击。（DDos攻击就是通过给服务器发送海量高频的请求，让网站资源被耗尽，导致其无法服务其他正常用户）
• 如果网站明显做出了反爬限制，比如有些内容要登陆后才可查看，或是有验证码等限制机器的机制，就不要去强行突破了。
• 你可以通过查看网站的robots.txt文件了解可爬取的网页路径范围,这个文件会知名哪些网页允许被爬取，哪些不允许被爬取，有些还会专门列出针对搜索引擎爬虫的许可范围。

四、需要学习哪些内容呢？

（1）在获取网页内容方面

• HTTP请求，来获得网页内容
• python的Requests库，通过它就可以用python代码简单优雅地发送HTTP请求。

（2）在解析网页内容方面

• HTML网页结构（因为发送请求后获得的内容，很多情况下回事HTML格式）
• python的Beautiful Soup库，帮助解析获取到的HTML内容，提取信息

（3）在储存或分析数据方面

学什么，根据具体需求而异。