Python的那些事第十六篇:Python的网络爬虫技术

news2025/3/17 21:13:50

基于Python的网络爬虫技术研究与应用


摘要

随着互联网的飞速发展,网络爬虫技术在数据采集、信息挖掘等领域发挥着重要作用。本文详细介绍了Python环境下常用的网络爬虫技术,包括Requests库、BeautifulSoup库以及Scrapy框架。通过对这些工具的使用方法、项目结构、数据提取与存储等方面的深入探讨,结合具体实例,展示了如何高效地构建网络爬虫项目,以满足不同场景下的数据采集需求。本文的研究成果为网络爬虫技术的应用提供了实践指导,同时也为相关领域的研究提供了参考。


一、引言

网络爬虫是一种自动获取网络信息的程序或脚本,它通过模拟用户浏览器的行为,向目标网站发送HTTP请求,获取网页内容,并从中提取有价值的数据。随着大数据时代的到来,网络爬虫技术在数据分析、机器学习、商业智能等领域得到了广泛应用。Python作为一种简洁高效的编程语言,提供了丰富的库和框架,使得网络爬虫的开发变得更加容易和高效。本文将重点介绍Python环境下常用的网络爬虫技术,包括Requests库、BeautifulSoup库和Scrapy框架,并通过具体实例展示如何使用这些工具构建高效的爬虫项目。


二、网络爬虫基础

(一)网络爬虫的工作原理

网络爬虫的工作原理主要包括以下几个步骤:

  1. 初始化:设置爬虫的目标网站、起始URL等参数。

  2. 发送请求:模拟用户浏览器的行为,向目标网站发送HTTP请求。

  3. 获取响应:接收目标网站返回的HTTP响应,通常为HTML文档。

  4. 解析文档:对HTML文档进行解析,提取其中的有价值数据。

  5. 存储数据:将提取的数据存储到本地文件、数据库或其他存储介质中。

  6. 循环处理:根据需要,重复上述步骤,直到完成所有数据的采集。

(二)网络爬虫的分类

根据不同的分类标准,网络爬虫可以分为以下几种类型:

  1. 通用爬虫:用于大规模采集互联网上的信息,如搜索引擎爬虫。

  2. 聚焦爬虫:针对特定主题或特定网站进行数据采集。

  3. 增量式爬虫:只采集新增或更新的内容,避免重复采集。

  4. 深度优先爬虫:优先采集深度较深的页面。

  5. 广度优先爬虫:优先采集同一层级的页面。


三、基于Requests库的网络爬虫

(一)Requests库简介

Requests是一个Python第三方库,用于发送HTTP请求。它简单易用,支持多种HTTP方法(如GET、POST、PUT、DELETE等),并且可以方便地处理请求头、请求参数、Cookie等。以下是Requests库的主要功能特点:

  • 简洁易用:提供简洁的API,方便发送HTTP请求。

  • 支持多种HTTP方法:支持GET、POST、PUT、DELETE等常用HTTP方法。

  • 自动处理Cookie:自动管理Cookie,方便处理登录等需要Cookie的场景。

  • 支持会话对象:通过Session对象可以保持会话状态,方便多次请求。

(二)发送HTTP请求

以下是一个使用Requests库发送GET请求的示例代码:

import requests

# 目标URL
url = 'https://www.example.com'

# 发送GET请求
response = requests.get(url)

# 打印响应状态码
print('状态码:', response.status_code)

# 打印响应内容
print('响应内容:', response.text)

(三)获取响应内容

Requests库返回的响应对象(Response)包含了丰富的信息,可以通过以下属性和方法获取:

  • response.status_code:获取响应状态码。

  • response.text:获取响应内容(HTML文档)。

  • response.headers:获取响应头信息。

  • response.cookies:获取响应中的Cookie信息。

以下是一个完整的示例代码,展示如何获取响应的详细信息:

import requests

# 目标URL
url = 'https://www.example.com'

# 发送GET请求
response = requests.get(url)

# 获取响应状态码
print('状态码:', response.status_code)

# 获取响应内容
print('响应内容:', response.text)

# 获取响应头信息
print('响应头信息:', response.headers)

# 获取响应中的Cookie信息
print('Cookie信息:', response.cookies)

(四)处理请求参数

在实际应用中,我们常常需要向目标网站发送请求参数,例如查询关键词、分页参数等。Requests库支持通过params参数传递请求参数。以下是一个示例代码:

import requests

# 目标URL
url = 'https://www.example.com/search'

# 请求参数
params = {
    'q': 'Python',
    'page': 1
}

# 发送GET请求
response = requests.get(url, params=params)

# 打印响应内容
print('响应内容:', response.text)

(五)处理请求头

有些网站会对请求头进行检查,以防止爬虫访问。Requests库可以通过headers参数设置请求头,模拟正常浏览器的访问行为。以下是一个示例代码:

import requests

# 目标URL
url = 'https://www.example.com'

# 请求头
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
}

# 发送GET请求
response = requests.get(url, headers=headers)

# 打印响应内容
print('响应内容:', response.text)

(六)处理Cookie

有些网站需要登录后才能访问某些页面,Requests库可以通过cookies参数设置Cookie,或者通过Session对象自动管理Cookie。以下是一个示例代码:

import requests

# 目标URL
url = 'https://www.example.com/login'

# 登录数据
data = {
    'username': 'your_username',
    'password': 'your_password'
}

# 发送POST请求
session = requests.Session()
response = session.post(url, data=data)

# 访问登录后的页面
response = session.get('https://www.example.com/dashboard')

# 打印响应内容
print('响应内容:', response.text)

四、基于BeautifulSoup库的HTML文档解析

(一)BeautifulSoup库简介

BeautifulSoup是一个Python库,用于解析HTML和XML文档。它提供了简单易用的API,可以方便地提取文档中的数据。以下是BeautifulSoup库的主要功能特点:

  • 支持多种解析器:支持HTML、XML等多种解析器。

  • 灵活的解析方式:可以通过标签名、属性、CSS选择器等方式提取数据。

  • 自动处理HTML文档:自动修复HTML文档中的错误。

(二)解析HTML文档

以下是一个使用BeautifulSoup解析HTML文档的示例代码:

from bs4 import BeautifulSoup

# HTML文档
html_doc = """
<html>
    <head>
        <title>示例页面</title>
    </head>
    <body>
        <h1>欢迎来到示例页面</h1>
        <p>这是一个段落。</p>
        <a href="https://www.example.com">示例链接</a>
    </body>
</html>
"""

# 创建BeautifulSoup对象
soup = BeautifulSoup(html_doc, 'html.parser')

# 打印解析后的HTML文档
print(soup.prettify())

(三)提取数据

BeautifulSoup提供了多种方法来提取HTML文档中的数据,以下是一些常用的方法:

  • find():查找第一个匹配的标签。

  • find_all():查找所有匹配的标签。

  • select():通过CSS选择器查找标签。

以下是一个示例代码,展示如何使用这些方法提取数据:

from bs4 import BeautifulSoup

# HTML文档
html_doc = """
<html>
    <head>
        <title>示页面例</title>
    </head>
    <body>
        <h1>欢迎来到示例页面</h1>
        <p>这是一个段落。</p>
        <a href="https://www.example.com">示例链接</a>
        <div class="example">示例内容</div>
    </body>
</html>
"""

# 创建BeautifulSoup对象
soup = BeautifulSoup(html_doc, 'html.parser')

# 查找第一个<h1>标签
h1_tag = soup.find('h1')
print('第一个<h1>标签:', h1_tag.text)

# 查找所有<p>标签
p_tags = soup.find_all('p')
for p in p_tags:
    print('段落内容:', p.text)

# 使用CSS选择器查找<div>标签
div_tag = soup.select_one('.example')
print('示例内容:', div_tag.text)

(四)处理HTML文档中的注释和特殊标签

HTML文档中可能会包含注释、特殊标签等,BeautifulSoup可以正确处理这些内容。以下是一个示例代码:

from bs4 import BeautifulSoup
from bs4.element import Comment

# HTML文档
html_doc = """
<html>
    <head>
        <title>示例页面</title>
    </head>
    <body>
        <h1>欢迎来到示例页面</h1>
        <!-- 这是一个注释 -->
        <p>这是一个段落。</p>
        <script>alert('这是一个脚本');</script>
    </body>
</html>
"""

# 创建BeautifulSoup对象
soup = BeautifulSoup(html_doc, 'html.parser')

# 查找注释
comments = soup.find_all(string=lambda text: isinstance(text, Comment))
for comment in comments:
    print('注释内容:', comment)

# 查找脚本标签
script_tag = soup.find('script')
print('脚本内容:', script_tag.text)

五、基于Scrapy框架的网络爬虫

(一)Scrapy框架简介

Scrapy是一个基于Python的开源爬虫框架,用于构建高效的网络爬虫项目。它提供了丰富的功能,包括请求发送、响应处理、数据提取、数据存储等。以下是Scrapy框架的主要功能特点:

  • 高效:支持异步请求,提高爬虫效率。

  • 可扩展:支持自定义扩展,方便根据需求进行定制。

  • 灵活:支持多种数据提取方式,包括XPath、CSS选择器等。

  • 易于维护:项目结构清晰,方便维护和扩展。

(二)构建Scrapy爬虫项目

1. 安装Scrapy

在构建Scrapy爬虫项目之前,需要先安装Scrapy。可以通过以下命令安装Scrapy:

pip install scrapy
2. 创建Scrapy项目

创建Scrapy项目的基本命令如下:

scrapy startproject myproject

执行上述命令后,会在当前目录下生成一个名为myproject的项目文件夹,其目录结构如下:

myproject/
    scrapy.cfg
    myproject/
        __init__.py
        items.py
        middlewares.py
        pipelines.py
        settings.py
        spiders/
            __init__.py
            myspider.py
  • scrapy.cfg:项目的配置文件。

  • myproject/:项目的Python模块。

    • __init__.py:Python模块初始化文件。

    • items.py:定义爬取的数据结构。

    • middlewares.py:定义中间件。

    • pipelines.py:定义数据存储管道。

    • settings.py:定义项目的设置。

    • spiders/:存放爬虫脚本的目录。

3. 定义爬取的数据结构

items.py文件中定义爬取的数据结构。以下是一个示例代码:

import scrapy

class MyprojectItem(scrapy.Item):
    title = scrapy.Field()
    link = scrapy.Field()
    content = scrapy.Field()
4. 编写爬虫脚本

spiders/目录下创建一个爬虫脚本,例如myspider.py。以下是一个示例代码:

import scrapy
from myproject.items import MyprojectItem

class MySpider(scrapy.Spider):
    name = 'myspider'
    allowed_domains = ['example.com']
    start_urls = ['https://www.example.com']

    def parse(self, response):
        item = MyprojectItem()
        item['title'] = response.xpath('//h1/text()').extract()
        item['link'] = response.url
        item['content'] = response.xpath('//p/text()').extract()
        yield item
5. 配置项目设置

settings.py文件中配置项目的设置。以下是一些常用的设置项:

  • ROBOTSTXT_OBEY:是否遵守目标网站的robots.txt文件。

  • DOWNLOAD_DELAY:下载延迟,用于控制请求间隔。

  • ITEM_PIPELINES:定义数据存储管道。

  • DOWNLOADER_MIDDLEWARES:定义下载中间件。

以下是一个示例代码:

# 是否遵守目标网站的robots.txt文件
ROBOTSTXT_OBEY = True

# 下载延迟
DOWNLOAD_DELAY = 1

# 数据存储管道
ITEM_PIPELINES = {
    'myproject.pipelines.MyPipeline': 300,
}

# 下载中间件
DOWNLOADER_MIDDLEWARES = {
    'myproject.middlewares.MyMiddleware': 543,
}
6. 运行爬虫

运行爬虫的命令如下:

scrapy crawl myspider

执行上述命令后,Scrapy会根据定义的爬虫脚本开始爬取数据,并将数据存储到指定的位置。

(三)数据提取与存储

1. 数据提取

Scrapy支持多种数据提取方式,包括XPath、CSS选择器等。以下是一些常用的提取方法:

  • XPath:通过XPath表达式提取数据。

  • CSS选择器:通过CSS选择器提取数据。

以下是一个示例代码,展示如何使用XPath和CSS选择器提取数据:

import scrapy
from myproject.items import MyprojectItem

class MySpider(scrapy.Spider):
    name = 'myspider'
    allowed_domains = ['example.com']
    start_urls = ['https://www.example.com']

    def parse(self, response):
        item = MyprojectItem()
        item['title'] = response.xpath('//h1/text()').extract()
        item['link'] = response.url
        item['content'] = response.css('p::text').extract()
        yield item
2. 数据存储

Scrapy支持多种数据存储方式,包括文件存储、数据库存储等。以下是一些常用的数据存储方式:

  • 文件存储:将数据存储到本地文件中,例如JSON文件、CSV文件等。

  • 数据库存储:将数据存储到数据库中,例如MySQL、MongoDB等。

以下是一个示例代码,展示如何将数据存储到本地JSON文件中:

import scrapy
from myproject.items import MyprojectItem

class MySpider(scrapy.Spider):
    name = 'myspider'
    allowed_domains = ['example.com']
    start_urls = ['https://www.example.com']

    def parse(self, response):
        item = MyprojectItem()
        item['title'] = response.xpath('//h1/text()').extract()
        item['link'] = response.url
        item['content'] = response.css('p::text').extract()
        yield item

settings.py文件中配置数据存储管道:

# 数据存储管道
ITEM_PIPELINES = {
    'scrapy.pipelines.JsonItemPipeline': 300,
}

运行爬虫后,数据将被存储到本地JSON文件中。


六、案例分析

(一)案例背景

假设我们需要爬取一个新闻网站的新闻标题、链接和内容。该网站的结构如下:

  • 新闻列表页面:包含新闻标题、链接等信息。

  • 新闻详情页面:包含新闻内容等详细信息。

(二)爬虫设计

根据上述需求,我们可以设计一个爬虫项目,其主要步骤如下:

  1. 发送请求:向新闻列表页面发送请求,获取新闻列表页面的HTML文档。

  2. 解析新闻列表页面:解析新闻列表页面的HTML文档,提取新闻标题、链接等信息。

  3. 发送请求:向新闻详情页面发送请求,获取新闻详情页面的HTML文档。

  4. 解析新闻详情页面:解析新闻详情页面的HTML文档,提取新闻内容等详细信息。

  5. 存储数据:将提取的数据存储到本地文件或数据库中。

(三)代码实现

以下是基于Scrapy框架的爬虫代码实现:

1. 定义爬取的数据结构

items.py文件中定义爬取的数据结构:

import scrapy

class NewsItem(scrapy.Item):
    title = scrapy.Field()
    link = scrapy.Field()
    content = scrapy.Field()
2. 编写爬虫脚本

spiders/目录下创建一个爬虫脚本,例如news_spider.py

import scrapy
from myproject.items import NewsItem

class NewsSpider(scrapy.Spider):
    name = 'news'
    allowed_domains = ['example.com']
    start_urls = ['https://www.example.com/news']

    def parse(self, response):
        # 解析新闻列表页面
        for news in response.css('div.news-item'):
            item = NewsItem()
            item['title'] = news.css('h2.title::text').extract_first()
            item['link'] = news.css('a::attr(href)').extract_first()
            yield scrapy.Request(url=item['link'], callback=self.parse_detail, meta={'item': item})

    def parse_detail(self, response):
        # 解析新闻详情页面
        item = response.meta['item']
        item['content'] = response.css('div.content::text').extract_first()
        yield item
3. 配置项目设置

settings.py文件中配置项目的设置:

# 是否遵守目标网站的robots.txt文件
ROBOTSTXT_OBEY = True

# 下载延迟
DOWNLOAD_DELAY = 1

# 数据存储管道
ITEM_PIPELINES = {
    'scrapy.pipelines.JsonItemPipeline': 300,
}
4. 运行爬虫

运行爬虫的命令如下:

scrapy crawl news

执行上述命令后,Scrapy会根据定义的爬虫脚本开始爬取数据,并将数据存储到本地JSON文件中。

(四)运行结果

运行爬虫后,数据将被存储到本地JSON文件中,文件内容如下:

[
    {
        "title": "新闻标题1",
        "link": "https://www.example.com/news/1",
        "content": "新闻内容1"
    },
    {
        "title": "新闻标题2",
        "link": "https://www.example.com/news/2",
        "content": "新闻内容2"
    }
]

七、总结

本文详细介绍了Python环境下常用的网络爬虫技术,包括Requests库、BeautifulSoup库和Scrapy框架。通过对这些工具的使用方法、项目结构、数据提取与存储等方面的深入探讨,结合具体实例,展示了如何高效地构建网络爬虫项目。网络爬虫技术在数据分析、机器学习、商业智能等领域具有广泛的应用前景。然而,网络爬虫的使用也需要注意遵守法律法规和目标网站的使用条款,避免对目标网站造成不必要的负担。未来,随着人工智能和机器学习技术的发展,网络爬虫技术将更加智能化和高效化,为数据驱动的决策提供更有力的支持。


参考文献

[1] 姜南. Python网络爬虫开发实战[M]. 北京:电子工业出版社,2018.

[2] 张俊林. Python网络爬虫与数据挖掘[M]. 北京:机械工业出版社,2017.

[3] 王晓华. Python网络爬虫技术与应用[M]. 北京:清华大学出版社,2019.

[4] Scrapy官方文档. Scrapy 2.12 documentation — Scrapy 2.12.0 documentation.


 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2296810.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【AIGC】在VSCode中集成 DeepSeek(OPEN AI同理)

在 Visual Studio Code (VSCode) 中集成 AI 编程能力&#xff0c;可以通过安装和配置特定插件来实现。以下是如何通过 Continue 和 Cline 插件集成 DeepSeek&#xff1a; 一、集成 DeepSeek 获取 DeepSeek API 密钥&#xff1a;访问 DeepSeek 官方网站&#xff0c;注册并获取 …

如何下载CentOS镜像文件

文章目录 如何下载CentOS镜像文件 如何下载CentOS镜像文件 直接前往阿里云官网下载即可。 阿里云官网地址&#xff1a;https://www.aliyun.com 进入官网后&#xff0c;鼠标停留在文档与社区位置&#xff0c;找到镜像站&#xff0c;点击进入即可。进入后&#xff0c;我们可以…

开启对话式智能分析新纪元——Wyn商业智能 BI 携手Deepseek 驱动数据分析变革

2月18号&#xff0c;Wyn 商业智能 V8.0Update1 版本将重磅推出对话式智能分析&#xff0c;集成Deepseek R1大模型&#xff0c;通过AI技术的深度融合&#xff0c;致力于打造"会思考的BI系统"&#xff0c;让数据价值触手可及&#xff0c;助力企业实现从数据洞察到决策执…

嵌入式C语言:大小端详解

目录 一、大小端的概念 1.1. 大端序&#xff08;Big-endian&#xff09; 1.2. 小端序&#xff08;Little-endian&#xff09; 二、大小端与硬件体系的关系 2.1. 大小端与处理器架构 2.2. 大小端与网络协议 2.3. 大小端对硬件设计的影响 三、判断系统的大小端方式 3.1.…

Vue事件处理 - 按键修饰符

Vue 渐进式JavaScript 框架 基于Vue2的学习笔记 - Vue事件处理 - 按键修饰符 目录 按键修饰符 常见修饰符 绑定按键事件 绑定事件 优化回车修饰符 多个按键 直接绑定数字 总结 按键修饰符 常见修饰符 .esc .up .down .left .right . space .ctrl .shift .delete 绑定…

数据中心网络监控

数据中心是全球协作的特定设备网络&#xff0c;用来在internet网络基础设施上传递、加速、展示、计算、存储数据信息。 对于任何利用IT基础设施的企业来说&#xff0c;数据中心都是运营的核心&#xff0c;它本质上为整个业务网络托管业务应用程序和存储空间。数据中心可以是任…

基于Kotlin中Flow扩展重试方法

最近项目中统一采用Kotlin的Flow来重构了网络请求相关代码。 目前的场景是&#xff0c;接口在请求的时候需要一个accessToken值&#xff0c;因为此值会过期或者不存在&#xff0c;需要刷新&#xff0c;因此最终方案是在使用Flow请求的时候先获取accessToken值然后再进行接口请求…

oracle如何查询历史最大进程数?

oracle如何查询历史最大进程数&#xff1f; SQL> desc dba_hist_resource_limitName Null? Type---------------------------------------------------- -------- ------------------------------------SNAP_ID …

利用HTML和css技术编写学校官网页面

目录 一&#xff0c;图例展示 二&#xff0c;代码说明 1&#xff0c;html部分&#xff1a; 【第一张图片】 【第二张图片】 【第三张图片】 2&#xff0c;css部分&#xff1a; 【第一张图片】 【第二张图片】 【第三张图片】 三&#xff0c;程序代码 一&#xff0c;…

Flink KafkaConsumer offset是如何提交的

一、fllink 内部配置 client.id.prefix&#xff0c;指定用于 Kafka Consumer 的客户端 ID 前缀partition.discovery.interval.ms&#xff0c;定义 Kafka Source 检查新分区的时间间隔。 请参阅下面的动态分区检查一节register.consumer.metrics 指定是否在 Flink 中注册 Kafka…

拯救者Y9000P双系统ubuntu22.04安装4070显卡驱动

拯救者Y9000P双系统ubuntu22.04安装4070显卡驱动 1. 前情&#xff1a; 1TB的硬盘&#xff0c;分了120G作ubuntu22.04。/boot: 300MB, / : 40GB, /home: 75G, 其余作swap area。 2. 一开始按这个教程&#xff1a;对我无效 https://blog.csdn.net/Eric_xkk/article/details/1…

Web3 的虚实融合之路:从虚拟交互到元宇宙构建

在这个数字技术日新月异的时代&#xff0c;我们正站在 Web3 的门槛上&#xff0c;见证着互联网的又一次革命。Web3 不仅仅是技术的迭代&#xff0c;它代表了一种全新的交互方式和价值创造模式。本文将探讨 Web3 如何推动虚拟交互的发展&#xff0c;并最终实现元宇宙的构建&…

QT修仙笔记 事件大圆满 闹钟大成

学习笔记 牛客刷题 闹钟 时钟显示 通过 QTimer 每秒更新一次 QLCDNumber 显示的当前时间&#xff0c;格式为 hh:mm:ss&#xff0c;实现实时时钟显示。 闹钟设置 使用 QDateTimeEdit 让用户设置闹钟时间&#xff0c;可通过日历选择日期&#xff0c;设置范围为当前时间到未来 …

2025 年 2 月 TIOBE 指数

2025 年 2 月 TIOBE 指数 二月头条:快,更快,最快! 现在,世界需要每秒处理越来越多的数字,而硬件的发展速度却不够快,程序的速度变得越来越重要。话虽如此,快速编程语言在 TIOBE 指数中取得进展也就不足为奇了。编程语言 C++ 最近攀升至第 2 位,Go 已稳居前 10 名,Ru…

防火墙是什么?详解网络安全的关键守护者

当今信息化时代&#xff0c;企业和个人在享受数字生活带来的便利时&#xff0c;也不可避免地面对各种潜在的风险。防火墙作为网络安全体系中的核心组件&#xff0c;就像一道牢不可破的防线&#xff0c;保护着我们的数据和隐私不受外界威胁的侵害。那么防火墙是什么&#xff1f;…

第三篇:半导体“红蓝药丸“——IGBT/SiC器件如何重塑电驱系统

副标题&#xff1a;当黑客帝国遇见800V高压架构&#xff0c;第三代半导体开启能源革命 ▶ 开篇&#xff1a;红蓝药丸的终极抉择 黑客帝国隐喻 - 红色药丸&#xff08;IGBT&#xff09; &#xff1a;传统硅基器件构建的"真实世界"——成熟稳定但存在性能天花板…

VTK编程指南<十六>:VTK表面重建之Delaunay三角剖分

1、无边界限制 三角剖分是一种应用非常广泛的重建技术。三角剖分将一些散乱的点云数据划分为一系列的三角形网格。最常用的三角剖分技术是Delaunay三角剖分。Delaunay三角剖分具有许多优良的性质&#xff0c;即最大化最小角特性&#xff0c;即所有可能的三角形剖分中&#xff0…

2.Excel:滨海市重点中学的物理统考考试情况❗(15)

目录 NO12​ 1.数据透视表​ 2. 3.sum函数 4.sumifs客观/主观平均分​ 5.sumifs得分率​ 6.数字格式修改​ NO3/4/5​ sumifs某一组数据相加&#xff0c;某一范围&#xff0c;某一范围的具体点向下拖拉&#xff0c;锁定列&#xff1b;向左右&#xff0c;锁定行F4&#x…

Hdoop之MapReduce的原理

简单版本 AppMaster: 整个Job任务的核心协调工具 MapTask: 主要用于Map任务的执行 ReduceTask: 主要用于Reduce任务的执行 一个任务提交Job --> AppMaster(项目经理)--> 根据切片的数量统计出需要多少个MapTask任务 --> 向ResourceManager(Yarn平台的老大)索要资源 --…

JAVA并发编程3--多线程程序

​ 1.创建线程的方法&#xff1a; 案例&#xff1a;计算1-1000的整数和 实现Runnable接口 步骤&#xff1a; 1.创建一个实现了Runnable接口的类 2.实现类去实现Runnable中的抽象方法&#xff1a;run() 3.创建实现类的对象 4.将此对象作为参数传递到Thread类的构造器中&#…