python并发编程:并发编程中是选择多线程呢?还是多进程呢?还是多协程呢?

news2024/11/16 1:45:11

Python对并发编程的支持非常丰富,可以使用多线程、多进程、协程等方式进行并发编程。那么,应该如何选择呢?

Python并发编程有哪些方式

Python并发编程有三种方式:

  • 多线程 Thread
  • 多进程 Process
  • 多协程 Coroutine

什么是CPU密集型计算、IO密集型计算?

CPU密集型(CPU-bound):

CPU密集型也叫计算密集型,是指I/O在很短的时间就可以完成,CPU需要大量的计算和处理,特点是CPU占用率相当高。

例如:

  • 压缩解压缩
  • 加解密
  • 正则表达式搜索

IO密集型(I/O bound)

IO密集型指的是系统运作大部分的状态是CPU在等待IO的读写操作,CPU占用率依然较低。

例如:

  • 文件处理程序
  • 网络爬虫程序
  • 读写数据库程序

多线程,多进程,多协程的对比

python并发编程有三种方式: 「多线程Thread」「多进程Process」「多协程Coroutine」

alt

多线程Process(multiprocessing)

「优点:」

  • 相比进程,更轻量级,占用资源少

「缺点:」

  • 相比进程:多线程只能并发执行,不能利用多CPU(GIL)
  • 相比协程:启动书面有限制,占用内存资源,有线程切换开销

使用于:IO密集型计算、同时运行的任务数目要求不多。

多进程Thread(threading)

「优点:」

  • 可以利用多核CPU并行运算

「缺点:」

  • 占用资源最多、可以启动数目比线程少

使用于:CPU密集型计算

多协程Coroutine(asyncio)

「优点:」

  • 内存开销最少。启动协程数目最多

「缺点:」

  • 支持的库有限制(aiohttp VS requests)、代码实现复杂

适用于:IO密集型计算、需要超多任务运行、但有现成库支持的场景

怎样根据任务选择对应技术

alt
  • 如果是CPU密集型计算,使用多进程multiprocessing
  • 如果是IO密集型计算,则考虑多线程或者多线程。
  • 如果任务量大,有现成协程库支持,协程实现的复杂度可接受则首选协程,否则选线程。

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/509988.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

《花雕学AI》Poe 一站式 AI 工具箱:ChatGPT4 体验邀请,亲,不要错过哦!

你有没有想过,如果你能在同一个平台上体验多种不同的 AI 模型,和他们进行有趣、有用、有深度的对话,甚至还能轻松地分享你的对话给其他人,那该有多好?如果你有这样的想法,那么你一定不能错过 Poe 一站式 AI…

winsows10 下 wsl2 使用 rviz 报错 Segmentation fault 段错误 (核心已转储) 的另一可能解决方案

问题 今天在 wsl 里使用 rviz 时突然报错 Segmentation fault 无法使用了, 报错如下 (base) rootXAIR14:~ $ rviz QStandardPaths: XDG_RUNTIME_DIR not set, defaulting to /tmp/runtime-root [ INFO] [1683702959.671174856]: rviz version 1.13.29 [ INFO] [1683702959.67…

SpringMVC中使用form:form表单标签报500错误

在做数据验证的时候出现了一点bug,先看一下网页报错信息 再看一下后台日志信息 11: 12: <body> 13: 14: <form:form modelAttribute"user" action"/user/login" method"post"> 15: <table> 16: <tr> 17:…

Babel 总结

文章目录 Babel 总结概述安装使用一、添加配置文件二、编写源代码三、配置package.json四、编译代码 对比代码 Babel 总结 概述 Babel 是一个 JavaScript 编译器&#xff0c;主要用于在当前和旧的浏览器或环境中&#xff0c;将 ECMAScript 2015 代码转换为 JavaScript 向后兼…

【软考备战·希赛网每日一练】2023年5月10日

文章目录 一、今日成绩二、错题总结第一题第二题第三题 三、知识查缺 题目及解析来源&#xff1a;2023年05月10日软件设计师每日一练 一、今日成绩 二、错题总结 第一题 解析&#xff1a; proceed v.开始行动&#xff0c;开展&#xff1b;继续做&#xff08;或从事、进行&…

redis之jedis:通过redis的API与Java的集成

什么是jedis&#xff1f; 简而言之&#xff1a;jedis就是通过redis的API对redis的操作&#xff0c;通过Java类对数据库进行操作&#xff0c;注意&#xff1a;使用的命令则是redis数据库的API,jedis是一个java实现的redis客户端连接工具。常用的还有redisson&#xff0c;jedis跟…

力扣 139. 单词拆分

一、题目描述 给你一个字符串 s 和一个字符串列表 word_dict 作为字典。请你判断是否可以利用字典中出现的单词拼接出 s。 注意&#xff1a;不要求字典中出现的单词全部都使用&#xff0c;并且字典中的单词可以重复使用。 示例 1&#xff1a; 输入: s "leetcode"…

【论文解读】Do Prompts Solve NLP Tasks Using Natural Language?

&#x1f365;关键词&#xff1a;文本分类、提示学习 &#x1f365;发表期刊&#xff1a;Arxiv 2022 &#x1f365;原始论文&#xff1a;https://arxiv.org/pdf/2203.00902 最近在做Prompted learning for text classification的工作&#xff0c;Prompted learning的核心在于设…

应急响应之进程,服务,文件排查方法

应急响应之进程,服务,文件排查方法 1.进程Windows进程排查Linux进程排查2.服务Windows服务排查Linux服务排查3.文件痕迹windows系统文件痕迹排查Linux系统文件痕迹排查1.进程 Windows进程排查 对于 Windows 系统中的进程排查,主要是找到恶意进程的 PID、程序路径, 有时还…

Elasticsearch:使用 Docker-Compose 启动单节点 Elastic Stack

首先必须指出的是&#xff0c;在我之前的文章 “Elasticsearch&#xff1a;使用 Docker compose 来一键部署 Elastic Stack 8.x”&#xff0c;我有详述根据官方文档如何创建一个带有三个节点的安全 Elasticsearch 集群。本文基于著名的 Deviatony 存储库和 Elastic 的官方说明。…

KPI考核管理:有效提升企业绩效指标

KPI考核管理是企业中常用的绩效管理方法之一&#xff0c;这种方式涉及到目标设定、绩效评估和奖惩措施等方面。在本文中&#xff0c;我们将探讨KPI考核管理的重要性、KPI管理方法以及如何应对。 一、KPI考核管理的重要性 KPI考核管理是企业实现战略目标的重要手段之一&#x…

[Mysql] MySQL索引与事务

黎明前的黑暗最难度过,但一旦坚持住,便是灿烂朝阳. 文章目录 1. 索引1.1 索引的概念1.2 索引的创建与使用 2. 事务2.1 事务的使用2.2 事务的特性与隔离机制2.2.1 隔离级别 1. 索引 1.1 索引的概念 索引是一种特殊的文件&#xff0c;可以对表中一列或多列创建索引&#xff0c;…

JZ-7Y-204 DC110V 2NO 2NC 静态中间继电器 板前接线 JOSEF约瑟

品牌&#xff1a;JOSEF约瑟名称&#xff1a;静态中间继电器型号&#xff1a;JZ-7Y-204额定电压&#xff1a;6V~220VAC/DC,380VAC触点容量&#xff1a;10A/250V10A/220VDC功率消耗&#xff1a;≤6W 1 用途 JZ-7中间继电器 板前接线用于各种保护和自动控制装置中&#xff0c;以…

PB文件定义为int64,HTTP返回为string的问题

最近开发遇见一个问题&#xff0c;pb文件中定义的一个字段类型为int64&#xff0c;而客户端拿到却是string。很奇怪&#xff0c;经过排查原来是 proto3中json映射问题 原文链接&#xff1a;https://protobuf.dev/programming-guides/proto3/#json JSON映射 Proto3 支持 JSON …

【GO 编程语言】 函数

函数 文章目录 函数一、什么是函数1.函数的声明 二、函数的声明和调用三、形参和实参四、可变参数五、值传递和引用传递六、函数中变量的作用域七、defer八、函数的本质探究九、匿名函数十、回调函数十一、闭包 一、什么是函数 函数是基本的代码块,用于执行一个任务。Go 语言最…

【手撕代码系列】JS手写实现apply方法

公众号&#xff1a;Code程序人生&#xff0c;分享前端所见所闻 在JavaScript中&#xff0c;apply()是Function对象的一个方法&#xff0c;它允许我们以指定的this值和参数列表调用函数。这个方法通常被用来在函数调用时动态地传递参数&#xff0c;或者在调用函数时绑定this值。…

chatgpt软件批量写作软件-文章改编软件

文章改编软件 文章改编软件是一种能够将原有的文本进行复制粘贴后&#xff0c;通过一定算法进行改写和改编的工具。其主要应用领域在于将一些内容复制到网站或博客等平台上时&#xff0c;避免因为重复内容而被识别为“抄袭”&#xff0c;从而提高文章的独特性和可读性。 然而…

TweenMax 源码阅读

GSAP 之 TweenMax 源码阅读&#xff08;一&#xff09; 一、背景 GreenSock &#xff08;绿袜子&#xff09; GreenSock 是一家做 专业级 JavaScript 动画的公司&#xff0c;主要产品就是其下的 GSAP (GreenSock Animation Platform)&#xff0c;配合着 GSPA 开发了很多专业的…

前端架构师-week5-egg.js+云Mongodb快速入门

目录 下载项目模版功能实现流程分析egg.js简介 egg.js 官网 初始化 云 mongodb 云 mongodb 开通 本地 mongodb 安装 mongodb 使用方法 通过 egg.js 框架添加新的API 云 mongodb 开通 本地 mongodb 调试技巧讲解 egg.js 接入 mongodb 方法 云 mongodb 如何连接公网…

mysql深分页

第一种&#xff1a;主键自增id情况&#xff1a; 未改&#xff1a; select * from wx_product_category_info where category_name_cn#{categoryNameCn} and category_type#{categoryType} order by id asclimit #{pageNum}, #{pageSize};在普通的limit条件下&#xff0c;如果…