Python运维之多线程!!

news2024/11/17 23:46:16

一、多线程

二、多线程编程之threading模块

2.1、使用threading进行多线程操作有两种方法:

三、多线程同步之Lock(互斥锁)

四、多线程同步之Semaphore(信号量)

五、多线程同步之Condition

六、多线程同步之Event

七、线程优先级队列(queue)

八、多线程之线程池pool

九、总结


一、多线程

线程(Thread)也称轻量级进程,是操作系统能够运行调度的最小单位,被包含在进程中,是进程中的实际运作单位。

线程自身不拥有系统资源,只拥有一些在运行中必不可少的资源,但可与同属一个进程的其他线程共享所拥有的全部资源

一个线程可以创建和撤销另一个线程,同一进程中的多个线程之间可以并发执行

  • 就绪状态指线程具备运行的所有状态,逻辑上可以运行,在等待处理机
  • 运行状态指线程占有处理机正在运行
  • 阻塞状态指线程在等待一个事件,逻辑上不可执行

尽管GIL(全局锁 )限制了CPython多线程在CPU密集型任务中的并行性,但Python的多线程在I/O密集型任务中依然能够发挥多核CPU的优势,通过在I/O等待期间执行其他任务来提升程序的运行效率。

实例1:计算密集型任务-多进程!!多进程!!多进程!!

 from multiprocessing import Process
 import os,time
 ​
 # 计算密集型任务
 def work():
     res = 0
     for i in range(100000000):
         res *= i
 ​
 if __name__ == '__main__':
     l = []
     print("本机为",os.cpu_count(),"核 CPU")
     start = time.time()
     for i in range(4):
         p = Process(target=work)    # 多进程
         l.append(p)
         p.start()
     for p in l:
         p.join()
     stop = time.time()
     print("计算密集型任务,多进程耗时 %s" % (stop - start))
     
 '''
 本机为 8 核 CPU
 计算密集型任务,多进程耗时 5.117187976837158
 '''

实例1:计算密集型任务-多线程!!多线程!!多线程!!

 import os,time
 from threading import Thread
 ​
 # 计算密集型任务
 def work():
     res = 0
     for i in range(100000000):
         res *= i
 ​
 if __name__ == '__main__':
     l = []
     print("本机为",os.cpu_count(),"核 CPU")
     start = time.time()
     for i in range(4):
         p = Thread(target=work)    # 多线程
         l.append(p)
         p.start()
     for p in l:
         p.join()
     stop = time.time()
     print("计算密集型任务,多线程耗时 %s" % (stop - start))
     
 '''
 本机为 8 核 CPU
 计算密集型任务,多线程耗时 14.287675857543945
 '''

实例2:I/O密集型任务-多进程!!多进程!!多进程!!

 from multiprocessing import Process
 import os,time
 ​
 # I/O密集型任务
 def work():
     time.sleep(2)
     print("===>",file=open("tmp.txt","w"))
 ​
 ​
 if __name__ == '__main__':
     l = []
     print("本机为", os.cpu_count(), "核 CPU")
     start = time.time()
     for i in range(400):
         p = Process(target=work)  # 多进程
         l.append(p)
         p.start()
     for p in l:
         p.join()
     stop = time.time()
     print("I/O密集型任务,多进程耗时 %s" % (stop - start))
 '''
 本机为 8 核 CPU
 I/O密集型任务,多进程耗时 11.03010869026184
 '''

实例2:I/O密集型任务-多线程!!多线程!!多线程!!

 import os,time
 from threading import Thread
 ​
 # I/O密集型任务
 def work():
     time.sleep(2)
     print("===>",file=open("tmp.txt","w"))
 ​
 ​
 if __name__ == '__main__':
     l = []
     print("本机为", os.cpu_count(), "核 CPU")
     start = time.time()
     for i in range(400):
         p = Thread(target=work)  # 多线程
         l.append(p)
         p.start()
     for p in l:
         p.join()
     stop = time.time()
     print("I/O密集型任务,多线程耗时 %s" % (stop - start))
 '''
 本机为 8 核 CPU
 I/O密集型任务,多线程耗时 2.0814177989959717
 '''

结论:在Python中,对于密集型任务,多进程占优势;对于I/O密集型任务,多线程占优势

二、多线程编程之threading模块

Python提供多线程编程的模块有两个:thread和threading。thread模块提供低级别的基本功能来支持,提供简单的锁来确保同步(不推荐)。threading模块对_thread进行了封装,提供了更高级别,功能更强。

2.1、使用threading进行多线程操作有两种方法:

方法一:创建threading.Thread类的实例调用其start()方法

 import time
 import threading
 ​
 def task_thread(counter):
     print(f'线程名称:{threading.current_thread().name} 参数:{counter} 开始时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
     num = counter
     while num:
         time.sleep(3)
         num -= 1
     print(f'线程名称:{threading.current_thread().name} 参数:{counter} 结束时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 ​
 if __name__ == '__main__':
     print(f'主线程开始时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 ​
     # 初始化三个线程,传递不同的参数
     t1 = threading.Thread(target=task_thread,args=(3,))
     t2 = threading.Thread(target=task_thread,args=(2,))
     t3 = threading.Thread(target=task_thread,args=(1,))
     # 开启三个线程
     t1.start();t2.start();t3.start()
     # 等待运行结束
     t1.join();t2.join();t3.join()
 ​
     print(f'主线程结束时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 '''
 程序实例化了三个Thread类的实例,并任务函数传递不同的参数,使他们运行不同的时间后结束,start()方法开启线程,join()方法阻塞主线程,等待当前线程运行结束。
 '''

方法二:继承Thread类,在子类中重写run()和init()方法*(了解---)

 import time
 import threading
 ​
 class MyThread(threading.Thread):
     def __init__(self,counter):
         super().__init__()
         self.counter = counter
 ​
     def run(self):
         print(
             f'线程名称:{threading.current_thread().name} 参数:{self.counter} 开始时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
         counter = self.counter
         while counter:
             time.sleep(3)
             counter -= 1
         print(
             f'线程名称:{threading.current_thread().name} 参数:{self.counter} 结束时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 if __name__ == '__main__':
     print(f'主线程开始时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 ​
     # 初始化三个线程,传递不同的参数
     t1 = MyThread(3)
     t2 = MyThread(2)
     t3 = MyThread(1)
     # 开启三个线程
     t1.start();t2.start();t3.start()
     # 等待运行结束
     t1.join();t2.join();t3.join()
 ​
     print(f'主线程结束时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')

如果继承Thread类,想要调用外部函数:

 import time
 import threading
 ​
 ​
 def task_thread(counter):
     print(
         f'线程名称:{threading.current_thread().name} 参数:{counter} 开始时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
     num = counter
     while num:
         time.sleep(3)
         num -= 1
     print(
         f'线程名称:{threading.current_thread().name} 参数:{counter} 结束时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 ​
 ​
 class MyThread(threading.Thread):
     def __init__(self,target,args):
         super().__init__()
         self.args = args
         self.target = target
 ​
     def run(self):
         self.target(*self.args)
 ​
 if __name__ == '__main__':
     print(f'主线程开始时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')
 ​
     # 初始化三个线程,传递不同的参数
     t1 = MyThread(target=task_thread,args=(3,))
     t2 = MyThread(target=task_thread,args=(2,))
     t3 = MyThread(target=task_thread,args=(1,))
     # 开启三个线程
     t1.start();t2.start();t3.start()
     # 等待运行结束
     t1.join();t2.join();t3.join()
 ​
     print(f'主线程结束时间:{time.strftime("%Y-%m-%d %H:%M:%S")}')

三、多线程同步之Lock(互斥锁)

如果多个线程共同对某个数据修改,则可能出现不可预料的结果,这个时候就需要使用互斥锁来进行同步。例如:在三个线程对共同变量num进行100万次加减操作后,其num的结果不为0

不加锁的意外情况:

 import time,threading
 ​
 num = 0
 ​
 def task_thread(n):
     global  num
     for i in range(1000000):
         num = num + n
         num = num - n
 ​
 t1 = threading.Thread(target=task_thread,args=(6,))
 t2 = threading.Thread(target=task_thread,args=(17,))
 t3 = threading.Thread(target=task_thread,args=(11,))
 t1.start();t2.start();t3.start()
 t1.join();t2.join();t3.join()
 print(num)
 '''
 6
 '''

使用互斥锁对多个线程进行同步,限制当一个线程正在访问数据时,其他只能等待,直到前一线程释放锁。

使用threading.Thread对象的LockRlock可以实现简单的线程同步,都有acquirerelease方法。

 # 加互斥锁后运行结果始终一致
 import time,threading
 ​
 num = 0
 lock = threading.Lock()
 def task_thread(n):
     global num
     # 获取锁,用于线程同步
     lock.acquire()
     for i in range(1000000):
         num = num + n
         num = num - n
     # 释放锁,开启下一个线程
     lock.release()
 ​
 ​
 t1 = threading.Thread(target=task_thread,args=(6,))
 t2 = threading.Thread(target=task_thread,args=(17,))
 t3 = threading.Thread(target=task_thread,args=(11,))
 t1.start();t2.start();t3.start()
 t1.join();t2.join();t3.join()
 print(num)

四、多线程同步之Semaphore(信号量)

互斥锁是只允许一个线程访问共享数据,而信号量是同时运行一定数量的线程访问共享数据,比如银行柜台有5个窗口,运行同时有5个人办理业务,后面的人只能等待其完成。

 # 使用信号量控制并发
 import threading
 import time
 ​
 # 银行柜台窗口数量
 NUM_WINDOWS = 5
 ​
 # 用于控制窗口访问的信号量
 semaphore = threading.Semaphore(NUM_WINDOWS)
 ​
 # 客户办理业务的函数
 def customer(name, service_time):
     # 尝试获取信号量
     semaphore.acquire()
     print(f"{time.ctime()}: {name} 开始办理业务")
     time.sleep(service_time)  # 模拟办理业务的时间
     print(f"{time.ctime()}: {name} 办理业务完成")
     semaphore.release()  # 释放信号量
 ​
 # 创建客户线程列表
 customers = []
 for i in range(12):
     name = f"客户{i+1}"
     service_time = 3  # 假设每个客户办理业务需要1秒时间
     thread = threading.Thread(target=customer, args=(name, service_time))
     customers.append(thread)
 ​
 # 启动所有客户线程
 for customer in customers:
     customer.start()
 ​
 # 等待所有客户完成业务
 for customer in customers:
     customer.join()
 ​
 print("所有客户都办理完业务了。")

上述代码实现了同一时刻只有5个线程获得资源运行

五、多线程同步之Condition

条件对象Condition能让一个线程A停下来,等待其他线程B,线程B满足了某个条件后通知线程A继续运行。步骤:

线程首先获取一个条件变量锁,如果条件不足,则该线程等待(wait)并释放条件变量锁;如果条件满足,就继续执行线程,执行完成后可以通知(notify)其他状态为wait的线程执行。其他处于wait状态的线程接到通知后会重新判断条件来确定是否继续执行

 import threading
 ​
 class Boy(threading.Thread):
     def __init__(self,cond,name):
         super(Boy,self).__init__()
         self.cond = cond
         self.name = name
 ​
     def run(self):
         self.cond.acquire()
         print(self.name + ":嫁给我吧!?")
         self.cond.notify()  # 唤醒一个挂起的线程,让hanmeimei表态
         self.cond.wait()    # 释放内部所占用的锁,同时线程被挂起,直至接收到通知被唤醒或超时,等待heimeimei回答
         print(self.name + ": 我单膝下跪,送上戒指!")
         self.cond.notify()
         self.cond.wait()
         print(self.name + ": lI太太,你的选择太明智了。")
         self.cond.release()
 class Girl(threading.Thread):
     def __init__(self,cond,name):
         super(Girl,self).__init__()
         self.cond = cond
         self.name = name
 ​
     def run(self):
         self.cond.acquire()
         self.cond.wait()    # 等待Lilei求婚
         print(self.name + ": 没有情调,不够浪漫,不答应")
         self.cond.notify()
         self.cond.wait()
         print(self.name + ": 好吧,答应你了")
         self.cond.notify()
         self.cond.release()
 ​
 cond = threading.Condition()
 boy = Boy(cond,"LiLei")
 girl = Girl(cond,"HanMeiMei")
 girl.start()
 boy.start()

六、多线程同步之Event

事件用于线程之间的通信。一个线程发出一个信号,其他一个或多个线程等待,调用Event对象的wait方法,线程则会阻塞等待,直到别的线程set之后才会被唤醒。与上述类似

 import threading
 import time
 ​
 ​
 class Boy(threading.Thread):
     def __init__(self,cond,name):
         super(Boy,self).__init__()
         self.cond = cond
         self.name = name
 ​
     def run(self):
         print(self.name + ":嫁给我吧!?")
         self.cond.set()  # 唤醒一个挂起的线程,让hanmeimei表态
         time.sleep(0.5)
         self.cond.wait()    # 释放内部所占用的锁,同时线程被挂起,直至接收到通知被唤醒或超时,等待heimeimei回答
         print(self.name + ": 我单膝下跪,送上戒指!")
         self.cond.set()
         time.sleep(0.5)
         self.cond.wait()
         self.cond.clear()
         print(self.name + ": lI太太,你的选择太明智了。")
 class Girl(threading.Thread):
     def __init__(self,cond,name):
         super(Girl,self).__init__()
         self.cond = cond
         self.name = name
 ​
     def run(self):
         self.cond.wait()    # 等待Lilei求婚
         self.cond.clear()
         print(self.name + ": 没有情调,不够浪漫,不答应")
         self.cond.set()
         time.sleep(0.5)
         self.cond.wait()
         print(self.name + ": 好吧,答应你了")
         self.cond.set()
 ​
 cond = threading.Event()
 boy = Boy(cond,"LiLei")
 girl = Girl(cond,"HanMeiMei")
 girl.start()
 boy.start()

七、线程优先级队列(queue)

Python的queue模块中提供了同步的线程安全的队列类,包括先进先出队列Queue后进先出队列LifoQueue优先级队列PriorityQueue。这些队列都实现了锁原语,可以直接使用来实现线程之间的同步。

 '''
 有一小冰箱用来存放冷饮,假如只能放5瓶冷饮,A不停地放冷饮,B不停的取冷饮,A和B的放取速度不一致,如何保持同步呢?
 '''
 import threading,time
 import queue
 ​
 # 先进先出
 q = queue.Queue(maxsize=5)
 # q = LifoQuere(maxsize=3)
 # q = PriorityQueue(maxsize=3)
 ​
 def ProducerA():
     count = 1
     while True:
         q.put(f"冷饮 {count}")
         print(f"{time.strftime('%H:%M:%S')} A 放入:[冷饮 {count}]")
         count += 1
         time.sleep(2)
 ​
 def ConsumerB():
     while True:
         print(f"{time.strftime('%H:%M:%S')} B 取出:{q.get()}")
         time.sleep(5)
 ​
 p =  threading.Thread(target=ProducerA)
 c = threading.Thread(target=ConsumerB)
 p.start()
 c.start()

八、多线程之线程池pool

将 任务添加到线程池中,线程池会自动指定一个空闲的线程去执行任务,当超过线程池的最大线程数时,任务需要等待有新的空闲线程后才会被执行。

使用threading模块及queue模块定制线程池,可以使用multiprocessing。

  • from multiprocessing import Pool导入的是进程池

  • from multiprocessing.dummy import Pool导入的是线程池

 '''
 模拟一个耗时2秒的任务,比较其顺序执行5次和线程池(并发数为5)执行的耗时。
 '''
 from multiprocessing.dummy import Pool as ThreadPool
 import time
 ​
 def fun(n):
     time.sleep(2)
 ​
 start = time.time()
 for i in range(5):
     fun(i)
 print("单线程顺序执行耗时:",time.time() - start)
 ​
 start2 = time.time()
 # 开8个worker,没有参数时默认是cpu的核心数
 pool = ThreadPool(processes=5)
 # 在线程中执行urllib2.urlopen(url)并返回执行结果
 results2 = pool.map(fun,range(5))
 pool.close()
 pool.join()
 print("线程池(5)并发执行耗时:",time.time() - start2)
 '''
 单线程顺序执行耗时: 10.041245937347412
 线程池(5)并发执行耗时: 2.0453202724456787
 '''

九、总结

  • Python多线程适合用在I/O密集型任务中。
  • 对于I/O密集型任务来说,较少时间用在CPU计算上,较多时间用在I/O上,如文件读写、web请求、数据库请求
  • 对于计算密集型任务,应该使用多进程

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1657998.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【数据结构-二叉搜索树的增删查改】

🌈个人主页:努力学编程’ ⛅个人推荐:基于java提供的ArrayList实现的扑克牌游戏 |C贪吃蛇详解 ⚡学好数据结构,刷题刻不容缓:点击一起刷题 🌙心灵鸡汤:总有人要赢,为什么不能是我呢 …

IPFoxy Tips:什么是静态住宅IP?静态ISP代理指南

静态住宅代理(也称为静态ISP代理)是最流行的代理类型之一。它们也是隐藏您的身份并保持在线匿名的最佳方法之一。您为什么要使用住宅代理而不是仅使用常规代理服务?下面我具体分享。 一、什么是静态住宅代理? 首先,我…

网络编程基础回顾

计算机网络(5):运输层 OSI 模型与 TCP/IP 协议 OSI七层协议模型 (open system interconnection) 应用层:为应用数据提供服务表示层:数据格式转化,数据加密会话层:建立、维护和管理会话传输层&…

学习100个Unity Shader (17) --- 深度纹理

文章目录 效果shader部分C# 部分理解参考 效果 shader部分 Shader "Example/DepthTexture" {SubShader{Pass{CGPROGRAM#pragma vertex vert#pragma fragment frag#include "UnityCG.cginc"sampler2D _CameraDepthTexture;struct a2v{float4 pos : POSITIO…

Web3 ETF软件开发

开发Web3 ETF软件涉及到金融、法律和技术等多个领域的专业知识,因此存在以下技术难点,开发Web3 ETF软件是一项复杂的技术挑战,需要综合考虑各种因素。开发人员需要具备较强的技术能力和跨学科知识才能成功开发Web3 ETF软件。北京木奇移动技术…

汽车电子零部件(13):BMS电池管理系统

前言: 电池管理系统(BMS)确保电动汽车(EV)的能量分配安全高效。目前流行电动汽车中使用的有四种主要BMS架构,BMS与充电基础设施互为集成关系。BMS主要管理 的是电池组,电池组由很多电芯组成,比如下图是H/EV电池组的主要部件,显示了电池、连接、控制电路和包装的总体布…

python中w、r表示什么意思

文件读写就是一种常见的IO操作。 文件读写操作步骤 不同的编程语言读写文件的操作步骤大体都是一样的,都分为以下几个步骤: 1)打开文件,获取文件描述符; 2)操作文件描述符--读/写; 3&#…

苍穹外卖Day06笔记

疯玩了一个月,效率好低,今天开始捡起来苍穹外卖~ 1. 为什么不需要单独引入HttpClient的dependency? 因为我们在sky-common的pom.xml中已经引入了aliyun-sdk-oss的依赖,而这个依赖低层就引入了httpclinet的依赖,根据依…

最详尽的网络安全学习路线!涵盖所有技能点,带你成为网安专家!

目录 零基础小白,到就业!入门到入土的网安学习路线! 建议的学习顺序: 一、夯实一下基础,梳理和复习 二、HTML与JAVASCRIPT(了解一下语法即可,要求不高) 三、PHP入门 四、MYSQL…

ssm115乐购游戏商城系统+vue

毕业生学历证明系统 设计与实现 内容摘要 如今社会上各行各业,都喜欢用自己行业的专属软件工作,互联网发展到这个时候,人们已经发现离不开了互联网。新技术的产生,往往能解决一些老技术的弊端问题。因为传统毕业生学历信息管理难…

小巧简单实用的Linux端口转发工具Rinetd

Linux下实现端口转发有很多种方法,尤其是在可以联网的情况下,更是容易。最近在资源受限的定制系统中,找到一个方便离线安装和使用的端口转发工具Rinetd,安装包仅几十K,而且有很多版本的Linux发行系统的支持。 1、安装…

安科瑞AMC16-DETT 基站直流电能计量模块

AMC16-DETT 基站直流电能计量模块主要是针对有共享需求,且开关电源无分用户电量计量功能的基站而设计的。仪表可对六个回路的直流电能进行计量,并可为配套的霍尔传感器提供工作电流,同时可通过上位机软件实现零漂校准,具有遥测、遥…

RK3568 学习笔记 : u-boot 千兆网络无法 ping 通PC问题的解决方法二

参考 RK3568 学习笔记 : u-boot 千兆网络无法 ping 通PC问题的解决 前言 rk3568 rockchip 提供的 u-boot,默认的设备树需要读取 单独分区 resouce.img 镜像中的 设备树文件,也就是 Linux 内核的设备树 dtb 文件,gmac 网络才能正常的 ping 通…

Applied Spatial Statistics(四)点模式分析-KDE 分析和距离函数

Applied Spatial Statistics(四)点模式分析-KDE 分析和距离函数 ---- 1853年伦敦霍乱爆发 在此示例中,我将演示如何使用 John Snow 博士的经典霍乱地图在 Python 中执行 KDE 分析和距离函数。 感谢 Robin Wilson 将所有数据数字化并将其转…

mysql查询表信息(表名、表结构、字段信息等)

MySQL中,您可以使用以下SQL查询数据库的表信息或者某个表中具体的信息,例如:字段、字段描述、索引等,以下为具体的SQL: 1、查询数据库所有表信息(表名/表描述) SELECTtable_name name,TABLE_C…

第03章 二进制、八进制、十进制、十六进制之间转换

3.1 二进制及十进制的由来 3.2 二进制、十进制、八进制、十六进制的表示方法 3.3 二进制和十进制之间的相互转换 3.4 二进制和八进制之间的转换 3.5 二进制和十六进制之间的转换 3.6 二进制算术运算和逻辑运算

JavaScript手写专题——图片懒加载、滚动节流、防抖手写

图片懒加载场景:在一些图片量比较大的网站(比如电商网站首页,或者团购网站、小游戏首页等),如果我们尝试在用户打开页面的时候,就把所有的图片资源加载完毕,那么很可能会造成白屏、卡顿等现象&a…

新版security demo(二)前端

写这篇博客,刚好换了台电脑,那就借着这个demo复习下VUE环境的搭建。 一、前端项目搭建 1、安装node 官网下载安装即可。 2、安装脚手架 npm install -g vue-cli 使用脚手架搭建一个demo前端项目 vue init webpack 项目名称 3、安装依赖 这里安装…

完成单位投稿任务找投稿渠道不用精选10个1个就够了

在单位担任信息宣传员的这几年,我深刻体会到了“笔耕不辍”的艰辛与挑战。起初,面对单位的宣传需求,我遵循传统的投稿路径,即通过电子邮件的方式,一家接一家地向各大媒体投递稿件。那时的我,以为只要稿件质量上乘,自然能够获得青睐,却未曾料到,这是一条漫长而曲折的道路。 邮箱…

一键审计 web 日志(teler)

在 web 系统遭受攻击之后,通常要审计 web 日志来寻找蛛丝马迹,那么有没有可以满足需求的自动化工具呢?今天就来尝试一款开源工具 teler,项目地址: https://github.com/kitabisa/teler/ 先来看一张作者测试图&#xff1…