快速提升代码性能:FastAPI多线程的利用

news2024/10/6 12:34:59

在现代网络应用中,高性能和快速响应是至关重要的,Python 的 FastAPI 框架以其出色的性能和简单易用的特点,成为了许多开发者的首选。然而,在某些场景下,单线程运行可能无法满足需求,这时候就需要考虑使用多线程来提高应用的并发性能。本文将介绍 FastAPI 框架中多线程的使用方法,包括常见需求场景、问题解决方法以及实践案例。

常见需求场景

FastAPI 多线程的使用在以下场景中特别有用:

1、IO 密集型任务:当应用需要频繁进行文件读写、网络请求、数据库查询等耗时的 IO 操作时,使用多线程可以充分利用系统资源,提高响应速度。

2、并发处理:对于需要同时处理多个请求的场景,多线程可以实现并发处理,减少用户等待时间。

3、异步任务:在处理异步任务时,多线程可以使代码更加简洁高效。

常遇到的问题

在使用多线程时,需要注意以下常见问题:

1、线程安全问题:多线程共享资源时,可能会发生数据竞争等线程安全问题,需要通过锁或其他同步机制来避免。

2、GIL(Global Interpreter Lock) :Python 的 GIL 限制了同一进程中只有一个线程能够执行 Python 字节码,这意味着多线程并不能在多核处理器上实现真正的并行执行。对于 CPU 密集型任务,多线程并不是最佳选择。

使用多线程的方式

1、在路径操作函数中创建线程

可以直接在路径操作函数中使用 threading 模块创建线程。

 
import threading 

from fastapi import FastAPI

app = FastAPI()

@app.get("/resource")
def get_resource():
    t = threading.Thread(target=do_work) 
    t.start()
    return {"message": "Thread started"}

def do_work():
    # do computationally intensive work here

2、使用背景任务

FastAPI 提供了 @app.on_event("startup") 装饰器,可以在启动时创建后台任务。

from fastapi import FastAPI, BackgroundTasks

app = FastAPI()

@app.on_event("startup")
def startup_event():
    threading.Thread(target=do_work, daemon=True).start() 

def do_work():
    while True:
       # do background work

3、使用第三方后台任务库

可以使用第三方库如 apscheduler 来定期执行后台任务。

 
from apscheduler.schedulers.background import BackgroundScheduler
from fastapi import FastAPI

app = FastAPI()
scheduler = BackgroundScheduler()

@app.on_event("startup")  
def start_background_processes():
    scheduler.add_job(do_work, "interval", seconds=5)
    scheduler.start()

def do_work():
    # do periodic work

实践案例

安装所需工具

首先,确保已经安装了 Python 和 pip。然后,通过以下命令安装 FastAPI 和 uvicorn:

 
pip install fastapi

pip install uvicorn

编写多线程应用

我们来创建一个简单的 FastAPI 应用:

 
from fastapi import FastAPI
import threading
import time

app = FastAPI()

# 耗时的任务函数
def long_running_task(task_id: int):
    print(f"Starting Task {task_id}")
    time.sleep(5)  # 模拟任务执行耗时
    print(f"Finished Task {task_id}")

# 后台任务函数
def run_background_task(task_id: int):
    thread = threading.Thread(target=long_running_task, args=(task_id,))
    thread.start()

@app.get("/")
async def read_root():
    return {"Hello": "World"}

@app.get("/task/{task_id}")
async def run_task_in_background(task_id: int):
    # 创建并启动后台线程来运行任务
    run_background_task(task_id)
    return {"message": f"Task {task_id} is running in the background."}

if __name__ == "__main__":
    import uvicorn

    uvicorn.run(app, host="127.0.0.1", port=8000)

在这个示例中,我们使用 threading.Thread 类来创建一个后台线程来运行耗时的任务。run_background_task 函数中,我们创建了一个线程对象 thread,并将 long_running_task 函数作为线程的 target,并传递 task_id 作为参数。然后,我们调用 thread.start() 来启动新的线程,并在后台运行 long_running_task

运行应用

使用以下命令运行 FastAPI 应用:

 
uvicorn main:app --reload

然后,通过浏览器或工具如 curl 来测试应用。例如,打开浏览器,输入 http://localhost:8000/task/1 并按回车键。你将会立即收到响应 {"message": "Task 1 is running in the background."},并且在后台运行的任务将在5秒后打印出 "Finished Task 1"。期间,你可以继续发送其他任务请求。

使用 Apifox 调试 FastAPI 接口

Apifox 是一个集 API 文档、API 调试、API Mock 和 API 自动化测试于一体的 API 协作平台,我们可以通过 Apifox 来更方便的调试 FastAPI。

如果想快速的调试一条接口,新建一个项目后,在项目中选择 “调试模式” ,填写请求地址后即可快速发送请求,并获得响应结果,上文的实践案例如图所示:

提示与注意事项

1、多线程并不适合 CPU 密集型任务,对于这类任务,可以考虑使用多进程(multiprocessing)来实现并行计算。

2、在使用多线程时,确保你的代码是线程安全的,避免数据竞争等问题。

3、如果你需要更高级的并发处理能力,可以尝试使用asyncio库来实现异步任务。

总结

本文介绍了 FastAPI 框架中多线程的使用方法。通过合理地应用多线程,我们可以提高应用的并发性能,让用户获得更好的体验。同时,我们还讨论了多线程可能遇到的问题,并给出了一些建议来避免这些问题。

知识扩展

了解更多 FastAPI 的知识:

  • FastAPI BackgroundTasks 阻塞的问题处理
  • FastAPI 中怎么使用 WebSocket 协议

参考链接

  • FastAPI官方文档:FastAPI
  • Python官方文档:concurrent.futures — Launching parallel tasks — Python 3.11.5 documentation

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/949976.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【AutoLayout案例08-基于AutoLayout的动画 Objective-C语言】

一、好,那么,再给大家说一个什么呢 1.再给大家说一个,这么一个东西, 我们之前,通过frame,是不是可以通过animateWithDuration,可以执行动画吧 通过直接设置frame的方式,可以执行动画, 我们这里,通过约束,的方式, 也可以执行动画, 通过约束,也可以执行动画, …

基于FlaUI自动化+chatGPT实现微信自动回复

先看效果图 本次主要介绍如何实现自动回复: 1.将文件传输助手置顶,模拟鼠标点击文件传输助手; 2.一直刷新会话列表,有新的消息就需要回复内容; 3.当刷新到新的消息时,模拟鼠标点击到对应的会话人&#x…

擦除信道(erasure channel)

定义 二进制擦除通道(BEC)是一种信道模型。发送端发送一个比特(0或1),接收端要么正确接收该比特(0或1),要么以概率 P e P_{e} Pe​接收到该比特没有被接收的信息(即“擦除…

公司电脑文件数据透明加密、防泄密系统

一套利用驱动层透明加密技术实现电子文件安全加密的防护产品,从源头上保障数据安全和使用安全的加密系统。该系统遵循基于文件生命周期安全防护的思想,集成了密码学、访问控制和审计跟踪等技术手段,对企事业单位电子文件的存储、访问、传播和…

【UE 材质】实现角度渐变材质、棋盘纹理材质

目标 步骤 一、角度渐变材质 1. 首先通过“Mask”节点将"Texture Coordinate" 节点的R、G通道分离 2. 通过“RemapValueRange”节点将0~1范围映射到-1~1 可以看到此时R通道效果: G通道效果: 继续补充如下节点 二、棋盘纹理材质 原视频链接&…

Docker(三) 创建Docker镜像

一、在Docker中拉取最基本的Ubuntu系统镜像 搜索Ubuntu镜像 Explore Dockers Container Image Repository | Docker Hub 下载镜像 docker pull ubuntu:22.04 二、在镜像中添加自己的内容 使用ubuntu镜像创建容器 docker run -it ubuntu:20.04 /bin/bash 在容器中创建了一个文…

成集云 | 多维表格自动化管理jira Server项目 | 解决方案

源系统成集云目标系统 方案介绍 基于成集云集成平台,在多维表格中的需求任务信息自动创建、更新同步至 Jira Server 的指定项目中,实现多维表格中一表管理 Jira Server 中的项目进度。 维格表是一种新一代的团队数据协作和项目管理工具&…

day-01 Docker

一、docker简介 Docker 是一种开源的容器化平台,它可以帮助开发人员将应用程序及其依赖项打包成一个独立的、可移植的容器,而无需担心环境差异和依赖问题。通过使用 Docker,您可以更轻松地创建、分发和运行应用程序,无论是在开发、…

Apipost: 开发者们的瑞士军刀

在当今的数字化时代,数据流通是推动社会进步的关键因素之一。其中,API(应用编程接口)已经成为跨平台数据交互的标准。然而,API开发和管理并非易事,Apipost一体化研发协作赋能平台,支持从API设计…

并发编程(四)---死锁 synchronized、volatile详解

一.关键字 1.synchronized关键字: a.重量级锁,功能完整的锁 b.修饰类、方法、静态方法、代码块,但不可以在声明的时候修饰 c.synchronized是实现同步的基础,Java中不管是对象还是方法,都可加上锁。synchronized分为三…

音频应用编程

目录 ALSA 概述alsa-lib 简介sound 设备节点alsa-lib 移植编写一个简单地alsa-lib 应用程序一些基本概念打开PCM 设备设置硬件参数 ALPHA I.MX6U 开发板支持音频,板上搭载了音频编解码芯片WM8960,支持播放以及录音功能! 本章我们来学习Linux …

探索散列表和哈希表:高效存储与快速检索的魔法

文章目录 散列函数的原理散列表和哈希表的概念与操作解决冲突的方法案例分析:电话簿的实现拓展:性能与碰撞结论 🎉欢迎来到数据结构学习专栏~探索散列表和哈希表:高效存储与快速检索的魔法 ☆* o(≧▽≦)o *☆嗨~我是IT陈寒&#…

【模拟集成电路】反馈系统加载效应——基础到进阶(三)

【模拟集成电路】反馈系统加载效应——基础到进阶(三) -----------------------文末附往期文章链接-------------------- 1.概述2.二端口网络方法2.1二端口网络模型2.2电压-电压反馈的加载2.2电流-电压反馈的加载2.3电压-电流反馈的加载2.4电流-电流反馈…

一文速学-让神经网络不再神秘,一天速学神经网络基础-输出层(四)

前言 思索了很久到底要不要出深度学习内容,毕竟在数学建模专栏里边的机器学习内容还有一大半算法没有更新,很多坑都没有填满,而且现在深度学习的文章和学习课程都十分的多,我考虑了很久决定还是得出神经网络系列文章,不…

Flutter 混合开发调试

针对Flutter开发的同学来说,大部分的应用还是Native Flutter的混合开发,所以每次改完Flutter代码,运行整个项目无疑是很费时间的。所以Flutter官方也给我们提供了混合调试的方案【在混合开发模式下进行调试】,这里以Android Stud…

Python基础学习第四天:Python注释

创建注释 注释以 # 开头,Python 将忽略它们: 实例 #This is a comment print("Hello, World!")运行实例 注释可以放在一行的末尾,Python 将忽略该行的其余部分: 实例 print("Hello, World!")…

1-8 隐语小课|私有信息检索(PIR)及其应用场景

“隐语”是开源的可信隐私计算框架,内置 MPC、TEE、同态等多种密态计算虚拟设备供灵活选择,提供丰富的联邦学习算法和差分隐私机制 开源项目 github.com/secretflow gitee.com/secretflow 前言 欢迎来到小剧场全新系列节目「隐语小课」!本…

Run the Docker daemon as a non-root user (Rootless mode)

rootless 简介 rootless模式是指以非root用户身份运行Docker守护程序和容器。那么为什么要有rootless mode呢?因为在root用户下安装启动的容器存在安全问题。存在的安全问题具体来说是容器内的root用户就是宿主机的root用户,容器内uid1000的用户就是宿主…

csp认证真题——重复局面——Java题解

目录 题目背景 问题描述 输入格式 输出格式 样例输入 样例输出 样例说明 子任务 提示 【思路解析】 【代码实现】 题目背景 国际象棋在对局时,同一局面连续或间断出现3次或3次以上,可由任意一方提出和棋。 问题描述 国际象棋每一个局面可以…