响应式编程又变天了?看JDK21虚拟线程如何颠覆!

news2024/11/26 14:03:57

本文解释为啥会有响应式编程,为什么它在开发者中不太受欢迎,以及引入 Java 虚拟线程后它可能最终会消失。

命令式风格编程一直深受开发者喜爱,如 if-then-else、while 循环、函数和代码块等结构使代码易理解、调试,异常易追踪。然而,像所有好的东西一样,通常也有问题。这种编程风格导致线程被阻塞时间远超过必要时间。

1 同步阻塞设计

1.1 同步阻塞设计的线程图

为了便于你理解,让我们看一个典型的企业用例请求:

  • 从DB获取数据
  • 从 Web 服务获取数据
  • 合并结果并将最终合并的结果发送回用户

在像 Tomcat 这样的应用服务器中,一个平台线程将专用于用户请求,该线程将继续调用从数据库获取数据的代码(调用 FetchDataFromDB),然后调用从 Web 服务获取数据的代码(调用 FetchDataFromService),然后继续合并并将数据发送给用户(调用 SendDataToUser)。

如下图,将执行线程从上到下表示为一个垂直箭头:

  • 绿色是执行的 CPU 部分
  • 红色是线程等待数据的时间

大多企业应用都是 IO 绑定的,因此线程在大多时间内实际是浪费资源。

1.2 评估

Java 中,平台线程是昂贵资源,因为默认,每个平台线程消耗 1MB 栈内存。即 JVM 中运行的平台线程数量有上限。因此,若一个平台线程专用于用户请求,对高并发用户的应用程序,就带来问题。传统解决方案是创建一个具有最大线程数的线程池,并根据需要水平或垂直扩展应用程序:

  • 垂直扩展意味着向容器或 VM 添加更多资源
  • 水平扩展则意味着添加应用程序的更多实例

2 异步阻塞设计

2.1 异步阻塞设计线程图

为了提高性能,可用异步模型,并行运行一些串行任务。如若假设数据库和 Web 服务的获取任务可以并行运行,那么它们可以在各自的平台线程中执行。

image-20231207103631608

用户请求线程启动两个线程:

  • 一个用于处理从数据库获取数据
  • 另一个用于从 Web 服务获取数据
  • 然后,它将阻塞以获取两者结果,然后继续合并并将数据发送给用户

在 Java 可通过向 Executor Service 提交 Callable 或 Runnable 任务并使用 Java Futures 来实现。

2.2 评估

这将提高性能,因为两个数据获取是并行执行的。但是,即使在大多数时间内可能会有性能提升,但是在短时间内,平台线程的数量现在从 1 增加到 3。从可扩展性看,在那段时间内情况更坏。

3 响应式样式设计

响应式编程设计就是为解决这问题。

3.1 部分响应式设计线程图

在于昂贵的平台线程在阻塞操作期间浪费大部分时间。随 Servlet 3.03.1 引入,Servlet 线程在发送 HTTP 数据回用户时无需保持活动状态,这为更巧妙编程打开解决线程阻塞的大门。Java 8 CompletableFuture类可在其中创建响应式管道。这种开发风格思想是为该用例指定一个执行管道,而非执行用例本身。

用户请求线程只需指定用例的 CompletableFuture 管道(或任何其他管道),并在尽可能短的时间内将其释放回线程池(因为无需再保持活动状态以向用户发送数据)。

此时,用户请求线程创建一个运行 3 个活动的管道:

  • 先并行运行 FetchDataFromService、FetchDataFromDB
  • 再运行 Send2User

但创建此管道后,用户请求线程将被简单释放回线程池。大大减轻 JVM 负担,因为现在它有一个较少的线程要处理。一旦数据提取线程完成其执行,数据将被发送给用户。

评估

但这只是部分解决问题,因为从 Web 服务、DB获取数据的实际活动仍是在它们各自的平台线程中阻塞。这带来问题:SE须确保他从管道中生成的任务不是阻塞的。这很难做到,因为它是手动完成的,并且肯定是错误的,因为在编译时或运行时它不会被标记为警告或错误。

4 完全响应式样式设计

如何才能表现更好?达到更高标准 OKR 呢?为使该设计完全响应式,须以非阻塞方式获取DB、Web 服务的数据。

作为 JDK 7 的一部分,NIO(New IO) 为非阻塞 IO 打开大门。Java 所有基于 IO 类和方法都有非阻塞版本了。如socket读/写、文件读/写、锁 API 等。须使用这些类/方法的非阻塞版本或支持 NIO 的库来进行数据的获取。

4.1 完全响应式样式设计线程图

每个获取数据的 Fetch Data 中,发出请求的线程和获取数据的线程不同,如:

  • 从 Web 服务检索数据的 HTTP GET 请求将在一个线程上运行
  • 而最终处理检索到的数据的线程将在另一个线程上运行

这就是完全响应式,它解决了关键问题:IO 操作期间不阻塞。在这里使用平台线程的唯一时间是在 CPU 操作期间,而不是在 IO 操作期间。在平台线程的执行部分已看不到任何红色部分。

这种开发风格能实现应用程序高可扩展性。然而,解决方案过复杂。创建响应式管道、调试它们及想象它们的执行很困难。所以很正常,这种开发风格没有流行开来,只有顶尖的开发者才对此爱不释手。Spring Boot 专门用于响应式风格编程的完整开发技术栈即 Spring WebFlux,它使用 Project Reactor 库提供了对DB、Web 服务等的非阻塞行为。

5 虚拟线程

还有响应式设计的其他替代方案吗?当然了!如今 Java 21 的发布,Oracle 推出备受期待的 Virtual Threads 功能。

平台线程问题是在阻塞操作期间,实际变得无用。平台线程基本是os线程的简易包装,毕竟os线程是昂贵的。

而虚拟线程是 JVM 中 Thread 类的实现,它是轻量级的。最终归结为以下几点 — 当使用虚拟线程进行代码执行时,它将在 CPU 操作期间使用平台线程(称为载体线程),并且在遇到 IO 操作时将载体线程释放。

JVM如何知道何时遇到 IO 操作?

虚拟线程中运行时,JVM 将自动切换到使用 IO 操作的非阻塞版本。这种更改已在大多核心 Java 类库中为大多数 IO 操作进行了痛苦修改。当代码遇到 IO 操作,载体线程将被释放,并且在该 IO 的数据可用时,虚拟线程将被重新安排在另一个载体线程上处理数据。即在虚拟线程中阻塞不是问题,因为底层的载体线程被释放了。

SE现在可选择使用虚拟线程进行用户请求。即SE可继续使用与以前相同的命令式开发风格,同时获得使用响应式管道时获得的可扩展性优势(但没有复杂性)。

具有虚拟线程的同步阻塞线程图

这种方式在同步阻塞设计中的情况(注意,阻塞不是一个问题)。

用户请求线程是虚拟线程(蓝色垂直箭头)。线程上的红色不再是问题,因为阻塞操作期间,底层的载体线程将被释放,从而实现与使用响应式框架相同的可扩展性优势。

6 虚拟线程和异步阻塞设计

6.1 异步阻塞设计中的虚拟线程

阻塞在此也不再是问题。前面提到可用 Java Futures 实现,我们确实有这样做的选择。但Java 21引入 StructuredTaskScopeSubtask ,以处理结构化异步行为。

虚拟线程StructuredTaskScope 的组合将非常强大。虚拟线程使阻塞不再是一个问题,而 StructuredTaskScope 将为我们提供更高级别的类,以直观的方式处理异步编程。很难看到为什么还需要 Completable Futures。

虚拟线程 V.S 响应式框架

  • 可继续使用命令式风格开发
  • 无需创建复杂的响应式管道
  • 无需在代码中直接使用非阻塞 IO
  • 更易编码、调试和理解

7 总结

随着 Java 21虚拟线程 引入,虚拟线程在阻塞状态下不再是问题。开发人员:

  • 无需创建复杂的响应式风格管道
  • 且无需在代码中直接使用非阻塞 IO

即可创建高度可扩展的应用程序。替代方案是使用 Java 21 中引入的 虚拟线程 与 Java Futures 或 Structured Concurrency(Java 21 中的预览功能) 类的组合。

参考:

  • 编程严选网

    本文由博客一文多发平台 OpenWrite 发布!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1291804.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

基于gitlab的webhook集成jenkins,并在gitlab流水线中展示jenkins的job状态信息

文章目录 1. 环境信息2. gitlab 部署3. jenkins部署4. gitlab集成jenkins4.1 jenkins的凭据上保存gitlab的账号信息4.2 jenkins中配置gitlab的连接信息4.3 编写jenkins上pipeline文件4.4 jenkins上创建pipeline项目4.5 gitlab上配置webhooks事件4.6 测试 1. 环境信息 gitlab服…

Python-Opencv图像处理的小坑

1.背景 最近在做一点图像处理的事情,在做处理时的cv2遇到一些小坑,希望大家遇到的相关的问题可以注意!! 2. cv2.imwrite保存图像 cv2.imwrite(filename, img, [params]) filename:需要写入的文件名,包括路…

前端打包环境配置步骤

获取node安装包并解压 获取node安装包 wget https://npmmirror.com/mirrors/node/v16.14.0/node-v16.14.0-linux-x64.tar.xz 解压 tar -xvf node-v16.14.0-linux-x64.tar.xz 创建软链接 sudo ln -s 此文件夹的绝对路径/bin/node /usr/local/bin/node,具体执行如下…

Unity传送门特效: The Beautiful Portal/Level up/Teleport/Warp VFX

7种不同风格的传送门特效! 每个传送门都有一个轻型和重型版本。 每个版本都有一个"无循环”和一个"无限”预制件:D 总共有28个预制件 -VFX完全使用Unity的粒子系统和基本的Unity着色器。 使用标准渲染管道中制作了这个资产。所以VFX的功能就像视频宣传片一样。 同时,…

Windows系统上如何搭建Linux操作系统

一、准备工作 1,VMware安装包 2,Centos IOS镜像 3,finalshell安装包 阿里云盘下载地址: https://www.alipan.com/s/uSQsWn15E3W 二,VMware安装 1,新建虚拟机 2,选择下一步 3,…

docker内容整理

docker内容整理 docker的安装 检查之前是否安装过docker,如果有使用yum remove docker卸载 [rootwoniu ~]# yum remove docker \ > docker-client \ > docker-client-latest \ > docker-common \ > docker-latest \ > docker-latest-logrotate \ &g…

vue2 百度地图实现 车在线路上移动 BMap、BMapGL

文章目录 效果BMap 实现vue2 中BMap实现vue2 中使用BMapGL实现 参考文章: 百度地图API实时画出动态运行轨迹(一条行驶轨迹),车头实时指向行驶方向,设置角度偏移 下文中可能用到的图片统一放在上面,自取。 …

python+pytest接口自动化(10)-session会话保持

在接口测试的过程中,经常会遇到有些接口需要在登录的状态下才能请求,否则会提示请登录,那么怎样解决呢? 上一篇文章我们介绍了Cookie绕过登录,其实这就是保持登录状态的方法之一。 另外一种方式则是通过session进行会…

轻松掌握接口测试!丰富你的测试技能!

接口测试是测试系统组件间接口的一种测试。接口测试主要用于检测外部系统与系统之间以及内部各个子系统之间的交互点。测试的重点是要检查数据的交换,传递和控制管理过程,以及系统间的相互逻辑依赖关系等。 简答的说就是通过URL像服务器或者其他模块等&…

dfs图遍历 LeetCode1466. 重新规划路线

n 座城市,从 0 到 n-1 编号,其间共有 n-1 条路线。因此,要想在两座不同城市之间旅行只有唯一一条路线可供选择(路线网形成一颗树)。去年,交通运输部决定重新规划路线,以改变交通拥堵的状况。 路…

阿里云效部署前后端

静态站点到OSS 阿里云-云效,阿里云企业级一站式 DevOps,可以免费使用(会限制人数、流水线数量等,个人项目够用了)。相关文章 CI 持续集成 - 阿里云云效 OSS 是对象存储的意思,一般一个项目对应一个 Bucke…

UE5像素流实现

1.下载像素流插件(Pixel Streaming),勾选之后重启UE 2.设置额外启动参数(-AudioMixer -PixelStreamingIPlocalhost -PixelStreamingPort8888) 3.项目打包 4.创建项目启动快捷方式(Alt鼠标左键按住XXX.exe文件拖动) 5.快捷方式文件 配置项目运行文件参数(…

DC电源模块在新能源产业中的应用前景

BOSHIDA DC电源模块在新能源产业中的应用前景 随着新能源产业的不断发展,DC电源模块的应用前景越来越广泛。BOSHIDA DC电源模块是一种具有稳定、高效、可靠的电源输出的电源模块,它能够将电源输入电压转换为可靠的直流电源输出,广泛应用于太…

学习Python能给我们带来什么?有什么帮助?

文章目录 前言学习Python能做什么1、抓取各类数据、文本等信息2、批量清洗和处理数据3、提供可视化工具4、进行深度学习 Python的用途有哪些普通人学习python有什么好处关于Python技术储备一、Python所有方向的学习路线二、Python基础学习视频三、精品Python学习书籍四、Python…

【LeetCode】2621. 睡眠函数

睡眠函数 Promise异步 题目题解 题目 请你编写一个异步函数,它接收一个正整数参数 millis ,并休眠 millis 毫秒。要求此函数可以解析任何值。 示例 1: 输入:millis 100 输出:100 解释: 在 100ms 后此异步…

C语言实现植物大战僵尸(完整版)

实现这个游戏需要Easy_X 这个在我前面一篇C之番外篇爱心代码有程序教你怎么下载,大家可自行查看 然后就是需要植物大战僵尸的素材和音乐,需要的可以在评论区 首先是main.cpp //开发日志 //1导入素材 //2实现最开始的游戏场景 //3实现游戏顶部的工具栏…

20、XSS——XSS跨站脚本

文章目录 一、XSS漏洞概述1.1 XSS简介 二、XSS漏洞分类2.1 反射型XSS2.2 存储型XSS2.3 DOM型XSS 三、XSS payload构造以及变形3.1 XSS payload构造3.2 XSS payload 变形 一、XSS漏洞概述 1.1 XSS简介 XSS被称为跨站脚本攻击(Cross-site scripting)&…

Chrome浏览器禁止更新策略

在做爬虫过程中,需要用到Selenium驱动浏览器去做动态爬虫 这里我一般用到的是Chrome谷歌浏览器进行爬虫 但是,目前python和Chrome浏览器适配最好的是110.版本 尽管我用了很多种方法 去取消浏览器自动更新 但是 过一段时间 浏览器总是会自动更新到最新…

【分享】拖拽式表单的优点有哪些?

如果说想要提升办公效率,那么就可以试试拖拽式表单了。它拥有可视化、拖拽式操作、易维护等优势,可以在现代化办公操作中帮助企业节省人工成本费用,提高办公效率,真正实现办公流程化应用,让数字化转型升级的梦想早日实…

pandas详细笔记

一:什么是Pandas from matplotlib import pyplot import numpy as np import pandas as pdarange np.arange(1, 10, 2) series pd.Series(arange,indexlist("ABCDE")) print(series)二:索引 三:切片 位置索引切片(左闭…