Netty

1 Netty 基本介绍

https://netty.io/

1.Netty JBOSS 提供的 java 开源框架
2.Netty 提供 异步、基于事件驱动的网络应用程序框架
3.最流行的 NIO 框架，应用广泛

2 why Netty

2.1 原生 NIO 问题

• NIO的类库和API繁杂，使用麻烦：需要熟练掌握Selector、ServerSocketChannel、 SocketChannel、ByteBuffer等
• 需要熟悉多线程 需要熟悉 Reactor 设计模式
• 需要熟悉网络编程
• 开发工作量和难度都非常大：例如客户端面临断连重连、网络闪断、半包读写、失 败缓存、网络拥塞和异常流的处理等等
• JDK NIO的Bug：例如臭名昭著的Epoll Bug，它会导致Selector 空轮询，最终导 致CPU 100%。直到JDK1.7版本该问题仍旧存在，没有被根本解决

2.2 Netty 优点

• Netty 对 JDK 原生 NIO API 进行封装，解决 上述问题
• 使用方便
• 支持各种传输类型的统一 API 阻塞和非阻塞 Socket
• 灵活可拓展事件模型
• 支持高度定制的线程模型
• 高性能、高吞吐、低延迟
• 安全完整的 SSL/TLS 和 StartTLS 支持

3 I/O 线程模型

3.1 传统阻塞 I/O 模型

1. 采用阻塞 IO 模式获取输入数据
2. 每个连接都需要单独的线程完成，包括：数据的输入 -> 业务处理 -> 数据返回
3. 当并发数很大是，会创建大量的线程，占用系统很大的资源
4. 连接创建后，如果当前连接无操作，则处理该连接的线程就会一直阻塞在 read 操作，造成资源的浪费

3.2 Reactor 模式

3.2.1 Reactor 模式解决传统 I/O 方案

• 使用线程池复用线程资源
• 基于 IO multiplexing （I/O 复用模型）：多个连接共用一个阻塞对象，无需等待所有连接，当某个连接有新的数据需要处理时，就通知对应的程序，线程从阻塞状态返回，开始进行业务处理

3.2.2 Reactor 模式原理图

• Reactor 模式，通过一个或多个输 入同时传递给服务处理器的模式 (基于事件驱动)
• 服务器端程序处理传入的多个请求, 并将它们同步分派到相应的处理线程
• Reactor 模式使用 IO 复用监听事件, 收到事件后，分发给某个线程(进程), 以此达到网络服务器高并发能力

3.2.3 Reactor 的核心组件

Reactor：Reactor 在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对IO事件做出反应。它就像公司的电话接线员，它接听来自客户的电话并 将线路转移到适当的联系人；
Handlers：处理程序执行I/O事件要完成的实际事件，类似于客户想要与之交谈的公 司中的实际官员。Reactor 通过调度适当的处理程序来响应I/O事件，处理程序执行 非阻塞操作。

3.2.4 单 Readcot 单线程(NIO模型)

• select 阻塞监听多路连接请求
• Reactor 对象通过 select 监控客户端请求，收到事件后通过 dispatch 分发
• .如果是连接请求事件，则通过 acceptor 的 accept 方法处理请求，然后创建一个 handler 对象处理连接完成后的其他业务
• 其他事件、通过 reactor 分发调用对应的连接的 handler 处理
• handler 完成 read data -> 业务处理 -> send response

优点
模型简单，没有多线程、进程通信、竞争的问题，全部都在一个线程中完成，与 NIO 模型相似

缺点

• .只有一个线程，无法完全发挥多核CPU的性能
• Handler 在处理某 个连接上的业务时，整个进程无法处理其他连接事件，很容易导致性能瓶颈
• 可靠性问题，线程意外终止，或者进入死循环，会导致整个系统通信模块不 可用，不能接收和处理外部消息，造成节点故障

使用场景：客户端的数量有限，业务处理非常快速，比如Redis在业务处理的时间复 杂度O(1) 的情况

3.2.5 单 Reactor 多线程

• Reactor 通过 select 监听客户端，收到事件后通过 dispatch 分发
• 连接请求，通过 Acceptor 的 accept 处理请求，然后为其创建一个 handler 对象处理连接后的事件
• 其他事件。通过 Reactor 的 dispatch 调用对应连接的 handler 处理
• handler 只负责响应事件，不做具体业务处理，通过 read 读取数据后分发给 worker 线程池的 handler 处理业务
• worker 线程池分配单独的线程处理业务，处理完后将结果返回 Reactor 对应的 handler
• handler 收到响应后，通过 send 将结果返回给 client

优点
充分的利用多核 cpu 处理能力

缺点
多线程数据共享和访问复杂，reactor 处理所有的事件的监听和响应，单线程运行，在高并发场景会出现性能瓶颈

3.2.6 主从 Reactor 多线程

• Reactor 主线程 MainReactor 通过 select 监听客户端，收到事件后通过 dispatch 分发
• 连接事件交由 Acceptor 处理，当 Acceptor accept 处理完客户端连接事件之后（与客户端建立好 Socket 连接），MainReactor 将连接分配给 SubReactor
• SubReactor 将连接加入的连接队列进行监听，并创建 handler 进行其他事件处理
• 当有新事件发生时，subreactor 就会调用对应的 handler 处理
• handler 通过 read 读取数据，分发给后面的 worker 线程处理
• worker 线程池分配独立的 worker 线程进行业务处理，并返回结果给 handler
• .handler 收到响应后，通过 send 将结果返回给 client

优点

1. 父线程与子线程的数据交互简单职责明确，父线程只需要接收新连接，子线 程完成后续的业务处理
2. 父线程与子线程的数据交互简单职责明确，父线程只需要接收新连接，子线 程完成后续的业务处理

缺点
编程复杂度较高

3.2.7 Reactor 模式理解

3 种模式用生活案例来理解

1.单Reactor 单线程，前台接待员和服务员是同一个人，全程为顾客服
2.单Reactor 多线程，1个前台接待员，多个服务员，接待员只负责接待
3.主从Reactor 多线程，多个前台接待员，多个服务生

Reactor模式具有如下的优点：

1.响应快，不必为单个同步时间所阻塞，虽然Reactor 本身依然是同步的
2.可以最大程度的避免复杂的多线程及同步问题，并且避免了多线程/进程 的切换开销
3.扩展性好，可以方便的通过增加Reactor 实例个数来充分利用CPU资源
4.复用性好，Reactor 模型本身与具体事件处理逻辑无关，具有很高的复用性