1 介绍
一提到网络IO,甚至一些网络框架,就无法避免遇到阻塞、非阻塞、同步、异步的概念,要理解这些概念,先要清楚网络IO是什么,以及网络IO如何工作。
网络IO本质上也是IO的一种,就是数据的输入输出,可以理解为文件fd,这里也可以指socket fd。
网络IO的处理流程,涉及到操作系统的用户空间与内核空间,在这两个阶段中发生的不同情况,从而衍生出多种网络IO模型。
阻塞/非阻塞 从内核处理系统调用是否挂起用户线程的角度划分。
同步/异步 内核数据就绪后是否需要用户线程亲自调用 read 来搬运数据(将数据从内核空间拷贝到用户空间) 的角度划分。
2 阻塞 IO(blocking IO)
在linux 中,默认情况下所有的socket 都是blocking,如下是一个read操作
当用户线程调用read 这个系统调用后,kernel 就开始了IO 的第一个阶段:准备数据。对于网络 IO 来说,很多时候数据在一开始还没有到达(比如,还没有收到一个完整的数据包),这个时候kernel 就要等待足够的数据到来。而在用户进程这边,整个进程会被阻塞。当kernel 一直等到数据准备好了,它就会将数据从kernel 中拷贝到用户内存,然后kernel 返回结果,用户进程才解除block 的状态,重新运行起来。 所以,blocking IO 的特点就是在IO 执行的两个阶段(等待数据和拷贝数据两个阶段)都被block 了。
3 非阻塞 IO(non-blocking IO)
当用户线程发出read 操作时,如果kernel 中的数据还没有准备好,它并不会block 用户进程,而是立刻返回一个error。从用户进程角度讲,它发起一个read 操作后,并不需要等待,而是马上就得到了一个结果。用户进程判断结果是一个error 时,它就知道数据还没有准备好,于是它可以再次发送read 操作。一旦kernel 中的数据准备好了,并且又再次收到了用户进程的system call,那么它马上就将数据拷贝到了用户内存并返回,所以,在非阻塞式IO 中,用户进程其实是需要不断的主动询问kernel 数据准备好了没有。
上述模型需要循环调用read 将大幅度推高CPU 占用率,所以实际应用场景中没有这种用法,而read在这里更多是起到检测“操作是否完成”的作用,对于检测就绪的操作,系统有提供更为高效的系统函数(select/poll/epoll)
4 多路复用IO (IO multiplexing)
IO多路复用使用select/epoll 不断的轮询所负责的所有socket,当某个socket 有数据到达了,就通知用户进程,从图可以看出IO多路复用每次操作需要两次系统调用(select 和read),而blocking IO 只调用了一个系统调用(read),在处理少量客户端连接的性能还不如阻塞IO+多线程,IO多路复用最大的优势是用户可以在一个线程内同时处理多个socket 的IO 请求,主要应对高并发、大量客户端连接的场景。
5 异步 IO(Asynchronous I/O)
介绍到这里,上述的几种IO其实都属于同步IO的范畴,及应用程序系统调用,内核处理消息就绪后应用程序需要同步处理数据。而在Linux 内核从 2.6 开始引入异步IO操作,如 aio_read, aio_write。
用户进程发起read 操作之后,立刻就可以开始去做其它的事。而另一方面,从kernel 的角度,当它受到一个asynchronous read 之后,首先它会立刻返回,所以不会对用户进程产生任何block。然后,kernel 会等待数据准备完成,然后将数据拷贝到用户内存,当这一切都完成之后,kernel 会给用户进程发送一个signal,告诉它read 操作完成了。