前言
套接字通信并发如果我们服务器端想实现并发，有两种处理方式，第一种是通过多进程的方式来处理并发，第二种是通过多线程的方式来处理服务器端的并发。
【问题】如果服务器端的程序只有一个线程，或者说只有一个进程，怎么能够实现并发呢？
【回答】需要使用IO多路复用方式了。这种方式的解决方案一共有三种，第一种是select，第二种是poll，第三种是epoll。select可以跨平台，poll和epoll只能在Linux平台使用。
从效率上考虑，epoll的底层是一棵红黑树。select和poll底层用的是一个线性表。很显然通过这个红黑树来检测里边的节点是否有事件触发，比通过一个线性表来检测里边的节点是否有事件触发效率要高得多，所以说epoll要比select和poll的效率要高。并且select能够检测的连接数是有上限的，默认的是1024，超过1024，这个select就不行了。
但是poll和epoll是没有上限的，上限取决于当前操作系统的配置。如果说当前操作系统或者服务器配置越高，内存越大，能检测的连接上限也越大。重点学习select和epoll，因为select可以跨平台，epoll在Linux的效率比poll更高，这是要着重掌握的两种I/O多路复用的方式：第一种是select，第二种是epoll。
关于监听的文件描述符主要是用来存储客户端的连接请求，所有客户端的连接请求，其实都会被记录到用于监听的文件描述符的读缓冲区里边。当调用accept这个函数的时候，它就会检测这个监听的文件描述符的读缓冲区有没有请求数据。如果有请求数据，那么这个accept就解除阻塞和对应的客户端建立连接。如果说没有客户端的请求，也就是说这个读缓冲区是空的，这个accept就会一直堵塞。直到这个监听的文件描述符的读缓冲区里边有数据，它才会解除阻塞和对应的客户端建立连接。
同样的用于通信的文件描述符也有两个缓冲区，一个是读，一个是写。读缓冲区是用来存储客户端发过来的通信数据，当客户端把数据发送给了服务器，那么这个数据首先存储到了这个通信文件描述符的读缓冲区。我们调用read方法就能够把数据从读内容区里边读出来了。
如果说read检测到通信文件描述符的读缓冲区里边没有数据，那么这个read函数就阻塞了。另外，这个写缓冲区是用来存储通过write发送的数据，如果在发送数据的时候发现了写缓冲区已经被写满了，那么这个数据就不能够被写入到写缓冲区，因此这个数据也就不能够被发送出去了。所以说写函数它会阻塞，等待着这个写缓冲区里边的数据被发出去了，写缓冲区被清空了，那么它再把我们要发送的数据写入到写缓冲区。
这个写缓冲区有了数据之后，内核就会把写缓冲区里边的数据发送给对方。这个数据最终就到达了客户端的文件描述符cfd对应的读缓冲区里边，然后客户端再把这个数据读出来。同样客户端再通过read去读这个数据的时候，它也是阻塞的。如果客户端它这个读缓冲区里边没有数据，那么这个read就是阻塞的。如果说读缓冲区里边有数据，read就解除阻塞，把这个读缓冲区里边的数据读出来。那么客户端读完里边的数据，就给服务器发送过去。
在通信的服务器端，它有一系列的accept、read或者write。考虑一个问题：这个accept、read、write都是在同一个线程里边，当accept阻塞了，没有办法接收数据；当read阻塞了，没有办法检测客户端的连接；当write堵塞了，不能够检测连接以及去接收数据，所以说这三个是互斥的。
当线程只有一个的情况下，那么这三个阻塞函数任意一个阻塞了，那么其他的阻塞函数就不能工作了。基于刚才的描述，可以得到一个结论：在通信的服务器端，不管是用于监听的文件描述符，还是用于通信的文件描述符，其实他们都有两块缓冲区，那么对于读缓冲区来说，监听的文件描述符需要通过一个accept去进行缓冲区数据的检测，对于通信的文件描述符，需要调用read方法或者recv方法去检测读缓冲区里边有没有客户端发送过来的数据。对于通信的文件描述符的写缓冲区，需要调用一个write或者send方法去检测写缓冲区里边是否有剩余空间可以让我们写数据，只要这三个函数被调用了，那么它们如果不满足条件，就阻塞了。如果满足条件，就可以继续向下执行，因此在单线程的情况下是不能够同时处理三个函数的阻塞的。
如果使用I/O多路复用技术，关于这些文件描述符，它们的读缓冲区以及写缓冲区的检测，就不需要由我们程序员来维护了。交给谁去维护了呢？交给了内核，基于内核它可以帮助我们同时检测若干个文件描述符。这若干个包括监听以及通信的文件描述符。
假设我们一共有100个文件描述符，那么这个内核就能够一次性去检测者100个文件描述符，如果说有1000个，内核就能够同时检测1000个文件描述符，并且能够同时检测这1000个文件描述符的读缓冲区或者是写缓冲区。
如果是检测读缓冲区，它就会检测下读缓冲区里边是否有数据；如果是检测写缓冲区，就会检测写缓冲区是不是有剩余空间，如果说这个条件满足，相当于就是有一个对应的事件，那么内核就会把这个可以用于操作的文件描述符告诉我们。比如文件描述符a它的读缓冲区可以进行一些数据的读操作，那么就调用read方法，或者调用accept方法。如果说告诉我们这个文件描述符a的写缓冲区可写，那么我们就可以调用write方法或者send方法往写缓冲区里边写数据，只要数据被写入到写缓冲区，数据就能够被发送到对方（客户端）。如果内核通知我们某个文件描述符的读缓冲区或者写缓冲区可以操作，那么在调用accept、read、write这些函数不会阻塞了，因为内核已经帮我们检测了，告诉我们哪些文件描述符的读/写缓冲区可以进行操作。这些有阻塞属性的函数在调用的时候，他们肯定也就不会阻塞了。
处理新连接或者处理通信数据的时候是同时进行的吗？顺序执行的，它们是按照由先到后的顺序线性执行的，并不是并行的。如果说要同时处理这些文件描述符的读事件，就需要用到多线程。那么你要建立新连接，在线程a里边要处理和客户端的通信，你可以在b线程里边...，通过这种多线程的方式就可以并行的处理触发的相关的事件了。
总结I/O多路转接：其实就是把本该由程序员进行处理的一些事情交给了内核。有了这种技术，关于文件描述符的读缓冲区或者写缓冲区是否可用，这个事件检测就不需要程序员来做了，而是由内核来做的。因为内核能够同时检测多个文件描述符的读/写缓冲区，检测一轮之后，内核就会把可以进行操作的文件描述符告诉我们。那么我们得到这些可操作的文件描述符之后，就可以进行对应的数据的接收或者发送，或者是建立新连接的操作了。
1.了解阻塞等待
可以使用多线程或者多进程解决，但线程或者进程会消耗资源，线程或进程调度消耗CPU资源。
2.BIO模型
3.非阻塞，忙轮询
4.I/O多路复用（I/O多路转接）
I/O多路复用使得程序能同时监听多个文件描述符，能够提高程序的性能，Linux下实现I/O多路
复用的系统调用函数有select、poll、epoll。
5.select函数
主旨思想：
- 🦝① 首先要构造一个关于文件描述符的列表，将要监听的文件描述符添加到该列表中
- 🦝② 调用一个系统函数，监听该列表中的文件描述符，直到这些描述符中的一个或者多个进行I/O 操作时，该函数才返回
- a.这个函数是阻塞
- b.函数对文件描述符的检测的操作是由内核完成的
- 🦝③ 在返回时，它会告诉进程有多少（哪些）描述符要进行I/O操作
// sizeof(fd_set) = 128 1024
#include <sys/time.h>
#include <sys/types.h>
#include <unistd.h>
#include <sys/select.h>
int select(int nfds, fd_set *readfds, fd_set *writefds,fd_set *exceptfds, struct timeval *timeout);
- 参数：
- nfds : 委托内核检测的最大文件描述符的值 + 1
- readfds : 要检测的文件描述符的读的集合，委托内核检测哪些文件描述符的读的属性
- 一般检测读操作
- 对应的是对方发送过来的数据，因为读是被动的接收数据，检测的就是读缓冲区
- 是一个传入传出参数
- writefds : 要检测的文件描述符的写的集合，委托内核检测哪些文件描述符的写的属性
- 委托内核检测写缓冲区是不是还可以写数据（不满的就可以写）
- exceptfds : 检测发生异常的文件描述符的集合
- timeout : 设置的超时时间
struct timeval {
long tv_sec; /* seconds */
long tv_usec; /* microseconds */
};
- NULL : 永久阻塞，直到检测到了文件描述符有变化
- tv_sec = 0 tv_usec = 0， 不阻塞
- tv_sec > 0 tv_usec > 0， 阻塞对应的时间
- 返回值 :
- -1 : 失败
- >0(n) : 检测的集合中有n个文件描述符发生了变化
// 将参数文件描述符fd对应的标志位设置为0
void FD_CLR(int fd, fd_set *set);
// 判断fd对应的标志位是0还是1， 返回值 ： fd对应的标志位的值，0，返回0， 1，返回1
int FD_ISSET(int fd, fd_set *set);
// 将参数文件描述符fd 对应的标志位，设置为1
void FD_SET(int fd, fd_set *set);
// fd_set一共有1024 bit, 全部初始化为0
void FD_ZERO(fd_set *set);
server.c
#include <stdio.h>
#include <arpa/inet.h>
#include <unistd.h>
#include <stdlib.h>
#include <string.h>
#include <sys/select.h>
int main() {
// 创建socket
int lfd = socket(PF_INET, SOCK_STREAM, 0);
struct sockaddr_in saddr;
saddr.sin_port = htons(9999);
saddr.sin_family = AF_INET;
saddr.sin_addr.s_addr = INADDR_ANY;
// 绑定
bind(lfd, (struct sockaddr *)&saddr, sizeof(saddr));
// 监听
listen(lfd, 8);
// 创建一个fd_set的集合，存放的是需要检测的文件描述符
fd_set rdset, tmp;
FD_ZERO(&rdset);
FD_SET(lfd, &rdset);
int maxfd = lfd;
while(1) {
tmp = rdset;
// 调用select系统函数，让内核帮检测哪些文件描述符有数据
int ret = select(maxfd + 1, &tmp, NULL, NULL, NULL);
if(ret == -1) {
perror("select");
exit(-1);
} else if(ret == 0) {
continue;
} else if(ret > 0) {
// 说明检测到了有文件描述符的对应的缓冲区的数据发生了改变
if(FD_ISSET(lfd, &tmp)) {
// 表示有新的客户端连接进来了
struct sockaddr_in cliaddr;
int len = sizeof(cliaddr);
int cfd = accept(lfd, (struct sockaddr *)&cliaddr, &len);
// 将新的文件描述符加入到集合中
FD_SET(cfd, &rdset);
// 更新最大的文件描述符
maxfd = maxfd > cfd ? maxfd : cfd;
}
for(int i = lfd + 1; i <= maxfd; i++) {
if(FD_ISSET(i, &tmp)) {
// 说明这个文件描述符对应的客户端发来了数据
char buf[1024] = {0};
int len = read(i, buf, sizeof(buf));
if(len == -1) {
perror("read");
exit(-1);
} else if(len == 0) {
printf("client closed...\n");
close(i);
FD_CLR(i, &rdset);
} else if(len > 0) {
printf("read buf = %s\n", buf);
write(i, buf, strlen(buf) + 1);
}
}
}
}
}
close(lfd);
return 0;
}
client.c
#include <stdio.h>
#include <arpa/inet.h>
#include <stdlib.h>
#include <unistd.h>
#include <string.h>
int main() {
// 创建socket
int fd = socket(PF_INET, SOCK_STREAM, 0);
if(fd == -1) {
perror("socket");
return -1;
}
struct sockaddr_in seraddr;
inet_pton(AF_INET, "127.0.0.1", &seraddr.sin_addr.s_addr);
seraddr.sin_family = AF_INET;
seraddr.sin_port = htons(9999);
// 连接服务器
int ret = connect(fd, (struct sockaddr *)&seraddr, sizeof(seraddr));
if(ret == -1){
perror("connect");
return -1;
}
int num = 0;
while(1) {
char sendBuf[1024] = {0};
sprintf(sendBuf, "send data %d", num++);
write(fd, sendBuf, strlen(sendBuf) + 1);
// 接收
int len = read(fd, sendBuf, sizeof(sendBuf));
if(len == -1) {
perror("read");
return -1;
}else if(len > 0) {
printf("read buf = %s\n", sendBuf);
} else {
printf("服务器已经断开连接...\n");
break;
}
// sleep(1);
usleep(1000);
}
close(fd);
return 0;
}
6.poll
#include <poll.h>
struct pollfd {
int fd; /* 委托内核检测的文件描述符 */
short events; /* 委托内核检测文件描述符的什么事件 */
short revents; /* 文件描述符实际发生的事件 */
};
struct pollfd myfd;
myfd.fd = 5;
myfd.events = POLLIN | POLLOUT;
int poll(struct pollfd *fds, nfds_t nfds, int timeout);
- 参数：
- fds : 是一个struct pollfd 结构体数组，这是一个需要检测的文件描述符的集合
- nfds : 这个是第一个参数数组中最后一个有效元素的下标 + 1
- timeout : 阻塞时长
0 : 不阻塞
-1 : 阻塞，当检测到需要检测的文件描述符有变化，解除阻塞
>0 : 阻塞的时长
- 返回值：
-1 : 失败
>0（n） : 成功,n表示检测到集合中有n个文件描述符发生变化
server.c
#include <stdio.h>
#include <arpa/inet.h>
#include <unistd.h>
#include <stdlib.h>
#include <string.h>
#include <poll.h>
int main() {
// 创建socket
int lfd = socket(PF_INET, SOCK_STREAM, 0);
struct sockaddr_in saddr;
saddr.sin_port = htons(9999);
saddr.sin_family = AF_INET;
saddr.sin_addr.s_addr = INADDR_ANY;
// 绑定
bind(lfd, (struct sockaddr *)&saddr, sizeof(saddr));
// 监听
listen(lfd, 8);
// 初始化检测的文件描述符数组
struct pollfd fds[1024];
for(int i = 0; i < 1024; i++) {
fds[i].fd = -1;
fds[i].events = POLLIN;
}
fds[0].fd = lfd;
int nfds = 0;
while(1) {
// 调用poll系统函数，让内核帮检测哪些文件描述符有数据
int ret = poll(fds, nfds + 1, -1);
if(ret == -1) {
perror("poll");
exit(-1);
} else if(ret == 0) {
continue;
} else if(ret > 0) {
// 说明检测到了有文件描述符的对应的缓冲区的数据发生了改变
if(fds[0].revents & POLLIN) {
// 表示有新的客户端连接进来了
struct sockaddr_in cliaddr;
int len = sizeof(cliaddr);
int cfd = accept(lfd, (struct sockaddr *)&cliaddr, &len);
// 将新的文件描述符加入到集合中
for(int i = 1; i < 1024; i++) {
if(fds[i].fd == -1) {
fds[i].fd = cfd;
fds[i].events = POLLIN;
break;
}
}
// 更新最大的文件描述符的索引
nfds = nfds > cfd ? nfds : cfd;
}
for(int i = 1; i <= nfds; i++) {
if(fds[i].revents & POLLIN) {
// 说明这个文件描述符对应的客户端发来了数据
char buf[1024] = {0};
int len = read(fds[i].fd, buf, sizeof(buf));
if(len == -1) {
perror("read");
exit(-1);
} else if(len == 0) {
printf("client closed...\n");
close(fds[i].fd);
fds[i].fd = -1;
} else if(len > 0) {
printf("read buf = %s\n", buf);
write(fds[i].fd, buf, strlen(buf) + 1);
}
}
}
}
}
close(lfd);
return 0;
}
client.c
#include <stdio.h>
#include <arpa/inet.h>
#include <stdlib.h>
#include <unistd.h>
#include <string.h>
int main() {
// 创建socket
int fd = socket(PF_INET, SOCK_STREAM, 0);
if(fd == -1) {
perror("socket");
return -1;
}
struct sockaddr_in seraddr;
inet_pton(AF_INET, "127.0.0.1", &seraddr.sin_addr.s_addr);
seraddr.sin_family = AF_INET;
seraddr.sin_port = htons(9999);
// 连接服务器
int ret = connect(fd, (struct sockaddr *)&seraddr, sizeof(seraddr));
if(ret == -1){
perror("connect");
return -1;
}
int num = 0;
while(1) {
char sendBuf[1024] = {0};
sprintf(sendBuf, "send data %d", num++);
write(fd, sendBuf, strlen(sendBuf) + 1);
// 接收
int len = read(fd, sendBuf, sizeof(sendBuf));
if(len == -1) {
perror("read");
return -1;
}else if(len > 0) {
printf("read buf = %s\n", sendBuf);
} else {
printf("服务器已经断开连接...\n");
break;
}
// sleep(1);
usleep(1000);
}
close(fd);
return 0;
}
