传输层
- 端口号
- 端口号范围划分 0-65535
- - 认识知名端口号(Well-Know Port Number)
  - netstat
  - pidof
  - xargs
- UDP协议
- - UDP协议段格式
  - UDP的特点
  - 面向数据报
  - UDP的缓冲区
  - 基于UDP的应用层协议
- TCP协议
- - TCP协议段格式
  - 确认应答(ACK)机制
  - 超时重传机制
  - 连接管理机制：tcp的三次握手和四次挥手
  - - 三次握手
    - 四次挥手
  - 流量控制机制
  - 滑动窗口机制
  - - 高速重发控制(快重传)
  - 拥塞控制机制
  - 延迟应答
  - 捎带应答
  - 面向字节流
  - - 粘包问题
  - TCP异常情况
  - TCP小结
  - 基于TCP的应用层协议
- TCP 与 UDP对比

传输层

当传输层收到消息，如何找到应用层的进程的？进程绑定了端口号，通过端口号找到PCD，底层是使用哈希表实现的。

端口号

端口号(Port)标识了一个主机上进行通信的不同的应用程序。

在TCP/IP协议中，五元组是用来唯一标识一个通信会话的。它包括以下五个部分：

源IP：指的是发送数据的主机的IP地址。IP地址是用来唯一标识一个主机的网络地址。
源端口号：指的是发送数据的主机上的应用程序使用的端口号。端口号是用来标识一个应用程序的逻辑地址。
目的IP：指的是接收数据的主机的IP地址。
目的端口号：指的是接收数据的主机上的应用程序使用的端口号。
协议号：指的是在传输层使用的协议，例如TCP（传输控制协议）或UDP（用户数据报协议）。

这五个部分共同组成了一个五元组，用于唯一标识一个通信会话。通过这个五元组，网络设备可以正确地将数据包传递给目标主机上的正确应用程序。

在使用netstat -n命令查看网络连接时，可以看到每个连接的五元组信息。

端口号范围划分 0-65535

0 - 1023: 知名端口号, HTTP, FTP, SSH等这些广为使用的应用层协议, 他们的端口号都是固定的。

1024 - 65535: 操作系统动态分配的端口号. 客户端程序的端口号, 就是由操作系统从这个范围分配的。

认识知名端口号(Well-Know Port Number)

ssh服务器, 使用22端口
ftp服务器, 使用21端口
telnet服务器, 使用23端口
http服务器, 使用80端口
https服务器, 使用443端口

执行 cat /etc/services查看知名端口号

一个进程可以bind多个端口号，一个端口号不可以被多个进程bind。

netstat

netstat是一个用来查看网络状态的重要工具。

语法：netstat [选项]

n：拒绝显示别名，能显示数字的全部转化成数字

l：仅列出有在 Listen (监听) 的服務状态

p：显示建立相关链接的程序名

t：(tcp)仅显示tcp相关选项

u：(udp)仅显示udp相关选项

a：(all)显示所有选项，默认不显示LISTEN相关

举个栗子

pidof

在查看服务器的进程id时非常方便。

语法：pidof [进程名]

功能：通过进程名, 查看进程id

举个栗子

xargs

命令行参数不等于标准输入，xargs的作用是将标准输入转化为命令行参数。

举个栗子

使用pidof查询到一个进程的进程id，利用管道符|将查询到的进行kill

可以发现，kill失败，因为传过去的pid是一个标准输入，并非命令行参数

使用xargs转换一下，kill成功。

UDP协议

UDP（User Datagram Protocol）是一种无连接的传输层协议，它提供了一种简单的、不可靠的数据传输服务。

分离封装：采用定长报头的策略，8字节。

交付（如何向上进行交付）：将报头和有效载荷分离，根据报头当中的16位端口号进行向上交付（此端口号是已经被进程bind了的）。

UDP是具有将报文一个一个正确接受的能力的。

UDP协议段格式

报文到底是什么？

位段类型。由一个指针指向报头，可通过对指针进行类型强转来读取src_port等。

16位UDP长度, 表示整个数据报(UDP首部+UDP数据)的最大长度。

如果校验和出错, 就会直接丢弃。

注意：

我们注意到，UDP协议首部中有一个16位的最大长度. 也就是说一个UDP能传输的数据最大长度是64K(包含UDP首
部)。然而64K在当今的互联网环境下, 是一个非常小的数字。

如果我们需要传输的数据超过64K, 就需要在应用层手动的分包, 多次发送, 并在接收端手动拼装。

UDP的特点

UDP传输的过程类似于寄信。

无连接：知道对端的IP和端口号就直接进行传输, 不需要建立连接;
不可靠：没有确认机制, 没有重传机制; 如果因为网络故障该段无法发到对方, UDP协议层也不会给应用层返回任何错误信息;（乱序&&丢包）
面向数据报：不能够灵活的控制读写数据的次数和数量;

面向数据报

应用层交给UDP多长的报文, UDP原样发送, 既不会拆分, 也不会合并。

例如，用UDP传输100个字节的数据：
如果发送端调用一次sendto, 发送100个字节, 那么接收端也必须调用对应的一次recvfrom, 接收100个字节; 而不能循环调用10次recvfrom, 每次接收10个字节。

UDP的缓冲区

UDP无真正意义上的发送缓冲区，调用sendto会直接交给内核, 由内核将数据传给网络层协议进行后续的传输动作。

UDP具有接收缓冲区，但是这个接收缓冲区不能保证收到的UDP报的顺序和发送UDP报的顺序一致; 如果缓冲区满了, 再到达的UDP数据就会被丢弃。

UDP的socket既能读, 也能写, 这个概念叫做全双工。

基于UDP的应用层协议

NFS: 网络文件系统
TFTP: 简单文件传输协议
DHCP: 动态主机配置协议
BOOTP: 启动协议(用于无盘设备启动)
DNS: 域名解析协议

TCP协议

TCP全称为 “传输控制协议”(Transmission Control Protocol)。顾名思义，要对数据的传输进行一个详细的控制。

TCP协议段格式

源/目的端口号: 表示数据是从哪个进程来, 到哪个进程去。
32位序号：将请求和应答一一对应。
32位确认序号：确认序号之前的数据已经全部收到。
4位TCP报头长度：表示该TCP头部有多少个32位bit(有多少个4字节)，所以TCP头部最大长度是15 * 4 = 60。
16位窗口大小：当前接收缓冲区剩余空间大小。
- 流量控制：为了保证发送方发送数据不要太快或者太慢，要给发送方同步自己的接受能力。接收能力由接收缓冲区中剩余空间大小决定。这种给发送方同步自己的接受能力的策略叫做流量控制。
- 能够实现两个方向的流量控制也是全双工的一种体现。
16位紧急指针：特定的数据在有效载荷位置当中的偏移量。只有这一个字节的数据被称为紧急数据。
6位标志位：按照1bit位表示某种含义的。需要多个标志位的原因是，服务器会收到大量报文，对于不同报文处理方式不同，比如建立/断开链接，确认报文……因此需要标记位标志报文类型，便于进行后续处理。
- URG：紧急标志位，配合16位紧急指针。上层通过特定的读取选项高优先级将16位紧急指针指向的有效载荷部分的数据读取到上层。
- ACK：确认应答标志，凡是该报文具有应答特征，该标志位都会被设置为1.大部分网络报文ACK都是被设置为1的。
- PSH：督促对方尽快将数据向上交付。
- RST：对方要求重新建立连接; 我们把携带RST标识的称为复位报文段
- SYN：请求建立连接; 我们把携带SYN标识的称为同步报文段。
- FIN：断开链接请求的报文，称携带FIN标识的为结束报文段。

确认应答(ACK)机制

在TCP协议中，每个TCP段都有一个序号（Sequence Number）和一个确认序号（Acknowledgment Number）。

TCP将每个字节的数据都进行了编号，即为序列号，序号用于标识发送方发送的数据段的顺序。

每一个ACK都带有对应的确认序列号，确认序号用于确认接收方已经成功接收到该确认序号之前的所有的数据段，意思是告诉发送者, 我已经收到了哪些数据，下一次你从哪里开始发.。

确认应答机制的原理是接收方在收到数据段后，会在确认应答中将确认序号设置为已成功接收数据段的下一个序号。这样发送方就可以通过确认序号来确认接收方已经成功接收到数据。

**两个序号的原因：**TCP是全双工的。序号同时也确保了报文接收的有序性。

具体的确认应答机制如下：

发送方发送一个数据段给接收方，该段包含一个序号。
接收方收到数据段后，会确认该段的接收，并在确认应答中将确认序号设置为已成功接收数据段的下一个序号。
发送方收到确认应答后，会检查确认序号，确认接收方已经成功接收到该确认序号以前的所有数据段。
如果发送方在一定时间内没有收到确认应答，它会认为数据段丢失或损坏，并重新发送该数据（超时重传机制）。

超时重传机制

TCP协议中的超时重传机制是为了保证数据的可靠传输。当发送方发送一个数据段后，在一定的时间内如果没有收到确认应答，发送方会认为数据段丢失或损坏，会触发超时重传机制，重新发送该数据段。超时重传机制可以在网络丢包或拥塞的情况下保证数据的可靠传输。

**去重：**在超时重传机制中，序号的使用可以帮助发送方确定哪些数据段需要进行重传。当发送方发现某个数据段的确认应答超时未到达时，它可以根据序号来判断是否需要重传该数据段。发送方可以记录已发送但未确认的数据段的序号，一旦超时发生，可以根据序号来找到需要重传的数据段。

超时重传的时间如何确定？

最理想的情况下, 找到一个最小的时间, 保证确认应答一定能在这个时间内返回。这个时间不能太小不能太小。

TCP为了保证无论在任何环境下都能比较高性能的通信, 因此会动态计算这个最大超时时间。

Linux中(BSD Unix和Windows也是如此), 超时以500ms为一个单位进行控制, 每次判定超时重发的超时时间都是500ms的整数倍。

如果重发一次之后，仍然得不到应答，等待 2*500ms 后再进行重传。

如果仍然得不到应答，等待 4*500ms 进行重传。依次类推，以指数形式递增。

累计到一定的重传次数，TCP认为网络或者对端主机出现异常，强制关闭连接。

连接管理机制：tcp的三次握手和四次挥手

因为大量的client将来可能连接server，所以server端一定会存在大量的连接。OS需要对这些连接进行管理。

所谓的连接，本质就是内核的一种数据结构类型，建立连接成功的时候，就是在内存中创建对应的连接对象，再对多个连接对象进行某种数据结构的组织。对连接的管理就是对某种数据结构的增删查改。

维护连接是有成本的，花费内存和CPU资源。

在tcp的连接管理机制中，正常情况，tcp要经过三次握手建立连接，四次挥手断开连接。下图是一般的三次握手与四次挥手的过程。

三次握手

第一次握手（SYN）：客户端向服务器发送一个SYN（同步）报文段，其中包含一个随机生成的初始序列号（ISN）和一些连接建立的参数。客户端进入SYN_SENT状态。
第二次握手（SYN+ACK）：服务器收到客户端的SYN报文段后，会发送一个SYN+ACK报文段给客户端。该报文段中包含服务器的ISN（随机生成的）和一些连接建立的参数。服务器进入SYN_RCVD状态。
第三次握手（ACK）：客户端收到服务器的SYN+ACK报文段后，会向服务器发送一个确认报文段（ACK），其中包含服务器的ISN加1作为确认号，以及一些连接建立的参数。服务器收到ACK报文段后，双方的连接正式建立，进入ESTABLISHED状态。

通过三次握手，客户端和服务器能够确认彼此的存在，并交换一些连接建立的参数，确保双方都准备好进行数据传输。如果在握手过程中出现任何问题，比如报文丢失或超时，握手会失败，连接无法建立。

三次握手的目的是为了防止已经失效的连接请求报文段突然又传送到了服务端，从而产生错误。同时，三次握手还可以防止已经建立的连接在一段时间后被错误地释放。通过三次握手，可以确保双方都愿意进行连接，并且双方都知道对方已经准备好了。

SYN洪水：向服务端发送大量SYN消耗服务端资源的问题，叫做SYN洪水。一次握手容易出现SYN洪水问题。

为什么要三次握手？

通过三次握手嫁接同等成本给client，保证服务端的相对安全。
验证全双工信道是通畅的。

四次挥手

TCP四次挥手是指TCP连接的终止过程，当四次挥手由客户端发起。具体步骤如下：

客户端发送一个FIN（终止）报文给服务器。这个报文表示客户端不再发送数据给服务器了，但仍然可以接收数据。
服务器收到FIN报文后，发送一个ACK（确认）报文给客户端，表示已经收到了客户端的终止请求。
服务器发送一个FIN报文给客户端，表示服务器也不再发送数据给客户端了。
客户端收到服务器的FIN报文后，发送一个ACK报文给服务器，表示已经收到了服务器的终止请求。

TIME_WAIT状态

在主动关闭连接的一方发送最后一个ACK报文后，会进入TIME_WAIT状态。

TIME_WAIT状态的持续时间一般为2倍的最大报文段生存时间2MSL（Maximum Segment Lifetime，MSL）。MSL是一个固定的时间，MSL在RFC1122中规定为两分钟，但是各操作系统的实现不同，在Centos7上默认配置的值是60s。

TIME_WAIT状态的作用是为了确保在网络中所有的报文都被接收完整。在TIME_WAIT状态持续期间，主动关闭连接的一方会等待一段时间，以确保对方收到了自己发送的FIN报文的确认，并且等待足够长的时间，以防止之前的报文在网络中滞留，被后续的新连接误认为是之前的连接的报文。

TIME_WAIT状态的持续时间可以通过操作系统的参数进行调整，以适应不同的网络环境和应用场景。但是过短的持续时间可能会导致之前的连接的报文被后续的新连接误认为是之前的连接的报文，从而引发数据混乱或安全问题；过长的持续时间则会占用系统资源，影响系统的性能。

总之，TIME_WAIT状态是TCP协议中用于确保连接关闭的可靠性和数据完整性的一种机制。

设置地址复用

虽然4次挥手已经完成，但是主动断开连接的一方要维持一段时间的TIME_ WAIT状态，在该状态下，连接
其实已经结束，但是地址信息ip. port依旧是被占用的。

此时服务器异常断开后不能立即重新启用，因为端口被占用。这时使用setsockopt()设置socket描述符的选项SO_REUSEADDR为1，表示允许创建端口号相同但IP地址不同的多个socket描述符。

注意：

在TCP连接的建立过程中，三次握手是必要的，并且有一个明确的顺序，即客户端先发起，然后服务器响应。这是因为在建立连接时，服务器需要等待客户端的连接请求，然后才能确认连接。

而在TCP连接的终止过程中，四次挥手中谁先发起并没有严格的要求。根据TCP的规范，客户端和服务器都有权利主动发起连接的关闭。

实际上，由于应用程序通常是客户端主动发起连接的关闭，所以在大多数情况下，客户端会先发送FIN报文来关闭连接，然后服务器会响应。但是，服务器也可以在某些情况下先发起连接的关闭，然后客户端再响应。无论是谁先发起，最终都需要四次挥手来完成TCP连接的终止。

流量控制机制

TCP支持根据接收端的处理能力，来决定发送端的发送速度.。这个机制就叫做流量控制(Flow Control)。

接收端将自己可以接收的缓冲区大小放入TCP 首部中的 “窗口大小” 字段，16位窗口大小，通过ACK端通知发送端；
16位数字最大表示65535，那么TCP窗口最大就是65535字节么?实际上， TCP首部40字节选项中还包含了一个窗口扩大因子M，实际窗口大小是窗口字段的值左移 M 位；
窗口大小字段越大，说明网络的吞吐量越高；
接收端一旦发现自己的缓冲区快满了，就会将窗口大小设置成一个更小的值通知给发送端；
发送端接受到这个窗口之后, 就会减慢自己的发送速度；
如果接收端缓冲区满了, 就会将窗口置为0，这时发送方不再发送数据，但是需要定期发送一个窗口探测数据段，使接收端把窗口大小告诉发送端。

滑动窗口机制

滑动窗口（Sliding Window）是TCP协议中的一种流量控制机制。它用于控制发送方和接收方之间的数据传输速率，以确保网络的可靠性和效率。

在TCP连接中，发送方和接收方都有一个固定大小的缓冲区，用于存储待发送或待接收的数据。滑动窗口是发送方缓冲区内的一个动态窗口，它指示了接收方当前能够接收的数据量。

滑动窗口的本质就是指针或者下标。滑动窗口的移动就是对应的指针与下标的运算。

（拥塞窗口的定义在拥塞机制中引入）

TCP的发送缓冲区是环状的，因此不会出现滑动越界问题。

窗口大小指的是无需等待确认应答而可以继续发送数据的最大值. 上图的窗口大小就是4000个字节(四个
段)。

发送前四个段的时候, 不需要等待任何ACK, 直接发送。

收到第一个ACK后，滑动窗口向后移动，继续发送第五个段的数据，依次类推。

操作系统内核为了维护这个滑动窗口, 需要开辟发送缓冲区来记录当前还有哪些数据没有应答; 只有确认应答过的数据, 才能从缓冲区删掉。

窗口越大, 则网络的吞吐率就越高。

高速重发控制(快重传)

当某一段报文段丢失之后, 发送端会一直收到 1001 这样的ACK, 就像是在提醒发送端 "我想要的是 1001"一样。

如果发送端主机连续三次收到了同样一个 “1001” 这样的应答, 就会将对应的数据 1001 - 2000 重新发送，这个时候接收端收到了 1001 之后, 再次返回的ACK就是7001了(因为2001 - 7000)接收端其实之前就已经收到了, 被放到了接收端操作系统内核的接收缓冲区中。

这种机制被称为 “高速重发控制”(也叫 “快重传”)。快重传与超时重传并不冲突，两者是相互协作过程。

拥塞控制机制

拥塞控制（Congestion Control）是TCP协议中的一种机制，用于在网络中防止拥塞的发生或缓解已经发生的拥塞情况。拥塞指的是网络中的流量超过了网络的容量，导致网络性能下降、延迟增加或数据丢失。

拥塞控制的目标是通过动态调整发送方的发送速率，以适应当前网络的拥塞程度，并避免过多的数据拥塞网络。拥塞控制主要包括以下几个方面：

慢启动（Slow Start）：TCP引入慢启动机制，先发少量的数据，探探路，摸清当前的网络拥堵状态，再决定按照多大的速度传输数据。
- 此处引入一个概念程为拥塞窗口
- 发送开始的时候, 定义拥塞窗口大小为1
- 每次收到一个ACK应答, 拥塞窗口成倍增加
- 每次发送数据包的时候, 将拥塞窗口和接收端主机反馈的窗口大小做比较, 取较小的值作为实际发送的窗
  口
像上面这样的拥塞窗口增长速度, 是指数级别的. “慢启动” 只是指初使时慢, 但是增长速度非常快。
拥塞避免（Congestion Avoidance）：为了不增长的那么快, 因此不能使拥塞窗口单纯的加倍.此处引入一个叫做慢启动的阈值。当拥塞窗口超过这个阈值的时候, 不再按照指数方式增长, 而是按照线性方式增长
- 线性增长：每当收到一个ACK，cwnd（拥塞窗口）会线性增加，即cwnd = cwnd + 1个MSS（最大报文段大小）。这样可以使发送方的传输速率缓慢增加，以避免过快导致网络拥塞。
当TCP开始启动的时候, 慢启动阈值等于窗口最大值，在每次超时重发的时候, 慢启动阈值会变成原来的一半, 同时拥塞窗口置回1。

少量的丢包,，仅仅触发超时重传，大量的丢包，我们就认为网络拥塞。当TCP通信开始后, 网络吞吐量会逐渐上升；随着网络发生拥堵, 吞吐量会立刻下降。

拥塞控制, 归根结底是TCP协议想尽可能快的把数据传输给对方, 但是又要避免给网络造成太大压力的折中方案。

延迟应答

如果接收数据的主机立刻返回ACK应答, 这时候返回的窗口可能比较小。

假设接收端缓冲区为1M. 一次收到了500K的数据; 如果立刻应答, 返回的窗口就是500K;
但实际上可能处理端处理的速度很快, 10ms之内就把500K数据从缓冲区消费掉了;
在这种情况下, 接收端处理还远没有达到自己的极限, 即使窗口再放大一些, 也能处理过来;
如果接收端稍微等一会再应答, 比如等待200ms再应答, 那么这个时候返回的窗口大小就是1M;

窗口越大, 网络吞吐量就越大, 传输效率就越高. 要在保证网络不拥塞的情况下尽量提高传输效率。

延迟应答有两个限制：

数量限制: 每隔N个包就应答一次;
时间限制: 超过最大延迟时间就应答一次;

具体的数量和超时时间, 依操作系统不同也有差异, 一般N取2, 超时时间取200ms.

捎带应答

捎带应答（Acknowledgment, ACK, Piggybacking）是TCP中一种优化机制，用于在发送数据的同时传递ACK信号，以减少网络的开销。

在TCP中，接收方会发送ACK信号来确认已经接收到的数据。通常情况下，ACK信号是独立的TCP报文段，需要占用网络资源并引入额外的延迟。为了减少这种开销，TCP引入了捎带应答机制。

捎带应答即是**，在延迟应答的基础上，如果接收方有数据要发送给发送方，接收方会在数据报文段中的ACK字段中设置确认号，并将该数据报文段发送给发送方。这样，ACK信号就被捎带在数据报文段中一起发送，而不需要单独发送ACK报文段。**

捎带应答的优点是减少了网络开销和延迟。通过将ACK信号与数据一起发送，可以利用已经存在的数据报文段，减少了额外的报文段传输，从而节省了网络资源，并降低了传输延迟。

需要注意的是，捎带应答机制并不是TCP的必需机制，而是一种优化手段。在某些情况下，如果发送方没有数据要发送，接收方仍然需要发送独立的ACK报文段来确认已接收的数据。

面向字节流

tcp叫做传输控制协议。使用send、write等io接口（本质都是拷贝函数），并非是把数据直接发送到网络甚至是对方的主机中，而是发送到发送缓冲区或从接收缓冲区接收。

创建一个TCP的socket，同时在内核中创建一个发送缓冲区和一个接收缓冲区。

调用write时, 数据会先写入发送缓冲区中;
如果发送的字节数太长, 会被拆分成多个TCP的数据包发出;
如果发送的字节数太短, 就会先在缓冲区里等待, 等到缓冲区长度差不多了, 或者其他合适的时机发送出
接收数据的时候, 数据也是从网卡驱动程序到达内核的接收缓冲区;
然后应用程序可以调用read从接收缓冲区拿数据;
另一方面, TCP的一个连接, 既有发送缓冲区, 也有接收缓冲区, 那么对于这一个连接, 既可以读数据, 也可
以写数据. 这个概念叫做全双工

因此在tcp协议中，由于缓冲区的存在，并不用保证每一次的发送绝对地对应一次接收，只是向缓冲区传递一部分数据，和从缓冲区拿走一部分数据，发送的次数和接收的次数，没有任何关系，这就是面向字节流。

那么该如何保证，读取到的buffer，是一个完整的请求呢？- >协议定制。

粘包问题

因为HTTP是面向字节流的，当上层读取应用层的数据包时，必须要按照协议读取，如果没有按照协议读取，可以会"多读"或"少读"报文，这就是粘包问题。

避免粘包问题归根结底是要做到，明确两个包的边界。

明确两个包边界的动作，叫做协议定制，是在网络协议栈中的应用层的工作。

对于定长的包, 保证每次都按固定大小读取即可; 例如上面的Request结构, 是固定大小的, 那么就从缓冲区从头开始按sizeof(Request)依次读取即可;
对于变长的包, 可以在包头的位置, 约定一个包总长度的字段, 从而就知道了包的结束位置;
对于变长的包, 还可以在包和包之间使用明确的分隔符(应用层协议, 是程序猿自己来定的, 只要保证分隔符不和正文冲突即可);

UDP不会出现粘包问题。