性能优化理论篇 | 如何保证数据安全落盘，5分钟彻底弄懂一次write中的各种缓冲区 !

news2024/9/23 15:32:08

性能优化系列目录：
性能优化理论篇 | 彻底弄懂系统平均负载
性能优化理论篇 | swap area是个什么东西
性能优化理论篇 | Cache VS Buffer，傻傻分不清？
在很多IO场景中，我们经常需要确保数据已经安全的写到磁盘上，以便在系统宕机重启之后还能读到这些数据。

为了编写尽可能确保数据能够安全落盘的程序，了解整个I/O缓冲系统架构至关重要。在整个I/O子系统架构中，数据在最终到达稳定存储之前可能会经过多层，如下图所示：

最上层是正在运行的应用程序，应用程序在处理数据时，通常会将数据暂时存储在内存中的缓冲区中。这些缓冲区可以是应用程序直接创建的，也可以由应用程序所调用的库来管理。但不论数据是在应用程序缓冲区中还是通过库进行缓冲，数据都存在于应用程序的地址空间中。

下一层是内核，当应用程序将数据写入文件时，数据并不会立即被写入磁盘，而是先被存储在操作系统内核管理的页面缓存中。内核页面缓存的设计是为了提高系统的效率，避免频繁的磁盘I/O操作。

现代硬盘通常配有自己的缓存（写回缓存，Write-back Cache），数据在最终写入磁盘前，可能会先被存储在硬盘设备的写回缓存中。如果此时发生断电或系统故障，数据也会丢失。

最后，最底层是非易失性存储例如磁盘中。当数据到达这一层时，被认为是“安全的”。

为了进一步说明缓冲的各层，我们假设有一个应用程序：它监听网络套接字的连接，将从每个客户端接收到的数据写入文件。在关闭连接之前，服务器确保接收到的数据已写入磁盘，并向客户端发送确认。

在接受客户端的连接后，应用程序需要将数据从网络套接字读入缓冲区。下面的函数从网络套接字中读取指定量的数据并将其写入文件。调用者已经从客户端确定了预期的数据量，并打开了一个文件流以写入数据。下面的（略微简化的）函数预期会在返回之前将从网络套接字读取的数据保存到磁盘。

int sock_read(int sockfd, FILE *outfp, size_t nrbytes) {
    int ret;
    size_t written = 0;
    char *buf = malloc(MY_BUF_SIZE);  //@1

    if (!buf)
        return -1;

    while (written < nrbytes) { //@2
        ret = read(sockfd, buf, MY_BUF_SIZE);
        if (ret <= 0) {
            if (errno == EINTR)
                continue;
            return ret;
        }
        written += ret;
        ret = fwrite((void *)buf, ret, 1, outfp);
        if (ret != 1)
            return ferror(outfp);
     } //@3
       //@4
    ret = fflush(outfp); //@5
    if (ret != 0)
        return -1;

    ret = fsync(fileno(outfp)); //@6
    if (ret < 0)
        return -1;

    return 0;
}