良许Linux教程网 干货合集 一文读懂零拷贝技术|splice使用

一文读懂零拷贝技术|splice使用

服务端在向客户端发送文件时,通常会按照以下过程进行操作:

  • 首先,服务端会调用 read() 函数来读取文件内容。
  • 然后,服务端通过调用 write()/send() 函数将文件内容发送到客户端连接。

以上过程可以用下图表示:

image-20240501204126006
image-20240501204126006

从上图可以看出,在发送文件的过程中,首先需要将文件页缓存(Page Cache)从内核态复制到用户态缓存中,然后再从用户态缓存复制到客户端的 Socket 缓冲区中。

其实在上面的过程中,复制文件数据到用户态缓存这个操作是多余的,我们完全可以直接把文件页缓存的数据复制到 Socket 缓冲区即可,这样就可以减少一次拷贝数据的操作。

为了实现这样的功能,内核提供了一个名为 splice() 的系统调用,使用 splice() 系统调用可以避免从内核态拷贝数据到用户态。

 

不需要将内核态的数据拷贝到用户态缓存的技术被称为:零拷贝技术

下面我们将介绍 splice() 系统调用的原理和实现。

splice 使用实例

如果服务端要发送文件给客户端,使用 read()/write() 方式来实现的话,代码如下所示:

/**
 * 发送文件给客户端(read/write版本)
 */
int send_file_to_client(int client_fd, char *file)
{
    int fd;
    struct stat fstat;
    int blocks, remain;
    char buf[4096]; // 每次发送4096个字节

    fd = open(file, O_RDONLY);
    if (fd == -1) {
        return -1;
    }

    stat(file, &fstat);               // 用于获取文件的大小
    blocks = fstat.st_size / 4096;    // 需要发送的次数
    remain = fstat.st_size % 4096;    // 如果文件的大小不是4096的倍数,要额外发送这些数据

    for (i = 0; i read(fd, buf, 4096);          // 读取文件内容
        write(client_fd, buf, 4096);  // 发送文件内容给客户端
    }

    if (remain > 0) {
        read(fd, buf, remain);
        write(client_fd, buf, remain);
    }

    return 0;
}

上面代码的流程比较简单,如下:

  • 首先通过调用 stat() 系统调用获取文件的大小。
  • 然后通过调用 read() 系统调用读取文件内容。
  • 最后通过调用 write() 系统调用将文件内容发送给客户端连接。

从上面的代码可以看出,使用 read()/write() 方式发送文件给客户端,首先需要将文件内容读到用户态缓存中,然后才能发送给客户端连接。

然而,将文件内容读取到用户态缓存这个过程是多余的,我们看看怎么使用 splice() 系统调用来避免将文件内容拷贝到用户态缓存。

使用 splice() 发送文件时,需要创建一个管道作为中转,代码如下:

/**
 * 发送文件给客户端(splice版本)
 */
int send_file_to_client(int client_fd, char *file)
{
    int fd;
    struct stat fstat;
    int blocks, remain;
    int pipefd[2];

    fd = open(file, O_RDONLY);
    if (fd == -1) {
        return -1;
    }

    stat(file, &fstat);

    blocks = fstat.st_size / 4096;
    remain = fstat.st_size % 4096;

    pipe(pipefd);  // 创建管道作为中转

    for (i = 0; i if (remain > 0) {
        splice(fd, NULL, pipefd[1], NULL, remain, SPLICE_F_MOVE|SPLICE_F_MORE);
        splice(pipefd[0], NULL, client_fd, NULL, remain, SPLICE_F_MOVE|SPLICE_F_MORE);
    }

    return 0;
}

从上面代码可以看出,使用 splice() 发送文件时,我们并不需要将文件内容读取到用户态缓存中,但需要使用管道作为中转(关于 管道 的原理可以参考这篇文章:《图解 | Linux进程通信 – 管道实现》)。

其实这里的管道只是作为一个通道,并不会产生数据拷贝的,如下图所示:

对比 read()/write() 版本的原理图,可以看出 splice() 版本省去了拷贝文件内容到用户态缓存这个步骤。

总结

本文主要介绍了使用 read()/write() 方式传输文件与使用 splice() 方式传输文件的原理,也提供了这两种方式的实例代码。

当然,从原理上看,使用 splice() 方式传输文件会比 read()/write() 方式性能要高。但如果真实测试这两种方式,会发现性能相差并不大。这是由于 splice() 方式虽然减少了数据拷贝过程,但是其处理逻辑比 read()/write() 方式更为复杂,所以性能提升并不理想,有兴趣的读者可以自己测试一下。

以上就是良许教程网为各位朋友分享的Linu系统相关内容。想要了解更多Linux相关知识记得关注公众号“良许Linux”,或扫描下方二维码进行关注,更多干货等着你 !

137e00002230ad9f26e78-265x300
本文由 良许Linux教程网 发布,可自由转载、引用,但需署名作者且注明文章出处。如转载至微信公众号,请在文末添加作者公众号二维码。
良许

作者: 良许

良许,世界500强企业Linux开发工程师,公众号【良许Linux】的作者,全网拥有超30W粉丝。个人标签:创业者,CSDN学院讲师,副业达人,流量玩家,摄影爱好者。
上一篇
下一篇

发表评论

联系我们

联系我们

公众号:良许Linux

在线咨询: QQ交谈

邮箱: yychuyu@163.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部