拓冰网站定制 
1. 从一次线上事故说起为什么进程间通信不是教科书里的选择题先说个我实际碰到过的案例。有一年我们做日志采集系统重构采集进程负责从业务容器里抓日志上报进程负责压缩后推送到远端存储。两个进程本来是用共享内存加锁的方式通信的但那段时间频繁出现“采集端数据积压、上报端CPU打满”的告警。我上去一顿排查strace跟了一下发现采集进程在write()系统调用上长时间阻塞而上报进程早就退出了——因为一次异常重启时它没来得及清理共享内存里的锁标记后续进程全卡在拿锁上。折腾了大半天最后我们把共享内存方案整个推掉换成了管道通信。改完当天就上线之后再没出过同类问题。这个教训让我意识到一个事很多人包括当时的我学“进程间通信”时把它当成一堂理论课——管道、消息队列、共享内存、Socket每种背一遍优缺点就完事了。但真正到了生产环境你会发现选错方案的成本极高而管道这套看起来最“老土”的机制往往是绝大多数场景下最稳、最简单的答案。这篇文章我不想写成 IPC 教科书式的全景罗列而是想从管道的底层原理讲起带着你写几个真正能跑的例子把匿名管道、命名管道、多级管道、SIGPIPE、缓冲阻塞这些坑一个个踩一遍。适合刚接触 Linux 编程的后端工程师、运维同学也适合那些“用了好几年管道但从来没想过内核里发生了什么”的进阶读者。为什么管道值得你花这个时间因为它大概是理解整个 Unix 设计哲学最好的一扇门——一切皆文件、组合优于重设计、小而美的工具协作这些理念在管道上体现得淋漓尽致。理解了管道你以后再去看systemd的 socket 激活、去看 Docker 的 exec 实现、去看各种流式处理框架都会觉得顺很多。2. 管道的本质内核中的一个环形缓冲区以及两个神奇的文件描述符2.1 管道到底是个什么东西如果你在命令行里写过cat access.log | grep ERROR那你已经是在用管道了。但这个被 shell 隐藏了细节的操作底层到底是什么管道的本质是 Linux 内核创建的一块内存缓冲区——注意是内存不是磁盘上的文件。它在被创建的那一刻同时给你两个文件描述符一个负责读一个负责写。你往写端write()进去的数据会进入这块内核缓冲区读端read()的时候数据从缓冲区里被取走。这里最核心的特性是数据一旦被读走就没了。它不是文件不会被保存在任何地方所以你不可能像读文件一样反复读同一条数据。所有进入管道的数据只能被消费一次。可以类比成一根真实的管子你把水数据从一头倒进去另一个人从另一头接水。但这根管子不带存储功能倒进去的水如果不及时被接走管子就满了你再倒就会溢出对进程来说就是阻塞等待。2.2 pipe() 系统调用为什么一下给两个 fd管道是用pipe()系统调用创建的。原型很简单#include unistd.h int pipe(int pipefd[2]);调用成功后pipefd[0]是读端pipefd[1]是写端。返回两个 fd 是必须的因为读和写是两种完全不同的操作语义必须用两个独立的描述符来承载。这里有个很多新手会搞混的点管道是半双工的——注意这里说的“半双工”和网线那种半双工不完全一样。POSIX 标准规定管道只能单向传输数据但在现代 Linux 实现里管道两端实际上都是可读可写的也就是说你可以同时让 fd[0] 和 fd[1] 都承担“读”或“写”的职责。只不过通信双方要有明确的约定否则数据流向会乱套。但我们在实际使用中永远只让一端写、一端读。为什么因为管道的职责就是“单向通道”你把两个方向都打开逻辑上就得自己处理碰撞、竞争复杂度完全没必要。真要双向通信就建两根管道各走各的。2.3 管道缓冲区的大小从 4KB 到 64KB到可以手动调整管道缓冲区的大小经历了一个演变过程。早期 Linux 内核里管道缓冲区只有 4KB一个内存页的大小后来在 2.6.11 版本变成了 16 个页也就是 64KB。再往后Linux 提供了fcntl(fd, F_SETPIPE_SZ, size)来动态调整管道缓冲区大小。为什么这个参数重要因为它直接决定了管道的行为模式。把缓冲区想成一个水桶桶越大上游能“倒水”的量就越多上下游的节奏不一致时容忍度就越高。默认 64KB 其实已经能应付绝大多数场景但如果你的单次数据块很大比如每次写 1MB那么一次 write 就会把缓冲区塞满写端进入阻塞等待读端消费。这时候适当调大缓冲区能明显降低系统调用的次数、提升吞吐。注意F_SETPIPE_SZ并不是想设多大就设多大。普通用户能设置的管道缓冲区上限由fs.pipe-max-size内核参数控制默认通常是 1MB。ulimit -a里也能看到管道相关的软限制。3. 写透匿名管道父子进程通信的完整代码与常见雷区3.1 从一段最小可运行的代码开始理论说了一堆来点能跑的。下面这段代码展示了最基础的父子进程管道通信父进程向管道里写一段消息子进程从管道里读出来。#include stdio.h #include stdlib.h #include string.h #include unistd.h #include sys/wait.h int main() { int pipefd[2]; pid_t pid; char buf[128]; if (pipe(pipefd) -1) { perror(pipe); exit(1); } pid fork(); if (pid -1) { perror(fork); exit(1); } if (pid 0) { // 子进程读数据 close(pipefd[1]); // 关闭写端子进程只读 ssize_t n read(pipefd[0], buf, sizeof(buf) - 1); if (n 0) { perror(read); exit(1); } buf[n] \0; printf(子进程收到: %s\n, buf); close(pipefd[0]); exit(0); } else { // 父进程写数据 close(pipefd[0]); // 关闭读端父进程只写 const char *msg Hello from parent!; write(pipefd[1], msg, strlen(msg) 1); close(pipefd[1]); wait(NULL); // 回收子进程 } return 0; }这段代码看起来简单但里面有一个极其关键的细节fork 之后父子进程各自必须关闭自己不需要的那一端 fd。3.2 为什么必须关闭用不到的那一端很多人刚开始写管道代码时容易犯一个错pipe()之后直接fork()然后就开写不关任何 fd。表面上程序好像也能跑但一旦涉及“读端等待 EOF”的场景就会出大问题。原因在于fork 会把父进程所有的文件描述符表整个复制一份给子进程。也就是说父进程手里的 fd[0] 和 fd[1]子进程手里各有一份加起来这个管道一共有 4 个 fd 指向它父子各一个读端、一个写端。然后呢假设你的通信方向是“父写、子读”。如果父进程不关闭自己手里的读端 fd[0]那么这个管道就一直存在一个“活的”读端。如果子进程不关闭自己手里的写端 fd[1]那么这个管道就一直存在一个“活的”写端。后果是什么看这个经典问题子进程想通过read()读到 EOF 才知道“爸爸写完了”。但读端要读到 EOF前提是所有写端都关闭了。只要子进程自己手里还握着写端没关内核就会认为“写端还没全部关闭”于是read()永远阻塞在那里读不到 EOF程序就挂住了。我第一次写多进程管道程序时就在这上面卡了两个小时gdb上去发现所有进程都在read()那行停着百思不得其解。后来才意识到子进程自己继承来的那个写端 fd 没关掉“自己把自己等死了”。3.3 管道通信的阻塞语义缓冲区满与读端等待管道是阻塞式的。这个阻塞有两个方向写入端阻塞如果管道缓冲区满了write()会被阻塞直到读端消费掉一些数据腾出空间。读取端阻塞如果管道里没有数据read()会被阻塞直到写端写入数据或者所有写端全部关闭。这两个规则单独看都很合理但合在一起就构成了一个需要警惕的死锁场景如果 A 进程往管道里写数据B 进程从管道里读数据而 A 和 B 之间又互相等待对方完成别的操作就可能出现两边都阻塞、谁都动不了的情况。更常见的场景是写端进程写入的数据量超过了管道缓冲区容量而读端进程迟迟不来读最终写端进程被死死卡在write()上。这时候如果你用ps查看进程状态会看到进程处于D不可中断睡眠状态特别吓人。解决思路有两种要么保证读写速率匹配要么用非阻塞模式。把管道设置为非阻塞需要用到fcntlint flags fcntl(pipefd[0], F_GETFL); fcntl(pipefd[0], F_SETFL, flags | O_NONBLOCK);设置之后read()在管道无数据时会立即返回 -1并设置 errno 为EAGAIN程序可以继续往下走配合poll()或select()实现多路复用。但我要说一句实在的非阻塞管道写起来要处理更多边界情况如果你只是做简单的父子进程通信尽可能让读端进程及时消费比上非阻塞省事得多。4. 从单级到多级管道手写一个ls | grep | wc数据流水线4.1 多级管道的真实解析过程Shell 里最漂亮的设计之一就是可以随意串联命令ls | grep \.c$ | wc -l。这一条命令背后发生了什么Shell 解析a | b | c时会做这样几件事为 a 和 b 之间的数据流创建一根管道 p1为 b 和 c 之间的数据流创建另一根管道 p2fork 三个子进程分别执行 a、b、c对 a 来说它的 stdout 重定向到 p1 的写端对 b 来说它的 stdin 重定向到 p1 的读端stdout 重定向到 p2 的写端对 c 来说它的 stdin 重定向到 p2 的读端。关键点在于“重定向”。让子进程的标准输入输出指向管道 fd靠的是dup2()系统调用。dup2(fd, 0)会关闭当前进程的 0 号 fdstdin然后把 fd 复制到 0 这个位置。从那之后进程里所有从 stdin 读数据的操作实际上就是从 fd 对应的管道读。4.2 完整的多级管道实现代码下面这段代码实现了一个简化的三进程流水线ls的输出经过grep过滤最后进wc -l统计。完整实现了 fork、pipe、dup2、exec 四件套。#include stdio.h #include stdlib.h #include unistd.h #include sys/wait.h void run_cmd(char *argv[]) { execvp(argv[0], argv); perror(execvp); exit(1); } int main() { int p1[2]; // ls - grep int p2[2]; // grep - wc pid_t pid; pipe(p1); pid fork(); if (pid 0) { // 子进程1执行 ls close(p1[0]); // 不需要读端 dup2(p1[1], STDOUT_FILENO); // stdout - p1 写端 close(p1[1]); char *argv[] {ls, -la, NULL}; run_cmd(argv); } close(p1[1]); // 父进程不需要写端 pipe(p2); pid fork(); if (pid 0) { // 子进程2执行 grep dup2(p1[0], STDIN_FILENO); // stdin - p1 读端 close(p1[0]); dup2(p2[1], STDOUT_FILENO); // stdout - p2 写端 close(p2[1]); char *argv[] {grep, \\.c$, NULL}; run_cmd(argv); } close(p1[0]); close(p2[1]); pid fork(); if (pid 0) { // 子进程3执行 wc dup2(p2[0], STDIN_FILENO); // stdin - p2 读端 close(p2[0]); char *argv[] {wc, -l, NULL}; run_cmd(argv); } close(p2[0]); // 父进程等待所有子进程 for (int i 0; i 3; i) { wait(NULL); } return 0; }4.3 这段代码里的经典错误仓库这段代码浓缩了多级管道几乎所有常见的坑如果你要自己写通用的流水线下面的每一个坑都值得记住第一每个子进程里要先 dup2 再 close。注意顺序dup2(p1[1], STDOUT_FILENO)之后原来的STDOUT_FILENO也就是 1 号 fd已经被替换成 p1[1] 的一个复制品。这时候再执行close(p1[1])是安全的因为 1 号 fd 还在。反过来如果先 close 再 dup2这个子进程里就没有 p1[1] 了重定向直接失败。第二父进程同样要关掉所有不需要的 fd。我在代码里每 fork 一个子进程之后会立即关闭父进程持有的那一段 fd。否则所有子进程跑完后父进程还握着管道的读写端影响子进程的 EOF 判断也可能导致某些子进程永远阻塞。第三exec 之后要处理错误。execvp如果成功不会返回只有失败才返回 -1。所以我写了run_cmd这个包装函数在 exec 失败时打印错误并退出。如果不这样做子进程执行失败后会继续跑父进程剩下的代码造出一堆玄学 bug。第四也是最反直觉的一点多级管道并不保证命令按从左到右的顺序执行完。Shell 实际上是同时启动三个进程谁先跑完谁后跑完不确定依赖管道缓冲区做磨合。这也是为什么在某些命令组合下你看到的中间产物和预期不一致。5. FIFO命名管道让无亲缘关系进程也共享一条数据通道5.1 为什么需要命名管道匿名管道的最大限制是“没有名字”——它只能在父子进程或者有亲缘关系的进程之间使用。原因在于 fork 会复制 fd所以子进程天然继承了管道。但两个完全独立的进程比如一个监控程序和一个服务程序各自通过 shell 启动彼此手里都没有对方的管道 fd通信从何谈起解决办法就是给管道一个名字。这个“带名字的管道”就叫 FIFOFirst In First Out在文件系统里表现为一个特殊的文件用ls -l看它的文件类型标志是ppipe。创建 FIFO 的方式有两种# 命令行 mkfifo /tmp/my_fifo # C 代码里 #include sys/types.h #include sys/stat.h mkfifo(/tmp/my_fifo, 0644);创建之后任何进程都可以通过open()打开这个 FIFO像操作普通文件一样读写。它和匿名管道的本质一样都是内核缓冲区但因为有文件系统路径作为“锚点”所以天然适合无亲缘关系的进程通信。5.2 阻塞式打开是 FIFO 最大的坑FIFO 和普通文件的 open 行为完全不同。普通文件open()基本不会阻塞FIFO 会。如果你写这样一行代码// 只读方式打开以下代码会阻塞直到有进程以写方式打开同一个 FIFO int fd open(/tmp/my_fifo, O_RDONLY);你会发现程序停在那不动了。为什么因为 FIFO 的语义是只有当读端和写端同时打开时通信才能建立。只开一端的状态是没有意义的——你打开读端但写端还没人来你读谁的数据这就是 FIFO 编程里最经典的坑。我在第一次写 FIFO 程序时就遇到了当时代码跑起来界面毫无反应我还以为死锁了反复strace才发现阻塞发生在open()这一层。解决方案要么是保证读写两端同时启动要么在open()时加O_NONBLOCK标志。加了非阻塞后只读打开如果当前没有写端打开open()返回成功但用非阻塞加只读打开时即使没有写端打开也会直接成功返回如果没有写端且打开了读端那么后续read()会返回 0表示 EOF。只写打开如果当前没有读端打开open()返回 -1errno 是ENXIO。5.3 一个实用的 FIFO 生产者-消费者示例下面这个小程序展示了用 FIFO 在无亲缘关系的两个进程之间传数据。先启动读端进程它会阻塞在open()上再启动写端进程双方连接建立后续就是正常的读写。// fifo_reader.c —— 读端 #include stdio.h #include stdlib.h #include unistd.h #include fcntl.h #include sys/stat.h int main() { mkfifo(/tmp/my_fifo, 0644); // 读端阻塞打开等待写端进程出现 int fd open(/tmp/my_fifo, O_RDONLY); if (fd -1) { perror(open); exit(1); } char buf[128]; ssize_t n; while ((n read(fd, buf, sizeof(buf))) 0) { write(STDOUT_FILENO, buf, n); } close(fd); return 0; }// fifo_writer.c —— 写端 #include stdio.h #include stdlib.h #include unistd.h #include fcntl.h #include sys/stat.h int main() { // 写端也阻塞打开直到读到读端进程出现 int fd open(/tmp/my_fifo, O_WRONLY); if (fd -1) { perror(open); exit(1); } const char *msgs[] {hello, fifo, world}; for (int i 0; i 3; i) { write(fd, msgs[i], 6); // 注意这里假设字符串长度固定为6 sleep(1); } close(fd); return 0; }注意一下这个 demo 里我用write(fd, msgs[i], 6)其实有点悬因为每个字符串长度并不都是 6。实际写的时候建议用strlen(msgs[i]) 1来明确长度避免读端读到一堆夹杂旧数据的垃圾。FIFO 和匿名管道一样是字节流不会为你自动做消息切分读端每次读到多少字节取决于当时的缓冲区状态——这是所有管道编程都必须记住的一点。5.4 FIFO 跟 socket 的边界怎么划很多人在设计系统时会在 FIFO 和 Unix domain socket 之间纠结。我个人的建议是这样的如果只是本机两个进程之间做简单的、低频的、单向的数据传递FIFO 完全够用代码量还少但如果涉及双向通信、请求-响应模式、或者是必须同时多种消息类型就别硬用 FIFO 了直接上 Unix domain socket。Socket 的socketpair()和AF_UNIX方案在这类场景下更顺手语义也更丰富。FIFO 真正的黄金使用场景是有一方动态启停数据单向流动且你希望通信通道在文件系统里“可见可查”——比如某些监控系统用 FIFO 接收外部探针的数据线程里阻塞read()就行逻辑极其简单。6. 管道的性能边界、调试手段与生产环境经验6.1 管道的吞吐量到底怎么样很多人觉得管道是“老古董”性能肯定不行。实际上管道是 Linux 上最快的进程间通信方式之一。因为数据从写进程进入管道缓冲区再到读进程取走全程在内核内存里搬运不涉及磁盘 IO、不经过协议栈、没有网络包封装开销。现代内核对管道做了很多优化大块数据走的是内存拷贝加锁机制性能非常可观。做个简单的吞吐测试time yes hello pipe | head -n 1000000 /dev/null我自己的环境上跑下来每秒能处理几十万行数据。如果写的是二进制大块数据通过dd测试管道的吞吐轻松上 GB/s 级别远超普通场景需求。但要注意一个应用层陷阱管道是流式的每个字节只被读一次。如果读端进程用scanf()或者fgets()这类带缓冲的库函数读取要注意缓冲区里的数据可能被透支——其实不会透支缓冲只发生在用户态内核侧数据确实被读走了一部分等下次再读时读的是管道里剩余的部分。这个行为本身没问题但如果你混合使用read()和stdio函数数据读取的先后顺序可能会出现让你困惑的情况。6.2 SIGPIPE写端最常见的“神秘死亡”原因在管道编程里有一个信号极其容易遇到但新手往往一头雾水——SIGPIPE。场景是这样的读端进程已经关闭了管道进程退出、或显式关闭读端 fd此时写端进程如果继续向管道write()内核会向写端进程发送 SIGPIPE 信号。SIGPIPE 的默认行为是终止进程。所以你会碰到一种“诡异”现象程序跑得好好的突然就退出没有任何报错日志。你echo $?一看退出码是 141换算一下就是 128 1313 是 SIGPIPE 的编号。对这 141 就是经典“管道破裂”死法。比如这条命令netstat -an | grep TIME_WAIT | head -n 20如果第三段的head读完 20 行就退出了那grep下一次往管道里写的时候就会收到 SIGPIPE 而退出。因为head已经关了读端。这就是 shell 管道里非常常见的“提前断开”现象。在我们自己的程序里如果想优雅处理这种情况可以忽略或自定义 SIGPIPE#include signal.h signal(SIGPIPE, SIG_IGN);忽略之后write()会返回 -1 并且 errno 为EPIPE你可以自己根据返回值做清理、重试或者退出逻辑。6.3 生产环境必会的三件排查工具管道程序出问题时光靠断点调试效率太低。我习惯用下面三个工具快速定位第一是strace。它能追踪进程的所有系统调用。想确认进程卡在哪个read()或write()上直接strace -p pid它会实时输出每次系统调用及其状态。如果显示write(...) -1 EAGAIN说明非阻塞写会失败如果卡在read(...)不返回说明管道里没数据在等输入。有一次线上排查我就是靠strace发现某个进程一直在read()而没有返回——因为上游进程启动失败管道永远空着。第二是/proc/pid/fdinfo。通过查看进程的各种 fd 状态你能快速定位进程到底打开了哪些管道、缓冲区使用情况如何。/proc/pid/fd目录下能看到每个 fd 指向什么fdinfo里有pos、flags等信息。对管道来说你可以在/proc/pid/fdinfo/fd里看到pipe-capacity和pipe-max-capacity这样的字段直接知道缓冲区容量。第三是pstree。它能把进程树按父子关系展开。看管道程序的多进程架构时pstree -p pid一眼就能看出谁是谁的子进程哪些进程还活着哪些已经退出了。6.4 管道泄漏问题的排查思路管道的 fd 泄漏问题在生产环境中很隐蔽因为进程可能跑几十天后才积累到 fd 数量上限通常默认 1024 或 65535。症状就是进程突然报 “Too many open files”。排查思路先看/proc/pid/fd/里有多少个 fd再用ls -l看看这些 fd 指向的是不是管道。如果几十个 fd 都指向 pipe:[xxx]说明代码里大概率在某次 fork/exec 过程中没有正确关闭继承来的管道 fd。这种问题在你写的自研服务里最容易发生——比如一个常驻进程每次处理任务都会 fork 子进程、建立管道子进程退出后父进程没有把管道 fd 全部关闭。日积月累fd 飙满。解决办法有几个每次 fork 前创建管道fork 后立即在父进程关闭不需要的读端或写端如果用popen()这类封装函数一定要记得pclose()而不是close(fd)pclose()会等待子进程结束并回收资源可以在代码里加一个 fd 数量监控超过阈值时主动告警。6.5 一次真实的生产管道事故复盘写到最后分享一下那次管道换共享内存的事故完整复盘。当时的采集系统核心逻辑是采集进程读日志文件通过共享内存环形队列把数据交给上报进程。共享内存方案要有锁、要处理锁竞争、还要处理进程崩溃后锁残留的问题。我们那版代码里锁的清理做得不好一旦上报进程被 kill -9 杀掉锁标记留在共享内存里新启动的上报进程就永远等锁。换成管道后逻辑一下简化了很多采集进程只往管道写上报进程只从管道读数据流简单直接没有锁、没有同步问题。管道自带阻塞背压机制——当上报进程处理不过来时管道会塞满采集进程自然被卡在 write() 上不会无限积压内存数据。代价是什么数据变成“一读就没”的流式了想回溯排查问题就没那么方便。如果想要个折中可以在上报进程里加个磁盘落盘的影子日志或者用带持久化的消息中间件。整个过程给我的体会是大道至简。如果通信模型本身是“单向数据流”就别搞一堆复杂的共享数据结构一根管道往往是最省心的答案。如果需求升级成了双向通信、多路复用、消息类型区分再升级到 socket 或者消息队列也行。管道这套机制在 Unix 世界里活了半个多世纪靠的不是花哨而是恰到好处的简单。你把它吃透了在处理很多看似不该用管道的问题时反而能常出奇招。 Linux进程间通信：管道原理、阻塞与SIGPIPE实战
1. 从一次线上事故说起为什么进程间通信不是教科书里的选择题先说个我实际碰到过的案例。有一年我们做日志采集系统重构采集进程负责从业务容器里抓日志上报进程负责压缩后推送到远端存储。两个进程本来是用共享内存加锁的方式通信的但那段时间频繁出现“采集端数据积压、上报端CPU打满”的告警。我上去一顿排查strace跟了一下发现采集进程在write()系统调用上长时间阻塞而上报进程早就退出了——因为一次异常重启时它没来得及清理共享内存里的锁标记后续进程全卡在拿锁上。折腾了大半天最后我们把共享内存方案整个推掉换成了管道通信。改完当天就上线之后再没出过同类问题。这个教训让我意识到一个事很多人包括当时的我学“进程间通信”时把它当成一堂理论课——管道、消息队列、共享内存、Socket每种背一遍优缺点就完事了。但真正到了生产环境你会发现选错方案的成本极高而管道这套看起来最“老土”的机制往往是绝大多数场景下最稳、最简单的答案。这篇文章我不想写成 IPC 教科书式的全景罗列而是想从管道的底层原理讲起带着你写几个真正能跑的例子把匿名管道、命名管道、多级管道、SIGPIPE、缓冲阻塞这些坑一个个踩一遍。适合刚接触 Linux 编程的后端工程师、运维同学也适合那些“用了好几年管道但从来没想过内核里发生了什么”的进阶读者。为什么管道值得你花这个时间因为它大概是理解整个 Unix 设计哲学最好的一扇门——一切皆文件、组合优于重设计、小而美的工具协作这些理念在管道上体现得淋漓尽致。理解了管道你以后再去看systemd的 socket 激活、去看 Docker 的 exec 实现、去看各种流式处理框架都会觉得顺很多。2. 管道的本质内核中的一个环形缓冲区以及两个神奇的文件描述符2.1 管道到底是个什么东西如果你在命令行里写过cat access.log | grep ERROR那你已经是在用管道了。但这个被 shell 隐藏了细节的操作底层到底是什么管道的本质是 Linux 内核创建的一块内存缓冲区——注意是内存不是磁盘上的文件。它在被创建的那一刻同时给你两个文件描述符一个负责读一个负责写。你往写端write()进去的数据会进入这块内核缓冲区读端read()的时候数据从缓冲区里被取走。这里最核心的特性是数据一旦被读走就没了。它不是文件不会被保存在任何地方所以你不可能像读文件一样反复读同一条数据。所有进入管道的数据只能被消费一次。可以类比成一根真实的管子你把水数据从一头倒进去另一个人从另一头接水。但这根管子不带存储功能倒进去的水如果不及时被接走管子就满了你再倒就会溢出对进程来说就是阻塞等待。2.2 pipe() 系统调用为什么一下给两个 fd管道是用pipe()系统调用创建的。原型很简单#include unistd.h int pipe(int pipefd[2]);调用成功后pipefd[0]是读端pipefd[1]是写端。返回两个 fd 是必须的因为读和写是两种完全不同的操作语义必须用两个独立的描述符来承载。这里有个很多新手会搞混的点管道是半双工的——注意这里说的“半双工”和网线那种半双工不完全一样。POSIX 标准规定管道只能单向传输数据但在现代 Linux 实现里管道两端实际上都是可读可写的也就是说你可以同时让 fd[0] 和 fd[1] 都承担“读”或“写”的职责。只不过通信双方要有明确的约定否则数据流向会乱套。但我们在实际使用中永远只让一端写、一端读。为什么因为管道的职责就是“单向通道”你把两个方向都打开逻辑上就得自己处理碰撞、竞争复杂度完全没必要。真要双向通信就建两根管道各走各的。2.3 管道缓冲区的大小从 4KB 到 64KB到可以手动调整管道缓冲区的大小经历了一个演变过程。早期 Linux 内核里管道缓冲区只有 4KB一个内存页的大小后来在 2.6.11 版本变成了 16 个页也就是 64KB。再往后Linux 提供了fcntl(fd, F_SETPIPE_SZ, size)来动态调整管道缓冲区大小。为什么这个参数重要因为它直接决定了管道的行为模式。把缓冲区想成一个水桶桶越大上游能“倒水”的量就越多上下游的节奏不一致时容忍度就越高。默认 64KB 其实已经能应付绝大多数场景但如果你的单次数据块很大比如每次写 1MB那么一次 write 就会把缓冲区塞满写端进入阻塞等待读端消费。这时候适当调大缓冲区能明显降低系统调用的次数、提升吞吐。注意F_SETPIPE_SZ并不是想设多大就设多大。普通用户能设置的管道缓冲区上限由fs.pipe-max-size内核参数控制默认通常是 1MB。ulimit -a里也能看到管道相关的软限制。3. 写透匿名管道父子进程通信的完整代码与常见雷区3.1 从一段最小可运行的代码开始理论说了一堆来点能跑的。下面这段代码展示了最基础的父子进程管道通信父进程向管道里写一段消息子进程从管道里读出来。#include stdio.h #include stdlib.h #include string.h #include unistd.h #include sys/wait.h int main() { int pipefd[2]; pid_t pid; char buf[128]; if (pipe(pipefd) -1) { perror(pipe); exit(1); } pid fork(); if (pid -1) { perror(fork); exit(1); } if (pid 0) { // 子进程读数据 close(pipefd[1]); // 关闭写端子进程只读 ssize_t n read(pipefd[0], buf, sizeof(buf) - 1); if (n 0) { perror(read); exit(1); } buf[n] \0; printf(子进程收到: %s\n, buf); close(pipefd[0]); exit(0); } else { // 父进程写数据 close(pipefd[0]); // 关闭读端父进程只写 const char *msg Hello from parent!; write(pipefd[1], msg, strlen(msg) 1); close(pipefd[1]); wait(NULL); // 回收子进程 } return 0; }这段代码看起来简单但里面有一个极其关键的细节fork 之后父子进程各自必须关闭自己不需要的那一端 fd。3.2 为什么必须关闭用不到的那一端很多人刚开始写管道代码时容易犯一个错pipe()之后直接fork()然后就开写不关任何 fd。表面上程序好像也能跑但一旦涉及“读端等待 EOF”的场景就会出大问题。原因在于fork 会把父进程所有的文件描述符表整个复制一份给子进程。也就是说父进程手里的 fd[0] 和 fd[1]子进程手里各有一份加起来这个管道一共有 4 个 fd 指向它父子各一个读端、一个写端。然后呢假设你的通信方向是“父写、子读”。如果父进程不关闭自己手里的读端 fd[0]那么这个管道就一直存在一个“活的”读端。如果子进程不关闭自己手里的写端 fd[1]那么这个管道就一直存在一个“活的”写端。后果是什么看这个经典问题子进程想通过read()读到 EOF 才知道“爸爸写完了”。但读端要读到 EOF前提是所有写端都关闭了。只要子进程自己手里还握着写端没关内核就会认为“写端还没全部关闭”于是read()永远阻塞在那里读不到 EOF程序就挂住了。我第一次写多进程管道程序时就在这上面卡了两个小时gdb上去发现所有进程都在read()那行停着百思不得其解。后来才意识到子进程自己继承来的那个写端 fd 没关掉“自己把自己等死了”。3.3 管道通信的阻塞语义缓冲区满与读端等待管道是阻塞式的。这个阻塞有两个方向写入端阻塞如果管道缓冲区满了write()会被阻塞直到读端消费掉一些数据腾出空间。读取端阻塞如果管道里没有数据read()会被阻塞直到写端写入数据或者所有写端全部关闭。这两个规则单独看都很合理但合在一起就构成了一个需要警惕的死锁场景如果 A 进程往管道里写数据B 进程从管道里读数据而 A 和 B 之间又互相等待对方完成别的操作就可能出现两边都阻塞、谁都动不了的情况。更常见的场景是写端进程写入的数据量超过了管道缓冲区容量而读端进程迟迟不来读最终写端进程被死死卡在write()上。这时候如果你用ps查看进程状态会看到进程处于D不可中断睡眠状态特别吓人。解决思路有两种要么保证读写速率匹配要么用非阻塞模式。把管道设置为非阻塞需要用到fcntlint flags fcntl(pipefd[0], F_GETFL); fcntl(pipefd[0], F_SETFL, flags | O_NONBLOCK);设置之后read()在管道无数据时会立即返回 -1并设置 errno 为EAGAIN程序可以继续往下走配合poll()或select()实现多路复用。但我要说一句实在的非阻塞管道写起来要处理更多边界情况如果你只是做简单的父子进程通信尽可能让读端进程及时消费比上非阻塞省事得多。4. 从单级到多级管道手写一个ls | grep | wc数据流水线4.1 多级管道的真实解析过程Shell 里最漂亮的设计之一就是可以随意串联命令ls | grep \.c$ | wc -l。这一条命令背后发生了什么Shell 解析a | b | c时会做这样几件事为 a 和 b 之间的数据流创建一根管道 p1为 b 和 c 之间的数据流创建另一根管道 p2fork 三个子进程分别执行 a、b、c对 a 来说它的 stdout 重定向到 p1 的写端对 b 来说它的 stdin 重定向到 p1 的读端stdout 重定向到 p2 的写端对 c 来说它的 stdin 重定向到 p2 的读端。关键点在于“重定向”。让子进程的标准输入输出指向管道 fd靠的是dup2()系统调用。dup2(fd, 0)会关闭当前进程的 0 号 fdstdin然后把 fd 复制到 0 这个位置。从那之后进程里所有从 stdin 读数据的操作实际上就是从 fd 对应的管道读。4.2 完整的多级管道实现代码下面这段代码实现了一个简化的三进程流水线ls的输出经过grep过滤最后进wc -l统计。完整实现了 fork、pipe、dup2、exec 四件套。#include stdio.h #include stdlib.h #include unistd.h #include sys/wait.h void run_cmd(char *argv[]) { execvp(argv[0], argv); perror(execvp); exit(1); } int main() { int p1[2]; // ls - grep int p2[2]; // grep - wc pid_t pid; pipe(p1); pid fork(); if (pid 0) { // 子进程1执行 ls close(p1[0]); // 不需要读端 dup2(p1[1], STDOUT_FILENO); // stdout - p1 写端 close(p1[1]); char *argv[] {ls, -la, NULL}; run_cmd(argv); } close(p1[1]); // 父进程不需要写端 pipe(p2); pid fork(); if (pid 0) { // 子进程2执行 grep dup2(p1[0], STDIN_FILENO); // stdin - p1 读端 close(p1[0]); dup2(p2[1], STDOUT_FILENO); // stdout - p2 写端 close(p2[1]); char *argv[] {grep, \\.c$, NULL}; run_cmd(argv); } close(p1[0]); close(p2[1]); pid fork(); if (pid 0) { // 子进程3执行 wc dup2(p2[0], STDIN_FILENO); // stdin - p2 读端 close(p2[0]); char *argv[] {wc, -l, NULL}; run_cmd(argv); } close(p2[0]); // 父进程等待所有子进程 for (int i 0; i 3; i) { wait(NULL); } return 0; }4.3 这段代码里的经典错误仓库这段代码浓缩了多级管道几乎所有常见的坑如果你要自己写通用的流水线下面的每一个坑都值得记住第一每个子进程里要先 dup2 再 close。注意顺序dup2(p1[1], STDOUT_FILENO)之后原来的STDOUT_FILENO也就是 1 号 fd已经被替换成 p1[1] 的一个复制品。这时候再执行close(p1[1])是安全的因为 1 号 fd 还在。反过来如果先 close 再 dup2这个子进程里就没有 p1[1] 了重定向直接失败。第二父进程同样要关掉所有不需要的 fd。我在代码里每 fork 一个子进程之后会立即关闭父进程持有的那一段 fd。否则所有子进程跑完后父进程还握着管道的读写端影响子进程的 EOF 判断也可能导致某些子进程永远阻塞。第三exec 之后要处理错误。execvp如果成功不会返回只有失败才返回 -1。所以我写了run_cmd这个包装函数在 exec 失败时打印错误并退出。如果不这样做子进程执行失败后会继续跑父进程剩下的代码造出一堆玄学 bug。第四也是最反直觉的一点多级管道并不保证命令按从左到右的顺序执行完。Shell 实际上是同时启动三个进程谁先跑完谁后跑完不确定依赖管道缓冲区做磨合。这也是为什么在某些命令组合下你看到的中间产物和预期不一致。5. FIFO命名管道让无亲缘关系进程也共享一条数据通道5.1 为什么需要命名管道匿名管道的最大限制是“没有名字”——它只能在父子进程或者有亲缘关系的进程之间使用。原因在于 fork 会复制 fd所以子进程天然继承了管道。但两个完全独立的进程比如一个监控程序和一个服务程序各自通过 shell 启动彼此手里都没有对方的管道 fd通信从何谈起解决办法就是给管道一个名字。这个“带名字的管道”就叫 FIFOFirst In First Out在文件系统里表现为一个特殊的文件用ls -l看它的文件类型标志是ppipe。创建 FIFO 的方式有两种# 命令行 mkfifo /tmp/my_fifo # C 代码里 #include sys/types.h #include sys/stat.h mkfifo(/tmp/my_fifo, 0644);创建之后任何进程都可以通过open()打开这个 FIFO像操作普通文件一样读写。它和匿名管道的本质一样都是内核缓冲区但因为有文件系统路径作为“锚点”所以天然适合无亲缘关系的进程通信。5.2 阻塞式打开是 FIFO 最大的坑FIFO 和普通文件的 open 行为完全不同。普通文件open()基本不会阻塞FIFO 会。如果你写这样一行代码// 只读方式打开以下代码会阻塞直到有进程以写方式打开同一个 FIFO int fd open(/tmp/my_fifo, O_RDONLY);你会发现程序停在那不动了。为什么因为 FIFO 的语义是只有当读端和写端同时打开时通信才能建立。只开一端的状态是没有意义的——你打开读端但写端还没人来你读谁的数据这就是 FIFO 编程里最经典的坑。我在第一次写 FIFO 程序时就遇到了当时代码跑起来界面毫无反应我还以为死锁了反复strace才发现阻塞发生在open()这一层。解决方案要么是保证读写两端同时启动要么在open()时加O_NONBLOCK标志。加了非阻塞后只读打开如果当前没有写端打开open()返回成功但用非阻塞加只读打开时即使没有写端打开也会直接成功返回如果没有写端且打开了读端那么后续read()会返回 0表示 EOF。只写打开如果当前没有读端打开open()返回 -1errno 是ENXIO。5.3 一个实用的 FIFO 生产者-消费者示例下面这个小程序展示了用 FIFO 在无亲缘关系的两个进程之间传数据。先启动读端进程它会阻塞在open()上再启动写端进程双方连接建立后续就是正常的读写。// fifo_reader.c —— 读端 #include stdio.h #include stdlib.h #include unistd.h #include fcntl.h #include sys/stat.h int main() { mkfifo(/tmp/my_fifo, 0644); // 读端阻塞打开等待写端进程出现 int fd open(/tmp/my_fifo, O_RDONLY); if (fd -1) { perror(open); exit(1); } char buf[128]; ssize_t n; while ((n read(fd, buf, sizeof(buf))) 0) { write(STDOUT_FILENO, buf, n); } close(fd); return 0; }// fifo_writer.c —— 写端 #include stdio.h #include stdlib.h #include unistd.h #include fcntl.h #include sys/stat.h int main() { // 写端也阻塞打开直到读到读端进程出现 int fd open(/tmp/my_fifo, O_WRONLY); if (fd -1) { perror(open); exit(1); } const char *msgs[] {hello, fifo, world}; for (int i 0; i 3; i) { write(fd, msgs[i], 6); // 注意这里假设字符串长度固定为6 sleep(1); } close(fd); return 0; }注意一下这个 demo 里我用write(fd, msgs[i], 6)其实有点悬因为每个字符串长度并不都是 6。实际写的时候建议用strlen(msgs[i]) 1来明确长度避免读端读到一堆夹杂旧数据的垃圾。FIFO 和匿名管道一样是字节流不会为你自动做消息切分读端每次读到多少字节取决于当时的缓冲区状态——这是所有管道编程都必须记住的一点。5.4 FIFO 跟 socket 的边界怎么划很多人在设计系统时会在 FIFO 和 Unix domain socket 之间纠结。我个人的建议是这样的如果只是本机两个进程之间做简单的、低频的、单向的数据传递FIFO 完全够用代码量还少但如果涉及双向通信、请求-响应模式、或者是必须同时多种消息类型就别硬用 FIFO 了直接上 Unix domain socket。Socket 的socketpair()和AF_UNIX方案在这类场景下更顺手语义也更丰富。FIFO 真正的黄金使用场景是有一方动态启停数据单向流动且你希望通信通道在文件系统里“可见可查”——比如某些监控系统用 FIFO 接收外部探针的数据线程里阻塞read()就行逻辑极其简单。6. 管道的性能边界、调试手段与生产环境经验6.1 管道的吞吐量到底怎么样很多人觉得管道是“老古董”性能肯定不行。实际上管道是 Linux 上最快的进程间通信方式之一。因为数据从写进程进入管道缓冲区再到读进程取走全程在内核内存里搬运不涉及磁盘 IO、不经过协议栈、没有网络包封装开销。现代内核对管道做了很多优化大块数据走的是内存拷贝加锁机制性能非常可观。做个简单的吞吐测试time yes hello pipe | head -n 1000000 /dev/null我自己的环境上跑下来每秒能处理几十万行数据。如果写的是二进制大块数据通过dd测试管道的吞吐轻松上 GB/s 级别远超普通场景需求。但要注意一个应用层陷阱管道是流式的每个字节只被读一次。如果读端进程用scanf()或者fgets()这类带缓冲的库函数读取要注意缓冲区里的数据可能被透支——其实不会透支缓冲只发生在用户态内核侧数据确实被读走了一部分等下次再读时读的是管道里剩余的部分。这个行为本身没问题但如果你混合使用read()和stdio函数数据读取的先后顺序可能会出现让你困惑的情况。6.2 SIGPIPE写端最常见的“神秘死亡”原因在管道编程里有一个信号极其容易遇到但新手往往一头雾水——SIGPIPE。场景是这样的读端进程已经关闭了管道进程退出、或显式关闭读端 fd此时写端进程如果继续向管道write()内核会向写端进程发送 SIGPIPE 信号。SIGPIPE 的默认行为是终止进程。所以你会碰到一种“诡异”现象程序跑得好好的突然就退出没有任何报错日志。你echo $?一看退出码是 141换算一下就是 128 1313 是 SIGPIPE 的编号。对这 141 就是经典“管道破裂”死法。比如这条命令netstat -an | grep TIME_WAIT | head -n 20如果第三段的head读完 20 行就退出了那grep下一次往管道里写的时候就会收到 SIGPIPE 而退出。因为head已经关了读端。这就是 shell 管道里非常常见的“提前断开”现象。在我们自己的程序里如果想优雅处理这种情况可以忽略或自定义 SIGPIPE#include signal.h signal(SIGPIPE, SIG_IGN);忽略之后write()会返回 -1 并且 errno 为EPIPE你可以自己根据返回值做清理、重试或者退出逻辑。6.3 生产环境必会的三件排查工具管道程序出问题时光靠断点调试效率太低。我习惯用下面三个工具快速定位第一是strace。它能追踪进程的所有系统调用。想确认进程卡在哪个read()或write()上直接strace -p pid它会实时输出每次系统调用及其状态。如果显示write(...) -1 EAGAIN说明非阻塞写会失败如果卡在read(...)不返回说明管道里没数据在等输入。有一次线上排查我就是靠strace发现某个进程一直在read()而没有返回——因为上游进程启动失败管道永远空着。第二是/proc/pid/fdinfo。通过查看进程的各种 fd 状态你能快速定位进程到底打开了哪些管道、缓冲区使用情况如何。/proc/pid/fd目录下能看到每个 fd 指向什么fdinfo里有pos、flags等信息。对管道来说你可以在/proc/pid/fdinfo/fd里看到pipe-capacity和pipe-max-capacity这样的字段直接知道缓冲区容量。第三是pstree。它能把进程树按父子关系展开。看管道程序的多进程架构时pstree -p pid一眼就能看出谁是谁的子进程哪些进程还活着哪些已经退出了。6.4 管道泄漏问题的排查思路管道的 fd 泄漏问题在生产环境中很隐蔽因为进程可能跑几十天后才积累到 fd 数量上限通常默认 1024 或 65535。症状就是进程突然报 “Too many open files”。排查思路先看/proc/pid/fd/里有多少个 fd再用ls -l看看这些 fd 指向的是不是管道。如果几十个 fd 都指向 pipe:[xxx]说明代码里大概率在某次 fork/exec 过程中没有正确关闭继承来的管道 fd。这种问题在你写的自研服务里最容易发生——比如一个常驻进程每次处理任务都会 fork 子进程、建立管道子进程退出后父进程没有把管道 fd 全部关闭。日积月累fd 飙满。解决办法有几个每次 fork 前创建管道fork 后立即在父进程关闭不需要的读端或写端如果用popen()这类封装函数一定要记得pclose()而不是close(fd)pclose()会等待子进程结束并回收资源可以在代码里加一个 fd 数量监控超过阈值时主动告警。6.5 一次真实的生产管道事故复盘写到最后分享一下那次管道换共享内存的事故完整复盘。当时的采集系统核心逻辑是采集进程读日志文件通过共享内存环形队列把数据交给上报进程。共享内存方案要有锁、要处理锁竞争、还要处理进程崩溃后锁残留的问题。我们那版代码里锁的清理做得不好一旦上报进程被 kill -9 杀掉锁标记留在共享内存里新启动的上报进程就永远等锁。换成管道后逻辑一下简化了很多采集进程只往管道写上报进程只从管道读数据流简单直接没有锁、没有同步问题。管道自带阻塞背压机制——当上报进程处理不过来时管道会塞满采集进程自然被卡在 write() 上不会无限积压内存数据。代价是什么数据变成“一读就没”的流式了想回溯排查问题就没那么方便。如果想要个折中可以在上报进程里加个磁盘落盘的影子日志或者用带持久化的消息中间件。整个过程给我的体会是大道至简。如果通信模型本身是“单向数据流”就别搞一堆复杂的共享数据结构一根管道往往是最省心的答案。如果需求升级成了双向通信、多路复用、消息类型区分再升级到 socket 或者消息队列也行。管道这套机制在 Unix 世界里活了半个多世纪靠的不是花哨而是恰到好处的简单。你把它吃透了在处理很多看似不该用管道的问题时反而能常出奇招。