Netty 单机百万并发揭秘：从原理到实践全解析

Netty 单机百万并发揭秘：从原理到实践全解析

Netty 能够实现单机百万并发，是其卓越的架构设计、对操作系统特性的极致利用以及精心的性能优化共同作用的结果。这并非某个单一特性的功劳，而是一个系统工程。

本文将从底层原理、架构设计、优化手段，到实践经验，为你层层解析 Netty 如何做到单机百万连接。

一、基础前提：操作系统与协议

在讨论 Netty 之前，必须认识到单机百万并发的基石是 Linux 操作系统 及其提供的 epoll 机制。

1. 非阻塞 I/O (NIO)

• 传统 BIO（阻塞 I/O）模型为每个连接分配一个线程，线程是系统稀缺资源，创建、调度、销毁成本极高，数万连接就会导致线程上下文切换耗尽 CPU。
• NIO 允许一个线程处理多个连接通道，当通道上没有数据可读或可写时，线程不会阻塞，而是可以去处理其他已就绪的通道。这是高并发的根本。

2. I/O 多路复用器：epoll

Linux 下的 select 和 poll 多路复用器在检查大量连接时性能会线性下降，因为它们需要每次将所有文件描述符从用户态拷贝到内核态，并由内核线性扫描。

epoll 的优势：

• 无需重复拷贝：通过 epoll_ctl 预先将 FD 注册到内核 epoll 实例中。
• 事件驱动：内核通过回调机制只通知就绪的 FD（epoll_wait 只返回活跃连接），效率与连接数无关，只与活跃连接数相关。

拓展补充：ET vs LT 模式

ET（Edge Trigger