仿mudou库one thread oneloop式并发服务器实现

一、实现目标

仿muduo库One Thread One Loop式主从Reactor模型实现高并发服务器：
通过咱们实现的高并发服务器组件，可以简洁快速的完成⼀个高性能的服务器搭建。
并且，通过组件内提供的不同应⽤层协议支持，也可以快速完成⼀个高性能应⽤服务器的搭建（当前
为了便于项目的演示，项目中提供HTTP协议组件的⽀持）。
在这里，要明确的是咱们要实现的是⼀个高并发服务器组件，因此当前的项目中并不包含实际的业务
内容。

二、前置知识

（一）HTTP服务器

1.概念

HTTP（Hyper Text Transfer Protocol），超⽂本传输协议是应⽤层协议，是⼀种简单的请求-响应协
议（客户端根据自己的需要向服务器发送请求，服务器针对请求提供服务，完毕后通信结束）。
协议细节在课堂上已经讲过，这⾥不再赘述。
但是需要注意的是HTTP协议是⼀个运行在TCP协议之上的应用层协议，这⼀点本质上是告诉我们，HTTP服务器其实就是个TCP服务器，只不过在应用层基于HTTP协议格式进行数据的组织和解析来明确客⼾端的请求并完成业务处理。

因此实现HTTP服务器简单理解，只需要以下几步即可

1. 搭建⼀个TCP服务器，接收客户端请求。
2. 以HTTP协议格式进行解析请求数据，明确客户端目的。
3. 明确客户端请求目的后提供对应服务。
4. 将服务结果⼀HTTP协议格式进行组织，发送给客户端实现⼀个HTTP服务器很简单，但是实现⼀个高性能的服务器并不简单，这个单元中将讲解基于Reactor模式的高性能服务器实现。

当然准确来说，因为我们要实现的服务器本身并不存在业务，咱们要实现的应该算是⼀个高性能服务器基础库，是⼀个基础组件。

（二）Reactor模型：

1.概念

Reactor模式，是指通过⼀个或多个输入同时传递给服务器进行请求处理时的事件驱动处理模式。
服务端程序处理传入多路请求，并将它们同步分派给请求对应的处理线程，Reactor 模式也叫Dispatcher模式。简单理解就是使⽤ I/O多路复用 统⼀监听事件，收到事件后分发给处理进程或线程，是编写高性能网络服务器的必备技术之⼀。

2.分类

（1）单Reactor单线程：单I/O多路复用+业务处理。

1. 通过IO多路复用模型进行客户端请求监控。
2. 触发事件后，进行事件处理。
3. a. 如果是新建连接请求，则获取新建连接，并添加至多路复用模型进行事件监控。
   b. 如果是数据通信请求，则进行对应数据处理（接收数据，处理数据，发送响应）。

优点：所有操作均在同⼀线程中完成，思想流程较为简单，不涉及进程/线程间通信及资源争抢问题。
缺点：无法有效利用CPU多核资源，很容易达到性能瓶颈。
适用场景：适用于客户端数量较少，且处理速度较为快速的场景。（处理较慢或活跃连接较多，会导
致串行处理的情况下，后处理的连接长时间无法得到响应。

（2）单Reactor多线程：单I/O多路复⽤+线程池（业务处理）

1. Reactor线程通过I/O多路复用模型进行客户端请求监控
2. 触发事件后，进行事件处理
   a. 如果是新建连接请求，则获取新建连接，并添加至多路复用模型进行事件监控。
   b. 如果是数据通信请求，则接收数据后分发给Worker线程池进行业务处理。
   c. 工作线程处理完毕后，将响应交给Reactor线程进行数据响应
   优点：充分利用CPU多核资源
   加粗样式缺点：多线程间的数据共享访问控制较为复杂，单个Reactor 承担所有事件的监听和响应，在单线程中
   运行，高并发场景下容易成为性能瓶颈。
   多Reactor多线程：多I/O多路复用+线程池（业务处理）
3. 在主Reactor中处理新连接请求事件，有新连接到来则分发到子Reactor中监控
4. 在子Reactor中进行客户端通信监控，有事件触发，则接收数据分发给Worker线程池
5. Worker线程池分配独立的线程进行具体的业务处理
   a. 工作线程处理完毕后，将响应交给子Reactor线程进行数据响应
   优点：充分利用CPU多核资源，主从Reactor各司其职

（三）目标定位-One Thread One Loop主从Reactor模型高并发服务器

咱们要实现的是主从Reactor模型服务器，也就是主Reactor线程仅仅监控监听描述符，获取新建连
接，保证获取新连接的高效性，提高服务器的并发性能。
主Reactor获取到新连接后分发给子Reactor进行通信事件监控。而子Reactor线程监控各自的描述符的
读写事件进行数据读写以及业务处理。

One Thread One Loop的思想就是把所有的操作都放到⼀个线程中进行，⼀个线程对应⼀个事件处理
的循环。
当前实现中，因为并不确定组件使用者的使用意向，因此并不提供业务层工作线程池的实现，只实现
主从Reactor，而Worker工作线程池，可由组件库的使用者的需要自行决定是否使用和实现。

三、功能划分

基于以上的理解，我们要实现的是⼀个带有协议支持的Reactor模型高性能服务器，因此将整个项目的
实现划分为两个大的模块：

• SERVER模块：实现Reactor模型的TCP服务器；
• 协议模块：对当前的Reactor模型服务器提供应用层协议支持；

（一）SERVER模块：

SERVER模块就是对所有的连接以及线程进行管理，让它们各司其职，在合适的时候做合适的事，最终
完成高性能服务器组件的实现！
而具体的管理也分为三个方面：
• 监听连接管理：对监听连接进行管理。
• 通信连接管理：对通信连接进行管理。
• 超时连接管理：对超时连接进行管理。
基于以上的管理思想，将这个模块进行细致的划分又可以划分为以下多个子模块：

1.Buffer模块：

Buffer模块是⼀个缓冲区模块，用于实现通信中用户态的接收缓冲区和发送缓冲区功能。

2.Socket模块：

Socket模块是对套接字操作封装的⼀个模块，主要实现的socket的各项操作。

3.Channel模块：

Channel模块是对⼀个描述符需要进行的IO事件管理的模块，实现对描述符可读，可写，错误…事件的
管理操作，以及Poller模块对描述符进行IO事件监控就绪后，根据不同的事件，回调不同的处理函数功
能。

4.Connection模块

Connection模块是对Buffer模块，Socket模块，Channel模块的⼀个整体封装，实现了对一个通信套
接字的整体的管理，每一个进行数据通信的套接字（也就是accept获取到的新连接）都会使用
Connection进行管理。
• Connection模块内部包含有三个由组件使用者传入的回调函数：连接建立完成回调，事件回调，
新数据回调，关闭回调。
• Connection模块内部包含有两个组件使用者提供的接口：数据发送接口，连接关闭接口
• Connection模块内部包含有两个用户态缓冲区：用户态接收缓冲区，用户态发送缓冲区
• Connection模块内部包含有⼀个Socket对象：完成描述符面向系统的IO操作
• Connection模块内部包含有⼀个Channel对象：完成描述符IO事件就绪的处理