Redis事件
Redis的ae(Redis用的事件模型库) ae.c
Redis服务器是一个事件驱动程序,服务器需要处理以下两类事件:
- 文件事件(file event):Redis服务器通过套接字与客户端(或者其他Redis服务器)进行连接,而文件事件就是服务器对套接字操作的抽象。
- 时间事件(time event):Redis服务器中的一些操作(比如serverCron函数)需要在给定的时间点执行,而时间事件就是服务器对这类定时操作的抽象。
一、文件事件
Redis基于Reactor模式(将消息放到了一个队列中,通过异步线程池对其进行消费)开发了自己的网络事件处理器,被称为文件事件处理器(file event handler):
文件事件处理器使用I/O多路复用(multiplexing)程序来同时监听多个套接字,并根据套接字目前执行的任务来为套接字关联不同的事件处理器。
当被监听的套接字准备好执行连接应答(accept)、读取(read)、写入(write)、关闭(close)等操作时,与操作相对应的文件事件就会产生,这时文件事件处理器就会调用套接字之前关联好的事件处理器来处理这些事件。
虽然文件事件处理器以单线程方式运行,但通过使用I/O多路复用程序来监听多个套接字,文件事件处理器既实现了高性能的网络通信模型,又可以很好地与Redis服务器中其他同样以单线程方式运行地模块进行对接,这保持了Redis内部单线程设计地简单性。
底层实现ae_epoll.c、ae_select.c、ae_kqueue.c、ae_evport.c多路复用程序
文件事件是对套接字操作的抽象,每当一个套接字准备好执行连接应答(accept),写入,读取,关闭等操作时,就会产生一个文件事件.因为一个服务器通常会连接多个套接字,所以多个文件事件有可能会并发地出现.
I/O多路复用程序负责监听多个套接字,并向文件事件分派器传送产生了事件地套接字。
尽管多个文件事件可能会并发地出现,但I/O多路复用程序总是会将所有产生事件地套接字都放到一个队列里面,然后通过这个队列,以有序(sequentially)同步(synchronously),每次一个套接字的方式向文件事件分派器传送套接字。当上一个套接字产生的事件被处理完毕之后(该套接字为事件所关联的事件处理器执行完毕),I/O多路复用程序才会继续向文件事件分派器传送下一个套接字。
Redis的I/O多路复用程序的功能都是通过包装常见的select,epoll,evport和kqueue这些I/O多路复用函数库来实现的。
I/O多路复用程序可以监听多个套接字的ae.h/AE_READABLE事件和ae.h/AE_WRITEABLE事件,这两类事件和套接字操作之间的对应关系如下:
- 当套接字变得可读时(客户端对套接字执行write操作,或者执行close操作),或者有新的可应答(acceptable)套接字出现时(客户端对服务器的监听套接字执行connect操作),套接字产生AE_READABLE事件。
- 当套接字变得可写时(客户端对套接字执行read操作),套接字产生AE_WRITEABLE事件。
- 如果一个套接字又可读又可写,那么服务器优先读套接字,后写套接字。
二、时间事件
serverCron是redis里主要的定时处理函数,在initServer中通过调用aeCreateTimeEvent,将serverCron做为callback注册到全局的eventLoop结构当中。
Redis服务器中的serverCron函数默认每个100毫秒执行一次,这个函数负责管理服务器的资源,并保持服务器自身的良好运转。
主要工作:
- 更新服务器时间缓存
Redis服务器中有不少功能是需要获取系统的当前时间,而每次获取系统的当前时间都需要执行一次系统调用,为了减少系统的执行次数,服务器状态中的unixtime属性和mstime属性被用作当前时间的缓存
struct redisServer { // ... // 保存了秒级精度的系统当前UNIX时间戳 time_t unixtime; // 保存了毫秒级精度的系统当前UNIX时间戳 long long mstime; // ... };
服务器只会在打印日志、更新服务器的LRU时钟、决定是否执行持久化任务、计算服务器线上时间(uptime)这类对时间精确度要求不高的功能上"使用unixtime属性和mstime属性"。
为键设置过期时间、添加慢查询日志这种需要高精确度时间的功能来说,服务器还是会再次执行系统调用,从而获得最精确的系统当前时间。
- 更新LRU时钟
lru记录的是服务器最后一次被访问的时间,是用于服务器的计算空转时长,用属性lruclock进行存储。默认情况下,每10秒更新一次。另外,每个redis对象也存了一个lru,保存的是该对象最后一次被访问的时间。当要计算redis对象的空转时间,则会用服务器的lru减去redis对象的lru,获得的结果即对象的空转时长。
在redis客户端,用命令OBJECT IDLETIME <key>,可以查看该key的空转时长,返回结果是以秒为单位。由于redis每10秒更新一次服务器的最后访问时间,因此不是很精确。lruclock时钟的当前值可以通过INFO server命令的lur_clock 域查看。
- 更新服务器每秒执行命令次数
这个不是通过扫描全部的键,而是采用抽样的方式确定的结果。每100毫秒1次,随机抽取一些键,查看最近1秒是否有操作,来确定最近1秒的操作次数。接着,会将这个值,与上一次的结果,取平均值,作为本次计算的每秒执行命令数。在存入结构体中,供下次取平均值使用。
- 更新服务器内存峰值记录
redis服务器中,用stat_peak_memory记录服务器内存峰值。每次执行serverCron函数,会查看当前内存使用量,并且与stat_peak_memory比较,如果超过这个值,就更新这个属性。
- 处理SIGTERM信号
redis服务器,用属性shutdown_asap记录当前的结果,0是不用进行操作,1的话是要求服务器尽快关闭。因此,服务器关闭命令shutdown执行,并不会立即关闭服务器,而是将服务器的shutdown_asap属性置成1,当下一次serverCron读取时,就会拒绝新的请求,完成当前正在执行的命令后,开始持久化相关的操作,结束持久化后才会关闭服务器。
- 管理客户端资源
主要是会检查客户端的两个内容:
客户端很长时间没有和服务器响应,服务器认为该客户端超时,则会断开和该客户端的连接。
当客户端在上一次执行命令请求后,输入缓冲区超过一定的长度,程序会释放输入缓冲区,并创建一个默认大小的缓冲区,防止缓冲区过分消耗。
- 管理数据库资源
主要是检查键是否过期,并且按照配置的策略,删除过期的键。如懒惰删除、定期删除等。
- 执行被延迟的BGREWRITEAOF
redis用属性aof_rewrite_scheduled记录是否有延迟的bgrewriteaof命令。当执行bgsave命令期间,如果接收到bgrewriteaof命令,不会立即执行该命令,而是会将属性aof_rewrite_scheduled置成1。每次执行serverCron函数执行时,发现属性aof_rewrite_scheduled是1,会检查当前是否在执行bgsave命令或bgrewriteaof命令,如果没有在执行这两个命令,则会执行bgrewriteaof命令。
- 检查持久化操作的运行状态
redis服务器分别用rdb_child_pid和aof_child_pid属性,记录rdb和aof的子进程号(即子进程pid),如果没有在执行相应的持久化,则值是-1。
- 将AOF缓冲区中的内容写入AOF文件
如果服务器开启了AOF持久化功能,并且AOF缓冲区里面还有待写入的数据,那么serverCron函数会调用相应的程序,将AOF缓冲区的内容写入到AOF文件里面。
- 关闭异步客户端
服务器会关闭那些输出缓冲区大小超出限制的客户端。
- 增加cronloops计数器的值
redis用属性cronloops保存serverCron函数执行的次数。当执行一次serverCron,则会将属性值加1。这个值目前的作用,是在主从复制情况下,会有一个条件是,每执行n次serverCron,则执行一次指定代码。