zoukankan      html  css  js  c++  java
  • redis删除策略

    过期数据

    Redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态

    127.0.0.1:6379> keys *
    1) "num"
    2) "lock-num"
    127.0.0.1:6379> ttl num
    (integer) -1
    127.0.0.1:6379> ttl lock-num
    (integer) -1
    • XX :具有时效性的数据
    • -1 :永久有效的数据
    • -2 :已经过期的数据 或 被删除的数据 或 未定义的数据

    数据删除策略

    时效性数据的存储结构

    数据删除策略的目标

    在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或 内存泄露

    定时删除

    创建一个定时器,当key设置有过期时间,且过期时间到达时,由定时器任务立即执行对键的删除操作

     优点:节约内存,到时就删除,快速释放掉不必要的内存占用

     缺点:CPU压力很大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量

     总结:用处理器性能换取存储空间(拿时间换空间)

    惰性删除

     数据到达过期时间,不做处理。等下次访问该数据时

     如果未过期,返回数据

     发现已过期,删除,返回不存在

     优点:节约CPU性能,发现必须删除的时候才删除

     缺点:内存压力很大,出现长期占用内存的数据

     总结:用存储空间换取处理器性能(拿时间换空间)

    定期删除

     周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度

     特点1:CPU性能占用设置有峰值,检测频度可自定义设置

     特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理

     总结:周期性抽查存储空间 expireIfNeeded() (随机抽查,重点抽查)

    工作过程

     Redis启动服务器初始化时,读取配置server.hz的值,默认为10

    127.0.0.1:6379> info server
    # Server
    redis_version:6.2.5
    redis_git_sha1:00000000
    redis_git_dirty:0
    redis_build_id:b069bc8d4cbe7f1a
    redis_mode:standalone
    os:Linux 3.10.0-1160.el7.x86_64 x86_64
    arch_bits:64
    multiplexing_api:epoll
    atomicvar_api:atomic-builtin
    gcc_version:4.8.5
    process_id:1124
    process_supervised:no
    run_id:efa3264450227f51ca763bb995728a82109c565b
    tcp_port:6379
    server_time_usec:1632361984654829
    uptime_in_seconds:87374
    uptime_in_days:1
    hz:10
    configured_hz:10
    lru_clock:4972032
    executable:/usr/local/bin/redis-server
    config_file:/usr/local/bin/redis-config/redis-6379.conf
    io_threads_active:0

     每秒钟执行server.hz次serverCron()

     activeExpireCycle()对每个expires[*]逐一进行检测,每次执行250ms/server.hz

     对某个expires[*]检测时,随机挑选W个key检测

     如果key超时,删除key

     如果一轮中删除的key的数量>W*25%,循环该过程

     如果一轮中删除的key的数量≤W*25%,检查下一个expires[*],0-15循环

     W取值=ACTIVE_EXPIRE_CYCLE_KEYS_PER_LOO(PACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP)属性值

    注意:

    文件是:redis源码下srcexpire.c

    1、ACTIVE_EXPIRE_CYCLE_KEYS_PER_LOOP变量 (默认值:20)没有ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP变量

    2、这个如何设置???有人说在配置文件中配置,具体怎么配置呢

     参数current_db用于记录activeExpireCycle() 进入哪个expires[*] 执行

     如果activeExpireCycle()执行时间到期,下次从current_db继续向下执行

    逐出算法

    当新数据进入redis时,如果内存不足怎么办?

    Redis使用内存存储数据,在执行每一个命令前,会调用freeMemoryIfNeeded()检测内存是否充足。如 果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据 的策略称为逐出算法。

    注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所 有数据尝试完毕后,如果不能达到内存清理的要求,将出现错误信息。

    (error) OOM command not allowed when used memory >'maxmemory'

    影响数据逐出的相关配置

    最大可使用内存

    maxmemory

    占用物理内存的比例,默认值为0,表示不限制。生产环境中根据需求设定,通常设置在50%以上。

    每次选取待删除数据的个数

    maxmemory-samples

    选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据

    删除策略

    maxmemory-policy

    达到最大内存后的,对被挑选出来的数据进行删除的策略

    检测易失数据(可能会过期的数据集server.db[i].expires )

    ① volatile-lru:挑选最近最少使用的数据淘汰

    ② volatile-lfu:挑选最近使用次数最少的数据淘汰

    ③ volatile-ttl:挑选将要过期的数据淘汰

    ④ volatile-random:任意选择数据淘汰

    检测全库数据(所有数据集server.db[i].dict )

    ⑤ allkeys-lru:挑选最近最少使用的数据淘汰

    ⑥ allkeys-lfu:挑选最近使用次数最少的数据淘汰

    ⑦ allkeys-random:任意选择数据淘汰  放弃数据驱逐

    ⑧ no-enviction(驱逐):禁止驱逐数据(redis4.0中默认策略),会引发错误OOM(Out Of Memory)

  • 相关阅读:
    最小生成数kruskal算法和prim算法
    图的表示及遍历
    mysql忘记root用户密码重置密码的方式
    dwr2.0版本的demo
    web.xml中不同版本的servlet头以及版本控制
    初学jboss
    Filter学习总结,顺便提及点servlet3.0异步filter和异步监听
    监听器
    问题发现和解决
    linux学习
  • 原文地址:https://www.cnblogs.com/WarBlog/p/15323323.html
Copyright © 2011-2022 走看看