zoukankan      html  css  js  c++  java
  • 【最全 干货 实例】 缓存手册(Memcached、redis、RabbitMQ)

    http://www.cnblogs.com/suoning/p/5807247.html

    本章内容:

    • Memcached 
      •   简介、安装、使用
      •   Python 操作 Memcached
      •   天生支持集群
    • redis
      •   简介、安装、使用、实例
      •   Python 操作 Redis
      •   String、Hash、List、Set、Sort Set 操作
      •   管道
      •   发布订阅
    • RabbitMQ
      •   简介、安装、使用
      •   使用 API 操作 RabbitMQ
      •   消息不丢失
      •   发布订阅
      •   关键字发送
      •   模糊匹配

    一、Memcached

    1、简介、安装、使用

      Memcached 是一个高性能的分布式内存对象缓存系统,用于动态 Web 应用以减轻数据库负载压力。它通过在内存中缓存数据和对象来减少读取数据库的次数,从而提高动态、数据库驱动网站的速度。Memcached 基于一个存储键/值对的 hashmap。其守护进程(daemon )是用 C 写的,但是客户端可以用任何语言来编写,并通过 memcached 协议与守护进程通信。

    Memcached 内存管理机制:

           Menceched 通过预分配指定的内存空间来存取数据,所有的数据都保存在 memcached 内置的内存中。

      利用 Slab Allocation 机制来分配和管理内存。按照预先规定的大小,将分配的内存分割成特定长度的内存块,再把尺寸相同的内存块分成组,这些内存块不会释放,可以重复利用。

      当存入的数据占满内存空间时,Memcached 使用 LRU 算法自动删除不是用的缓存数据,即重用过期数据的内存空间。Memcached 是为缓存系统设计的,因此没有考虑数据的容灾问题,和机器的内存一样,重启机器将会丢失,如果希望服务重启数据依然能保留,那么就需要 sina 网开发的 Memcachedb 持久性内存缓冲系统,当然还有常见的 NOSQL 服务如 redis。

    默认监听端口:11211

    Memcached 安装

    复制代码
    wget http://memcached.org/latest
    tar -zxvf memcached-1.x.x.tar.gz
    cd memcached-1.x.x
    ./configure && make && make test && sudo make install
     
    PS:依赖libevent
           yum install libevent-devel
           apt-get install libevent-dev
    复制代码
     源码安装启动 Memcached 快速部署文档
     源码安装 Memcached PHP 客户端

    Memcached 启动

    复制代码
    memcached -d -m 10 -u root -l 218.97.240.118 -p 12000 -c 256 -P /tmp/memcached.pid
     
    参数说明:
        -d 是启动一个守护进程
        -m 是分配给Memcache使用的内存数量,单位是MB
        -u 是运行Memcache的用户
        -l 是监听的服务器IP地址
        -p 是设置Memcache监听的端口,最好是1024以上的端口
        -c 选项是最大运行的并发连接数,默认是1024,按照你服务器的负载量来设定
        -P 是设置保存Memcache的pid文件
    复制代码

    Memcached 命令

    存储命令: set/add/replace/append/prepend/cas
    获取命令: get/gets
    其他命令: delete/stats..

     Memcached 管理

    复制代码
    #1、telnet ip port 方式管理
    telnet 127.0.0.1 11211
    
    #2、命令直接操作,nc这样的命令
    [root@localhost application]# printf "stats slabs
    "|nc 127.0.0.1 11211    
    STAT active_slabs 0
    STAT total_malloced 0
    END
    
    #3、管理 Memcached 命令
    a、stats           统计Memcached的各种信息。
    b、stats reset     重新统计数据,重新开始统计。
    c、stats slabs     显示slabs信息。通过这命令能获取每个slabs的chunksize长度,从而确定数据保存在哪个slab。
    d、stats items     显示slab中的item数目。
    e、stats setting   查看一些Memcached设置,列如线程数….
    f、stats slabs     查看slabs相关情况。
    g、stats sizes     查看存在Item个数和大小。
    h、stats cachedump 查看key value。
    i、stats reset     清理统计数据。
    j、set|get,gets    用来保存或获取数据。
    复制代码
     Memcached memadmin php工具界面化管理安装部署文档

    2、Python 操作 Memcached 

    1> 安装 API 及 基本操作

    复制代码
    python 操作 Memcached 使用 Python-memcached 模块
    下载安装:https://pypi.python.org/pypi/python-memcached
    
    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
    mc.set("foo", "bar")
    ret = mc.get('foo')
    print ret
    复制代码

     

    2> 天生支持集群

    python-memcached 模块原生支持集群操作,其原理本质是在内存维护一个主机列表,数字为权重,为3即出现3次,相对应的几率大

    复制代码
    mc = memcache.Client([
        ('192.168.1.5:12000', 3),        # 数字为权重
        ('192.168.1.9:12000', 1),
    ], debug=True)
    
    # 那么在内存中主机列表为:
    #    host_list = ["192.168.1.5","192.168.1.5","192.168.1.5","192.168.1.9",]
    复制代码

    那么问题来了,集群情况下如何选择服务器存储呢?

    如果要创建设置一个键值对(如:k1 = "v1"),那么它的执行流程如下:

    1. 将 k1 转换成一个数字
    2. 将数字和主机列表的长度求余数,得到一个值 N(N 的范围: 0 <= N < 列表长度 )
    3. 在主机列表中根据 第2步得到的值为索引获取主机,例如:host_list[N]
    4. 连接 将第3步中获取的主机,将 k1 = "v1" 放置在该服务器的内存中

    获取值的话也一样

     源码、将字符串转换为数字

    3> add

    添加一个键值对,如果 key 已经存在,重复添加执行 add 则抛出异常

    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
    mc.add('k1', 'v1')
    # mc.add('k1', 'v2') # 报错,对已经存在的key重复添加,失败!!!

    4> replace

    replace 修改某个 key 的值,如果 key 不存在,则异常

    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
    # 如果memcache中存在kkkk,则替换成功,否则一场
    mc.replace('kkkk','999')

    5> set 和 set_multi

    set             设置一个键值对,如果 key 不存在,则创建
    set_multi   设置多个键值对,如果 key 不存在,则创建

    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
     
    mc.set('name', 'nick')
    mc.set_multi({'name': 'nick', 'age': '18'})

    6> delete 和 delete_multi

    delete              删除指定的一个键值对
    delete_multi    删除指定的多个键值对

    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
     
    mc..delete('name', 'nick')
    mc.delete_multi({'name': 'nick', 'age': '18'})

    7> get 和 get_multi

    get             获取一个键值对
    get_multi   获取多个键值对

    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
     
    val = mc.get('name')
    item_dict = mc.get_multi(["name", "age",])

    8> append 和 prepend

    append    修改指定key的值,在该值 后面 追加内容
    prepend   修改指定key的值,在该值 前面 插入内容

    复制代码
    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
    # 原始值: k1 = "v1"
    
    mc.append('k1', 'after')
    # k1 = "v1after"
     
    mc.prepend('k1', 'before')
    # k1 = "beforev1after"
    复制代码

    9> decr 和 incr

    incr  自增,将 Memcached 中的某个值增加 N ( N 默认为1 )
    decr 自减,将 Memcached 中的某个值减少 N ( N 默认为1 )

    复制代码
    import memcache
     
    mc = memcache.Client(['192.168.1.5:12000'], debug=True)
    mc.set('k1', '666')
     
    mc.incr('k1')
    # k1 = 667
     
    mc.incr('k1', 10)
    # k1 = 677
     
    mc.decr('k1')
    # k1 = 676
     
    mc.decr('k1', 10)
    # k1 = 666
    复制代码

    10> gets 和 cas

    这两个方法就是传说中的  

    为了避免脏数据的产生而生

    import memcache
    mc = memcache.Client(['192.168.1.5:12000'], debug=True, cache_cas=True)
     
    v = mc.gets('product_count')
    # 如果有人在gets之后和cas之前修改了product_count,那下面的设置将会执行失败,剖出异常
    mc.cas('product_count', "899")

    本质:每次执行 gets 时,就从 memcache 中获取一个自增的数字,通过 cas 去修改 gets 到的值时,会携带之前获取的自增值和 memcache 中的自增值进行比较,如果相等,则可以提交,如果不相等,那表示在 gets 和 cas 执行之间,又有其他人执行了 gets(获取了缓冲的指定值),如此一来有可能出现非正常的数据,则不允许修改,并报错。

    二、redis

    1、简介、安装、使用、实例

      Remote Dictionary Server(Redis)是一个基于 key-value 键值对的持久化数据库存储系统。redis 和 Memcached 缓存服务很像,但它支持存储的 value 类型相对更多,包括 string (字符串)、list (链表)、set (集合)、zset (sorted set --有序集合)和 hash(哈希类型)。这些数据类型都支持 push/pop、add/remove 及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。在此基础上,redis 支持各种不同方式的排序。与 memcached 一样,为了保证效率,数据都是缓存在内存中。区别的是 redis 会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了 master-slave (主从)同步。

      redis 的出现,再一定程度上弥补了 Memcached 这类 key-value 内存换乘服务的不足,在部分场合可以对关系数据库起到很好的补充作用。redis 提供了 Python,Ruby,Erlang,PHP 客户端,使用方便。

    官方文档:http://www.redis.io/documentation

                    http://www.redis.cn/

    Redis 安装和使用实例

    复制代码
    # Ubuntu 安装 redis
    $ sudo apt-get install redis-server
    
    # 启动服务端
    $ sudo service redis-server {start|stop|restart|force-reload|status}
    
    # 启动服务端
    $ sudo redis-cli
    复制代码
    复制代码
    # 源码安装
    wget http://download.redis.io/releases/redis-3.0.6.tar.gz
    tar xzf redis-3.0.6.tar.gz
    cd redis-3.0.6
    make
    
    # 启动服务端
    src/redis-server
    
    # 启动客户端
    src/redis-cli
    复制代码
    复制代码
    # 检测后台进程是否存在
    ps -ef |grep redis
    
    # 检测6379端口是否在监听
    netstat -lntp | grep 6379
    
    # 客户端连接
    $ sudo redis-cli
    127.0.0.1:6379> set foo bar
    OK
    127.0.0.1:6379> get foo
    "bar"
    复制代码
     redis 源码快速安装文档
     redis 安装目录及各文件作用
     配置并启动 redis 服务
     客户端连接命令及命令测试
     redis 的 php 客户端拓展安装
     redis 主从同步
     reidis 负载均衡

    2、Python 操作 Redis

    python 安装 redis 模块:

    复制代码
    $ sudo pip install redis
    or
    $ sudo easy_install redis
    or
    $ sudo python setup.py install
    
    详见:https://github.com/WoLpH/redis-py
    https://pypi.python.org/pypi/redis
    https://redislabs.com/python-redis
    复制代码

    API 的使用

    1> 操作模式

    redis-py 提供两个类 Redis 和 StrictRedis 用于实现 Redis 的操作命令,StrictRedis 用于实现大部分官方的命令,并使用官方的语法和命令,Redis 是 StrictRedis 的子类,用于向后兼容旧版本的 redis-py

    import redis
     
    r = redis.Redis(host='192.168.1.5', port=6379)
    r.set('foo', 'Bar')
    print r.get('foo')

    2> 连接池

    redis-py 使用 connection pool 来管理对一个 redis server 的所有连接,避免每次建立、释放连接带来的额外开销。默认每个 Redis 实例都会维护着一个自己的连接池。也可以覆盖直接建立一个连接池,然后作为参数 Redis,这样就可以实现多个 Redis 实例共享一个连接池资源。实现客户端分片或有连接如何管理更细的颗粒控制。

    pool = redis.ConnectionPool(host='192.168.1.5', port=6379)
     
    r = redis.Redis(connection_pool=pool)
    r.set('foo', 'Bar')
    print r.get('foo')

    3> 操作

    分为五种数据类型,见下图:

    ① String 操作,String 在内存中格式是一个 name 对应一个 value 来存储

    set(name, value, ex=None, px=None, nx=False, xx=False)

    复制代码
    # 在Redis中设置值,默认,不存在则创建,存在则修改
    # 参数:
         ex,过期时间(秒)
         px,过期时间(毫秒)
         nx,如果设置为True,则只有name不存在时,当前set操作才执行
         xx,如果设置为True,则只有name存在时,岗前set操作才执行
    复制代码

    setnx(name, value)

    # 设置值,只有name不存在时,执行设置操作(添加)

    setex(name, value, time)

    # 设置值
    # 参数:
         time,过期时间(数字秒 或 timedelta对象)

    psetex(name, time_ms, value)

    # 设置值
    # 参数:
         time_ms,过期时间(数字毫秒 或 timedelta对象)

    mset(*args, **kwargs)

    # 批量设置值
    # 如:
        mset(k1='v1', k2='v2')
        或
        mget({'k1': 'v1', 'k2': 'v2'})

    get(name)

    # 获取值

    mget(keys, *args)

    # 批量获取
    # 如:
        mget('ylr', 'nick')
        或
        r.mget(['ylr', 'nick'])

    getset(name, value)

    # 设置新值并获取原来的值

    getrange(key, start, end)

    复制代码
     # 获取子序列(根据字节获取,非字符)
     # 参数:
         name,Redis 的 name
         start,起始位置(字节)
         end,结束位置(字节)
     # 如: "索宁" ,0-3表示 "索"
    复制代码

    setrange(name, offset, value)

    # 修改字符串内容,从指定字符串索引开始向后替换(新值太长时,则向后添加)
    # 参数:
         offset,字符串的索引,字节(一个汉字三个字节)
         value,要设置的值

    setbit(name, offset, value)

    复制代码
    # 对name对应值的二进制表示的位进行操作
     
    # 参数:
        # name,redis的name
        # offset,位的索引(将值变换成二进制后再进行索引)
        # value,值只能是 1 或 0
     
    # 注:如果在Redis中有一个对应: n1 = "foo",
            那么字符串foo的二进制表示为:01100110 01101111 01101111
        所以,如果执行 setbit('n1', 7, 1),则就会将第7位设置为1,
            那么最终二进制则变成 01100111 01101111 01101111,即:"goo"
    复制代码

    getbit(name, offset)

    # 获取name对应的值的二进制表示中的某位的值 (0或1)

    bitcount(key, start=None, end=None)

     # 获取name对应的值的二进制表示中 1 的个数
     # 参数:
         key,Redis的name
         start,位起始位置
         end,位结束位置

    bitop(operation, dest, *keys)

    复制代码
    # 获取多个值,并将值做位运算,将最后的结果保存至新的name对应的值
     
    # 参数:
         operation,AND(并) 、 OR(或) 、 NOT(非) 、 XOR(异或)
         dest, 新的Redis的name
         *keys,要查找的Redis的name
     
    # 如:
        bitop("AND", 'new_name', 'n1', 'n2', 'n3')
         获取Redis中n1,n2,n3对应的值,然后讲所有的值做位运算(求并集),然后将结果保存 new_name 对应的值中
    复制代码

    strlen(name)

    # 返回name对应值的字节长度(一个汉字3个字节)

    incr(self, name, amount=1)

    复制代码
    # 自增 name对应的值,当name不存在时,则创建name=amount,否则,则自增。
     
    # 参数:
         name,Redis的name
         amount,自增数(必须是整数)
     
    # 注:同incrb
    复制代码

    incrbyfloat(self, name, amount=1.0)

    # 自增 name对应的值,当name不存在时,则创建name=amount,否则,则自增。
     
    # 参数:
         name,Redis的name
         amount,自增数(浮点型)

    decr(self, name, amount=1)

    # 自减 name对应的值,当name不存在时,则创建name=amount,否则,则自减。
     
    # 参数:
         name,Redis的name
         amount,自减数(整数)

    append(key, value)

    # 在redis name对应的值后面追加内容
     
    # 参数:
        key, redis的name
        value, 要追加的字符串

    ② Hash 操作,redis 中 Hash 在内存中的存储格式类似字典

     hset(name, key, value)

    复制代码
    # name对应的hash中设置一个键值对(不存在,则创建;否则,修改)
     
    # 参数:
         name,redis的name
         key,name对应的hash中的key
         value,name对应的hash中的value
     
    # 注:
         hsetnx(name, key, value),当name对应的hash中不存在当前key时则创建(相当于添加)
    复制代码

    hmset(name, mapping)

    复制代码
    # 在name对应的hash中批量设置键值对
     
    # 参数:
         name,redis的name
         mapping,字典,如:{'k1':'v1', 'k2': 'v2'}
     
    # 如:
        # r.hmset('xx', {'k1':'v1', 'k2': 'v2'})
    复制代码

    hget(name,key)

    # 在name对应的hash中获取根据key获取value

    hmget(name, keys, *args)

    复制代码
    # 在name对应的hash中获取多个key的值
     
    # 参数:
         name,reids对应的name
         keys,要获取key集合,如:['k1', 'k2', 'k3']
         *args,要获取的key,如:k1,k2,k3
     
    # 如:
         r.mget('xx', ['k1', 'k2'])
         或
         print r.hmget('xx', 'k1', 'k2')
    复制代码

    hgetall(name)

    # 获取name对应hash的所有键值

    hlen(name)

    # 获取name对应的hash中键值对的个数

    hkeys(name)

    # 获取name对应的hash中所有的key的值

    hvals(name)

    # 获取name对应的hash中所有的value的值

    hexists(name, key)

    # 检查name对应的hash是否存在当前传入的key

    hdel(name,*keys)

    # 将name对应的hash中指定key的键值对删除

    hincrby(name, key, amount=1)

     自增name对应的hash中的指定key的值,不存在则创建key=amount 参数:
         name,redis中的name
         key, hash对应的key
         amount,自增数(整数)

    hincrbyfloat(name, key, amount=1.0)

    复制代码
    # 自增name对应的hash中的指定key的值,不存在则创建key=amount
     
    # 参数:
        # name,redis中的name
        # key, hash对应的key
        # amount,自增数(浮点数)
     
    # 自增name对应的hash中的指定key的值,不存在则创建key=amount
    复制代码

    hscan(name, cursor=0, match=None, count=None)

    复制代码
    # 增量式迭代获取,对于数据大的数据非常有用,hscan可以实现分片的获取数据,并非一次性将数据全部获取完,从而放置内存被撑爆
     
    # 参数:
        # name,redis的name
        # cursor,游标(基于游标分批取获取数据)
        # match,匹配指定key,默认None 表示所有的key
        # count,每次分片最少获取个数,默认None表示采用Redis的默认分片个数
     
    # 如:
        # 第一次:cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=None)
        # 第二次:cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=None)
        # ...
        # 直到返回值cursor的值为0时,表示数据已经通过分片获取完毕
    复制代码

    hscan_iter(name, match=None, count=None)

    复制代码
    # 利用yield封装hscan创建生成器,实现分批去redis中获取数据
     
    # 参数:
        # match,匹配指定key,默认None 表示所有的key
        # count,每次分片最少获取个数,默认None表示采用Redis的默认分片个数
     
    # 如:
        # for item in r.hscan_iter('xx'):
        #     print item
    复制代码

    ③ List操作,redis 中的 List 在在内存中按照一个 name 对应一个 List 来存储,像变量对应一个列表。

    lpush(name,values)

    复制代码
    # 在name对应的list中添加元素,每个新的元素都添加到列表的最左边
     
    # 如:
        # r.lpush('oo', 11,22,33)
        # 保存顺序为: 33,22,11
     
    # 扩展:
        # rpush(name, values) 表示从右向左操作
    复制代码

    lpushx(name,value)

    # 在name对应的list中添加元素,只有name已经存在时,值添加到列表的最左边
     
    # 更多:
        # rpushx(name, value) 表示从右向左操作

    llen(name)

    # name对应的list元素的个数

    linsert(name, where, refvalue, value))

    复制代码
    # 在name对应的列表的某一个值前或后插入一个新值
     
    # 参数:
        # name,redis的name
        # where,BEFORE或AFTER
        # refvalue,标杆值,即:在它前后插入数据
        # value,要插入的数据
    复制代码

    r.lset(name, index, value)

    复制代码
    # 对name对应的list中的某一个索引位置重新赋值
     
    # 参数:
        # name,redis的name
        # index,list的索引位置
        # value,要设置的值
    复制代码

    r.lrem(name, value, num)

    复制代码
    # 在name对应的list中删除指定的值
     
    # 参数:
        # name,redis的name
        # value,要删除的值
        # num,  num=0,删除列表中所有的指定值;
               # num=2,从前到后,删除2个;
               # num=-2,从后向前,删除2个
    复制代码

    lpop(name)

    # 在name对应的列表的左侧获取第一个元素并在列表中移除,返回值则是第一个元素
     
    # 更多:
        # rpop(name) 表示从右向左操作

    lindex(name, index)

    # 在name对应的列表中根据索引获取列表元素

    lrange(name, start, end)

    # 在name对应的列表分片获取数据
    # 参数:
        # name,redis的name
        # start,索引的起始位置
        # end,索引结束位置

    ltrim(name, start, end)

    # 在name对应的列表中移除没有在start-end索引之间的值
    # 参数:
        # name,redis的name
        # start,索引的起始位置
        # end,索引结束位置

    rpoplpush(src, dst)

    # 从一个列表取出最右边的元素,同时将其添加至另一个列表的最左边
    # 参数:
        # src,要取数据的列表的name
        # dst,要添加数据的列表的name

    blpop(keys, timeout)

    复制代码
    # 将多个列表排列,按照从左到右去pop对应列表的元素
     
    # 参数:
        # keys,redis的name的集合
        # timeout,超时时间,当元素所有列表的元素获取完之后,阻塞等待列表内有数据的时间(秒), 0 表示永远阻塞
     
    # 更多:
        # r.brpop(keys, timeout),从右向左获取数据
    复制代码

    brpoplpush(src, dst, timeout=0)

    复制代码
    # 从一个列表的右侧移除一个元素并将其添加到另一个列表的左侧
     
    # 参数:
        # src,取出并要移除元素的列表对应的name
        # dst,要插入元素的列表对应的name
        # timeout,当src对应的列表中没有数据时,阻塞等待其有数据的超时时间(秒),0 表示永远阻塞
    复制代码

    自定义增量迭代

    复制代码
    # 由于redis类库中没有提供对列表元素的增量迭代,如果想要循环name对应的列表的所有元素,那么就需要:
        # 1、获取name对应的所有列表
        # 2、循环列表
    # 但是,如果列表非常大,那么就有可能在第一步时就将程序的内容撑爆,所有有必要自定义一个增量迭代的功能:
     
    def list_iter(name):
        """
        自定义redis列表增量迭代
        :param name: redis中的name,即:迭代name对应的列表
        :return: yield 返回 列表元素
        """
        list_count = r.llen(name)
        for index in xrange(list_count):
            yield r.lindex(name, index)
     
    # 使用
    for item in list_iter('pp'):
        print item
    复制代码

    ④ Set 操作,Set 集合就是不允许重复的列表

    sadd(name,values)

    # name对应的集合中添加元素

    scard(name)

    # 获取name对应的集合中元素个数

    sdiff(keys, *args)

    # 在第一个name对应的集合中且不在其他name对应的集合的元素集合

    sdiffstore(dest, keys, *args)

    # 获取第一个name对应的集合中且不在其他name对应的集合,再将其新加入到dest对应的集合中

    sinter(keys, *args)

    # 获取多一个name对应集合的并集

    sinterstore(dest, keys, *args)

    # 获取多一个name对应集合的并集,再讲其加入到dest对应的集合中

    sismember(name, value)

    # 检查value是否是name对应的集合的成员

    smembers(name)

    # 获取name对应的集合的所有成员

    smove(src, dst, value)

    # 将某个成员从一个集合中移动到另外一个集合

    spop(name)

    # 从集合的右侧(尾部)移除一个成员,并将其返回

    srandmember(name, numbers)

    # 从name对应的集合中随机获取 numbers 个元素

    srem(name, values)

    # 在name对应的集合中删除某些值

    sunion(keys, *args)

    # 获取多一个name对应的集合的并集

    sunionstore(dest,keys, *args)

    # 获取多一个name对应的集合的并集,并将结果保存到dest对应的集合中

    sscan(name, cursor=0, match=None, count=None)
    sscan_iter(name, match=None, count=None)

    # 同字符串的操作,用于增量迭代分批获取元素,避免内存消耗太大

    ⑤ 有序集合,在集合的基础上,为每个元素排序;元素的排序需要根据另外一个值来进行比较,所以对于有序集合,每一个元素有两个值:值和分数,分数是专门来做排序的。

    zadd(name, *args, **kwargs)
    # 在name对应的有序集合中添加元素
    # 如:
         # zadd('zz', 'n1', 1, 'n2', 2)
         # 或
         # zadd('zz', n1=11, n2=22)

     zcard(name)

    # 获取name对应的有序集合元素的数量

    zcount(name, min, max)

    # 获取name对应的有序集合中分数 在 [min,max] 之间的个数

    zincrby(name, value, amount)

    # 自增name对应的有序集合的 name 对应的分数

    r.zrange( name, start, end, desc=False, withscores=False, score_cast_func=float)

    复制代码
    # 按照索引范围获取name对应的有序集合的元素
     
    # 参数:
        # name,redis的name
        # start,有序集合索引起始位置(非分数)
        # end,有序集合索引结束位置(非分数)
        # desc,排序规则,默认按照分数从小到大排序
        # withscores,是否获取元素的分数,默认只获取元素的值
        # score_cast_func,对分数进行数据转换的函数
     
    # 更多:
        # 从大到小排序
        # zrevrange(name, start, end, withscores=False, score_cast_func=float)
     
        # 按照分数范围获取name对应的有序集合的元素
        # zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float)
        # 从大到小排序
        # zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)
    复制代码

    zrank(name, value)

    # 获取某个值在 name对应的有序集合中的排行(从 0 开始)
     
    # 更多:
        # zrevrank(name, value),从大到小排序

    zrangebylex(name, min, max, start=None, num=None)

    复制代码
    # 当有序集合的所有成员都具有相同的分值时,有序集合的元素会根据成员的 值 (lexicographical ordering)来进行排序,而这个命令则可以返回给定的有序集合键 key 中, 元素的值介于 min 和 max 之间的成员
    # 对集合中的每个成员进行逐个字节的对比(byte-by-byte compare), 并按照从低到高的顺序, 返回排序后的集合成员。 如果两个字符串有一部分内容是相同的话, 那么命令会认为较长的字符串比较短的字符串要大
     
    # 参数:
        # name,redis的name
        # min,左区间(值)。 + 表示正无限; - 表示负无限; ( 表示开区间; [ 则表示闭区间
        # min,右区间(值)
        # start,对结果进行分片处理,索引位置
        # num,对结果进行分片处理,索引后面的num个元素
     
    # 如:
        # ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga
        # r.zrangebylex('myzset', "-", "[ca") 结果为:['aa', 'ba', 'ca']
     
    # 更多:
        # 从大到小排序
        # zrevrangebylex(name, max, min, start=None, num=None)
    复制代码

    zrem(name, values)

    # 删除name对应的有序集合中值是values的成员
     
    # 如:zrem('zz', ['s1', 's2'])

    zremrangebyrank(name, min, max)

    # 根据排行范围删除

    zremrangebyscore(name, min, max)

    # 根据分数范围删除

    zremrangebylex(name, min, max)

    # 根据值返回删除

    zscore(name, value)

    # 获取name对应有序集合中 value 对应的分数

    zinterstore(dest, keys, aggregate=None)

    # 获取两个有序集合的交集,如果遇到相同值不同分数,则按照aggregate进行操作
    # aggregate的值为:  SUM  MIN  MAX

    zunionstore(dest, keys, aggregate=None)

    # 获取两个有序集合的并集,如果遇到相同值不同分数,则按照aggregate进行操作
    # aggregate的值为:  SUM  MIN  MAX

    zscan(name, cursor=0, match=None, count=None, score_cast_func=float)
    zscan_iter(name, match=None, count=None,score_cast_func=float)

    # 同字符串相似,相较于字符串新增score_cast_func,用来对分数进行操作

     ⑥ 其它 常用操作

    delete(*names)
    # 根据删除redis中的任意数据类型

     exists(name)

    # 检测redis的name是否存在

    keys(pattern='*')

    复制代码
    # 根据模型获取redis的name
     
    # 更多:
        # KEYS * 匹配数据库中所有 key 。
        # KEYS h?llo 匹配 hello , hallo 和 hxllo 等。
        # KEYS h*llo 匹配 hllo 和 heeeeello 等。
        # KEYS h[ae]llo 匹配 hello 和 hallo ,但不匹配 hillo
    复制代码

    expire(name ,time)

    # 为某个redis的某个name设置超时时间

    rename(src, dst)

    # 对redis的name重命名为

    move(name, db))

    # 将redis的某个值移动到指定的db下

    randomkey()

    # 随机获取一个redis的name(不删除)

    type(name)

    # 获取name对应值的类型

    scan(cursor=0, match=None, count=None)
    scan_iter(match=None, count=None)

    # 同字符串操作,用于增量迭代获取key

    4> 管道

    默认情况下,redis-py 每次在执行请求时都会创建和断开一次连接操作(连接池申请连接,归还连接池),如果想要在一次请求中执行多个命令,则可以使用 pipline 实现一次请求执行多个命令,并且默认情况下 pipline 是原子性操作。

    见以下实例:

    复制代码
    import redis
     
    pool = redis.ConnectionPool(host='10.211.55.4', port=6379)
     
    r = redis.Redis(connection_pool=pool)
     
    # pipe = r.pipeline(transaction=False)
    pipe = r.pipeline(transaction=True)
     
    r.set('name', 'nick')
    r.set('age', '18')
     
    pipe.execute()
    复制代码

    5> 发布和订阅

    发布者:服务器

    订阅者:Dashboad 和数据处理

    发布订阅的 Demo 如下:

     RedisHelper

    订阅者:

    复制代码
    #!/usr/bin/env python
    # -*- coding:utf-8 -*-
     
    from monitor.RedisHelper import RedisHelper
     
    obj = RedisHelper()
    redis_sub = obj.subscribe()
     
    while True:
        msg= redis_sub.parse_response()
        print msg
    复制代码

    发布者:

    复制代码
    #!/usr/bin/env python
    # -*- coding:utf-8 -*-
     
    from monitor.RedisHelper import RedisHelper
     
    obj = RedisHelper()
    obj.public('hello')
    复制代码

    更多参见:https://github.com/andymccurdy/redis-py/

    http://doc.redisfans.com/

    三、RabbitMQ

    1、简介、安装、使用

    RabbitMQ 是一个在 AMQP 基础上完成的,可复用的企业消息系统。他遵循 Mozilla Public License 开源协议。

    MQ 全称为 Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方式。应用程序通过读写出入队列的消息(针对应用程序的数据)来通信,而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信,而不是通过直接调用彼此来通信,直接调用通常是用于诸如远程过程调用的技术。排队指的是应用程序通过 队列来通信。队列的使用除去了接收和发送应用程序同时执行的要求。

    流程上生产者把消息放到队列中去, 然后消费者从队列中取出消息。

    • Producing , 生产者, 产生消息的角色.
    • Exchange , 交换器, 在得到生产者产生的消息后, 把消息放入队列的角色.
    • Queue , 队列, 消息暂时保存的地方.
    • Consuming , 消费者, 把消息从队列中取出的角色.
    • 消息 Message 

    RabbitMQ安装

    复制代码
    # 安装配置epel源
       $ rpm -ivh http://dl.fedoraproject.org/pub/epel/6/i386/epel-release-6-8.noarch.rpm
     
    # 安装erlang
       $ yum -y install erlang
     
    # 安装RabbitMQ
       $ yum -y install rabbitmq-server
    复制代码
    # 启动
    service rabbitmq-server start/stop
    
    # 默认监听端口5672 (带上 SSL 默认 5671)

    python 安装 API

    复制代码
    pip install pika
    or
    easy_install pika
    or
    源码
     
    https://pypi.python.org/pypi/pika
    复制代码

    2、使用API操作RabbitMQ

    基于队列 Queue 实现生产者消费者模型:

     View Code

    RabbitMQ 实现:

    复制代码
    #!/usr/bin/env python
    import pika
     
    # ######################### 生产者 #########################
     
    connection = pika.BlockingConnection(pika.ConnectionParameters(
            host='localhost'))
    channel = connection.channel()
     
    channel.queue_declare(queue='hello')
     
    channel.basic_publish(exchange='',
                          routing_key='hello',
                          body='Hello World!')
    print(" [x] Sent 'Hello World!'")
    connection.close()
    
    
    
    #!/usr/bin/env python
    import pika
     
    # ########################## 消费者 ##########################
     
    connection = pika.BlockingConnection(pika.ConnectionParameters(
            host='localhost'))
    channel = connection.channel()
     
    channel.queue_declare(queue='hello')
     
    def callback(ch, method, properties, body):
        print(" [x] Received %r" % body)
     
    channel.basic_consume(callback,
                          queue='hello',
                          no_ack=True)
     
    print(' [*] Waiting for messages. To exit press CTRL+C')
    channel.start_consuming()
    复制代码

    1、acknowledgment 消息不丢失

    no-ack = False,如果消费者由于某些情况宕了(its channel is closed, connection is closed, or TCP connection is lost),那 RabbitMQ 会重新将该任务放入队列中。

     消费者

    2、durable 消息不丢失

    需要改两处地方

     生产者
     消费者

    3、消息获取顺序

    默认情况下,消费者拿消息队列里的数据是按平均分配,例如:消费者1 拿队列中 奇数 序列的任务,消费者2 拿队列中 偶数 序列的任务。

    channel.basic_qos(prefetch_count=1) 表示谁来谁取,不再按照奇偶数排列,这个性能较高的机器拿的任务就多

     消费者

    4、发布订阅

    发布订阅和简单的消息队列区别在于,发布订阅者会将消息发送给所有的订阅者,而消息队列中的数据被消费一次便消失。所以,RabbitMQ 实现发布订阅时,会为每一个订阅者创建一个队列,而发布者发布消息的时候,会将消息放置在所有相关的队列中。

     exchange type = fanout

     发布者
     订阅者

    5、关键字发送

    第4步实例中,发送消息必须明确指定某个队列并向其中发送消息,当然,RabbitMQ 还支持根据关键字发送(队列绑定关键字),发送者将消息发送到 exchange,exchange 根据关键字 判定应该将数据发送至指定队列。

    exchange type = direct

     消费者
     生产者

    6、模糊匹配

     exchange type = topic

    在 topic 类型下,可以让队列绑定几个模糊的关键字,之后发送者将数据发送到 exchange,exchange 将传入”路由值“和 ”关键字“进行匹配,匹配成功,则将数据发送到指定队列。

    匹配基本规则及示例:

    • # 表示可以匹配 0 个 或 多个 单词
    • *  表示只能匹配 一个 单词
    发送者路由值              队列中
    www.suoning.python      www.*  -- 不匹配
    www.suoning.python      www.# -- 匹配
     消费者
     生产者  
  • 相关阅读:
    数论小结转载
    hdu 3792 二分
    求N的所有因子(约数)
    整数划分 --- 一个老生长谈的问题 动态规划
    hdu 1541 Stars poj 1195 Mobile phones(二维) poj 2155 Matrix(二维) hdu 3584 Cube(三维) 树状数组
    zoj 3175 Number of Containers
    asp.netMVC中权限控制论
    asp.net下使用Cookie保存登录信息
    asp.netMVC中实现分页方法
    asp.net异步上传
  • 原文地址:https://www.cnblogs.com/ExMan/p/5825608.html
Copyright © 2011-2022 走看看