redis list操作
reids:{ k1:'dafdadfasf', l1:[1,2,3,4] }
redis 操作之List列表操作
List操作,redis中的List在在内存中按照一个name对应一个List来存储。如图:
lpush(name,values),列表添加值
# 在name对应的list中添加元素,每个新的元素都添加到列表的最左边,往左添加值,也就是前面 # 如: # r.lpush('oo', 11,22,33) # 保存顺序为: 33,22,11
# conn.lpush('l1','11')
conn.lpush('l1','22')
conn.lpush('l1','33') 保存顺序为:33,22,11
# 扩展: # rpush(name, values) 表示从右向左操作,往右添加值,也就是后面
conn.rpush('l1',88)
lpushx(name,value)
# 在name对应的list中添加元素,只有name已经存在时,值添加到列表的最左边 # 更多: # rpushx(name, value) 表示从右向左操作
llen(name)
# name对应的list元素的个数
print(conn.llen('l1'))
**linsert(name, where, refvalue, value))
# 在name对应的列表的某一个值前或后插入一个新值 # 参数: # name,redis的name # where,BEFORE或AFTER(小写也可以) # refvalue,标杆值,即:在它前后插入数据(如果存在多个标杆值,以找到的第一个为准) # value,要插入的数据
在12前面插一个值
conn.linsert('l1','before',22,777)
lset(name, index, value)
# 对name对应的list中的某一个索引位置重新赋值 # 参数: # name,redis的name # index,list的索引位置 # value,要设置的值
# 索引从0开始,把44插入到第二个位置
conn.lset('l1',1,'44')
lrem(name,num,value)——删除
# 在name对应的list中删除指定的值 # 参数: # name,redis的name # num, num=0,删除列表中所有的指定值; # num=2,从前到后,删除2个; # num=-2,从后向前,删除2个
# value,要删除的值
# 注意参数位置,-2,表示删除最后的2个值
conn.lrem('l1',-2,11)
lindex(name, index),根据索引位置取值,索引从0开始
在name对应的列表中根据索引获取列表元素
print(conn.lindex('l1',5))
lrange(name, start, end)——切片操作
# ****列表操作,没有getall全部取值,可以通过切片lrange来获取全部的值
# 切片
# 在name对应的列表分片获取数据 # 参数: # name,redis的name # start,索引的起始位置 # end,索引结束位置 print(re.lrange('aa',0,re.llen('aa')))
# ****列表操作,没有getall全部取值,可以通过切片来获取全部的值
# 切片,取到了全部的值
# print(conn.lrange('l1',0,conn.llen('l1')))
# 前闭后闭区间,取2个值
print(conn.lrange('l1',0,1))
blpop(keys, timeout)——如果列表没有值,就会夯住,可以模拟出生产者消费者模型
队列和栈:可以用redis列表模拟出来
队列:先进先出
栈:后进先出
爬虫实现简单分布式:多个url放到列表里,往里不停放URL,程序循环取值,但是只能一台机器运行取值,可以把url放到redis中,多台机器从redis中取值,爬取数据,实现简单分布式
# 将多个列表排列,按照从左到右去pop对应列表的元素 # 参数: # keys,redis的name的集合 # timeout,超时时间,当元素所有列表的元素获取完之后,阻塞等待列表内有数据的时间(秒), 0 表示永远阻塞 # 更多: # r.brpop(keys, timeout),从右向左获取数据
爬虫实现简单分布式:多个url放到列表里,往里不停放URL,程序循环取值,但是只能一台机器运行取值,可以把url放到redis中,多台机器从redis中取值,爬取数据,实现简单分布式
# 重点:blpop 如果列表中没有值,会一直hang住停在那里,可以实现简单的分布式爬虫
# 使用场景:爬虫可以把要爬的链接放在redis列表里面,再用一个程序从redis列表里面取,取连接去爬,存到数据库
# 就是一个程序redis放着许多的连接,另一个程序从redis里面取链接爬
print(conn.blpop('l1',timeout=3))
lpop(name)删除——删的同时,把值返回
# 在name对应的列表的左侧获取第一个元素并在列表中移除,返回值则是第一个元素 # 更多: # rpop(name) 表示从右向左操作
rpoplpush(src, dst)
# 从一个列表取出最右边的元素,同时将其添加至另一个列表的最左边 # 参数: # src,要取数据的列表的name # dst,要添加数据的列表的name
brpoplpush(src, dst, timeout=0)
# 从一个列表的右侧移除一个元素并将其添加到另一个列表的左侧 # 参数: # src,取出并要移除元素的列表对应的name # dst,要插入元素的列表对应的name # timeout,当src对应的列表中没有数据时,阻塞等待其有数据的超时时间(秒),0 表示永远阻塞
自定义增量迭代
# 由于redis类库中没有提供对列表元素的增量迭代,如果想要循环name对应的列表的所有元素,那么就需要: # 1、获取name对应的所有列表 # 2、循环列表 # 但是,如果列表非常大,那么就有可能在第一步时就将程序的内容撑爆,所有有必要自定义一个增量迭代的功能: import redis conn=redis.Redis(host='127.0.0.1',port=6379) # conn.lpush('test',*[1,2,3,4,45,5,6,7,7,8,43,5,6,768,89,9,65,4,23,54,6757,8,68]) # conn.flushall() def scan_list(name,count=2): index=0 while True: data_list=conn.lrange(name,index,count+index-1) if not data_list: return index+=count for item in data_list: yield item print(conn.lrange('test',0,100)) for item in scan_list('test',5): print('---') print(item)
llen(name)——返回列表的长度
# name对应的list元素的个数