python之路---迭代器和生成器

                                   迭代器                              

初识迭代器：

迭代器的优点：节省内存

迭代器有两种：

　　一种是调用方法直接返回的

　　一种是可迭代（的）对象通过执行iter方法得到的（一些讲的就是这种）

能被for循环，就是可迭代的

可迭代的（iterable）:

• str   list   tuple   dict   set    range()   都可以被for循环，说明是可迭代的

from collections import Iterable


l = [1, 2, 3, 4]
t = (1, 2, 3, 4)
d = {1: 2, 3: 4}
s = {1, 2, 3, 4}

print(isinstance(l, Iterable))      # True
print(isinstance(t, Iterable))      # True
print(isinstance(d, Iterable))      # True
print(isinstance(s, Iterable))      # True

不能被for循环，就是不可迭代的

不可迭代的：

• int

for i in 1234
    print(i) 

结果：
Traceback (most recent call last):
  File "test.py", line 4, in <module>
    for i in 1234:
TypeError: 'int' object is not iterable

那就有了一个问题，for循环怎么知道list，dict等是可迭代的，int就是不可迭代的呢？

　　答案就是满足的for的’要求‘的就是可迭代的，不满足就是不可迭代的。

这个“要求”叫做可迭代协议,就是看该数据类型内部是否实现了__iter__方法，如果该数据类型内部实现了__iter__方法，那就能for循环，能for循环，那就是可迭代的。

l = [1, 2, 3, 4]
t = (1, 2, 3, 4)
d = {1: 2, 3: 4}
s = {1, 2, 3, 4}


print(dir(l))      #dir(l)是列表中实现的所有方法
print(dir(t))      #dir(t)是元组中实现的所有方法
print(dir(d))      #dir(d)是字典中实现的所有方法
print(dir(s))      #dir(s)是集合中实现的所有方法

['__add__', '__class__', '__contains__', '__delattr__', '__delitem__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__getitem__', '__gt__', '__hash__', '__iadd__', '__imul__', '__init__', '__init_subclass__', '__iter__', '__le__', '__len__', '__lt__', '__mul__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__reversed__', '__rmul__', '__setattr__', '__setitem__', '__sizeof__', '__str__', '__subclasshook__', 'append', 'clear', 'copy', 'count', 'extend', 'index', 'insert', 'pop', 'remove', 'reverse', 'sort']
['__add__', '__class__', '__contains__', '__delattr__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__getitem__', '__getnewargs__', '__gt__', '__hash__', '__init__', '__init_subclass__', '__iter__', '__le__', '__len__', '__lt__', '__mul__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__rmul__', '__setattr__', '__sizeof__', '__str__', '__subclasshook__', 'count', 'index']
['__class__', '__contains__', '__delattr__', '__delitem__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__getitem__', '__gt__', '__hash__', '__init__', '__init_subclass__', '__iter__', '__le__', '__len__', '__lt__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__setattr__', '__setitem__', '__sizeof__', '__str__', '__subclasshook__', 'clear', 'copy', 'fromkeys', 'get', 'items', 'keys', 'pop', 'popitem', 'setdefault', 'update', 'values']
['__and__', '__class__', '__contains__', '__delattr__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__gt__', '__hash__', '__iand__', '__init__', '__init_subclass__', '__ior__', '__isub__', '__iter__', '__ixor__', '__le__', '__len__', '__lt__', '__ne__', '__new__', '__or__', '__rand__', '__reduce__', '__reduce_ex__', '__repr__', '__ror__', '__rsub__', '__rxor__', '__setattr__', '__sizeof__', '__str__', '__sub__', '__subclasshook__', '__xor__', 'add', 'clear', 'copy', 'difference', 'difference_update', 'discard', 'intersection', 'intersection_update', 'isdisjoint', 'issubset', 'issuperset', 'pop', 'remove', 'symmetric_difference', 'symmetric_difference_update', 'union', 'update']

总结一下我们现在所知道的：可以被for循环的都是可迭代的，要想可迭代，内部必须有一个__iter__方法。

接着分析，__iter__方法做了什么事情呢？（为什么内部有__iter__方法就是可迭代的）

print([1,2].__iter__())

结果
<list_iterator object at 0x1024784a8>

执行了list([1,2])的__iter__方法，我们好像得到了一个list_iterator。

所以 [1,2].__iter__() 是一个列表迭代器（list_iterator）

'''
dir([1,2].__iter__())是列表迭代器中实现的所有方法，dir([1,2])是列表中实现的所有方法,都是以列表的形式返回给我们的，为了看的更清楚，我们分别把他们转换成集合，
然后取差集。
'''
#print(dir([1,2].__iter__()))
#print(dir([1,2]))
print(set(dir([1,2].__iter__()))-set(dir([1,2])))

结果：
{'__length_hint__', '__next__', '__setstate__'}

我们看到在列表迭代器中多了三个方法，那么这三个方法都分别做了什么事呢？

iter_l = [1,2,3,4,5,6].__iter__()
#获取迭代器中元素的长度
print(iter_l.__length_hint__())
#根据索引值指定从哪里开始迭代
print(iter_l.__setstate__(4))
#一个一个的取值
print(iter_l.__next__())
print(iter_l.__next__())

打印结果：
6
None
5
6

这三个方法中，能让我们一个一个取值的神奇方法是谁？

没错！就是__next__

在for循环中，就是在（数据类型调用__iter__方法后生成的迭代器）内部调用了__next__方法才能取到一个一个的值。

l = [1,2,3,4]
l_iter = l.__iter__()
item = l_iter.__next__()
print(item)                    # 1
item = l_iter.__next__()
print(item)                    # 2
item = l_iter.__next__()
print(item)                    # 3
item = l_iter.__next__()
print(item)                    # 4
item = l_iter.__next__()
print(item)　　　　　　　　　　　　# 抛出一个异常StopIteration

 这是一段会报错的代码，如果我们一直取next取到迭代器里已经没有元素了，就会抛出一个异常StopIteration，告诉我们，列表中已经没有有效的元素了。

这个时候，我们就要使用异常处理机制来把这个异常处理掉。

l = [1,2,3,4]
l_iter = l.__iter__()
while True:
    try:
        item = l_iter.__next__()
        print(item)
    except StopIteration:
        break

那现在我们就使用while循环实现了原本for循环做的事情，我们是从谁那儿获取一个一个的值呀？是不是就是l_iter？好了，这个l_iter就是一个迭代器。

迭代器遵循迭代器协议：必须拥有__iter__方法和__next__方法。

from collections import Iterator
print(isinstance(range(100000000),Iterator))  #验证range执行之后得到的结果不是一个迭代器

 可迭代的对象调用__iter__方法后就是迭代器，如 [1,2].__iter__就是一个迭代器（拥有__iter__和__next__方法）

                                                          为什么要用for循环？                                                    

基于上面讲的列表这一大堆遍历方式，聪明的你立马看除了端倪，于是你不知死活大声喊道，你这不逗我玩呢么，有了下标的访问方式，我可以这样遍历一个列表啊

l=[1,2,3]

index=0
while index < len(l):
    print(l[index])
    index+=1

#要毛线for循环，要毛线可迭代，要毛线迭代器

没错，序列类型字符串，列表，元组都有下标，你用上述的方式访问，perfect！但是你可曾想过非序列类型像字典，集合，文件对象的感受，所以嘛，年轻人，for循环就是基于迭代器协议提供了一个统一的可以遍历所有对象的方法，即在遍历之前，先调用对象的__iter__方法将其转换成一个迭代器，然后使用迭代器协议（调用__next__方法一个一个取值）去实现循环访问，这样所有的对象就都可以通过for循环来遍历了，而且你看到的效果也确实如此，这就是无所不能的for循环，觉悟吧，年轻人

                                  生成器                               

迭代器有的好处是可以节省内存。如果在某些情况下，我们也需要节省内存，就只能自己写。我们自己写的这个能实现迭代器功能的叫生成器。

Python中提供的生成器：

1.生成器函数：常规函数定义，但是，使用yield语句而不是return语句返回结果。yield语句一次返回一个结果，在每个结果中间，挂起函数的状态，以便下次重它离开的地方继续执行

2.生成器表达式：类似于列表推导，但是，生成器返回按需产生结果的一个对象，而不是一次构建一个结果列表

生成器Generator：

　　本质：迭代器(所以自带了__iter__方法和__next__方法，不需要我们去实现)

　　特点：惰性运算,开发者自定义

 生成器函数                          

一个包含yield关键字的函数就是一个生成器函数。yield可以为我们从函数中返回值，但是yield又不同于return，return的执行意味着程序的结束，调用生成器函数不会得到返回的具体的值，而是得到一个可迭代的对象。每一次获取这个可迭代对象的值，就能推动函数的执行，获取新的返回值。直到函数执行结束。

import time
def genrator_fun1():
    a = 1
    print('现在定义了a变量')
    yield a
    b = 2
    print('现在又定义了b变量')
    yield b

g1 = genrator_fun1()
print('g1 : ',g1)       #打印g1可以发现g1就是一个生成器
print('-'*20)   #我是华丽的分割线
print(next(g1))
time.sleep(1)   #sleep一秒看清执行过程
print(next(g1))


打印结果：

g1 :  <generator object genrator_fun1 at 0x007C3BA0>
--------------------
现在定义了a变量
1
现在又定义了b变量
2

生成器有什么好处呢？就是不会一下子在内存中生成太多数据

def produce():
    """生产衣服"""
    for i in range(2000000):
        yield "生产了第%s件衣服"%i

product_g = produce()
print(product_g.__next__()) #要一件衣服
print(product_g.__next__()) #再要一件衣服
print(product_g.__next__()) #再要一件衣服
num = 0
for i in product_g:         #要一批衣服，比如5件
    print(i)             # for循环会自动调用__next__方法，所以不用写i.__next__
    num +=1
    if num == 5:
        break

打印结果：

生产了第0件衣服
生产了第1件衣服
生产了第2件衣服
生产了第3件衣服
生产了第4件衣服
生产了第5件衣服
生产了第6件衣服
生产了第7件衣服

send 的用法：

def generator():
    print(123)
    content = yield 1
    print('=======',content)
    print(456)
    yield 2

g = generator()
ret = g.__next__()
print('***',ret)
ret = g.send('hello')   #send的效果和next一样
print('***',ret)

打印结果：

123
*** 1
======= hello
456
*** 2



#send 获取下一个值的效果和next基本一致
#只是在获取下一个值的时候，给上一yield的位置传递一个数据
#使用send的注意事项
    # 第一次使用生成器的时候 是用next获取下一个值
    # 最后一个yield不能接受外部的值

yield from 的用法

def gen1():
    for c in 'AB':
        yield c
    for i in range(3):
        yield i

print(list(gen1()))

def gen2():
    yield from 'AB'
    yield from range(3)

print(list(gen2()))

打印结果：

['A', 'B', 0, 1, 2]
['A', 'B', 0, 1, 2]

 列表推导式和生成器表达式                     

#老男孩由于峰哥的强势加盟很快走上了上市之路,alex思来想去决定下几个鸡蛋来报答峰哥

egg_list=['鸡蛋%s' %i for i in range(10)] #列表解析

#峰哥瞅着alex下的一筐鸡蛋,捂住了鼻子,说了句:哥,你还是给我只母鸡吧,我自己回家下

laomuji=('鸡蛋%s' %i for i in range(10))#生成器表达式
print(laomuji)
print(next(laomuji)) #next本质就是调用__next__
print(laomuji.__next__())
print(next(laomuji))

打印结果：

<generator object <genexpr> at 0x03463E10>
鸡蛋0
鸡蛋1
鸡蛋2

总结：

1.把列表解析的[]换成()得到的就是生成器表达式

2.列表解析与生成器表达式都是一种便利的编程方式，只不过生成器表达式更节省内存

3.Python不但使用迭代器协议，让for循环变得更加通用。大部分内置函数，也是使用迭代器协议访问对象的。例如， sum函数是Python的内置函数，该函数使用迭代器协议访问对象，而生成器实现了迭代器协议，所以，我们可以直接这样计算一系列值的和：

sum(x ** 2 for x in range(4))

而不用多此一举的先构造一个列表：

sum([x ** 2 for x in range(4)]) 

本章小结：

可迭代对象：

　　拥有__iter__方法

　　特点：惰性运算

　　例如:range(),str,list,tuple,dict,set

迭代器Iterator：

　　拥有__iter__方法和__next__方法

　　特点：节省内存

　　例如:iter(range()),iter(str),iter(list),iter(tuple),iter(dict),iter(set),reversed(list_o),map(func,list_o),filter(func,list_o),file_o

生成器Generator：

　　本质：迭代器，所以拥有__iter__方法和__next__方法

　　特点：惰性运算,开发者自定义

使用生成器的优点：

1.延迟计算，一次返回一个结果。也就是说，它不会一次生成所有的结果，这对于大数据量处理，将会非常有用。

#列表解析
sum([i for i in range(100000000)])#内存占用大,机器容易卡死
 
#生成器表达式
sum(i for i in range(100000000))#几乎不占内存

2.提高代码可读性

生成器相关的面试题

生成器在编程中发生了很多的作用，善用生成器可以帮助我们解决很多复杂的问题

除此之外，生成器也是面试题中的重点，在完成一些功能之外，人们也想出了很多魔性的面试题。
接下来我们就来看一看：

# 面试题注意::::::::::::
# 面试题一: 一个生成器只能取一次值
# 面试题二 生成器在不找它要值的时候始终不执行
# 当它执行的时候,要以执行时候的所有变量值为准

# 面试题一: 一个生成器只能取一次值
def demo(): # 1- 定义生成器函数demo
    for i in range(4):
        yield i

g=demo() # 2- 调用demo函数，不会执行这个函数中的代码，只会获得一个生成器（迭代器）

g1=(i for i in g) # 3- 本质是利用生成器表达式创建生成器函数，不会执行这个函数中的代码，只会获得一个生成器（迭代器）
g2=(i for i in g1) # 4- 本质是利用生成器表达式创建生成器函数，不会执行这个函数中的代码，只会获得一个生成器（迭代器）

print(list(g1)) # 5- 开始取值，向g1要值，g1是一个生成器，g1向g要值，g也是一个生成器，g向demo要值，demo会给g1 -- 0,1,2,3
print(list(g2)) # 6- g2是一个生成器，向g1要值，g1向g要值，g也是一个生成器，g向demo要值，此时demo中的值已经被取完了
# [0, 1, 2, 3]
# []

# 面试题二 生成器在不找它要值的时候始终不执行
# 当它执行的时候,要以执行时候的所有变量值为准
def add(n,i):
    return n+i

def test():
    for i in range(4):
        yield i

g=test()

for n in [1,10]:
    g=(add(n,i) for i in g)

print(list(g))

# 将for循环转化为非循环代码
# for n in [1,10]:
#     g=(add(n,i) for i in g)
# 转化为
# n = 1
# g=(add(n,i) for i in g)
# n = 10
# g=(add(n,i) for i in g)
# 因为生成器表达式只是创建生成器函数，***不会执行这个函数中的代码***
# 只会获得一个生成器（迭代器）g，这个g就是n=10的时候括号里for循环中的g
# 所以list(g)中的g为n=10的时候的值，下面是推导过程
n = 10
# g=(add(n,i) for i in g)
# g=(add(n,i) for i in (add(n,i) for i in test()))
# g=(add(n,i) for i in (add(n,i) for i in [0,1,2,3]))
# g=(add(10,i) for i in (add(10,i) for i in [0,1,2,3]))
# g=(add(10,i) for i in (10,11,12,13))
# g=(20,21,22,23)
# print(list(g))
# [20, 21, 22, 23]