zoukankan      html  css  js  c++  java
  • 通过生成器节约内存 列表生成式 迭代器 可迭代对象 惰性计算

    知识点1

    列表生成式

    # 列表生成式
    [i ** 2 for i in range(1, 11)]
    # 加入判断条件
    [i ** 2 for i in range(1, 11) if i % 3 == 0]
    # 加入循环
    [i + j for i in 'abcd' for j in 'xyz']
    [i + j + k for i in 'abcd' for j in 'xyz' for k in '12345']
    # 获取字典dict k-v
    [k + '=>' + str(v) for k, v in {'a': 123, 'b': 456}.items()]

    # if-else
    [i ** 2 if i%2==0 else i+100 for i in range(1, 11)]
    import re

    l = ['a', 'b1']

    ll = [i if re.search('d', i) is None else i[0:re.search('d', i).endpos - 1] for i in l]




    通过列表生成式,我们可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。

    所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。在Python中,这种一边循环一边计算的机制,称为生成器:generator。

    要创建一个generator,有很多种方法。第一种方法很简单,只要把一个列表生成式的[]改成(),就创建了一个generator

    
    
    
    

    # 生成器
    g = (x ** 2 if x % 3 == 0 else x + 1000 for x in range(20))
    # <generator object <genexpr> at 0x0000000003217A50> 生成器对象
    next(g)


    def odd():
    print('step1')
    yield 1
    print('step2')
    yield 3
    print('step3')
    yield 5


    o = odd()
    next(o)
    next(o)
    # 我们创建了一个generator后,基本上永远不会调用next(),而是通过for循环来迭代它,并且不需要关心StopIteration的错误。
    for i in o:
    print(1)

    o1 = odd()
    for i in o1:
    print(1)


    def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
    print(b)
    a, b = b, a + b
    n += 1
    print('n=', n, ',b=', b)
    return 'done'


    fib(6)


    # 推算规则转换成生成器
    # fib函数实际上是定义了斐波拉契数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。
    #
    # 也就是说,上面的函数和generator仅一步之遥。
    def fib_g(max):
    n, a, b = 0, 0, 1
    while n < max:
    yield b
    a, b = b, a + b
    n += 1
    return 'done'


    f_g = fib_g(6)
    for i in range(7):
    r = next(f_g)
    print('i=',i,'r=',r)



    1
    n= 1 ,b= 1
    1
    n= 2 ,b= 2
    2
    n= 3 ,b= 3
    3
    n= 4 ,b= 5
    5
    n= 5 ,b= 8
    8
    n= 6 ,b= 13
    i= 0 r= 1
    i= 1 r= 1
    i= 2 r= 2
    i= 3 r= 3
    i= 4 r= 5
    i= 5 r= 8
    Traceback (most recent call last):
    File "D:/testPy/列表生成式+生成器.py", line 75, in <module>
    r = next(f_g)
    StopIteration: done

     练习题

    杨辉三角定义如下:

              1
             / 
            1   1
           /  / 
          1   2   1
         /  /  / 
        1   3   3   1
       /  /  /  / 
      1   4   6   4   1
     /  /  /  /  / 
    1   5   10  10  5   1
    

    把每一行看做一个list,试写一个generator,不断输出下一行的list

    MAX = 100

    def triangles():
    yield [1]
    yield [1, 1]
    pre = [1, 1]
    i = 0
    while i < MAX:
    l = []
    for i in range(len(pre) - 1):
    l.append(pre[i] + pre[i + 1])
    l = [1] + l + [1]
    yield l
    pre = l
    i += 1


    t = triangles()
    for i in range(10):
    r = next(t)
    print(r)




    '''
    区分
    可迭代对象 Iterable
    迭代器 Iterator
    '''

    from collections import Iterable,Iterator

    isinstance([],Iterable)
    isinstance({},Iterable)
    isinstance('abc',Iterable)
    isinstance((1,2,3),Iterable)
    isinstance((x for x in range(10)),Iterable)

    isinstance([],Iterator)
    isinstance({},Iterator)
    isinstance('abc',Iterator)
    isinstance((1,2,3),Iterator)
    isinstance((x for x in range(10)),Iterator)

    isinstance(iter([]),Iterator)
    isinstance(iter({}),Iterator)
    isinstance(iter('abc'),Iterator)
    isinstance(iter((1,2,3)),Iterator)
    isinstance(iter((x for x in range(10))),Iterator)

    '''
    @
    可以直接作用于for循环的数据类型有以下几种:

    一类是集合数据类型,如list、tuple、dict、set、str等;

    一类是generator,包括生成器和带yield的generator function。

    这些可以直接作用于for循环的对象统称为可迭代对象:Iterable。

    可以使用isinstance()判断一个对象是否是Iterable对象


    @
    而生成器不但可以作用于for循环,还可以被next()函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回下一个值了。

    可以被next()函数调用并不断返回下一个值的对象称为迭代器:Iterator。

    可以使用isinstance()判断一个对象是否是Iterator对象

    @
    生成器都是Iterator对象,但list、dict、str虽然是Iterable,却不是Iterator。

    把list、dict、str等Iterable变成Iterator可以使用iter()函数

    @
    你可能会问,为什么list、dict、str等数据类型不是Iterator?

    这是因为Python的Iterator对象表示的是一个数据流,Iterator对象可以被next()函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next()函数实现按需计算下一个数据,所以Iterator的计算是惰性的,只有在需要返回下一个数据时它才会计算。

    Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。



    '''



    Python yield 使用浅析 https://www.ibm.com/developerworks/cn/opensource/os-cn-python-yield/index.html

    另一个例子

    另一个 yield 的例子来源于文件读取。如果直接对文件对象调用 read() 方法,会导致不可预测的内存占用。好的方法是利用固定长度的缓冲区来不断读取文件内容。通过 yield,我们不再需要编写读文件的迭代类,就可以轻松实现文件读取:

    清单 9. 另一个 yield 的例子
    1
    2
    3
    4
    5
    6
    7
    8
    9
    def read_file(fpath):
       BLOCK_SIZE = 1024
       with open(fpath, 'rb') as f:
           while True:
               block = f.read(BLOCK_SIZE)
               if block:
                   yield block
               else:
                   return

    以上仅仅简单介绍了 yield 的基本概念和用法,yield 在 Python 3 中还有更强大的用法,我们会在后续文章中讨论。

    def _int_iter():
    '''
    生成器,生成从3开始的无限奇数序列
    :return:
    '''
    n = 1
    while True:
    n = n + 2
    yield n


    def _not_divisible(n):
    '''
    定义筛选函数
    :param n:
    :return:
    '''
    return lambda x: x % n > 0


    def primes():
    # 先返回一个2
    yield 2
    # 初始序列
    it = _int_iter()
    while True:
    n = next(it)
    yield n
    it = filter(_not_divisible(n), it)


    g = primes()
    for n in g:
    if n < 100:
    print(n)
    else:
    break


    https://baike.baidu.com/item/埃拉托色尼筛选法
    filter - 廖雪峰的官方网站 https://www.liaoxuefeng.com/wiki/1016959663602400/1017404530360000





























  • 相关阅读:
    SQLServer 知识点
    Entity转换为ViewModel时提供的一种转换方法
    Linq中IGrouping转换为IQueryable
    封装整形属性时对应到枚举
    新的转换列表方式
    工作态度
    EasyFrame
    NewCloud
    将博客搬至CSDN
    Html的语义化
  • 原文地址:https://www.cnblogs.com/rsapaper/p/6782776.html
Copyright © 2011-2022 走看看