Python之路

本节大纲

1. 迭代器&生成器
2. 装饰器
   1. 基本装饰器
   2. 多参数装饰器
3. 递归
4. 算法基础：二分查找、二维数组转换
5. 正则表达式
6. 常用模块学习
7. 作业：计算器开发
   1. 实现加减乘除及拓号优先级解析
   2. 用户输入 1 - 2 * ( (60-30 +(-40/5) * (9-25/3 + 7 /399/42998 +10 * 568/14 )) - (-43)/ (16-32) )等类似公式后，必须自己解析里面的(),+,-,,/符号和公式，运算后得出结果，结果必须与真实的计算器所得出的结果一致

迭代器&生成器

迭代器 iterator
迭代器是访问集合元素的一种方式。迭代器对象从集合的第一个元素开始访问，直到所有的元素被访问完毕。迭代器只能往前不会后退，不过这也没什么，因为人们很少在迭代途中往后退。另外，迭代器的一大优点是不要求事先准备好整个迭代过程中所有的元素。迭代器仅仅在迭代到某个元素时才计算该元素，而在这之前或之后，元素可以不存在或者被销毁。这个特点使得它特别适用于遍历一些巨大的或是无限的集合，比如几个G的文件

特点：

1. 访问者不需要关心迭代器内部的结构，仅需通过next()方法不断去取下一个内容
2. 不能随机访问集合中的某个值 ，只能从头到尾依次访问
3. 访问过程中不能往回退
4. 便于循环比较大的数据集合，节省内存

生成一个迭代器：

>>> a = iter([1,2,3,4,5])
>>> a
<list_iterator object at 0x00000000006B3AC8>
>>> a.__next__()
1
>>> a.__next__()
2
>>> a.__next__()
3
>>> a.__next__()
4
>>> a.__next__()
5
>>> a.__next__()
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
StopIteration

文档摘要

Repeated calls to the iterator’s __next__() method (or passing it to the built-in function next()) return successive items in the stream. 
When no more data are available a StopIteration exception is raised instead. 
At this point, the iterator object is exhausted and any further calls to its __next__() method just raise StopIteration again.

生成器 generator
定义：一个函数被调用时返回一个迭代器，那这个函数就叫做生成器（generator）。如果函数中包含yield语法，那这个函数就会变成生成器

def cash_out(amount):
    while amount >0:
        amount -= 1
        yield 1        #print("擦，又来取钱了。。。败家子！")
 
 
 
ATM = cash_out(5)
 
print("取到钱 %s 万" % ATM.__next__())
print("花掉花掉!")
print("取到钱 %s 万" % ATM.__next__())
print("花掉花掉!")
print("取到钱 %s 万" % ATM.__next__())
print("花掉花掉!")
print("取到钱 %s 万" % ATM.__next__())
print("花掉花掉!")
print("取到钱 %s 万" % ATM.__next__())
print("花掉花掉!")
print("取到钱 %s 万" % ATM.__next__()) #到这时钱就取没了,再取就报错了

输出：
取到钱 1 万
花掉花掉!
取到钱 1 万
花掉花掉!
取到钱 1 万
花掉花掉!
取到钱 1 万
花掉花掉!
取到钱 1 万
花掉花掉!
Traceback (most recent call last):
  File "py.py", line 20, in <module>
    print("取到钱 %s 万" % ATM.__next__()) #到这时钱就取没了,再取就报错了
StopIteration

作用：

这个yield的主要效果呢，就是可以使函数中断，并保存中断状态，中断后，代码可以继续往下执行，过一段时间还可以再重新调用这个函数，从上次yield的下一句开始执行。

另外，还可通过yield在单线程的情况下实现并发运算的效果

import time
def consumer(name):
    print("%s 准备吃包子啦!" %name)
    while True:
       baozi = yield
 
       print("包子[%s]来了,被[%s]吃了!" %(baozi,name))
 
def producer(name):
    c = consumer('A')
    c2 = consumer('B')
    c.__next__()
    c2.__next__()
    print("老子开始准备做包子啦!")
    for i in range(3):
        time.sleep(1)
        print("做了2个包子!")
        c.send(i)
        c2.send(i)
 
producer("alex")
# 输出
A 准备吃包子啦!
B 准备吃包子啦!
老子开始准备做包子啦!
做了2个包子!
包子[0]来了,被[A]吃了!
包子[0]来了,被[B]吃了!
做了2个包子!
包子[1]来了,被[A]吃了!
包子[1]来了,被[B]吃了!
做了2个包子!
包子[2]来了,被[A]吃了!
包子[2]来了,被[B]吃了!

装饰器

直接 看银角大王写的文档 http://www.cnblogs.com/wupeiqi/articles/4980620.html

递归

特点
递归算法是一种直接或者间接地调用自身算法的过程。在计算机编写程序中，递归算法对解决一大类问题是十分有效的，它往往使算法的描述简洁而且易于理解。
递归算法解决问题的特点：
(1) 递归就是在过程或函数里调用自身。
(2) 在使用递归策略时，必须有一个明确的递归结束条件，称为递归出口。
(3) 递归算法解题通常显得很简洁，但递归算法解题的运行效率较低。所以一般不提倡用递归算法设计程序。
(4) 在递归调用的过程当中系统为每一层的返回点、局部变量等开辟了栈来存储。递归次数过多容易造成栈溢出。所以一般不提倡用递归算法设计程序。

要求
递归算法所体现的“重复”一般有三个要求：

1. 一是每次调用在规模上都有所缩小(通常是减半)；
2. 二是相邻两次重复之间有紧密的联系，前一次要为后一次做准备(通常前一次的输出就作为后一次的输入)；
3. 三是在问题的规模极小时必须用直接给出解答而不再进行递归调用，因而每次递归调用都是有条件的(以规模未达到直接解答的大小为条件)，无条件递归调用将会成为死循环而不能正常结束。

实现

1. 通过递归实现二分查找
   　　现有列表 primes = [2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97]， 要求尔等 用最快的方式 找出23 。 请Low B, Low 2B ,Low 3B 三个同学来回答这个问题。
   　　Low B: 这个很简单，直接用 if 23 in primes:print("found it!") , 话音未落就被老师打了，让你自己实现，不是让你用现成的功能， Low B于是说，那只能从头开始一个个数了，然后Low B被 开除了。。。
   　　Low 2B: 因为这个列表是有序的， 我可以把列表从中截取一半，大概如下：
   　　　　p1 = [2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37,41]
   　　　　p2 = [43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97]
   　　　　然后看p1[-1]也就是41是否比23大， 如果比23大就代表23肯定在p1里面，否则那就肯定在p2里面。现在我们知道23比41小，所以23肯定在p1里，但p1里依然有很多元素， 怎么找到23呢？很简单，依然按上一次的方法，把p1分成两部分，如下：
   　　　　p1_a = [2, 3, 5, 7, 11, 13,17]
   　　　　p1_b = [19, 23, 29, 31, 37,41]
   　　　　然后我们发现，23 比p1_a最后一个值 17 大，那代表23肯定在p1_b中， p1_b中依然有很多元素，那就再按之前的方法继续分半，最终用不了几次，肯定就把23找出来了！
   　　　　说完，Low 2B满有成就感的甩了下头上的头皮屑。
   　　老师：很好，确实较Low B的方案强很多。 然后转头问Low 3B ，你有更好的想法么？
   Low 3B: 啊。。。噢 ，我。。。我跟Low 2B的想法一样，结果被他说了。
   老师：噢，那你帮我把代码写出来吧。
   Low 3B此时冷汗直冒，因为他根本没思路，但还是硬着头皮去写了。。。虽然自己没思路，但谷歌会呀，三个小时过去了，终于憋出了以下代码：

def binary_search(data_list, find_num):
    mid_pos = int(len(data_list) /2 ) #find the middle position of the list
    mid_val = data_list[mid_pos] # get the value by its position
    print(data_list)
    if len(data_list) > 1:
        if mid_val > find_num: # means the find_num is in left hand of mid_val
            print("[%s] should be in left of [%s]" %(find_num,mid_val))
            binary_search(data_list[:mid_pos],find_num)
        elif mid_val < find_num: # means the find_num is in the right hand of mid_val
            print("[%s] should be in right of [%s]" %(find_num,mid_val))
            binary_search(data_list[mid_pos+1:],find_num)
        else: # means the mid_val == find_num
            print("Find ", find_num)
 
    else:
        print("cannot find [%s] in data_list" %find_num)
 
if __name__ == '__main__':
    primes = [2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97]
    binary_search(primes,23)
# 输出
[2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97]
[23] should be in left of [41]
[2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37]
[23] should be in right of [17]
[19, 23, 29, 31, 37]
[23] should be in left of [29]
[19, 23]
Find  23

后面的故事我就不编下去啦，哈哈！but anyway, 以上就是典型的递归用法，在程序里自己调用自己。

算法基础

要求：生成一个4*4的二维数组并将其顺时针旋转90度

array=[[col for col in range(4)] for row in range(4)] #初始化一个4*4数组
 
for row in array: #旋转前先看看数组长啥样
    print(row)
 
print('-------------')
for i,row in enumerate(array):
 
    for index in range(i,len(row)):
        tmp = array[index][i] #get each row's data by column's index
        array[index][i] = array[i][index] #
        print(tmp,array[i][index])  #
        array[i][index] = tmp
    for r in array: 
        print(r)
 
    print('--one big loop --')
# 输出
[0, 1, 2, 3]
[0, 1, 2, 3]
[0, 1, 2, 3]
[0, 1, 2, 3]
-------------
0 0
0 1
0 2
0 3
[0, 0, 0, 0]
[1, 1, 2, 3]
[2, 1, 2, 3]
[3, 1, 2, 3]
--one big loop --
1 1
1 2
1 3
[0, 0, 0, 0]
[1, 1, 1, 1]
[2, 2, 2, 3]
[3, 3, 2, 3]
--one big loop --
2 2
2 3
[0, 0, 0, 0]
[1, 1, 1, 1]
[2, 2, 2, 2]
[3, 3, 3, 3]
--one big loop --
3 3
[0, 0, 0, 0]
[1, 1, 1, 1]
[2, 2, 2, 2]
[3, 3, 3, 3]
--one big loop --

冒泡排序
将一个不规则的数组按从小到大的顺序进行排序

data = [10,4,33,21,54,3,8,11,5,22,2,1,17,13,6]
 
print("before sort:",data)
 
previous = data[0]
for j in range(len(data)):
    tmp = 0
    for i in range(len(data)-1):
        if data[i] > data[i+1]:
            tmp=data[i]
            data[i] = data[i+1]
            data[i+1] = tmp
    print(data)
 
print("after sort:",data)
# 输出
before sort: [10, 4, 33, 21, 54, 3, 8, 11, 5, 22, 2, 1, 17, 13, 6]
[4, 10, 21, 33, 3, 8, 11, 5, 22, 2, 1, 17, 13, 6, 54]
[4, 10, 21, 3, 8, 11, 5, 22, 2, 1, 17, 13, 6, 33, 54]
[4, 10, 3, 8, 11, 5, 21, 2, 1, 17, 13, 6, 22, 33, 54]
[4, 3, 8, 10, 5, 11, 2, 1, 17, 13, 6, 21, 22, 33, 54]
[3, 4, 8, 5, 10, 2, 1, 11, 13, 6, 17, 21, 22, 33, 54]
[3, 4, 5, 8, 2, 1, 10, 11, 6, 13, 17, 21, 22, 33, 54]
[3, 4, 5, 2, 1, 8, 10, 6, 11, 13, 17, 21, 22, 33, 54]
[3, 4, 2, 1, 5, 8, 6, 10, 11, 13, 17, 21, 22, 33, 54]
[3, 2, 1, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
[2, 1, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
[1, 2, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
[1, 2, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
[1, 2, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
[1, 2, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
[1, 2, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]
after sort: [1, 2, 3, 4, 5, 6, 8, 10, 11, 13, 17, 21, 22, 33, 54]

时间复杂度
（1）时间频度 一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知道。但我们不可能也没必要对每个算法都上机测试，只需知道哪个算法花费的时间多，哪个算法花费的时间少就可以了。并且一个算法花费的时间与算法中语句的执行次数成正比。一个算法中的语句执行次数称为语句频度或时间频度。记为T(n)。
（2）时间复杂度 在刚才提到的时间频度中，n称为问题的规模，当n不断变化时，时间频度T(n)也会不断变化。但有时我们想知道它变化时呈现什么规律。为此，我们引入时间复杂度概念。 一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n),使得当n趋近于无穷大时，T(n)/f(n)的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数。记作T(n)=Ｏ(f(n)),称Ｏ(f(n)) 为算法的渐进时间复杂度，简称时间复杂度。

指数时间
指的是一个问题求解所需要的计算时间m(n)，依输入数据的规模n而呈指数成长（即输入数据的数量依线性成长，所花的时间将会以指数成长）

for (i=1; i<=n; i++)
       x++;
for (i=1; i<=n; i++)
    　for (j=1; j<=n; j++)
          x++;

第一个for循环的时间复杂度为Ο(n)，第二个for循环的时间复杂度为Ο(n^{2)，则整个算法的时间复杂度为Ο(n+n}2)=Ο(n^2)。

常数时间
若对于一个算法，T(n)的上界与输入规模无关，则称其具有常数时间，记作O(1)时间。一个例子是访问数组中的单个元素，因为访问它只需要一条指令。但是，找到无序数组中的最小元素则不是，因为这需要遍历所有元素来找出最小值。这是一项线性时间的操作，或称O(n)时间。但如果预先知道元素的数量并假设数量保持不变，则该操作也可被称为具有常数时间。

对数时间

若算法的T(n) = O(log n)，则称其具有对数时间

常见的具有对数时间的算法有二叉树的相关操作和二分搜索。

对数时间的算法是非常有效的，因为每增加一个输入，其所需要的额外计算时间会变小。

递归地将字符串砍半并且输出是一个简单例子。它需要O（log n）的时间是因为每次输出之前我们都将字符串砍半。 这意味着，如果我们想增加输出的次数，则需要将字符串长度加倍。

线性时间　
如果一个算法的时间复杂度为O(n)，则称这个算法具有线性时间，或O(n)时间。非正式地说，这意味着对于足够规模的输入，运行时间的多少与输入的规模成线性关系。例如，计算列表所有元素的和的程序，需要的时间与列表的长度成正比。

正则表达式

import re 
p = re.compile("^[0-9]")  #生成要匹配的正则对象 ， ^代表从开头匹配，[0-9]代表匹配0至9的任意一个数字， 所以这里的意思是对传进来的字符串进行匹配，如果这个字符串的开头第一个字符是数字，就代表匹配上了
m = p.match('14534Abc')   #按上面生成的正则对象 去匹配 字符串， 如果能匹配成功，这个m就会有值， 否则m为
if m:
    print(m.group())          #m.group()返回匹配上的结果，此处为1，因为匹配上的是1这个字符
else:
    print("It doesn't match.")

上面的第2 和第3行也可以合并成一行来写：

m = re.match("^[0-9]",'14534Abc')

效果是一样的，区别在于，第一种方式是提前对要匹配的格式进行了编译（对匹配格式进行解析），这样再去匹配的时候就不用再编译匹配的格式，第2种简写是每次匹配的时候 都要进行一次匹配格式的编译，所以，如果你需要从一个5万行的文件中匹配出所有以数字开头的行，建议先把正则表达式进行编译再匹配，这样速度会快点。

模式	描述
^	匹配字符串的开头
$	匹配字符串的末尾。
.	匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。
[...]	用来表示一组字符,单独列出：[amk] 匹配 'a'，'m'或'k'
[^...]	不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。
re*	匹配0个或多个的表达式。
re+	匹配1个或多个的表达式。
re?	匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
re{n}
re{n,}	精确匹配n个前面表达式。
re{n, m}	匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式
a|b	匹配a或b
(re)	匹配括号内的表达式，也表示一个组
(?imx)	正则表达式包含三种可选标志：i, m, 或 x 。只影响括号中的区域。
(?-imx)	正则表达式关闭 i, m, 或 x 可选标志。只影响括号中的区域。
(?: re)	类似 (...), 但是不表示一个组
(?imx: re)	在括号中使用i, m, 或 x 可选标志
(?-imx: re)	在括号中不使用i, m, 或 x 可选标志
(?#...)	注释
(?= re)	前向肯定界定符。如果所含正则表达式，以 ... 表示，在当前位置成功匹配时成功，否则失败。但一旦所含表达式已经尝试，匹配引擎根本没有提高；模式的剩余部分还要尝试界定符的右边。
(?! re)	前向否定界定符。与肯定界定符相反；当所含表达式不能在字符串当前位置匹配时成功
(?> re)	匹配的独立模式，省去回溯。
w	匹配字母数字
W	匹配非字母数字
s	匹配任意空白字符，等价于 [ f].
S	匹配任意非空字符
d	匹配任意数字，等价于 [0-9].
D	匹配任意非数字
A	匹配字符串开始
	匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串。c
z	匹配字符串结束
G	匹配最后匹配完成的位置。
	匹配一个单词边界，也就是指单词和空格间的位置。例如， 'er' 可以匹配"never" 中的 'er'，但不能匹配 "verb" 中的 'er'。
B	匹配非单词边界。'erB' 能匹配 "verb" 中的 'er'，但不能匹配 "never" 中的 'er'。
, , 等	匹配一个换行符。匹配一个制表符。等
1...9	匹配第n个分组的子表达式。
10	匹配第n个分组的子表达式，如果它经匹配。否则指的是八进制字符码的表达式。

正则表达式常用5种操作
re.match(pattern, string)　　　　 # 从头匹配
re.search(pattern, string)　　　　# 匹配整个字符串，直到找到一个匹配
re.split()　　　　　　　　　　　　# 将匹配到的格式当做分割点把字符串分割成列表

import re
m = re.split("[0-9]", "alex1rain2jack3helen rachel8")
print(m)
#output
['alex', 'rain', 'jack', 'helen rachel', '']

re.findall()　　　　　　　　　　# 找到所有要匹配的字符并返回列表格式

>>> m = re.findall("[0-9]", "alex1rain2jack3helen rachel8")
>>> print(m)
['1', '2', '3', '8']

re.sub(pattern, repl, string, count, flag) 　　　# 替换匹配到的字符

>>> m=re.sub("[0-9]","|", "alex1rain2jack3helen rachel8",count=2)
>>> print(m)
alex|rain|jack3helen rachel8

正则表达式实例
字符匹配

实例 |描述
python |匹配 "python".

字符类

实例 |描述
[Pp]ython |匹配 "Python" 或 "python"
rub[ye] |匹配 "ruby" 或 "rube"
[aeiou] |匹配中括号内的任意一个字母
[0-9] |匹配任何数字。类似于 [0123456789]
[a-z] |匹配任何小写字母
[A-Z] |匹配任何大写字母
[a-zA-Z0-9] |匹配任何字母及数字
[^aeiou] |除了aeiou字母以外的所有字符
[^0-9] |匹配除了数字外的字符

特殊字符类

实例 |描述
. |匹配除 " " 之外的任何单个字符。要匹配包括 ' ' 在内的任何字符，请使用象 '[. ]' 的模式。
d |匹配一个数字字符。等价于 [0-9]。
D |匹配一个非数字字符。等价于 [^0-9]。
s |匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ f v]。
S |匹配任何非空白字符。等价于 [^ f v]。
w |匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。
W |匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。

re.match与re.search的区别
re.match只匹配字符串的开始，如果字符串开始不符合正则表达式，则匹配失败，函数返回None；而re.search匹配整个字符串，直到找到一个匹配。

Regular Expression Modifiers: Option Flags
Regular expression literals may include an optional modifier to control various aspects of matching. The modifiers are specified as an optional flag.
You can provide multiple modifiers using exclusive OR (|), as shown previously and may be represented by one of these

Modifier |Description
re.I |Performs case-insensitive matching.
re.L |Interprets words according to the current locale. This interpretation affects the alphabetic group (w and W), as well as word boundary behavior ( and B).
re.M |Makes $ match the end of a line (not just the end of the string) and makes ^ match the start of any line (not just the start of the string).
re.S |Makes a period (dot) match any character, including a newline.
re.U |Interprets letters according to the Unicode character set. This flag affects the behavior of w, W, , B.
re.X |Permits "cuter" regular expression syntax. It ignores whitespace (except inside a set [] or when escaped by a backslash) and treats unescaped # as a comment marker.

几个常见正则例子：
匹配手机号

import re
phone_str = "hey my name is alex, and my phone number is 13651054607, please call me if you are pretty!"
phone_str2 = "hey my name is alex, and my phone number is 18651054604, please call me if you are pretty!"
 
m = re.search("(1)([358]d{9})",phone_str2)
if m:
    print(m.group())

匹配IP V4

import re
ip_addr = "inet 192.168.60.223 netmask 0xffffff00 broadcast 192.168.60.255"
m = re.search("d{1,3}.d{1,3}.d{1,3}.d{1,3}", ip_addr)
print(m.group())

分组匹配地址　

>>> contactInfo = 'Oldboy_School, Beijing_Changping_Shahe: 010-8343245'
>>> match = re.search(r'(w+), (w+): (S+)', contactInfo) #分组
>>> match
<_sre.SRE_Match object; span=(0, 51), match='Oldboy_School, Beijing_Changping_Shahe: 010-83432>
>>> match.group(1)
'Oldboy_School'
>>> match.group(2)
'Beijing_Changping_Shahe'
>>> match.group(3)
'010-8343245'

>>> match = re.search(r'(?P<last>w+), (?P<first>w+): (?P<phone>S+)', contactInfo)
>>> match
<_sre.SRE_Match object; span=(0, 51), match='Oldboy_School, Beijing_Changping_Shahe: 010-83432>
>>> match.group(1)
'Oldboy_School'
>>> match.group(2)
'Beijing_Changping_Shahe'
>>> match.group(3)
'010-8343245'

匹配email

import re
email = "alex.li@126.com   http://www.oldboyedu.com"
m = re.search(r"[0-9.a-z]{0,26}@[0-9.a-z]{0,20}.[0-9a-z]{0,8}", email)
print(m.group())
#output
alex.li@126.com

json 和 pickle

用于序列化的两个模块

• json，用于字符串 和 python数据类型间进行转换
• pickle，用于python特有的类型 和 python的数据类型间进行转换
• json模块提供了四个功能：dumps、dump、loads、load
• pickle模块提供了四个功能：dumps、dump、loads、load
  

其它常用模块学习
http://www.cnblogs.com/wupeiqi/articles/4963027.html