模块

re模块

import re
ret = re.findall('a', 'ha hao ok hello')  # 返回所有满足匹配条件的结果,放在列表里
print(ret)                                        #结果 : ['a', 'a']   

ret = re.search('a', 'eva egon yuan')
print(ret)                                        #结果 :<re.Match object; span=(2, 3), match='a'>

ret = re.search('a', 'eva egon yuan').group()
print(ret)                                         #结果 :a

ret = re.search('j', 'eva egon yuan')     #如果找不到就返回None
print(ret) 
# 函数会在字符串内查找模式匹配,只到找到第一个匹配然后返回一个包含匹配信息的对象,该对象可以
通过调用group()方法得到匹配的字符串,如果字符串没有匹配，则返回None。（注意：可以找的是字符串不单单是一个字符）


ret = re.match('a', 'abc')  # 同search,不过尽在字符串开始处进行匹配
print(ret)                                          #结果 :<re.Match object; span=(0, 1), match='a'>  
  
ret = re.match('a', 'abc').group()   # 同search,不过尽在字符串开始处进行匹配
print(ret)                                            #结果 :a

ret = re.split('[ab]', 'abcd')          # 先按'a'分割得到''和'bcd',在对''和'bcd'分别按'b'分割
print(ret)                                   #结果 :['', '', 'cd']    
     
ret = re.sub('d', 'H', '1nihaohahah5ai', 1)#将数字替换成'H'，参数1表示只替换1个
print(ret)                                  #结果：Hnihaohahah5ai   

ret = re.subn('d', 'H', 'eva3egon4yuan4')#将数字替换成'H'，返回元组(替换的结果,替换了多少次)
print(ret)                                   #结果： ('evaHegonHyuanH', 3)

obj = re.compile('d{3}')  #将正则表达式编译成为一个 正则表达式对象，规则要匹配的是3个数字
ret = obj.search('abc123eeee') #正则表达式对象调用search，参数为待匹配的字符串
print(ret.group())                    #结果 ： 123

ret = re.finditer('d', 'ds3sy4784a')   #finditer返回一个存放匹配结果的迭代器
print(ret)  # <callable_iterator object at 0x10195f940>
print(next(ret).group())  #查看第一个结果
print(next(ret).group())  #查看第二个结果
print([i.group() for i in ret])  #查看剩余的结果

结果：
<callable_iterator object at 0x00CEFFB0>
3
4
['7', '8', '4'] 

1 findall的优先级查询：

import re

ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['oldboy']     这是因为findall会优先把匹配结果组里内容返回,如果想要匹配结果,取消权限即可

ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['www.oldboy.com']

2 split的优先级查询　　

ret=re.split("d+","eva3egon4yuan")
print(ret) #结果 ： ['eva', 'egon', 'yuan']

ret=re.split("(d+)","eva3egon4yuan")
print(ret) #结果 ： ['eva', '3', 'egon', '4', 'yuan']

#在匹配部分加上（）之后所切出的结果是不同的，
#没有（）的没有保留所匹配的项，但是有（）的却能够保留了匹配的项，
#这个在某些需要保留匹配部分的使用过程是非常重要的。　

 练习题：

 collections模块

1.namedtuple: 生成可以使用名字来访问元素内容的tuple

2.deque: 双端队列，可以快速的从另外一侧追加和推出对象

3.Counter: 计数器，主要用来计数

4.OrderedDict: 有序字典

5.defaultdict: 带有默认值的字典

namedtuple

我们知道tuple可以表示不变集合，

例如，一个点的二维坐标就可以表示成：

p = (1, 2)
但是，看到(1, 2)，很难看出这个tuple是用来表示一个坐标的。

这时，namedtuple就派上了用场：

from collections import namedtuple
Point = namedtuple('Point', ['x', 'y'])
p = Point(1, 2)
print(p.x)
print(p.y)
#结果：1
      2

类似的，如果要用坐标和半径表示一个圆，也可以用namedtuple定义：

#namedtuple('名称', [属性list]):
Circle = namedtuple('Circle', ['x', 'y', 'r'])

from collections import namedtuple
Circle = namedtuple('Circle', ['x', 'y', 'r'])
c=Circle(1,2,6)
print(c.x)
print(c.y)
print(c.r)
#结果：1
      2
      6   

 queue

import queue
q=queue.Queue()     #创建一个空列表
q.put(10)           
q.put(5)                   #放入值
q.put(9)
q.put(8)
print(q.get())            #拿出值
print(q.get())
print(q.get())
print(q.get())
print(q.get())              #拿完了阻塞
#结果：10
　　　　5
　　　　9
　　　　8

deque

使用list存储数据时，按索引访问元素很快，但是插入和删除元素就很慢了，因为list是线性存储，数据量大的时候，插入和删除效率很低。

deque是为了高效实现插入和删除操作的双向列表，适合用于队列和栈：

from collections import deque
q=deque(['a','b','c'])
q.append('q')           #从最后插入一个值
q.appendleft('m')       #从前面插入一个值
q.insert(1,5)           #从索引为1的地方插入5
print(q)               
#结果：deque(['m', 5, 'a', 'b', 'c', 'q'])

deque除了实现list的append()和pop()外，还支持appendleft()和popleft()，这样就可以非常高效地往头部添加或删除元素。

OrderedDict

使用dict时，Key是无序的。在对dict做迭代时，我们无法确定Key的顺序。

如果要保持Key的顺序，可以用OrderedDict：

>>> from collections import OrderedDict
>>> d = dict([('a', 1), ('b', 2), ('c', 3)])
>>> d # dict的Key是无序的
{'a': 1, 'c': 3, 'b': 2}
>>> od = OrderedDict([('a', 1), ('b', 2), ('c', 3)])
>>> od # OrderedDict的Key是有序的
OrderedDict([('a', 1), ('b', 2), ('c', 3)])

注意，OrderedDict的Key会按照插入的顺序排列，不是Key本身排序：

>>> od = OrderedDict()
>>> od['z'] = 1
>>> od['y'] = 2
>>> od['x'] = 3
>>> od.keys() # 按照插入的Key的顺序返回
['z', 'y', 'x'] 

defaultdict 

有如下值集合 [11,22,33,44,55,66,77,88,99,90...]，将所有大于 66 的值保存至字典的第一个key中，将小于 66 的值保存至第二个key的值中。

即： {'k1': 大于66 , 'k2': 小于66}

values = [11, 22, 33,44,55,66,77,88,99,90]

my_dict = {}

for value in  values:
    if value>66:
        if my_dict.has_key('k1'):
            my_dict['k1'].append(value)
        else:
            my_dict['k1'] = [value]
    else:
        if my_dict.has_key('k2'):
            my_dict['k2'].append(value)
        else:
            my_dict['k2'] = [value]

from collections import defaultdict

values = [11, 22, 33,44,55,66,77,88,99,90]

my_dict = defaultdict(list)

for value in  values:
    if value>66:
        my_dict['k1'].append(value)
    else:
        my_dict['k2'].append(value)

使用dict时，如果引用的Key不存在，就会抛出KeyError。如果希望key不存在时，返回一个默认值，就可以用defaultdict：

>>> from collections import defaultdict
>>> dd = defaultdict(lambda: 'N/A')
>>> dd['key1'] = 'abc'
>>> dd['key1'] # key1存在
'abc'
>>> dd['key2'] # key2不存在，返回默认值
'N/A'

 Counter

Counter类的目的是用来跟踪值出现的次数。它是一个无序的容器类型，以字典的键值对形式存储，其中元素作为key，其计数作为value。计数值可以是任意的Interger（包括0和负数）。Counter类和其他语言的bags或multisets很相似。

c = Counter('abcdeabcdabcaba')
print c
输出：Counter({'a': 5, 'b': 4, 'c': 3, 'd': 2, 'e': 1})

  

time模块

表示时间的三种方式

在Python中，通常有这三种方式来表示时间：时间戳、元组(struct_time)、格式化的时间字符串：

(1)时间戳(timestamp) ：通常来说，时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。我们运行“type(time.time())”，返回的是float类型。

(2)格式化的时间字符串(Format String)： ‘1999-12-0

%y 两位数的年份表示（00-99）
%Y 四位数的年份表示（0000-9999）
%m 月份（1-12）
%d 月内中的一天（0-31）
%H 24小时制小时数（0-23）
%I 12小时制小时数（1-12）
%M 分钟数（00=59）
%S 秒（00-59）
%a 本地简化星期名称
%A 本地完整星期名称
%b 本地简化的月份名称
%B 本地完整的月份名称
%c 本地相应的日期表示和时间表示
%j 年内的一天（1-366）
%p 本地A.M.或P.M.的等价符
%U 一年中的星期数（0-53）星期天为星期的开始
%w 星期（0-6），星期天为星期的开始
%W 一年中的星期数（0-53）星期一为星期的开始
%x 本地相应的日期表示
%X 本地相应的时间表示
%Z 当前时区的名称
%% %号本身

(3)元组(struct_time) ：struct_time元组共有9个元素共九个元素:(年，月，日，时，分，秒，一年中第几周，一年中第几天等）

import time
struct_time=time.localtime()
print(struct_time)
print(struct_time.tm_year)
print(struct_time.tm_mon)
#结果：
time.struct_time(tm_year=2019, tm_mon=3, tm_mday=9, tm_hour=16, tm_min=51, tm_sec=22, tm_wday=5, tm_yday=68, tm_isdst=0)
2019
3

索引（Index）	属性（Attribute）	值（Values）
0	tm_year（年）	比如2011
1	tm_mon（月）	1 - 12
2	tm_mday（日）	1 - 31
3	tm_hour（时）	0 - 23
4	tm_min（分）	0 - 59
5	tm_sec（秒）	0 - 60
6	tm_wday（weekday）	0 - 6（0表示周一）
7	tm_yday（一年中的第几天）	1 - 366
8	tm_isdst（是否是夏令时）	默认为0

python中表示时间的几种格式：

import time
print(time.time())                   # 时间戳
print(time.strftime("%Y-%m-%d %H:%M:%S"))    # 时间字符串/格式化时间
print(time.localtime())  # 时间元组/结构化时间 : localtime 将一个时间戳转换为当地时区的struct_time
print(time.gmtime())           #英国伦敦时间

#结果：
1552120289.1700697
2019-03-09 16:31:29
time.struct_time(tm_year=2019, tm_mon=3, tm_mday=9, tm_hour=16, tm_min=31, tm_sec=29, tm_wday=5, tm_yday=68, tm_isdst=0)
time.struct_time(tm_year=2019, tm_mon=3, tm_mday=9, tm_hour=8, tm_min=31, tm_sec=29, tm_wday=5, tm_yday=68, tm_isdst=0)

小结：时间戳是计算机能够识别的时间；时间字符串是人能够看懂的时间；元组则是用来操作时间的

几种格式之间的转换

import time

# 时间戳 --> 结构化时间
time.gmtime()       # 伦敦时间
time.localtime()     # 当地时间
---------------------------------------------------用法
print(time.localtime(160000000))
print(time.gmtime(160000000))    #传入时间戳得到结构化时间
#结果：
time.struct_time(tm_year=1975, tm_mon=1, tm_mday=27, tm_hour=4, tm_min=26, tm_sec=40, tm_wday=0, tm_yday=27, tm_isdst=0)
time.struct_time(tm_year=1975, tm_mon=1, tm_mday=26, tm_hour=20, tm_min=26, tm_sec=40, tm_wday=6, tm_yday=26, tm_isdst=0)

# 结构化时间 --> 时间戳
time.mktime(浮点数)
---------------------------------------------------用法
print(time.mktime(time.localtime()))   #得到目前的时间戳    
#结果：
1552123662.0

# 结构化时间 --> 字符串时间
time.strftime("格式定义","结构化时间")   # 结构化时间参数若不传,则显示当前时间 
---------------------------------------------------用法
print(time.strftime("%Y-%m-%d",time.localtime()))       
#结果：
2019-03-09

# 字符串时间 --> 结构化时间
time.strptime(时间字符串,字符串对应格式)
---------------------------------------------------用法
print(time.strptime("2012-12.31","%Y-%m.%d"))
#结果：
time.struct_time(tm_year=2012, tm_mon=12, tm_mday=31, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=0, tm_yday=366, tm_isdst=-1)

# 结构化时间 --> 字符串时间
time.asctime(结构化时间)     如果不传参数,直接返回当前时间的格式化串
---------------------------------------------------用法
print(time.asctime(time.localtime()))
#结果：
Sat Mar  9 17:35:57 2019


#时间戳 --> 字符串时间 time.ctime(时间戳) 如果不传参数,直接返回当前时间的格式化串
---------------------------------------------------用法
print(time.ctime())
print(time.ctime(16000000))
#结果：
Sat Mar  9 17:38:38 2019
Sun Jul  5 12:26:40 1970

 计算时间差 :

str_time1 = '2018-8-19 22:10:8'
str_time2 = '2018-8-20 11:07:3'
struct_t1 = time.strptime(str_time1,'%Y-%m-%d %H:%M:%S')
struct_t2 = time.strptime(str_time2,'%Y-%m-%d %H:%M:%S')
timestamp1 = time.mktime(struct_t1)
timestamp2 = time.mktime(struct_t2)
sub_time = timestamp2 - timestamp1
gm_time = time.gmtime(sub_time)
# 1970-1-1 00:00:00
print('过去了%d年%d月%d天%d小时%d分钟%d秒'%(gm_time.tm_year-1970,gm_time.tm_mon-1,
                                 gm_time.tm_mday-1,gm_time.tm_hour,
                                 gm_time.tm_min,gm_time.tm_sec))

# 函数形式 :
def func(str_time1,str_time2):
    
    struct_t1 = time.strptime(str_time1,'%Y-%m-%d %H:%M:%S')
    struct_t2 = time.strptime(str_time2,'%Y-%m-%d %H:%M:%S')
    timestamp1 = time.mktime(struct_t1)
    timestamp2 = time.mktime(struct_t2)
    sub_time = timestamp2 - timestamp1
    gm_time = time.gmtime(sub_time)
    num = '过去了%d年%d月%d天%d小时%d分钟%d秒'%(gm_time.tm_year-1970,gm_time.tm_mon-1,
                                 gm_time.tm_mday-1,gm_time.tm_hour,
                                 gm_time.tm_min,gm_time.tm_sec)
    
    return num

print(func('2018-8-19 22:10:8','2018-8-20 11:07:3'))

 random模块

import random
#随机小数
random.random()      # 大于0且小于1之间的小数
random.uniform(1,3) #大于1小于3的小数
---------------------------------------------------用法
print(random.random())     
print(random.uniform(1,3)) 
#结果：
0.7167982470888765
1.3664687262859994

#随机整数
random.randint(1,5)  # 大于等于1且小于等于5之间的整数
random.randrange(1,10,2) # 大于等于1且小于10之间的奇数
---------------------------------------------------用法
print(random.randint(1,5))
print(random.randrange(1,10,2))
#结果：
3
7

#随机选择一个返回
random.choice([1,'23',[4,5]])  # #1或者23或者[4,5]
#随机选择多个返回，返回的个数为函数的第二个参数
random.sample([1,'23',[4,5]],2) # #列表元素任意2个组合
---------------------------------------------------用法
print(random.choice([1,'23',[4,5]]))  
print(random.choice([1,'23',[4,5]]),2)
#结果：
[4, 5]
[4, 5] 2

#打乱列表顺序
random.shuffle(item) # 打乱次序
---------------------------------------------------用法
item=[1,3,5,7,9]
random.shuffle(item)
print(item)
random.shuffle(item)
print(item)
#结果：
[7, 3, 1, 9, 5]
[9, 7, 5, 1, 3]

练习：生成随机验证码

import random

def v_code():

    code = ''
    for i in range(5):

        num=random.randint(0,9)
        alf=chr(random.randint(65,90))
        add=random.choice([num,alf])
        code="".join([code,str(add)])

    return code

print(v_code())

os模块

os.makedirs('dirname1/dirname2')    可生成多层递归目录
os.removedirs('dirname1')    若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推
os.mkdir('dirname')    生成单级目录；相当于shell中mkdir dirname
os.rmdir('dirname')    删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname
os.listdir('dirname')    列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印
os.remove()  删除一个文件
os.rename("oldname","newname")  重命名文件/目录
os.stat('path/filename')  获取文件/目录信息

os.system("bash command")  运行shell命令，直接显示
os.popen("bash command).read()  运行shell命令，获取执行结果
os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径
os.chdir("dirname")  改变当前脚本工作目录；相当于shell下cd


os.path
os.path.abspath(path) 返回path规范化的绝对路径
os.path.split(path) 将path分割成目录和文件名二元组返回 
os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素 
os.path.basename(path) 返回path最后的文件名。如何path以／或结尾，那么就会返回空值。即os.path.split(path)的第二个元素
os.path.exists(path)  如果path存在，返回True；如果path不存在，返回False
os.path.isabs(path)  如果path是绝对路径，返回True
os.path.isfile(path)  如果path是一个存在的文件，返回True。否则返回False
os.path.isdir(path)  如果path是一个存在的目录，则返回True。否则返回False
os.path.join(path1[, path2[, ...]])  将多个路径组合后返回，第一个绝对路径之前的参数将被忽略
os.path.getatime(path)  返回path所指向的文件或者目录的最后访问时间
os.path.getmtime(path)  返回path所指向的文件或者目录的最后修改时间
os.path.getsize(path) 返回path的大小

 注意：os.stat('path/filename')  获取文件/目录信息 的结构说明

st_mode: inode 保护模式
st_ino: inode 节点号。
st_dev: inode 驻留的设备。
st_nlink: inode 的链接数。
st_uid: 所有者的用户ID。
st_gid: 所有者的组ID。
st_size: 普通文件以字节为单位的大小；包含等待某些特殊文件的数据。
st_atime: 上次访问的时间。
st_mtime: 最后一次修改的时间。
st_ctime: 由操作系统报告的"ctime"。在某些系统上（如Unix）是最新的元数据更改的时间，在其它系统上（如Windows）是创建时间（详细信息参见平台的文档）。

os.sep    输出操作系统特定的路径分隔符，win下为"\",Linux下为"/"
os.linesep    输出当前平台使用的行终止符，win下为"
",Linux下为"
"
os.pathsep    输出用于分割文件路径的字符串 win下为;,Linux下为:
os.name    输出字符串指示当前使用平台。win->'nt'; Linux->'posix'

sys模块

sys模块是与python解释器交互的一个接口

sys.argv           命令行参数List，第一个元素是程序本身路径
sys.exit(n)        退出程序，正常退出时exit(0),错误退出sys.exit(1)
sys.version        获取Python解释程序的版本信息
sys.path           返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值
sys.platform       返回操作系统平台名称

 

序列化模块

 什么叫序列化——将原本的字典、列表等内容转换成一个字符串的过程就叫做序列化。

比如，我们在python代码中计算的一个数据需要给另外一段程序使用，那我们怎么给？
现在我们能想到的方法就是存在文件里，然后另一个python程序再从文件里读出来。
但是我们都知道，对于文件来说是没有字典这个概念的，所以我们只能将数据转换成字典放到文件中。
你一定会问，将字典转换成一个字符串很简单，就是str(dic)就可以办到了，为什么我们还要学习序列化模块呢？
没错序列化的过程就是从dic 变成str(dic)的过程。现在你可以通过str(dic)，将一个名为dic的字典转换成一个字符串，
但是你要怎么把一个字符串转换成字典呢？
聪明的你肯定想到了eval()，如果我们将一个字符串类型的字典str_dic传给eval，就会得到一个返回的字典类型了。
eval()函数十分强大，但是eval是做什么的？e官方demo解释为：将字符串str当成有效的表达式来求值并返回计算结果。
ＢＵＴ！强大的函数有代价。安全性是其最大的缺点。
想象一下，如果我们从文件中读出的不是一个数据结构，而是一句"删除文件"类似的破坏性语句，那么后果实在不堪设设想。
而使用eval就要担这个风险。
所以，我们并不推荐用eval方法来进行反序列化操作(将str转换成python中的数据结构)

为什么要有序列化模块

序列化的目的

1、以某种存储形式使自定义对象持久化；

2、将对象从一个地方传递到另一个地方。

3、使程序更具维护性

json

#通用的序列化格式

#只有很少一部分数据类型能够通过json转化为字符串

Json模块提供了四个功能：dumps、dump、loads、load

#json dumps序列化方法 loads反序列化方法
dic={1:"a",2:"b"}
print(type(dic),dic)
import json
str_d=json.dumps(dic)  #序列化
print(type(str_d),str_d)

dic_d=json.loads(str_d)  #反序列化
print(type(dic_d),dic_d)

#可进行序列化的有数字 列表 字典 元组(转换成列表序列化)

#结果：

<class 'dict'> {1: 'a', 2: 'b'}
<class 'str'> {"1": "a", "2": "b"}
<class 'dict'> {'1': 'a', '2': 'b'}

import json
#json dump load   #对文件进行操作，把字典写进了文件中，本来是不可以的
dic={1:"a",2:"b"}
f=open('fff','w',encoding='utf-8')
json.dump(dic,f)
f.close()

 fff文件中#结果：
{"1": "a", "2": "b"}

fff 文件：
{"1": "a", "2": "b"}
------------------------------
f=open('fff')    
res=json.load()   #对文件中的数据反序列化
f.close()
print(type(res),res)

#结果：
<class 'dict'> {'1': 'a', '2': 'b'}

import json
f = open('file','w')
json.dump({'国籍':'中国'},f)
ret = json.dumps({'国籍':'中国'})
f.write(ret+'
')
json.dump({'国籍':'美国'},f,ensure_ascii=False)
ret = json.dumps({'国籍':'美国'},ensure_ascii=False)
f.write(ret+'
')
f.close()

pickle

#所有的python中的数据类型都可以转化为字符串形式

#pickle序列化的内容只有python能够理解

#且部分反序列依赖代码(退出某个程序是的状态被保存下来，之后进去会恢复到以前的状态)

import pickle
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = pickle.dumps(dic)
print(str_dic)  #一串二进制内容

dic2 = pickle.loads(str_dic)
print(dic2)    #字典

import time
struct_time  = time.localtime(1000000000)
print(struct_time)
f = open('pickle_file','wb')
pickle.dump(struct_time,f)
f.close()

f = open('pickle_file','rb')
struct_time2 = pickle.load(f)
print(struct_time2.tm_year)

pickle

shelve

#序列化句柄

#使用句柄直接操作非常方便

模块的导入
#什么是模块？
#把一些常用的方法写在一个文件里(模块)

模块一般的顺序
# 内置模块
# 扩展模块
# 自定义模块

import demo
demo.read()

#调用模块
import 模块名

#提高兼容性(word和txt操作文档的方法差不多)将模块重新命名
import demo1 as db
import demo2 as db

from 模块 import 方法 as  新命名   #对方法重新命名
from 模块 import *                #将模块中所有的方法导入

from 模块 import *  和 _all_是一对
没有all这个变量，就会导入所有变量
如果有all，就只导入all列表中的方法，其他方法不导入

__all__=['read']

模块不会被重复导入：sys.moudles
模块导入的路径：sys.path

在模块中有一个变量_name_
当我们直接执行这个模块的时候__name__ == __main__
当我们执行其他模块，引用这个模块的时候__name__ == 模块名