zoukankan      html  css  js  c++  java
  • python学习笔记(二)

    note eight
          使用元类
              动态语言和静态语言最大的不同,就是函数和类的定义,不是编译时定义的,而是运行时动态创建的。
              程序的调试用logging 模块
                  import logging
              单元测试
                  为了编写单元测试,我们需要引入python自带的unittest模块

          文件读写
              读写文件是最常见的IO操作,python内置了读写文件的函数。读写文件就是请求操作系统打开一个文件对象,然后通过操作系统提供的接口从这个文件对象中读取数据,或者把数据写入这个文件对象。
              step1:打开文件
                  使用python内置的open()函数
              step2:对文件对象进行读或写
                  read(),write()
              step3:关闭文件
                  close(),文件使用完后必须关闭,因为文件对象会占用操作系统的资源,并且操作系统同一时间能打开的文件数量也是有限的
              但每次都这么写实在太繁琐,所以PYthon引入了with语句来自动帮我们调用close()方法
              with open() as f

              二进制文件
                  前面讲的默认都是读取文本文件,并且是ASCII编码的文本文件。要读取二进制文件,比如图片、视频等等,用"rb"模式打开文件
              字符编码
                  要读取非ASCII编码的文本文件,就必须以二进制模式打开,再解码。如GBK编码的文件
                       f = open('/Users/michael/gbk.txt', 'rb')
                    >>> u = f.read().decode('gbk')
                    >>> u
                    u'u6d4bu8bd5'
                    >>> print u
                    测试
                  如果每次手动转换嫌麻烦,python还提供了一个codecs模块帮我们在读文件时自动转换编码,直接读出unicode
                  import codecs
                with codecs.open('/Users/michael/gbk.txt', 'r', 'gbk') as f:
                    f.read() # u'u6d4bu8bd5'


        序列化
            在程序运行的过程中,所有的变量都是在内存中,可以随时修改变量,但是一旦程序结束,,变量所占的内存就被操作系统全部收回。
            我们把变量从内存中变成可存储或传输的过程称为序列化,在python中叫picking。序列化后,就可以把序列化之后的内容写入磁盘,或通过网络传输到别的机器上。
            反过来,把变量内容从序列化的对象重新读到内存里称为反序列化。
            python提供两个模块来实现序列化
                cPickle, pickle

            导入模块
            : d
            Out[11]: {'age': 20, 'name': 'Jack', 'score': 88}

            In [12]: try :
               ....:     import cPickle as pickle
               ....: except ImportError:
               ....:     import pickle
               ....:

            In [13]: pickle.dumps(d)
            Out[13]: "(dp1 S'age' p2 I20 sS'score' p3 I88 sS'name' p4 S'Jack' p5 s."
            pickle.dumps()方法把任意对象序列化成一个str,然后就可以把这个str写入文件、或者用另一个方法pickle.dump()直接把对象序列化后写入一个file-like Object

                In [15]: f= open(r"C:UsersMyHomeDesktopdumps.txt","wb")

                In [16]: pickle.dump(d,f)

                In [17]: f.close()
            当我们要把对象从磁盘读到内存时,可以先把内容读到一个str,然后用pickle.loads()方法反序列化对象,也可以直接用pickle.load()方法从一个file-like Object 中直接反序列化对象。
           
            In [18]: f= open(r"C:UsersMyHomeDesktopdumps.txt","rb")

            In [19]: d = pickle.load(f)

            In [20]: f.close()

            In [21]: d
            Out[21]: {'age': 20, 'name': 'Jack', 'score': 88}

        JSON进阶
            如果我们要在不同的编程语言之间传递对象,就必须把对象序列化为标准格式,比如XML,但更好的方法是序列化为JSON,因为JSON表示出来就是一个字符串,可以被所有语言读取,也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式,并且比XML更快,而且可以直接在Web页面中读取,非常方便。
            python中内置的json模块提供了非常完善的Python对象到JSON格式的转换。我们先看看如何把python对象变成一个JSON

                In [22]: import json

                In [23]: d = dict(name = "Jack",age = 24,score = 96)

                In [24]: json.dumps(d)
                Out[24]: '{"age": 24, "score": 96, "name": "Jack"}'

                dumps()方法返回一个str,内容就是标准的JSON,类似的,dump()方法可以直接把JSON写入一个file-like Object
                要把JSON反序列化为python对象,用loads()或者对应的load()方法,前者把JSON的字符串反序列化,后者从file-like Object 中读取字符串并反序列化
                In [25]: json_str =  '{"age": 24, "score": 96, "name": "Jack"}'

                In [26]: json.loads(json_str)
                Out[26]: {u'age': 24, u'name': u'Jack', u'score': 96}


            Python的dict对象可以直接序列化为JSON的{},不过,很多时候,我们更喜欢用class表示对象,比如定义Student类,然后序列化:

                import json

                class Student(object):
                    def __init__(self, name, age, score):
                        self.name = name
                        self.age = age
                        self.score = score

                s = Student('Bob', 20, 88)
                print(json.dumps(s))
                运行代码,毫不留情地得到一个TypeError:

                Traceback (most recent call last):
                  ...
                TypeError: <__main__.Student object at 0x

            错误的原因是Student对象不是一个可序列化为JSON的对象。

        如果连class的实例对象都无法序列化为JSON,这肯定不合理!

        别急,我们仔细看看dumps()方法的参数列表,可以发现,除了第一个必须的obj参数外,dumps()方法还提供了一大堆的可选参数:

        https://docs.python.org/2/library/json.html#json.dumps

        这些可选参数就是让我们来定制JSON序列化。前面的代码之所以无法把Student类实例序列化为JSON,是因为默认情况下,dumps()方法不知道如何将Student实例变为一个JSON的{}对象。

        可选参数default就是把任意一个对象变成一个可序列为JSON的对象,我们只需要为Student专门写一个转换函数,再把函数传进去即可:


            def studentdict(std):
                return {"name":std.name,"age":std.age,"score":std.score}

            print (json.dumps(s,default=studentdict))

        不过,下次如果遇到一个Teacher类的实例,照样无法序列化为JSON。我们可以偷个懒,把任意class的实例变为dict:

            print(json.dumps(s, default=lambda obj: obj.__dict__))


        同样的道理,如果我们要把JSON反序列化为一个Student对象实例,loads()方法首先转换出一个dict对象,然后,我们传入的object_hook函数负责把dict转换为Student实例:

            def dict2student(d):
                return Student(d['name'], d['age'], d['score'])

            json_str = '{"age": 20, "score": 88, "name": "Bob"}'
            print(json.loads(json_str, object_hook=dict2student))
            运行结果如下:

            <__main__.Student object at 0x10cd3c190>
        打印出的是反序列化的Student实例对象。


        解析
            如果我们要编写一个搜索引擎,第一步是用爬虫把目标网站的页面抓取下来,第二部就是解析该HTML页面,看看里面的内容到底是新闻、图片还是视频。
            如何解析HTML呢,python提供了HTMLParser来非常方便地解析HTML

  • 相关阅读:
    增加samba用户提示Failed to add entry for user
    二叉树
    excel技巧
    mongodb导入json文件
    mongodb导出数据csv格式
    mongoexport导出csv中文乱码
    左连接,结果大于左面的表验证 解释
    plsql 用法和技巧
    对javaNI和NIO理解
    TinyMCE4.x整合教程-Xproer.WordPaster
  • 原文地址:https://www.cnblogs.com/lpworkstudyspace1992/p/6074895.html
Copyright © 2011-2022 走看看