zoukankan      html  css  js  c++  java
  • 字符串类型:str, bytes 的区别

    Python 3最重要的新特性之一是对字符串和二进制数据流做了明确的区分

    • 文本总是 Unicode,由 str 类型表示,
    • 二进制数据则由 bytes 类型表示。

    Python 3不会以任意隐式的方式混用strbytes,你不能拼接字符串和字节流,也无法在字节流里搜索字符串(反之亦然),

    也不能将字符串传入参数为字节流的函数(反之亦然)。

    下面让我们深入分析一下二者的区别和联系。

      在计算机历史的早期,美国为代表的英语系国家主导了整个计算机行业,26个英文字母组成了多样的英语单词、语句、文章。

    因此,最早的字符编码规范是ASCII码,一种8位即1个字节的编码规范,它可以涵盖整个英语系的编码需要。

    编码是什么?编码就是把一个字符用一个二进制来表示。

      我们都知道,所有的东西,不管是英文、中文还是符号等等,最终存储在磁盘上都是01010101这类东西。在计算机内部,读取和存储数据归根结底,处理的都是0和1组成的比特流。问题来了,人类看不懂这些比特流,如何让这些010101对人类变得可读呢?

    于是出现了字符编码,它是个翻译机,在计算机内部某个地方,透明的帮我们将比特流翻译成人类可以直接理解的文字。

      对于一般用户,不需要知道这个过程是什么原理,是怎么执行的。但是对于程序员却是个必须搞清楚的问题。

    ASCII编码为例,它规定1个字节8个比特位代表1个字符的编码,也就是“00000000”这么宽,逐个字节的解读。例如:

    • 01000001表示大写字母A,有时我们会“偷懒"的用 65 这个十进制来表示A在ASCII中的编码。8个比特位,最多可表示2的8次方(255)个字符。

    后来,计算机得到普及,中文、日文、韩文等等国家的文字需要在计算机内表示,ASCII的255位远远不够,于是标准组织制定出了叫做UNICODE的万国码

    它规定任何一个字符(不管哪国的)至少以2个字节表示,可以更多

      其中,英文字母就是用2个字节,而汉字是3个字节。这个编码虽然很好,满足了所有人的要求,但是它不兼容ASCII,同时还占用较多的空间和内存,不便于网络传输文件存储。因为,在计算机世界更多的字符是英文字母,明明可以1个字节就能够表示,非要用2个。

    于是UTF-8编码应运而生,它规定

    • 英文字母系列用1个字节表示,
    • 欧洲文字通常用两个字节表示,
    • (CJK 统一表意符号 (CJK Unified Ideographs):4E00-9FBF)汉字等东亚文字用3个字节表示等等。

    因此,它兼容ASCII,可以解码早期的文档。UTF-8很快就得到了广泛的应用。

    在编码的发展历程中,我国还创造了自己的编码方式,例如GBKGB2312BIG5。他们只局限于在国内使用,不被国外认可。在GBK编码中,中文汉字占2个字节。

    bytes和str之间的异同

    bytes是一种比特流,它的存在形式是01010001110这种。我们无论是在写代码,还是阅读文章的过程中,肯定不会有人直接阅读这种比特流,它必须有一个编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。因为编码方式的不同,对这个比特流的解读也会不同,对实际使用造成了很大的困扰。

    下面让我们看看Python是如何处理这一系列编码问题的:

     1 >>> str1 = '学无定法而有方法'
     2 >>> str1
     3 '学无定法而有方法'
     4 >>> type(str1)
     5 <class 'str'>
     6 >>> b1 = bytes(str1, encoding='utf-8')
     7 >>> b1
     8 b'xe5xadxa6xe6x97xa0xe5xaex9axe6xb3x95xe8x80x8cxe6x9cx89xe6x96xb9xe6xb3x95'
     9 >>> type(b1)
    10 <class 'bytes'>
    11 >>> 

      从例子可以看出,str1是个字符串类型。Python有个内置函数bytes()可以将字符串str类型转换成bytes类型,

    b1实际上是一串01的组合,但为了在ide环境中让我们相对直观的观察,它被表现成了

    b'xe5xadxa6xe6x97xa0xe5xaex9axe6xb3x95xe8x80x8cxe6x9cx89xe6x96xb9xe6xb3x95'这种形式,

    • 开头的b表示这是一个bytes类型。
    • xe5十六进制的表示方式,它占用1个字节的长度,

    因此”学无定法而有方法“被编码成utf-8后,我们可以数得出一共用了24个字节,每个汉字占用3个。

      在使用内置函数bytes()的时候,必须明确encoding的参数,不可省略。

      我们都知道,字符串类str里有一个encode()方法,它是从字符串向比特流的编码过程。

      而bytes类型恰好有个decode()方法,它是从比特流向字符串解码的过程。

      除此之外,我们查看Python源码会发现bytesstr拥有几乎一模一样的方法列表,最大的区别就是 encode 和 decode 

    从实质上来说,字符串在磁盘上的保存形式也是01的组合,也需要编码解码。

    如果,上面的阐述还不能让你搞清楚两者的区别,那么记住下面两几句话:

    1. 在将字符串存入磁盘从磁盘读取字符串的过程中,Python自动地帮你完成了编码解码的工作。
    2. 使用bytes类型,实质上是告诉Python,不需要它帮你自动地完成编码和解码的工作,而是用户自己手动进行,并指定编码格式。
    3. Python已经严格区分了bytesstr两种数据类型,你不能在需要bytes类型参数的时候使用str参数,反之亦然。
    4. 图片、视频等文件通常是以bytes类型读写的,所以类型通常是rb, wb模式

    bytesstr的互相转换过程中,实际就是编码解码的过程,必须显式地指定编码格式

     1 >>> b2 = str1[:2].encode('gbk')
     2 >>> b2
     3 b'xd1xa7xcexde'
     4 >>> b2.decode('gbk')
     5 '学无'
     6 >>> b3 = str1[:2].encode('utf-8')
     7 >>> b3
     8 b'xe5xadxa6xe6x97xa0'
     9 >>> b3.decode('utf-8')
    10 '学无'
    11 >>> str2 = 'こんにちは'
    12 >>> b4 = str2.encode('shift-jis')
    13 >>> b4
    14 b'x82xb1x82xf1x82xc9x82xbfx82xcd'
    15 >>> b4.decode('shift-jis')
    16 'こんにちは'
    17 >>> 
  • 相关阅读:
    Python自定义web框架、Jinja2
    Django初探(模板渲染、模板语音、simple_tag、母版子版、静态配置文件)
    多线程 threading
    python操作mysql
    sql 汉字转首字母拼音
    添加sql server约束
    NFS,Memcached,Tokyo tyrant实现session共享性能测试
    让Editplus自动格式化js、css、html。。。
    sql server中利用sql语句如何创建角色和用户
    asp网站文件夹权限设置
  • 原文地址:https://www.cnblogs.com/51try-again/p/10205822.html
Copyright © 2011-2022 走看看