zoukankan      html  css  js  c++  java
  • 字符串类型:str, bytes 的区别

    Python 3最重要的新特性之一是对字符串和二进制数据流做了明确的区分

    • 文本总是 Unicode,由 str 类型表示,
    • 二进制数据则由 bytes 类型表示。

    Python 3不会以任意隐式的方式混用strbytes,你不能拼接字符串和字节流,也无法在字节流里搜索字符串(反之亦然),

    也不能将字符串传入参数为字节流的函数(反之亦然)。

    下面让我们深入分析一下二者的区别和联系。

      在计算机历史的早期,美国为代表的英语系国家主导了整个计算机行业,26个英文字母组成了多样的英语单词、语句、文章。

    因此,最早的字符编码规范是ASCII码,一种8位即1个字节的编码规范,它可以涵盖整个英语系的编码需要。

    编码是什么?编码就是把一个字符用一个二进制来表示。

      我们都知道,所有的东西,不管是英文、中文还是符号等等,最终存储在磁盘上都是01010101这类东西。在计算机内部,读取和存储数据归根结底,处理的都是0和1组成的比特流。问题来了,人类看不懂这些比特流,如何让这些010101对人类变得可读呢?

    于是出现了字符编码,它是个翻译机,在计算机内部某个地方,透明的帮我们将比特流翻译成人类可以直接理解的文字。

      对于一般用户,不需要知道这个过程是什么原理,是怎么执行的。但是对于程序员却是个必须搞清楚的问题。

    ASCII编码为例,它规定1个字节8个比特位代表1个字符的编码,也就是“00000000”这么宽,逐个字节的解读。例如:

    • 01000001表示大写字母A,有时我们会“偷懒"的用 65 这个十进制来表示A在ASCII中的编码。8个比特位,最多可表示2的8次方(255)个字符。

    后来,计算机得到普及,中文、日文、韩文等等国家的文字需要在计算机内表示,ASCII的255位远远不够,于是标准组织制定出了叫做UNICODE的万国码

    它规定任何一个字符(不管哪国的)至少以2个字节表示,可以更多

      其中,英文字母就是用2个字节,而汉字是3个字节。这个编码虽然很好,满足了所有人的要求,但是它不兼容ASCII,同时还占用较多的空间和内存,不便于网络传输文件存储。因为,在计算机世界更多的字符是英文字母,明明可以1个字节就能够表示,非要用2个。

    于是UTF-8编码应运而生,它规定

    • 英文字母系列用1个字节表示,
    • 欧洲文字通常用两个字节表示,
    • (CJK 统一表意符号 (CJK Unified Ideographs):4E00-9FBF)汉字等东亚文字用3个字节表示等等。

    因此,它兼容ASCII,可以解码早期的文档。UTF-8很快就得到了广泛的应用。

    在编码的发展历程中,我国还创造了自己的编码方式,例如GBKGB2312BIG5。他们只局限于在国内使用,不被国外认可。在GBK编码中,中文汉字占2个字节。

    bytes和str之间的异同

    bytes是一种比特流,它的存在形式是01010001110这种。我们无论是在写代码,还是阅读文章的过程中,肯定不会有人直接阅读这种比特流,它必须有一个编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。因为编码方式的不同,对这个比特流的解读也会不同,对实际使用造成了很大的困扰。

    下面让我们看看Python是如何处理这一系列编码问题的:

     1 >>> str1 = '学无定法而有方法'
     2 >>> str1
     3 '学无定法而有方法'
     4 >>> type(str1)
     5 <class 'str'>
     6 >>> b1 = bytes(str1, encoding='utf-8')
     7 >>> b1
     8 b'xe5xadxa6xe6x97xa0xe5xaex9axe6xb3x95xe8x80x8cxe6x9cx89xe6x96xb9xe6xb3x95'
     9 >>> type(b1)
    10 <class 'bytes'>
    11 >>> 

      从例子可以看出,str1是个字符串类型。Python有个内置函数bytes()可以将字符串str类型转换成bytes类型,

    b1实际上是一串01的组合,但为了在ide环境中让我们相对直观的观察,它被表现成了

    b'xe5xadxa6xe6x97xa0xe5xaex9axe6xb3x95xe8x80x8cxe6x9cx89xe6x96xb9xe6xb3x95'这种形式,

    • 开头的b表示这是一个bytes类型。
    • xe5十六进制的表示方式,它占用1个字节的长度,

    因此”学无定法而有方法“被编码成utf-8后,我们可以数得出一共用了24个字节,每个汉字占用3个。

      在使用内置函数bytes()的时候,必须明确encoding的参数,不可省略。

      我们都知道,字符串类str里有一个encode()方法,它是从字符串向比特流的编码过程。

      而bytes类型恰好有个decode()方法,它是从比特流向字符串解码的过程。

      除此之外,我们查看Python源码会发现bytesstr拥有几乎一模一样的方法列表,最大的区别就是 encode 和 decode 

    从实质上来说,字符串在磁盘上的保存形式也是01的组合,也需要编码解码。

    如果,上面的阐述还不能让你搞清楚两者的区别,那么记住下面两几句话:

    1. 在将字符串存入磁盘从磁盘读取字符串的过程中,Python自动地帮你完成了编码解码的工作。
    2. 使用bytes类型,实质上是告诉Python,不需要它帮你自动地完成编码和解码的工作,而是用户自己手动进行,并指定编码格式。
    3. Python已经严格区分了bytesstr两种数据类型,你不能在需要bytes类型参数的时候使用str参数,反之亦然。
    4. 图片、视频等文件通常是以bytes类型读写的,所以类型通常是rb, wb模式

    bytesstr的互相转换过程中,实际就是编码解码的过程,必须显式地指定编码格式

     1 >>> b2 = str1[:2].encode('gbk')
     2 >>> b2
     3 b'xd1xa7xcexde'
     4 >>> b2.decode('gbk')
     5 '学无'
     6 >>> b3 = str1[:2].encode('utf-8')
     7 >>> b3
     8 b'xe5xadxa6xe6x97xa0'
     9 >>> b3.decode('utf-8')
    10 '学无'
    11 >>> str2 = 'こんにちは'
    12 >>> b4 = str2.encode('shift-jis')
    13 >>> b4
    14 b'x82xb1x82xf1x82xc9x82xbfx82xcd'
    15 >>> b4.decode('shift-jis')
    16 'こんにちは'
    17 >>> 
  • 相关阅读:
    @RequestParam注解使用:Name for argument type [java.lang.String] not available, and parameter name information not found in class file either.
    cglib动态代理导致注解丢失问题及如何修改注解允许被继承
    springboot Autowired BeanNotOfRequiredTypeException
    git根据用户过滤提交记录
    不同包下,相同数据结构的两个类进行转换
    How to use Jackson to deserialise an array of objects
    jooq实践
    java如何寻找main函数对应的类
    Python--matplotlib
    Python 和 Scikit-Learn
  • 原文地址:https://www.cnblogs.com/51try-again/p/10205822.html
Copyright © 2011-2022 走看看