zoukankan      html  css  js  c++  java
  • 文件读取错误UnicodeDecodeError: 'utf-8' codec can't decode byte 0x92 in position 884: invalid start byte

    参考:

    https://segmentfault.com/q/1010000004268196/a-1020000004269556

    ubuntu下Python3使用open('filename', 'r').read()读取 .txt 文件时抛出异常:
    UnicodeDecodeError: 'utf-8' codec can't decode byte 0x92 in position 66: invalid start byte
    当相同语句在Python2下运行时却正常,请问问题出在哪里啊?

    0x9210010010,UTF8 中编码一个字符的第一个字节(start byte)只可能是 0xxxxxxx110xxxxx1110xxx11110xxx……而后面的字节只可能是 10xxxxxx。也就是说 0x92 只能作为后面的字节,却出现在了第一个字节的位置。

    出现这种问题绝大部分情况是因为文件不是 UTF8 编码的(例如,可能是 GBK 编码的),而系统默认采用 UTF8 解码。解决方法是改为对应的解码方式。

    极少数情况是因为文件损坏了或者和一部分非 UTF8 编码混在一起,可以修复文件或采用 replace 等方式解码。

    Python 2 没有问题是因为 Python 2 默认以字节流(对应 Python 3 的 bytes)的方式读文件,不像 Python 3 默认解码为 unicode,把读文件的方式改为 rb 有同样的效果,不过 Python 3 中处理 bytes 还可能遇到很多问题就是了……

    最后决定,以二进制形式读取,忽略特殊字符造成的转码错误,然后就可以了:

    contents = open('F:\28\数据分析\MLiA_SourceCode\machinelearninginaction\Ch04\email\ham/%d.txt'%i,'rb').read().decode('utf8','ignore')
  • 相关阅读:
    treeview 递归
    循环递归遍历XML文档或按某要求遍历XML文档
    SQL Server、IIS和 ASP.NET安全配置
    C# USING 语句块
    C# 基础语法
    不安装oracle 客户端连接oracle DDTeck连接语法
    Java中堆和栈的区别
    C# 采用OLDB方式连接EXCEL
    EXCEL 列宽
    C# 问号用法
  • 原文地址:https://www.cnblogs.com/mypath/p/9185922.html
Copyright © 2011-2022 走看看