zoukankan      html  css  js  c++  java
  • python 过滤四字节字符 表情字符

    项目中有时需要过滤掉四字节以上的字符(表情),比如mysql数据库5.5.3以下的版本text字段不支持四字节以上字符

    于是就需要过滤掉再入库,python中的方法为:

    1.  
      try:
    2.  
      # python UCS-4 build的处理方式
    3.  
      highpoints = re.compile(u'[U00010000-U0010ffff]')
    4.  
      except re.error:
    5.  
      # python UCS-2 build的处理方式
    6.  
      highpoints = re.compile(u'[uD800-uDBFF][uDC00-uDFFF]')
       
      ----------------------------------------------------------------------------------

      后来发现,发现这问题的原因是:UTF-8编码中文的字节通常是3-4字节,Emoji表情是4字节,读写数据库稍不留神就报错!

      哈哈哈哈哈哈发现问题就简单了,目前我们文本分析不需要分析表情包,我决定把它们都删了!

      然后:emoji官网,https://pypi.org/project/emoji/(靠谱的emoji处理库)

      安装 pip install emoji

      清除命令:

      emoji.demojize(str)

  • 相关阅读:
    [APIO2014]序列分割
    [HNOI2014]世界树
    [THUWC2017]随机二分图
    快乐游戏鸡
    [SHOI2014]三叉神经树
    带花树学习笔记
    最小树形图——朱刘算法学习笔记
    【WC2018】即时战略
    [HNOI2015]接水果
    [HAOI2018]染色
  • 原文地址:https://www.cnblogs.com/luyanru66/p/9528118.html
Copyright © 2011-2022 走看看