zoukankan      html  css  js  c++  java
  • 教你如何让数据库支持emoji表情符存储

    From: http://www.cnblogs.com/janehoo/archive/2016/04/06/5359800.html

    一、教你如何让数据库支持emoji表情符存储

    解决方式:更换字符集utf8-->utf8mb4

     上周有开发人员反馈一个问题:前台应用抓取微博信息,每天总有几条数据插入不成功。应用日志显示:  

    java.sql.SQLException: Incorrect string value: 'xF0x9Fx92xAA",...' for column 'raw_json' at row 1, 异常:org.springframework.jdbc.UncategorizedSQLException:  

    其中raw_json字段显示如下:

      由上图可知,插入的字段里面包含emoji表情符。基本可以判定是字符编码的问题。我们的数据库里面使用的是utf8编码,普通的字符串或者表情都是占位3个字节,所以utf8足够用了,但是移动端的表情符号占位是4个字节,普通的utf8就不够用了,为了应对无线互联网的机遇和挑战、避免 emoji 表情符号带来的问题、涉及无线相关的 MySQL 数据库建议都提前采用utf8mb4 字符集,这必须要作为移动互联网行业的一个技术选型的要点。

    utf8与utf8mb4说明:  

    UTF- 8:Unicode Transformation Format-8bit,允许含BOM,但通常不含BOM。是用以解决国际上字符的一种多字节编码,它对英文使用8位(即一个字节),中文使用24为(三个字节)来编码。UTF-8包含全世界所有国家需要用到的字符,是国际编码,通用性强。UTF-8编码的文字可以在各国支持UTF8字符集的浏览器上显示。如果是UTF8编码,则在外国人的英文IE上也能显示中文,他们无需下载IE的中文语言支持包。  

    UTF8MB4:MySQL在5.5.3之后增加了utf8mb4的编码,mb4就是most bytes 4的意思,专门用来兼容四字节的unicode。   

    既然找到了原因就来执行吧.既然只有raw_json列含表情符,就先尝试修改此列的字符集:  

    1
    ALTER TABLE xx_pnl_weibo_usershow  <br>MODIFY ` raw_json` varchar(3000) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;

    改完后测试,插入失败。  

    尝试修改表的字符集:  

    1
    alter table xx_pnl_weibo_usershow CHARSET=utf8mb4 ;  (修改表的默认字符集)
    alter table xx_pnl_weibo_usershow CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;(修改表和字段的字符集)

    改完后测试,插入失败。  

    修改库级别的字符集 

    1
    2
    3
    4
    5
    6
    7
    8
    vi /etc/my.cnf 
     
    [client]  
    default-character-set=utf8mb4  
    [mysqld]  
    character-set-server = utf8mb4 
      
    service mysqld restart

     改完后测试,插入成功。查看插入的数据:  

    复制代码

    root@localhost zx_prod >select id,raw_json,hex(raw_json),length(raw_json) from  xx_pnl_weibo_usershow where id=2;

    +----+------------------+----------------------------------+---------------------+
    | id | raw_json | hex(raw_json) | length(raw_json) |
    +----+------------------+----------------------------------+---------------------+
    | 2 |  | F09F9894F09F9882F09F9898F09F9894 | 16 |
    +----+------------------+----------------------------------+---------------------+
    1 row in set (0.00 sec)

    复制代码

     

     因为是线上生产业务,需要先在测试环境做好测试工作。避免业务高峰期,线上申请停机窗口操作。

    emoji表情编码参考: 

      http://punchdrunker.github.io/iOSEmoji/table_html/flower.html

  • 相关阅读:
    从寻找资源的习惯上谈如何获得好的代码及控件(使用Koders查找)
    数据仓库的一些基本知识2
    淘宝API开发系列商家的绑定
    淘宝API开发系列开篇概述
    读取实体类的属性的备注作为表头的应用
    设置Windows服务允许进行桌面交互,实现屏幕监控
    C#进行Visio二次开发之组合形状操作
    吉日嘎啦通用权限管理系统解读及重构升华高度封装的编辑窗体
    WinForm界面开发之模块化分合
    CLR中的内存管理
  • 原文地址:https://www.cnblogs.com/joeblackzqq/p/7111888.html
Copyright © 2011-2022 走看看