java 编码问题 及转换

  无论是对程序的本地化还是国际化，都会涉及到字符编码的转换的问题。尤其在web应用中常常需要处理中文字符，这时就需要进行字符串的编码转换，将字符串编码转换为GBK或者GB2312。
一、关键技术点：
    1、当前流行的字符编码格式有：US-ASCII、ISO-8859-1、UTF-8、UTF-16BE、UTF-16LE、UTF-16、GBK、GB2312等，其中GBK、GB2312是专门处理中文编码的。
    2、String的getBytes方法用于按指定编码获取字符串的字节数组，参数指定了解码格式，如果没有指定解码格式，则按系统默认编码格式。
    3、String的“String(bytes[] bs, String charset)”构造方法用于把字节数组按指定的格式组合成一个字符串对象
   
二、实例演示：

package book.String;

import java.io.UnsupportedEncodingException;

/**
* 转换字符串的编码
* @author joe
*
*/

public class ChangeCharset {
      /** 7位ASCII字符，也叫作ISO646-US、Unicode字符集的基本拉丁块      */
     public static final String US_ASCII = "US-ASCII";
      /** ISO拉丁字母表 No.1，也叫做ISO-LATIN-1     */
     public static final String ISO_8859_1 = "ISO-8859-1";
      /** 8 位 UCS 转换格式     */
     public static final String UTF_8 = "UTF-8";
      /** 16 位 UCS 转换格式，Big Endian(最低地址存放高位字节）字节顺序     */
     public static final String UTF_16BE = "UTF-16BE";
      /** 16 位 UCS 转换格式，Litter Endian（最高地址存放地位字节）字节顺序     */
     public static final String UTF_16LE = "UTF-16LE";
      /** 16 位 UCS 转换格式，字节顺序由可选的字节顺序标记来标识     */
     public static final String UTF_16 = "UTF-16";
      /** 中文超大字符集     **/
     public static final String GBK = "GBK";
    
     public static final String GB2312 = "GB2312";
    
      /** 将字符编码转换成US-ASCII码     */
      public String toASCII(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str, US_ASCII);
     }
    
      /** 将字符编码转换成ISO-8859-1     */
      public String toISO_8859_1(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str, ISO_8859_1);
     }
    
      /** 将字符编码转换成UTF-8     */
      public String toUTF_8(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str, UTF_8);
     }
    
      /** 将字符编码转换成UTF-16BE     */
      public String toUTF_16BE(String str) throws UnsupportedEncodingException{
         return this.changeCharset(str, UTF_16BE);
     }
    
      /** 将字符编码转换成UTF-16LE     */
      public String toUTF_16LE(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str, UTF_16LE);
     }
    
      /** 将字符编码转换成UTF-16     */
      public String toUTF_16(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str, UTF_16);
     }
    
      /** 将字符编码转换成GBK     */
      public String toGBK(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str, GBK);
     }
    
      /** 将字符编码转换成GB2312     */
      public String toGB2312(String str) throws UnsupportedEncodingException {
         return this.changeCharset(str,GB2312);
     }
    
      /**
      * 字符串编码转换的实现方法
      * @param str    待转换的字符串
      * @param newCharset    目标编码
      */
      public String changeCharset(String str, String newCharset) throws UnsupportedEncodingException {
          if(str != null) {
             //用默认字符编码解码字符串。与系统相关，中文windows默认为GB2312
             byte[] bs = str.getBytes();
             return new String(bs, newCharset);    //用新的字符编码生成字符串
         }
         return null;
     }
    
      /**
      * 字符串编码转换的实现方法

      * 注：该函数效率较低（不建议使用）
      * @param str    待转换的字符串
      * @param oldCharset    源字符集
      * @param newCharset    目标字符集
      */
      public String changeCharset(String str, String oldCharset, String newCharset) throws UnsupportedEncodingException {
          if(str != null) {
             //用源字符编码解码字符串
             byte[] bs = str.getBytes(oldCharset);
             return new String(bs, newCharset);
         }
         return null;
     }
    
      public static void main(String[] args) throws UnsupportedEncodingException {
         ChangeCharset test = new ChangeCharset();
         String str = "This is a 中文的 String!";
         System.out.println("str：" + str);
        
         String gbk = test.toGBK(str);
         System.out.println("转换成GBK码：" + gbk);
         System.out.println();
        
         String ascii = test.toASCII(str);
         System.out.println("转换成US-ASCII：" + ascii);
         System.out.println();
        
         String iso88591 = test.toISO_8859_1(str);
         System.out.println("转换成ISO-8859-1码：" + iso88591);
         System.out.println();
        
         gbk = test.changeCharset(iso88591, ISO_8859_1, GBK);
         System.out.println("再把ISO-8859-1码的字符串转换成GBK码：" + gbk);
         System.out.println();
        
         String utf8 = test.toUTF_8(str);
         System.out.println();
         System.out.println("转换成UTF-8码：" + utf8);
         String utf16be = test.toUTF_16BE(str);
         System.out.println("转换成UTF-16BE码：" + utf16be);
         gbk = test.changeCharset(utf16be, UTF_16BE, GBK);
         System.out.println("再把UTF-16BE编码的字符转换成GBK码：" + gbk);
         System.out.println();
        
         String utf16le = test.toUTF_16LE(str);
         System.out.println("转换成UTF-16LE码：" + utf16le);
         gbk = test.changeCharset(utf16le, UTF_16LE, GBK);
         System.out.println("再把UTF-16LE编码的字符串转换成GBK码：" + gbk);
         System.out.println();
        
         String utf16 = test.toUTF_16(str);
         System.out.println("转换成UTF-16码：" + utf16);
         String gb2312 = test.changeCharset(utf16, UTF_16, GB2312);
         System.out.println("再把UTF-16编码的字符串转换成GB2312码：" + gb2312);
     }

}
str：This is a 中文的 String!
转换成GBK码：This is a 中文的 String!

转换成US-ASCII：This is a ?????? String!

转换成ISO-8859-1码：This is a ?????? String!

再把ISO-8859-1码的字符串转换成GBK码：This is a 中文的 String!


转换成UTF-8码：This is a ????? String!
转换成UTF-16BE码：周楳?猠愠????瑲楮朡
再把UTF-16BE编码的字符转换成GBK码：This is a 中文的 String!

转换成UTF-16LE码：桔獩椠?????匠牴湩Ⅷ
再把UTF-16LE编码的字符串转换成GBK码：This is a 中文的 String!

转换成UTF-16码：周楳?猠愠????瑲楮朡
再把UTF-16编码的字符串转换成GB2312码：?This is a 中文的 String!

三、源码分析：
    更改字符串编码的步骤为:
    1、调用String的getByte方法对字符串进行解码，得到字符串的字节数组（字节数组不携带任何有关编码格式的信息，只有字符才有编码格式）
    2、根据字节数组和新的字符编码构造一个新的String对象，得到的就是按照新的字符编码生成的字符串

 

---

【说明】

        java中的String类是按照unicode进行编码的，当使用String(byte[] bytes, String encoding)构造字符串时，encoding所指的是bytes中的数据是按照那种方式编码的，而不是最后产生的String是什么编码方式，换句话说，是让系统把bytes中的数据由encoding编码方式转换成unicode编码。如果不指明，bytes的编码方式将由jdk根据操作系统决定。

        当我们从文件中读数据时，最好使用InputStream方式，然后采用String(byte[] bytes, String encoding)指明文件的编码方式。不要使用Reader方式，因为Reader方式会自动根据jdk指明的编码方式把文件内容转换成unicode编码。

        当我们从数据库中读文本数据时，采用ResultSet.getBytes()方法取得字节数组，同样采用带编码方式的字符串构造方法即可。

ResultSet rs;
bytep[] bytes = rs.getBytes();
String str = new String(bytes, "gb2312");

不要采取下面的步骤。

ResultSet rs;
String str = rs.getString();
str = new String(str.getBytes("iso8859-1"), "gb2312");

        这种编码转换方式效率底。之所以这么做的原因是，ResultSet在getString()方法执行时，默认数据库里的数据编码方式为iso8859-1。系统会把数据依照iso8859-1的编码方式转换成unicode。使用str.getBytes("iso8859-1")把数据还原，然后利用new String(bytes, "gb2312")把数据从gb2312转换成unicode，中间多了好多步骤。

        从HttpRequest中读参数时，利用reqeust.setCharacterEncoding()方法设置编码方式，读出的内容就是正确的了。

顺便说句，如果你直接在浏览器中的地址栏输入这个的话，浏览器都会使用ISO-8859-1来编码你的URL，然后才提交到服务器，这也是为啥一般服务器端都需要首先进行编码转换