zoukankan      html  css  js  c++  java
  • [转载+总结]关于C++中文字符的处理 absolute 博客园

    [转载+总结]关于C++中文字符的处理 - absolute - 博客园

    关于C++中文字符的处理

    很不错的文章,最近栽在这上面了,转来收藏下,修改了一些小问题。
    首先谈谈我的问题,对于非宽字符的字符串string,如果有汉字,那么如何获取汉字字符呢?直接用索引的话只能获取单字节,因此需要处理下,方法如下:
    wchar_t word = *(wchar_t*)(&(mystring[j]));

    对于string对象,要输出其中某个汉字,可以这样
    string word(mystring,pos,pos+1);//pos为某个汉字的偏移位置,由于汉字占两个字节,因此将mystring的两个字节拷贝到word中就可以输出中文字符了。
    然后cout<<word; 即
    可。
    另外对于宽字符的单个汉字字符是无法输出的,只有将其转换成字符串才行。
        wcout.imbue(locale("chs"));
        wcout<<L"
    "; 可以输出"汉"字
    wcout<<L''; 不能输出汉,输出的只是编码

    以下为转载内容:
    一 引入问题
    代码 wchar_t a[3]=”中国”,编译时出错
    二 解决引入问题所需的知识
       主要需两方面的知识,第一个为字符尤其是汉字的编码,以及语言和工具的支持情况,第二个是vc/c++中MutiByte Charater Set 和 Wide Character Set有关内存分配的情况.
    三 汉字的编码方式及在vc/c++中的处理
    1.汉字编码方式的介绍
    对英文字符的处理,7位ASCII码字符集中的字符即可满足使用需求,且英文字符在计算机上的输入及输出也非常简单,因此,英文字符的输入、存储、内部处理和输出都可以只用同一个编码(如ASCII码)。
    而 汉字是一种象形文字,字数极多(现代汉字中仅常用字就有六、七千个,总字数高达5万个以上),且字形复杂,每一个汉字都有"音、形、义"三要素,同音字、 异体字也很多,这些都给汉字的的计算机处理带来了很大的困难。要在计算机中处理汉字,必须解决以下几个问题:首先是汉字的输入,即如何把结构复杂的方块汉 字输入到计算机中去,这是汉字处理的关键;其次,汉字在计算机内如何表示和存储?如何与西文兼容?最后,如何将汉字的处理结果从计算机内输出?
    为此,必须将汉字代码化,即对汉字进行编码。对应于上述汉字处理过程中的输入、内部处理及输出这三个主要环节,每一个汉字的编码都包括输入码、交换码、内部码和字形码。在计算机的汉字信息处理系统中,处理汉字时要进行如下的代码转换:输入码→交换码→内部码→字形码。
    (1)输入码: 作用是,利用它和现有的标准西文键盘结合来输入汉字。输入码也称为外码。主要归为四类:
    a)      数字编码:数字编码是用等长的数字串为汉字逐一编号,以这个编号作为汉字的输入码。例如,区位码、电报码等都属于数字编码。
    b)      拼音码:拼音码是以汉字的读音为基础的输入办法。
    c)      字形码:字形码是以汉字的字形结构为基础的输入编码。例如,五笔字型码(王码)。
    d)      音形码:音形码是兼顾汉字的读音和字形的输入编码。
    (2)交换码:用于汉字外码和内部码的交换。交换码的国家标准代号为GB2312-80。
    (3)内部码:内部码是汉字在计算机内的基本表示形式,是计算机对汉字进行识别、存储、处理和传输所用的编码。内部码也是双字节编码,将国标码两个字节的最高位都置为"1",即转换成汉字的内部码。
    (4)字形码:字形码是表示汉字字形信息(汉字的结构、形状、笔划等)的编码,用来实现计算机对汉字的输出(显示、打印)。
    2.VC中汉字的编码方式
         vc/c++正 是采用了GB2312内部码作为汉字的编码方式,因此vc/c++中的各种输入输出方法,如cin/wcin,cout/wcout,scanf /wsanf,printf/wprintf...都是基于GB2312的,如果汉字的内码不是这种编码方式,那么利用上述各种方法就不会正确的解析汉 字。
    仔 细观察ASCII字符表,从第161个字符开始,后面的字符并不经常为用户所使用,负值也未使用。GB2312编码方式充分利用这一特性,将 161-255(-95~-1)之间的数值空间作为汉字的标识码。既然255-161 = 94不能满足汉字容量的要求,就将每两个字符并在一块(即一个汉字占两个字节),显然,94* 94 =8836基本上已经满足了常用汉字个数的要求。计算机处理字符时,当连续处理到两个大与160(或-95~-1)的字节时,就认为这两个字节存放了一个 汉字字符。可以用下面的Demo程序来模拟vc/c++中输出汉字字符的过程。
        unsigned char input[50];
    cin>>input;
        int flag=0;
         for(int i =0 ;i < 50 ;i++)
          {
             if(input[i] > 0xa0 && input[i] != 0)
              {
                  if(flag == 1)
                   {
                        cout<<"chinese character"<<endl;
                        flag = 0;
                   }
                  else
                   {
                        flag++;
                   }
              }
             else if(input[i] == 0)
              {
                  break;
              }
             else
              {
                   cout<<"english character"<<endl;
              }
    }
    输入:Hello中国 (“中国”对应的GB2312内码为:214 208,185 250)
    输出:english character
    english character
    english character
    english character
    english character
    chinese character
    chinese character
    vc/c++中的英文字符仍然采用ASCII编码方式。可以设想,其他国家程序员利用vc/c++编写程序输入本国字符时,vc/c++则会采用该国的字符编码方式来处理这些字符。
        问 题又产生了,韩国的vc/c++程序在中国的vc/c++上运行时,如果没有相应的内码库,则对韩语字符的显示有可能出现乱码。我个人猜测,vc安装程序 中应该带有不同国家的内码库,这样一来肯定会占用很大的空间。如果所有的国家使用统一的编码方式,且所有的程序设计语言和开发工具都支持这种编码方式该多 好!而现实中,确实已经有这种编码方式了,且许多新的语言也都支持这种编码方式,如Java、C#等,它就是下面的Unicode编码
    3.新的内码标准---Unicode
    Unicode(统 一码、万国码、单一码)是一种在计算机上使用的字符编码。它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、 处理的要求。1990年开始研发,1994年正式公布。随着计算机工作能力的增强,Unicode也在面世以来的十多年里得到普及。最新版本的 Unicode 是 2005年3月31推出的Unicode 4.1.0 。另外,5.0 Beta已于2005年12月12日推出,以供各会员评价。
    Unicode 编码系统可分为编码方式和实现方式两个层次。
    编 码方式:Unicode 的编码方式与 ISO 10646 的通用字符集(Universal Character Set,UCS)概念相对应,目前的用于实用的 Unicode 版本对应于 UCS-2,使用16位的编码空间。也就是每个字符占用2个字节。这样理论上一共最多可以表示 216 个字符。基本满足各种语言的使用。实际上目前版本的 Unicode 尚未填充满这16位编码,保留了大量空间作为特殊使用或将来扩展。
    实 现方式:Unicode 的实现方式不同于编码方式。一个字符的 Unicode 编码是确定的。但是在实际传输过程中,由于不同系统平台的设计不一定一致,以及出于节省空间的目的,对 Unicode 编码的实现方式有所不同。Unicode 的实现方式称为Unicode转换格式(Unicode Translation Format,简称为 UTF)。如,UTF-8 编码,这是一种变长编码,它将基本7位ASCII字符仍用7位编码表示,占用一个字节(首位补0)。而遇到与其他 Unicode 字符混合的情况,将按一定算法转换,每个字符使用1-3个字节编码,并利用首位为0或1进行识别。
    Java与C#语言都是采用Unicode编码方式,在这两种语言中定义一个字符,在内存中存放的就是这个字符的两字节Unicode码。如下所示:
    char a='我';     => 内存中存放的Unicode码为:25105
    4.内码的相互转换
    (1)vc中的实现方法
       利用Windows系统提供的API:::MultiByteToWideChar::WideCharToMultiByte
    ::MultiByteToWideChar实现当前码到Unicode码的转换;
    ::WideCharToMultiByte实现Unicode码到当前码的转换;
    (2)Java中的实现方法
        String vcString=new String(javaString.getBytes("UTF-8"),"gb2312");
    java的编码应该是UTF-8
    (3)C#中的实现方法
        ??
    四 vc中的MutiByte Charater Set 和 Wide Character Set
    1.MultiByte Charater Set方式
       这 种方式以按字节为单位存放字符,即如果一个字符码为两字节,则在内存中占两字节,字符码为一字节,就占一字节。例如,字符串“中国abc”的编码为:中 (0xd6、0xd0)、国(0xb9、0xfa)、a(0x61)、b(0x62)、c(0x63)、\0(0x00),就存为如下方式:
    对应的类型,方法有:
    char、scanf、printf、cin、cout …
  • 相关阅读:
    【批处理】批处理遍历指定文件夹下的文件
    Win10删除文件显示删除确认对话框
    【makefile】make程序的命令行选项和参数
    【批处理】获取当前目录的绝对路径
    Win10怎样显示此电脑
    单片机普通行列矩阵键盘驱动
    ADS1.2与MDK4.7冲突问题的解决方法
    Cortex-M3 咬尾中断 与 晚到中断
    Cortex-M3 SVC与PendSV
    安卓渗透测试工具——Drozer(安装和使用)
  • 原文地址:https://www.cnblogs.com/lexus/p/2874583.html
Copyright © 2011-2022 走看看