云海顽石 发表于 2009-1-9 09:37:06

Java中文问题详解,底层编码解剖

  预备知识:
  1.字节和unicode
  Java内核是unicode的,就连class文件也是,但是很多媒体,包括文件/流的保存方式是使用字节流的。 因此Java要对这些字节流经行转化。char是unicode的,而byte是字节.Java中byte/char互转的函数在sun.io的包中间有。其中ByteToCharConverter类是中调度,可以用来告诉你,你用的Convertor。其中两个很常用的静态函数是。




  public static ByteToCharConverter getDefault() ;
  public static ByteToCharConverter getConverter(String encoding);
   
    如果你不指定converter,则系统会自动使用当前的Encoding,GB平台上用GBK,EN平台上用8859_1
  我们来就一个简单的例子:
  "你"的gb码是:0xC4E3 ,unicode是0x4F60
  你用:
  



  encoding="gb2312";
  byte b[]={(byte)'\u00c4',(byte)'\u00E3'};
  convertor=ByteToCharConverter.getConverter(encoding);
  char [] c=converter.convertAll(b);
  for(int i=0;i{
  ***.out.println(Integer.toHexString(c));
  }
   打印出来是0x4F60
  但是如果使用8859_1的编码,打印出来是
  0x00C4,0x00E3
  例1
  反过来:




  encoding="gb2312";
  char c[]={'\u4F60'};
  convertor=ByteToCharConverter.getConverter(encoding);
  byte [] b=converter.convertAll(c);
  for(int i=0;i{
  ***.out.println(Integer.toHexString(b));
  }
   
   打印出来是:0xC4,0xE3
  例2
  如果用8859_1就是0x3F,?号,表示无法转化
  很多中文问题就是从这两个最简单的类派生出来的。而却有很多类不直接支持把Encoding输入,这给我们带来诸多不便。很多程序难得用encoding了,直接用default的encoding,这就给我们移植带来了很多困难
  2.UTF-8
  UTF-8是和Unicode一一对应的,其实现很简单
  7位的Unicode: 0 _ _ _ _ _ _ _
  11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _
  16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
  21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
  大多数情况是只使用到16位以下的Unicode:
  你"的gb码是:0xC4E3 ,unicode是0x4F60
  我们还是用上面的例子
  例1:0xC4E3的二进制:
  1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1
  由于只有两位我们按照两位的编码来排,但是我们发现这行不通,因为第7位不是0因此,返回"?"
页: [1]
查看完整版本: Java中文问题详解,底层编码解剖