中文顯示原理研究(轉)

中文顯示原理研究(轉)[@more@]

預備知識：

　1.位元組和unicode

　　Java核心是unicode的，就連class檔案也是，但是很多媒體，包括檔案/流的儲存方式

　　是使用位元組流的。 因此Java要對這些位元組流經行轉化。char是unicode的，而byte是位元組.

　　Java中byte/char互轉的函式在sun.io的包中間有。其中ByteToCharConverter類是中排程，

　　可以用來告訴你，你用的Convertor。其中兩個很常用的靜態函式是

　　 public static ByteToCharConverter getDefault() ;

　　 public static ByteToCharConverter getConverter(String encoding);

　　如果你不指定converter，則系統會自動使用當前的Encoding,GB平臺上用GBK,EN平臺上用

　　8859_1

　　

　　我們來就一個簡單的例子：

　　　　　"你"的gb碼是：0xC4E3 ,unicode是0x4F60

　　　　　你用:

　　　　　--encoding="gb2312";

　　　　　--byte b[]={(byte)'u00c4',(byte)'u00E3'};

　　　　　--convertor=ByteToCharConverter.getConverter(encoding);

　　　　　--char [] c=converter.convertAll(b);

　　　　　--for(int i=0;i　　　　　--{

　　　　　-- System.out.println(Integer.toHexString(c[ i]));

　　　　　--}

　　　　　--列印出來是0x4F60

　　　　　--但是如果使用8859_1的編碼，列印出來是

　　　　　--0x00C4,0x00E3

　　　　　----例１

　　　　 反過來：

　　　　 --encoding="gb2312";

　　　　 　　　char c[]={'u4F60'};

　　　　　　　 convertor=ByteToCharConverter.getConverter(encoding);

　　　　　--byte [] b=converter.convertAll(c);

　　　　　--for(int i=0;i　　　　　--{

　　　　　-- System.out.println(Integer.toHexString(b[i]));

　　　　　--}

　　　　　　--列印出來是：0xC4,0xE3

　　　　　　----例２

　　　　　　--如果用8859_1就是0x3F，?號，表示無法轉化　　　　　　--

　　　　　 很多中文問題就是從這兩個最簡單的類派生出來的。而卻有很多類　　

　　不直接支援把Encoding輸入，這給我們帶來諸多不便。很多程式難得用encoding

　　了，直接用default的encoding，這就給我們移植帶來了很多困難

　　--

　　2.UTF-8

　　--UTF-8是和Unicode一一對應的，其實現很簡單

　　--

　　 -- 7位的Unicode: 0 _ _ _ _ _ _ _

　　--11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _

　　--16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _

　　--21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _

　　--大多數情況是隻使用到16位以下的Unicode:

　　--"你"的gb碼是：0xC4E3 ,unicode是0x4F60

　　--我們還是用上面的例子

　　--　　--例１：0xC4E3的二進位制：

　　--　　--　　　 1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1

　　--　　--　　　 由於只有兩位我們按照兩位的編碼來排，但是我們發現這行不通，

　　--　　--　　　 因為第７位不是0因此，返回"?"

　　--　　--　　　

　　--　　--例２：0x4F60的二進位制：

　　--　　--　　　 0 1 0 0 1 1 1 1 0 1 1 0 0 0 0 0

　　--　　--　　　 我們用UTF-8補齊，變成：

　　--　　--　　　 11100100 10111101 10100000

　　--　　--　　　 E4--BD-- A0

　　--　　--　　　 於是返回0xE4,0xBD,0xA0

　　--　　--

　　3.String和byte[]

　　--String其實核心是char[],然而要把byte轉化成String，必須經過編碼。

　　--String.length()其實就是char陣列的長度，如果使用不同的編碼，很可

　　--能會錯分，造成散字和亂碼。

　　--例：

　　----byte [] b={(byte)'u00c4',(byte)'u00e3'};

　　----String str=new String(b,encoding);　　----

　　----如果encoding=8859_1，會有兩個字，但是encoding=gb2312只有一個字　　----

　　--這個問題在處理分頁是經常發生

　　4.Reader,Writer/InputStream,OutputStream

　　--Reader和Writer核心是char，InputStream和OutputStream核心是byte。

　　--但是Reader和Writer的主要目的是要把Char讀/寫InputStream/OutputStream

--一個reader的例子：

--檔案test.txt只有一個"你"字，0xC4,0xE3--

--String encoding=;

--InputStreamReader reader=new InputStreamReader(

----new FileInputStream("text.txt"),encoding);

--char []c=new char[10];

--int length=reader.read(c);

--for(int i=0;i----System.out.println(c[i]);

　　--如果encoding是gb2312，則只有一個字元，如果encoding=8859_1，則有兩個字元

　　--------

--

--

　　

　　 ----

　2.我們要對Java的編譯器有所瞭解：

　--javac -encoding

　 我們常常沒有用到ENCODING這個引數。其實Encoding這個引數對於跨平臺的操作是很重要的。

　 如果沒有指定Encoding，則按照系統的預設Encoding,gb平臺上是gb2312，英文平臺上是ISO8859_1。　

　--Java的編譯器實際上是呼叫sun.tools.javac.Main的類，對檔案進行編譯，這個類　--

　有compile函式中間有一個encoding的變數,-encoding的引數其實直接傳給encoding變數。

　編譯器就是根據這個變數來讀取java檔案的，然後把用UTF-8形式編譯成class檔案。

　一個例子：

　--public void test()

　--{

　----String str="你";

　----FileWriter write=new FileWriter("test.txt");

　----write.write(str);

　----write.close();

　--}

　----例３

--如果用gb2312編譯，你會找到E4 BD A0的欄位

--

--如果用8859_1編譯，

--00C4 00E3的二進位制：

--00000000 11000100 00000000 11100011--

--因為每個字元都大於7位，因此用11位編碼：

--11000001 10000100 11000011 10100011

--C1-- 84--　C3--　 A3

--你會找到C1 84 C3 A3 --

　　　　

　　但是我們往往忽略掉這個引數，因此這樣往往會有跨平臺的問題：

　　--　　例３在中文平臺上編譯，生成ZhClass

　　--　　例３在英文平臺上編譯，輸出EnClass

　　--1.　 ZhClass在中文平臺上執行OK,但是在英文平臺上不行

　　--2.　 EnClass在英文平臺上執行OK,但是在中文平臺上不行

　　原因：

　--1.在中文平臺上編譯後，其實str在執行態的char[]是0x4F60,　----

　--在中文平臺上執行，FileWriter的預設編碼是gb2312,因此

　--CharToByteConverter會自動用呼叫gb2312的converter,把str轉化

　--成byte輸入到FileOutputStream中，於是0xC4,0xE3放進了檔案。

　--但是如果是在英文平臺下，CharToByteConverter的預設值是8859_1,

　--FileWriter會自動呼叫8859_1去轉化str,但是他無法解釋，因此他會

　--輸出"?"　----

　--2.　在英文平臺上編譯後，其實str在執行態的char[]是0x00C4 0x00E3,　----

　--在中文平臺上執行，中文無法識別，因此會出現??

　--　　在英文平臺上，0x00C4--&gt0xC4,0x00E3->0xE3，因此0xC4,0xE3被放進了

　--檔案

----

1.對於JSP正文的解釋：

--Tomcat首先看一下你的葉面中有沒有"--地方設定response.setContentType(..);按照encoding的來讀，沒有他按照8859_1

--讀取檔案，然後用UTF-8寫成.java檔案，然後用sun.tools.Main去讀取這個檔案，

--（當然它使用UTF-8去讀），然後編譯成class檔案

--setContentType改變的是out的屬性，out變數預設的encoding是8859_1

2.對Parameter的解釋

--很不幸Parameter只有ISO8859_1的解釋，這個質料可以在servlet的實現程式碼中找到。

3.對include的解釋

格式的，但是很不幸，由於那個寫"org.apache.jasper.compiler.Parser"的人

在陣列JspUtil.ValidAttribute[]忘記加了一個引數：encoding,因此導致不支

持這種方式。你完全可以編譯原始碼，加上對encoding的支援

總結：

如果你在NT底下，最簡單的方法就是欺騙java,不加任何Encoding變數：

你好

你

結果:你好你

但這種方法侷限性較大，比如對上傳的文章分段，這樣的做法是死定的，最好的

解決方案是用這種方案：

你好

必讀好文,但解決方案不敢恭維

--------------------------------------------------------------------------------

1.網頁傳引數不提倡用get方法,而且使用者可以調整是否用utf-8傳送

2.建議jsp中最好不要用,實際上加不加這句都有實現中文正常顯示的方案,我認為不加方便些,至少不用寫這些程式碼,如下的配置我認為可以使中文正常顯示:

a.所有的javabean用iso8859-1編譯

b.jsp檔案中不要寫以上charset=gb2312的語句(寫了反而錯)

在tomcat情況下注意以上2點就行---了,等等,對於其他有可能不行的jsp伺服器,加上以下

c.伺服器上的作業系統語言設為英文(像沒有裝類似bluepoint中文系統的linux一般本來就是英文)

就行---了

誰要是還不對,請報告....

Re：必讀好文,但解決方案不敢恭維

--------------------------------------------------------------------------------

Tomcat的引數問題無論是GET或是POST方式都是用8859_1編碼的。這個可以看Tomcat Servlet實現的原始碼:

a) 對於POST方法

　javax.servlet.http.HttpUtils的parsePostData方法： (對於POST的Form資料)

　String postedBody = new String(postedBytes, 0, len, "8859_1");)這裡是沒有問題的因為中文都會用%來說明。但是 parseName這個函式，卻沒有把是中文的東西整合起來，他只是簡單的拼湊，因此可以認定他是使用8859_1的編碼規則

　 sb.append((char) Integer.parseInt(s.substring(i+1, i+3), 16));

----　　i += 2;

--

b) 對於GET方法

　org.apache.tomcat.service.http.HttpRequestAdapter

　　　--　line=new String(buf, 0, count,

　　　　　　 Constants.CharacterEncoding.Default);

----Constants.CharacterEncoding.Default=8859_1

　這段程式碼不好跟蹤，千萬不要被一些假象迷惑住。HttpRequestAdapter是從RequestImpl中派生的。但是，實際上用8080埠的 Server並沒有直接用到RequestImpl，而是用了HttpRequestAdapter來獲得queryString

對於加不加encoding，我保留我的意見，因為如果要解決上傳檔案分頁問題，必須要用他來編碼。而且編碼能保證在一些Beans當中的傳遞性。

看來我要在這裡說明一下了

--------------------------------------------------------------------------------

Tomcat 僅僅是一個對jsp1.1,servlet2.2的一個標準的實現,我們不應該要求這個免費軟體在細緻末節上和效能上都面面俱到,它主要考慮的英文使用者, 這也是為什麼不作特殊轉換我們的漢字用url方法傳遞有問題的原因,我們大部分瀏覽器ie其高階設定中始終以utf-8傳送url的選項預設是選上的,如果說這是tomcat的bug也是可以的,另外Tomcat不管當前的作業系統是什麼語言,好像都按iso8859去編譯jsp,我覺得也有點欠妥,但是不管怎麼說,新標準的實現和熱門的軟體在語言的支援方面永遠都是先考慮英文

我的方案什麼說要好一些呢

1.還是那句話,英文國家的軟體永遠都是先考慮英文,java虛擬機器的規範中要求虛擬機器內部必須實現iso8859,unicode,UTF-8三種,其他的不作要求,我們用的 jdk中的虛擬機器就是這樣,嵌入式的就更不用說了,也就是說其他的ENCODE都很可能不是java虛擬機器內部直接支援的,我們的中文自然也不在其列,需要外部的包支援轉換,sun jdk應該在i18n.jar中,用iso8859速度最快,不需要其它呼叫和交換什麼的,更沒有讀包的io操作

2.至少少寫了程式碼,沒有額外操作,簡潔的風格誰不喜歡

3.所寫的jsp頁面國際性化好,我才寫了一個jsp+javabeans的聊天室軟體(沒有用到servlet,jsp真的確實很好),同樣的程式美國人用他們的瀏覽器進入就是英文介面,中文進入就是中文介面,如果加上charset=gb2312至少很麻煩

4.限定了gb2312,如果使用者要用GBK,怎麼辦,不加更好,不管什麼的字符集,只要我當前瀏覽器設定的是,我就能顯示出來

總結:無論從速度上,開發效率上,和可擴充套件性上考慮,我的方案都比你的好,另外,我找不到你的方案比我的好的地方.