【第1168期】字元編碼的故事

前端早讀課發表於2018-01-14

字元

前言

講枯燥的知識講解的非常生動，文中描述了字元編碼的前世今生，看下來輕鬆又有趣。文末有簡單的總結。今日早讀文章由@於洋分享。

本文由 @仙人掌推薦編輯分享。

正文從這裡開始

很久很久以前，有一群人，他們決定用 8 個可以開合的電晶體來組合成不同的狀態，以表示世界上的萬物。他們看到 8 個開關狀態是好的，於是他們把這稱為 位元組。

再後來，他們又做了一些可以處理這些位元組的機器，機器開動了，可以用位元組來組合出很多狀態，狀態開始變來變去。他們看到這樣是好的，於是它們就這機器稱為 計算機。

ASCII

開始計算機只在美國用，八位的位元組一共可以組合出 256 種不同的狀態。他們把其中的編號從 0 開始的 32 種狀態分別規定了特殊的用途，一但終端、印表機遇上約定好的這些位元組被傳過來時，就要做一些約定的動作，如：

遇上0×10, 終端就換行；
遇上0×07, 終端就向人們嘟嘟叫；
遇上0x1b, 印表機就列印反白的字，或者終端就用彩色顯示字母。

他們看到這樣很好，於是就把這些 0×20 以下的位元組狀態稱為 控制碼。他們又把所有的空格、標點符號、數字、大小寫字母分別用連續的位元組狀態表示，一直編到了第 127 號，這樣計算機就可以用不同位元組來儲存英語的文字了。

大家看到這樣，都感覺很好，於是大家都把這個方案叫做 ASCII 編碼。

American Standard Code for Information Interchange：美國資訊互換標準程式碼。

當時世界上所有的計算機都用同樣的 ASCII 方案來儲存英文文字。

GB2312

後來，就像建造巴比倫塔一樣，世界各地的都開始使用計算機，但是很多國家用的不是英文，他們的字母裡有許多是 ASCII 裡沒有的，為了可以在計算機儲存他們的文字，他們決定採用 127 號之後的空位來表示這些新的字母、符號，還加入了很多畫表格時需要用下到的橫線、豎線、交叉等形狀，一直把序號編到了最後一個狀態 255。

從128 到 255 這一頁的字符集被稱為 擴充套件字符集。從此之後，貪婪的人類再沒有新的狀態可以用了，美帝國主義可能沒有想到還有第三世界國家的人們也希望可以用到計算機吧！

等中國人們得到計算機時，已經沒有可以利用的位元組狀態來表示漢字，況且有 6000 多個常用漢字需要儲存呢。

但是這難不倒智慧的中國人民，我們不客氣地把那些 127 號之後的奇異符號們直接取消掉, 規定：

一個小於127的字元的意義與原來相同，但兩個大於 127 的字元連在一起時，就表示一個漢字；
前面的一個位元組（他稱之為高位元組）從 0xA1 用到 0xF7，後面一個位元組（低位元組）從 0xA1 到 0xFE；

這樣我們就可以組合出大約7000多個簡體漢字了。

在這些編碼裡，我們還把數學符號、羅馬希臘的字母、日文的假名們都編進去了，連在 ASCII 裡本來就有的數字、標點、字母都統統重新編了兩個位元組長的編碼，這就是常說的 全形字元。

而原來在 127 號以下的那些就叫 半形字元 了。

中國人民看到這樣很不錯，於是就把這種漢字方案叫做 GB2312。GB2312 是對 ASCII 的中文擴充套件。

GBK

但是中國的漢字太多了，我們很快就就發現有許多人的人名沒有辦法在這裡打出來，特別是某些很會麻煩別人的國家領導人。於是我們不得不繼續把 GB2312 沒有用到的碼位找出來老實不客氣地用上。

後來還是不夠用，於是乾脆不再要求低位元組一定是 127 號之後的內碼，只要第一個位元組是大於 127 就固定表示這是一個漢字的開始，不管後面跟的是不是擴充套件字符集裡的內容。結果擴充套件之後的編碼方案被稱為 GBK 標準，GBK 包括了GB2312的所有內容，同時又增加了近 20000 個新的漢字（包括繁體字）和符號。

GB18030 / DBCS

後來少數民族也要用電腦了，於是我們再擴充套件，又加了幾千個新的少數民族的字，GBK 擴成了 GB18030。從此之後，中華民族的文化就可以在計算機時代中傳承了。

中國的程式設計師們看到這一系列漢字編碼的標準是好的，於是通稱他們叫做 DBCS。

Double Byte Charecter Set：雙位元組字符集。

在 DBCS 系列標準裡，最大的特點是兩位元組長的漢字字元和一位元組長的英文字元並存於同一套編碼方案裡，因此他們寫的程式為了支援中文處理，必須要注意字串裡的每一個位元組的值，如果這個值是大於 127 的，那麼就認為一個雙位元組字符集裡的字元出現了。

那時候凡是受過加持，會程式設計的計算機僧侶們都要每天念下面這個咒語數百遍：”一個漢字算兩個英文字元！一個漢字算兩個英文字元……”

因為當時各個國家都像中國這樣搞出一套自己的編碼標準，結果互相之間誰也不懂誰的編碼，誰也不支援別人的編碼。

連大陸和臺灣這樣只相隔了 150 海里，使用著同一種語言的兄弟地區，也分別採用了不同的 DBCS 編碼方案。

當時的中國人想讓電腦顯示漢字，就必須裝上一個 漢字系統，專門用來處理漢字的顯示、輸入的問題，但是那個臺灣的愚昧封建人士寫的算命程式就必須加裝另一套支援 BIG5 編碼的什麼 倚天漢字系統 才可以用，裝錯了字元系統，顯示就會亂了套！這怎麼辦？而且世界民族之林中還有那些一時用不上電腦的窮苦人民，他們的文字又怎麼辦？真是計算機的巴比倫塔命題啊！

Unicode

正在這時，大天使加百列及時出現了，一個叫 ISO 的國際組織決定著手解決這個問題。

International Organization for Standardization：國際標準化組織。

他們採用的方法很簡單，廢了所有的地區性編碼方案，重新搞一個包括了地球上所有文化、所有字母和符的編碼！

他們打算叫它 Universal Multiple-Octet Coded Character Set，簡稱 UCS，俗稱 Unicode。

Unicode 開始制訂時，計算機的儲存器容量極大地發展了，空間再也不成為問題了。於是 ISO 就直接規定必須用兩個位元組，也就是 16 位來統一表示所有的字元，對於 ASCII 裡的那些 半形字元，Unicode 保持其原編碼不變，只是將其長度由原來的 8 位擴充套件為16 位，而其他文化和語言的字元則全部重新統一編碼。

由於 半形英文符號 只需要用到低 8 位，所以其高 8 位永遠是 0，因此這種大氣的方案在儲存英文文字時會多浪費一倍的空間。

這時候，從舊社會裡走過來的程式設計師開始發現一個奇怪的現象：他們的 strlen函式靠不住了，一個漢字不再是相當於兩個字元了，而是一個！是的，從 Unicode 開始，無論是半形的英文字母，還是全形的漢字，它們都是統一的 一個字元！同時，也都是統一的 兩個位元組，請注意 字元 和 位元組 兩個術語的不同：

“位元組”是一個8位的物理存貯單元，
而“字元”則是一個文化相關的符號。

在 Unicode 中，一個字元就是兩個位元組。一個漢字算兩個英文字元的時代已經快過去了。

UTF-8

Unicode 同樣也不完美，這裡就有兩個的問題：

一個是，如何才能區別 Unicode 和 ASCII？計算機怎麼知道三個位元組表示一個符號，而不是分別表示三個符號呢？
第二個問題是，我們已經知道，英文字母只用一個位元組表示就夠了，如果 Unicode 統一規定，每個符號用三個或四個位元組表示，那麼每個英文字母前都必然有二到三個位元組是 0，這對於儲存空間來說是極大的浪費，文字檔案的大小會因此大出二三倍，這是難以接受的。

Unicode 在很長一段時間內無法推廣，直到網際網路的出現，為解決 Unicode如何在網路上傳輸的問題，於是面向傳輸的眾多 UTF 標準出現了，

Universal Character Set（UCS）Transfer Format：UTF編碼。

顧名思義：

UTF-8就是每次 8 個位傳輸資料，
而UTF-16就是每次 16 個位。

UTF-8 就是在網際網路上使用最廣的一種 Unicode 的實現方式，這是為傳輸而設計的編碼，並使編碼無國界，這樣就可以顯示全世界上所有文化的字元了。

UTF-8 最大的一個特點，就是它是一種變長的編碼方式。

它可以使用 1~4 個位元組表示一個符號，根據不同的符號而變化位元組長度，當字元在 ASCII 碼的範圍時，就用一個位元組表示，保留了 ASCII 字元一個位元組的編碼做為它的一部分，需要注意的是 Unicode 一箇中文字元佔 2 個位元組，而 UTF-8 一箇中文字元佔 3 個位元組。

從 Unicode 到 UTF-8 並不是直接的對應，而是要過一些演算法和規則來轉換。

Unicode符號範圍 | UTF-8編碼方式
(十六進位制) | （二進位制） 
—————————————————————– 
0000 0000-0000 007F | 0xxxxxxx 
0000 0080-0000 07FF | 110xxxxx 10xxxxxx 
0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx 
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

最後簡單總結一下：

中國人民通過對 ASCII 編碼的中文擴充改造，產生了 GB2312 編碼，可以表示6000多個常用漢字。
漢字實在是太多了，包括繁體和各種字元，於是產生了 GBK 編碼，它包括了 GB2312 中的編碼，同時擴充了很多。
中國是個多民族國家，各個民族幾乎都有自己獨立的語言系統，為了表示那些字元，繼續把 GBK 編碼擴充為 GB18030 編碼。
每個國家都像中國一樣，把自己的語言編碼，於是出現了各種各樣的編碼，如果你不安裝相應的編碼，就無法解釋相應編碼想表達的內容。
終於，有個叫 ISO 的組織看不下去了。他們一起創造了一種編碼 UNICODE ，這種編碼非常大，大到可以容納世界上任何一個文字和標誌。所以只要電腦上有 UNICODE 這種編碼系統，無論是全球哪種文字，只需要儲存檔案的時候，儲存成 UNICODE 編碼就可以被其他電腦正常解釋。
UNICODE 在網路傳輸中，出現了兩個標準 UTF-8 和 UTF-16，分別每次傳輸 8個位和 16個位。於是就會有人產生疑問，UTF-8 既然能儲存那麼多文字、符號，為什麼國內還有這麼多使用 GBK 等編碼的人？因為 UTF-8 等編碼體積比較大，佔電腦空間比較多，如果面向的使用人群絕大部分都是中國人，用 GBK 等編碼也可以。

最後，為你推薦

【第880期】談談 Emoji 和字元編碼

【第809期】六個字元，帶你領略JavaScript

【第94期】字元編碼的奧祕

關於本文
作者：@於洋
原文：https://www.zhihu.com/question/23374078/answer/69732605

0?wx_fmt=jpeg