Unicode和UTF-8之間的轉換詳解
通過這幾天的研究,終於明白了Unicode和UTF-8之間編碼的區別。Unicode是一個字符集,而UTF-8是Unicode的其中一種,Unicode是定長的都為雙位元組,而UTF-8是可變的,對於漢字來說Unicode佔有的位元組比UTF-8佔用的位元組少1個位元組。Unicode為雙位元組,而UTF-8中漢字佔三個位元組。
網魂小兵 http://xdotnet.cnblogs.com
UTF-8編碼字元理論上可以最多到6個位元組長,然而16位BMP(Basic Multilingual Plane)字元最多隻用到3位元組長。下面看一下UTF-8編碼表:
U-00000000 - U-0000007F: 0xxxxxxx
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx 的位置由字元編碼數的二進位制表示的位填入, 越靠右的 x 具有越少的特殊意義,只用最短的那個足夠表達一個字元編碼數的多位元組串。 注意在多位元組串中, 第一個位元組的開頭"1"的數目就是整個串中位元組的數目。而第一行中以0開頭,是為了相容ASCII編碼,為一個位元組,第二行就為雙位元組字串,第三行為3位元組,如漢字就屬於這種,以此類推。(個人認為:其實我們可以簡單的把前面的1的個數看成位元組數)
網魂小兵 http://xdotnet.cnblogs.com
為了要將Unicode轉換為UTF-8,當然要知道他們的區別到底在什麼地方。下面來看一下,在Unicode中的編碼是怎樣轉換成UTF-8的,在UTF-8中,如果一個字元的位元組小於0x80(128)則為ASCII字元,佔一個位元組,可以不用轉換,因為UTF-8相容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”,把它轉換為二進位制為100111101100000,然後按照UTF-8的方法進行轉換。可以將Unicode二進位制從地位往高位取出二進位制數字,每次取6位,如上述的二進位制就可以分別取出為如下所示的格式,前面按格式填補,不足8位用0填補。
unicode: 100111101100000 4F60
utf-8: 11100100,10111101,10100000 E4BDA0
從上面就可以很直觀的看出Unicode到UTF-8之間的轉換,當然知道了UTF-8的格式後,就可以進行逆運算,就是按照格式把它在二進位制中的相應位置上取出,然後在轉換就是所得到的Unicode字元了(這個運算可以通過“位移”來完成)。
網魂小兵 http://xdotnet.cnblogs.com
如上述的“你”的轉換,由於其值大於0x800小於0x10000,因此可以判斷為三位元組儲存,則最高位需要向右移“12”位再根據三位元組格式的最高位為11100000(0xE0)求或(|)就可以得到最高位的值了。同理第二位則是右移“6”位,則還剩下最高位和第二位的二進位制值,可以通過與111111(0x3F)求按位於(&)操作,再和11000000(0x80)求或(|)。第三位就不用移位了,只要直接取最後六位(與111111(ox3F)取&),在與11000000(0x80)求或(|)。OK了,轉換成功!在VC++中的程式碼如下所示(Unicode到UTF-8的轉換)。
1 const wchar_t pUnicode = L"你";
2 char utf8[3+1];
3 memset(utf8,0,4);
4 utf8[0] = 0xE0|(pUnicode>>12);
5 utf8[1] = 0x80|((pUnicode>>6)&0x3F);
6 utf8[2] = 0x80|(pUnicode&0x3F);
7 utf8[3] = "\0";
8 //char[4]就是UTF-8的字元“你”了。
當然在UTF-8到Unicode的轉換也是通過移位等來完成的,就是把UTF-8那些格式相應的位置的二進位制數給揪出來。在上述例子中“你”為三個位元組,因此要每個位元組進行處理,有高位到低位進行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個位元組11100100就是把其中的"0100"給取出來,這個很簡單隻要和11111(0x1F)取與(&),由三位元組可以得知最到位肯定位於12位之前,因為每次取六位。所以還要將得到的結果左移12位,最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來,則只需將第二位元組10111101和111111(0x3F)取與(&)。在將所得到的結果左移6位與最高位元組所得的結果取或(|),第二位就這樣完成了,得到的結果為0100,111101,000000。以此類推最後一位直接與111111(0x3F)取與(&),再與前面所得的結果取或(|)即可得到結果0100,111101,100000。OK,轉換成功!在VC++中的程式碼如下所示(UTF-8到Unicode的轉換)。
1 //UTF-8格式的字串
2 const char* utf8 = "你";
3 wchar_t unicode;
4 unicode = (utf8[0] & 0x1F) << 12;
5 unicode |= (utf8[1] & 0x3F) << 6;
6 unicode |= (utf8[2] & 0x3F);
7 //unicode is ok! 網魂小兵 http://xdotnet.cnblogs.com
當然在程式設計過程中不可能只轉換一個字元,這裡需要注意的是字元的長度一定要算清楚,不然會帶來...以上就是我這幾天研究的結果,至於Unicode的轉換為GB2312在MFC中Windows有自帶的API(WideCharToMultiByte)可以轉換。這樣也就能夠將UTF-8格式轉換為GB2312了,這裡就不再贅述,如果大家有更好的方法希望指教。
網魂小兵 http://xdotnet.cnblogs.com
UTF-8編碼字元理論上可以最多到6個位元組長,然而16位BMP(Basic Multilingual Plane)字元最多隻用到3位元組長。下面看一下UTF-8編碼表:
U-00000000 - U-0000007F: 0xxxxxxx
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx 的位置由字元編碼數的二進位制表示的位填入, 越靠右的 x 具有越少的特殊意義,只用最短的那個足夠表達一個字元編碼數的多位元組串。 注意在多位元組串中, 第一個位元組的開頭"1"的數目就是整個串中位元組的數目。而第一行中以0開頭,是為了相容ASCII編碼,為一個位元組,第二行就為雙位元組字串,第三行為3位元組,如漢字就屬於這種,以此類推。(個人認為:其實我們可以簡單的把前面的1的個數看成位元組數)
網魂小兵 http://xdotnet.cnblogs.com
為了要將Unicode轉換為UTF-8,當然要知道他們的區別到底在什麼地方。下面來看一下,在Unicode中的編碼是怎樣轉換成UTF-8的,在UTF-8中,如果一個字元的位元組小於0x80(128)則為ASCII字元,佔一個位元組,可以不用轉換,因為UTF-8相容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”,把它轉換為二進位制為100111101100000,然後按照UTF-8的方法進行轉換。可以將Unicode二進位制從地位往高位取出二進位制數字,每次取6位,如上述的二進位制就可以分別取出為如下所示的格式,前面按格式填補,不足8位用0填補。
unicode: 100111101100000 4F60
utf-8: 11100100,10111101,10100000 E4BDA0
從上面就可以很直觀的看出Unicode到UTF-8之間的轉換,當然知道了UTF-8的格式後,就可以進行逆運算,就是按照格式把它在二進位制中的相應位置上取出,然後在轉換就是所得到的Unicode字元了(這個運算可以通過“位移”來完成)。
網魂小兵 http://xdotnet.cnblogs.com
如上述的“你”的轉換,由於其值大於0x800小於0x10000,因此可以判斷為三位元組儲存,則最高位需要向右移“12”位再根據三位元組格式的最高位為11100000(0xE0)求或(|)就可以得到最高位的值了。同理第二位則是右移“6”位,則還剩下最高位和第二位的二進位制值,可以通過與111111(0x3F)求按位於(&)操作,再和11000000(0x80)求或(|)。第三位就不用移位了,只要直接取最後六位(與111111(ox3F)取&),在與11000000(0x80)求或(|)。OK了,轉換成功!在VC++中的程式碼如下所示(Unicode到UTF-8的轉換)。
1 const wchar_t pUnicode = L"你";
2 char utf8[3+1];
3 memset(utf8,0,4);
4 utf8[0] = 0xE0|(pUnicode>>12);
5 utf8[1] = 0x80|((pUnicode>>6)&0x3F);
6 utf8[2] = 0x80|(pUnicode&0x3F);
7 utf8[3] = "\0";
8 //char[4]就是UTF-8的字元“你”了。
當然在UTF-8到Unicode的轉換也是通過移位等來完成的,就是把UTF-8那些格式相應的位置的二進位制數給揪出來。在上述例子中“你”為三個位元組,因此要每個位元組進行處理,有高位到低位進行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個位元組11100100就是把其中的"0100"給取出來,這個很簡單隻要和11111(0x1F)取與(&),由三位元組可以得知最到位肯定位於12位之前,因為每次取六位。所以還要將得到的結果左移12位,最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來,則只需將第二位元組10111101和111111(0x3F)取與(&)。在將所得到的結果左移6位與最高位元組所得的結果取或(|),第二位就這樣完成了,得到的結果為0100,111101,000000。以此類推最後一位直接與111111(0x3F)取與(&),再與前面所得的結果取或(|)即可得到結果0100,111101,100000。OK,轉換成功!在VC++中的程式碼如下所示(UTF-8到Unicode的轉換)。
1 //UTF-8格式的字串
2 const char* utf8 = "你";
3 wchar_t unicode;
4 unicode = (utf8[0] & 0x1F) << 12;
5 unicode |= (utf8[1] & 0x3F) << 6;
6 unicode |= (utf8[2] & 0x3F);
7 //unicode is ok! 網魂小兵 http://xdotnet.cnblogs.com
當然在程式設計過程中不可能只轉換一個字元,這裡需要注意的是字元的長度一定要算清楚,不然會帶來...以上就是我這幾天研究的結果,至於Unicode的轉換為GB2312在MFC中Windows有自帶的API(WideCharToMultiByte)可以轉換。這樣也就能夠將UTF-8格式轉換為GB2312了,這裡就不再贅述,如果大家有更好的方法希望指教。
相關文章
- 你真的瞭解 Unicode 和 UTF-8 嗎?Unicode
- unicode和UTF-8的區別Unicode
- Unicode中UTF-8與UTF-16編碼詳解Unicode
- 角度和弧度之間的轉換
- python實現中文和unicode轉換PythonUnicode
- 帶你瞭解 Unicode和UTF-8編碼知識Unicode
- unicode vs utf-8Unicode
- String和Date、Timestamp之間的轉換
- Java 中 CLOB 和字串之間的轉換Java字串
- Map和String型別之間的轉換型別
- 尤拉角和旋轉矩陣之間的轉換矩陣
- 從 unicode 到位元組的轉換Unicode
- java基本型別和物件之間的轉換Java型別物件
- Unicode,UTF-8和UTF-16的區別與聯絡Unicode
- Json,String,Map之間的轉換JSON
- Java之時間轉換Java
- Golang 陣列和字串之間的相互轉換[]byte/stringGolang陣列字串
- pcl::PointCloud和pcl::PontCloud::Ptr之間的關係和轉換方式Cloud
- webSocket 二進位制傳輸基礎準備-UTF-16和UTF-8轉UnicodeWebUnicode
- Unicode、GBK、UTF-8、ASCII的編碼簡介UnicodeASCII
- (八)Flutter 和 Native 之間的通訊詳解Flutter
- python str與bytes之間的轉換Python
- mysql行列轉換詳解MySql
- 一文了解進位制之間的原理和轉換
- Python 實現Excel和TXT文字格式之間的相互轉換PythonExcel
- 徹底弄懂UTF-8、Unicode、寬字元、localeUnicode字元
- 字元編碼:Unicode & UTF-16 & UTF-8字元Unicode
- 時間相減和時間轉換
- mysql時間與字串之間相互轉換MySql字串
- delphi:string,PChar,Array of Char 之間的轉換
- Java中Array與ArrayList之間的轉換Java
- Java Stram實現Map和字串之間互相轉換| BaeldungJava字串
- binaascii:A Python 在二進位制和 ASCII 之間轉換ASCIIPython
- 如何在 Unix 和 DOS 格式之間轉換文字檔案
- 【Go】IP地址轉換:數字與字串之間高效轉換Go字串
- 中文被 json_encode 編碼成 unicode 之後如何轉換回中文JSONUnicode
- ffmpeg裡的時間計算和轉換
- c++中string類物件和字元陣列之間的相互轉換C++物件字元陣列
- 漢字-字母-位元組-位之間的轉換