Linux 檔案編碼大挪移

安全劍客發表於2020-03-23
在這篇教程中,我們將解釋字元編碼的含義,然後給出一些使用 行工具將使用某種字元編碼的檔案轉化為另一種編碼的例子。最後,我們將一起看一看如何在   下將使用各種字元編碼的檔案轉化為 UTF-8 編碼。

你可能已經知道,計算機除了二進位制資料,是不會理解和儲存字元、數字或者任何人類能夠理解的東西的。一個二進位制位只有兩種可能的值,也就是 01。其它的任何事物,比如字元、資料和圖片,必須要以二進位制的形式來表現,以供計算機處理。

Linux 檔案編碼大挪移Linux 檔案編碼大挪移

簡單來說,字元編碼是一種可以指示電腦來將原始的 0 和 1 解釋成實際字元的方式,在這些字元編碼中,字元都以一串數字來表示。

字元編碼方案有很多種,比如 ASCII、ANCI、Unicode 等等。下面是 ASCII 編碼的一個例子。

字元            二進位制
A               01000001
B               01000010

在 Linux 中, 行工具 iconv用來將使用一種編碼的文字轉化為另一種編碼。

你可以使用 file 命令,並新增 -i--mime引數來檢視一個檔案的字元編碼,這個引數可以讓程式像下面的例子一樣輸出字串的 mime (Multipurpose Internet Mail Extensions) 資料:

$ file -i Car.java
$ file -i CarDriver.java

Linux 檔案編碼大挪移Linux 檔案編碼大挪移

在 Linux 中檢視檔案的編碼

iconv 工具的使用方法如下:

$ iconv option
$ iconv options -f from-encoding -t to-encoding inputfile(s) -o outputfile

在這裡, -f--from-code表明了輸入編碼,而 -t--to-encoding指定了輸出編碼。

為了列出所有已有編碼的字符集,你可以使用以下命令:

$ iconv -l

Linux 檔案編碼大挪移Linux 檔案編碼大挪移

列出所有已有編碼字符集

將檔案從 ISO-8859-1 編碼轉換為 UTF-8 編碼

下面,我們將學習如何將一種編碼方案轉換為另一種編碼方案。下面的命令將會將 ISO-8859-1 編碼轉換為 UTF-8 編碼。

考慮如下檔案 input.file,其中包含這幾個字元:

� � � �

我們從檢視這個檔案的編碼開始,然後來檢視檔案內容。最後,我們可以把所有字元轉換為 UTF-8 編碼。

在執行 iconv命令之後,我們可以像下面這樣檢查輸出檔案的內容,和它使用的字元編碼。

$ file -i input.file
$ cat input.file 
$ iconv -f ISO-8859-1 -t UTF-8//TRANSLIT input.file -o out.file
$ cat out.file 
$ file -i out.file

Linux 檔案編碼大挪移Linux 檔案編碼大挪移

在 Linux 中將 ISO-8859-1 轉化為 UTF-8

注意:如果輸出編碼後面新增了 //IGNORE字串,那些不能被轉換的字元將不會被轉換,並且在轉換後,程式會顯示一條錯誤資訊。

好,如果字串 //TRANSLIT被新增到了上面例子中的輸出編碼之後 ( UTF-8//TRANSLIT),待轉換的字元會盡量採用形譯原則。也就是說,如果某個字元在輸出編碼方案中不能被表示的話,它將會被替換為一個形狀比較相似的字元。

而且,如果一個字元不在輸出編碼中,而且不能被形譯,它將會在輸出檔案中被一個問號標記 ?代替。

將多個檔案轉換為 UTF-8 編碼

回到我們的主題。如果你想將多個檔案甚至某目錄下所有檔案轉化為 UTF-8 編碼,你可以像下面一樣,編寫一個簡單的    ,並將其命名為 encoding.sh

#!/bin/bash
### 將 values_here 替換為輸入編碼
FROM_ENCODING="value_here"
### 輸出編碼 (UTF-8)
TO_ENCODING="UTF-8"
### 轉換命令
CONVERT=" iconv  -f   $FROM_ENCODING  -t   $TO_ENCODING"
### 使用迴圈轉換多個檔案
for  file  in  *.txt; do
$CONVERT   "$file"   -o  "${file%.txt}.utf8.converted"
done
exit 0

儲存檔案,然後為它新增可執行許可權。在待轉換檔案 (*.txt) 所在的目錄中執行這個 。

$ chmod  +x  encoding.sh
$ ./encoding.sh

重要事項:你也可以使這個指令碼變得更通用,比如轉換任意特定的字元編碼到另一種編碼。為了達到這個目的,你只需要改變  FROM_ENCODINGTO_ENCODING變數的值。別忘了改一下輸出檔案的檔名 "${file%.txt}.utf8.converted".

若要了解更多資訊,可以檢視 iconv的手冊頁。

$ man iconv

將這篇指南總結一下,理解字元編碼的概念、瞭解如何將一種編碼方案轉換為另一種,是一個電腦使用者處理文字時必須要掌握的知識,程式設計師更甚。

原文地址:

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31559985/viewspace-2682127/,如需轉載,請註明出處,否則將追究法律責任。

相關文章