Python:將utf-8格式的檔案轉換成gbk格式的檔案

pythontab發表於2015-01-26
Python

需求：將utf-8格式的檔案轉換成gbk格式的檔案

實現程式碼如下：

def ReadFile(filePath,encoding="utf-8"):
    with codecs.open(filePath,"r",encoding) as f:
        return f.read()
 
def WriteFile(filePath,u,encoding="gbk"):
    with codecs.open(filePath,"w",encoding) as f:
        f.write(u)
 
def UTF8_2_GBK(src,dst):
    content = ReadFile(src,encoding="utf-8")
    WriteFile(dst,content,encoding="gbk")

程式碼講解：

函式ReadFile的第二個引數指定以utf-8格式的編碼方式讀取檔案，返回的結果content為Unicode

然後，在將Unicode以gbk格式寫入檔案中。

這樣就能實現需求。

但是，如果要轉換格式的檔案中包含有一些字元並不包含在gbk字符集中的話，就會報錯，類似如下：

UnicodeEncodeError: 'gbk' codec can't encode character u'\xa0' in position 4813: illegal multibyte sequence

以上的報錯資訊的意思是：在將Unicode編碼成gbk的時候，不能將Unicode u'\xa0'編碼成gbk。

這裡，我們需要弄清楚gb2312、gbk和gb18030三者之間的關係

GB2312：6763個漢字

GBK：21003個漢字

GB18030-2000：27533個漢字

GB18030-2005：70244個漢字

所以，GBK是GB2312的超集，GB18030是GBK的超集。

理清了關係之後，我們進一步改進下程式碼：

def UTF8_2_GBK(src,dst):
    content = ReadFile(src,encoding="utf-8")
    WriteFile(dst,content,encoding="gb18030")

執行後，發現沒有報錯，可以正常執行。

因為，在GB18030字符集中，可以找到u'\xa0'對應的字元。

 此外，還有另外一種實現方案：

需要修改下WriteFile方法

def WriteFile(filePath,u,encoding="gbk"):
    with codecs.open(filePath,"w") as f:
        f.write(u.encode(encoding,errors="ignore"))

這裡，我們將Unicode編碼（encode）成gbk格式，但是注意encode函式的第二個引數，我們賦值"ignore"，表示在編碼的時候，忽略掉那些無法編碼的字元，


解碼同理。

但是，當我們執行後，發現可以成功的將utf-8格式的檔案修改成了ansi格式。但，另外發現生成的檔案中，每個一行都有一行空行。

這裡，可以指定以二進位制流的形式寫檔案，修改後的程式碼如下：

def WriteFile(filePath,u,encoding="gbk"):
    with codecs.open(filePath,"wb") as f:
        f.write(u.encode(encoding,errors="ignore"))


相關文章