Linux 下 cut 命令的 4 個基礎實用的示例

Sylvain Leroux發表於2018-08-03

cut 命令是用來從文字檔案中移除“某些列”的經典工具。在本文中的“一列”可以被定義為按照一行中位置區分的一系列字串或者位元組,或者是以某個分隔符為間隔的某些域。

先前我已經介紹了如何使用 AWK 命令。在本文中,我將解釋 linux 下 cut 命令的 4 個本質且實用的例子,有時這些例子將幫你節省很多時間。

Cut Linux 命令示例

Linux 下 cut 命令的 4 個實用示例

假如你想,你可以觀看下面的視訊,視訊中解釋了本文中我列舉的 cut 命令的使用例子。

1、 作用在一系列字元上

當啟用 -c 命令列選項時,cut 命令將移除一系列字元。

和其他的過濾器類似, cut 命令不會直接改變輸入的檔案,它將複製已修改的資料到它的標準輸出裡去。你可以通過重定向命令的結果到一個檔案中來儲存修改後的結果,或者使用管道將結果送到另一個命令的輸入中,這些都由你來負責。

假如你已經下載了上面視訊中的示例測試檔案,你將看到一個名為 BALANCE.txt 的資料檔案,這些資料是直接從我妻子在她工作中使用的某款會計軟體中匯出的:

上述檔案是一個固定寬度的文字檔案,因為對於每一項資料,都使用了不定長的空格做填充,使得它看起來是一個對齊的列表。

這樣一來,每一列資料開始和結束的位置都是一致的。從 cut 命令的字面意思去理解會給我們帶來一個小陷阱:cut 命令實際上需要你指出你想保留的資料範圍,而不是你想移除的範圍。所以,假如我需要上面檔案中的 ACCOUNTNUMACCOUNTLIB 列,我需要這麼做:

範圍如何定義?

正如我們上面看到的那樣, cut 命令需要我們特別指定需要保留的資料的範圍。所以,下面我將更正式地介紹如何定義範圍:對於 cut 命令來說,範圍是由連字元(-)分隔的起始和結束位置組成,範圍是基於 1 計數的,即每行的第一項是從 1 開始計數的,而不是從 0 開始。範圍是一個閉區間,開始和結束位置都將包含在結果之中,正如它們之間的所有字元那樣。如果範圍中的結束位置比起始位置小,則這種表示式是錯誤的。作為快捷方式,你可以省略起始結束值,正如下面的表格所示:

範圍 含義
a-b a 和 b 之間的範圍(閉區間)
a 與範圍 a-a 等價
-b 與範圍 1-a 等價
b- 與範圍 b-∞ 等價

cut 命令允許你通過逗號分隔多個範圍,下面是一些示例:

cut 命令的一個限制(或者是特性,取決於你如何看待它)是它將 不會對資料進行重排。所以下面的命令和先前的命令將產生相同的結果,儘管範圍的順序做了改變:

你可以輕易地使用 diff 命令來驗證:

類似的,cut 命令 不會重複資料

值得提及的是,曾經有一個提議,建議使用 -o 選項來去除上面提到的兩個限制,使得 cut 工具可以重排或者重複資料。但這個提議被 POSIX 委員會拒絕了“因為這類增強不屬於 IEEE P1003.2b 草案標準的範圍”

據我所知,我還沒有見過哪個版本的 cut 程式實現了上面的提議,以此來作為擴充套件,假如你知道某些例外,請使用下面的評論框分享給大家!

2、 作用在一系列位元組上

當使用 -b 命令列選項時,cut 命令將移除位元組範圍。

咋一看,使用字元範圍和使用位元組沒有什麼明顯的不同:

這是因為我們的示例資料檔案使用的是 US-ASCII 編碼(字符集),使用 file -i 便可以正確地猜出來:

在 US-ASCII 編碼中,字元和位元組是一一對應的。理論上,你只需要使用一個位元組就可以表示 256 個不同的字元(數字、字母、標點符號和某些符號等)。實際上,你能表達的字元數比 256 要更少一些,因為字元編碼中為某些特定值做了規定(例如 32 或 65 就是控制字元)。即便我們能夠使用上述所有的位元組範圍,但對於儲存種類繁多的人類手寫符號來說,256 是遠遠不夠的。所以如今字元和位元組間的一一對應更像是某種例外,並且幾乎總是被無處不在的 UTF-8 多位元組編碼所取代。下面讓我們看看如何來處理多位元組編碼的情形。

作用在多位元組編碼的字元上

正如我前面提到的那樣,示例資料檔案來源於我妻子使用的某款會計軟體。最近好像她升級了那個軟體,然後呢,匯出的文字就完全不同了,你可以試試和上面的資料檔案相比,找找它們之間的區別:

上面的標題欄或許能夠幫助你找到什麼被改變了,但無論你找到與否,現在讓我們看看上面的更改過後的結果:

毫無刪減地複製了上面命令的輸出。所以可以很明顯地看出列對齊那裡有些問題。

對此我的解釋是原來的資料檔案只包含 US-ASCII 編碼的字元(符號、標點符號、數字和沒有發音符號的拉丁字母)。

但假如你仔細地檢視經軟體升級後產生的檔案,你可以看到新匯出的資料檔案保留了帶發音符號的字母。例如現在合理地記錄了名為 “ALNÉENRE” 的公司,而不是先前的 “ALNEENRE”(沒有發音符號)。

file -i 正確地識別出了改變,因為它報告道現在這個檔案是 UTF-8 編碼 的。

如果想看看 UTF-8 檔案中那些帶發音符號的字母是如何編碼的,我們可以使用 [hexdump][12],它可以讓我們直接以位元組形式檢視檔案:

在 hexdump  輸出的 00000030 那行,在一系列的空格(位元組 20)之後,你可以看到:

  • 字母 A 被編碼為 41
  • 字母 L 被編碼為 4c
  • 字母 N 被編碼為 4e

但對於大寫的帶有注音的拉丁大寫字母 E (這是它在 Unicode 標準中字母 É 的官方名稱),則是使用 2 個位元組 c3 89 來編碼的。

這樣便出現問題了:對於使用固定寬度編碼的檔案, 使用位元組位置來表示範圍的 cut 命令工作良好,但這並不適用於使用變長編碼的 UTF-8 或者 Shift JIS 編碼。這種情況在下面的 POSIX 標準的非規範性摘錄 中被明確地解釋過:

先前版本的 cut 程式將位元組和字元視作等同的環境下運作(正如在某些實現下對退格鍵 <backspace> 和製表鍵 <tab> 的處理)。在針對多位元組字元的情況下,特別增加了 -b 選項。

嘿,等一下!我並沒有在上面“有錯誤”的例子中使用 ‘-b’ 選項,而是 -c 選項呀!所以,難道不應該能夠成功處理了嗎!?

是的,確實應該:但是很不幸,即便我們現在已身處 2018 年,GNU Coreutils 的版本為 8.30 了,cut 程式的 GNU 版本實現仍然不能很好地處理多位元組字元。引用 GNU 文件 的話說,-c 選項“現在和 -b 選項是相同的,但對於國際化的情形將有所不同[…]”。需要提及的是,這個問題距今已有 10 年之久了!

另一方面,OpenBSD 的實現版本和 POSIX 相吻合,這將歸功於當前的本地化(locale)設定來合理地處理多位元組字元:

正如期望的那樣,當使用 -b 選項而不是 -c 選項後, OpenBSD 版本的 cut 實現和傳統的 cut 表現是類似的:

3、 作用在域上

從某種意義上說,使用 cut 來處理用特定分隔符隔開的文字檔案要更加容易一些,因為只需要確定好每行中域之間的分隔符,然後複製域的內容到輸出就可以了,而不需要煩惱任何與編碼相關的問題。

下面是一個用分隔符隔開的示例文字檔案:

你可能知道上面檔案是一個 CSV 格式的檔案(它以逗號來分隔),即便有時候域分隔符不是逗號。例如分號(;)也常被用來作為分隔符,並且對於那些總使用逗號作為 十進位制分隔符的國家(例如法國,所以上面我的示例檔案中選用了他們國家的字元),當匯出資料為 “CSV” 格式時,預設將使用分號來分隔資料。另一種常見的情況是使用 tab 鍵 來作為分隔符,從而生成叫做 tab 分隔的值 的檔案。最後,在 Unix 和 Linux 領域,冒號 (:) 是另一種你能找到的常見分隔符號,例如在標準的 /etc/passwd/etc/group 這兩個檔案裡。

當處理使用分隔符隔開的文字檔案格式時,你可以向帶有 -f 選項的 cut 命令提供需要保留的域的範圍,並且你也可以使用 -d 選項來指定分隔符(當沒有使用 -d 選項時,預設以 tab 字元來作為分隔符):

處理不包含分隔符的行

但要是輸入檔案中的某些行沒有分隔符又該怎麼辦呢?很容易地認為可以將這樣的行視為只包含第一個域。但 cut 程式並 不是 這樣做的。

預設情況下,當使用 -f 選項時,cut 將總是原樣輸出不包含分隔符的那一行(可能假設它是非資料行,就像表頭或註釋等):

使用 -s 選項,你可以做出相反的行為,這樣 cut 將總是忽略這些行:

假如你好奇心強,你還可以探索這種特性,來作為一種相對隱晦的方式去保留那些只包含給定字元的行:

改變輸出的分隔符

作為一種擴充套件, GNU 版本實現的 cut 允許通過使用 --output-delimiter 選項來為結果指定一個不同的域分隔符:

需要注意的是,在上面這個例子中,所有出現域分隔符的地方都被替換掉了,而不僅僅是那些在命令列中指定的作為域範圍邊界的分隔符。

4、 非 POSIX GNU 擴充套件

說到非 POSIX GNU 擴充套件,它們中的某些特別有用。特別需要提及的是下面的擴充套件也同樣對位元組、字元或者域範圍工作良好(相對於當前的 GNU 實現來說)。

--complement

想想在 sed 地址中的感嘆符號(!),使用它,cut 將只儲存沒有被匹配到的範圍:

--zero-terminated (-z)

使用 NUL 字元 來作為行終止符,而不是 新行newline字元。當你的資料包含 新行字元時, -z 選項就特別有用了,例如當處理檔名的時候(因為在檔名中新行字元是可以使用的,而 NUL 則不可以)。

為了展示 -z 選項,讓我們先做一點實驗。首先,我們將建立一個檔名中包含換行符的檔案:

現在假設我想展示每個 *.txt 檔案的前 5 個字元。一個想當然的解決方法將會失敗:

你可以已經知道 ls 是為了方便人類使用而特別設計的,並且在一個命令管道中使用它是一個反模式(確實是這樣的)。所以讓我們用 find 來替換它:

上面的命令基本上產生了與先前類似的結果(儘管以不同的次序,因為 ls 會隱式地對檔名做排序,而 find 則不會)。

在上面的兩個例子中,都有一個相同的問題,cut 命令不能區分 新行 字元是資料域的一部分(即檔名),還是作為最後標記的 新行 記號。但使用 NUL 位元組(\0)來作為行終止符就將排除掉這種混淆的情況,使得我們最後可以得到期望的結果:

通過上面最後的例子,我們就達到了本文的最後部分了,所以我將讓你自己試試 -printf 後面那個有趣的 "%f\0" 引數或者理解為什麼我在管道的最後使用了 tr 命令。

使用 cut 命令可以實現更多功能

我只是列舉了 cut 命令的最常見且在我眼中最基礎的使用方式。你甚至可以將它以更加實用的方式加以運用,這取決於你的邏輯和想象。

不要再猶豫了,請使用下面的評論框貼出你的發現。最後一如既往的,假如你喜歡這篇文章,請不要忘記將它分享到你最喜愛網站和社交媒體中!

 

相關文章