linux sed命令

starof發表於2014-12-31

一、初識sed

在部署openstack的過程中,會接觸到大量的sed命令,比如

# Bind MySQL service to all network interfaces.
sed -i 's/127.0.0.1/0.0.0.0/g' /etc/mysql/my.cnf

那麼這條命令是什麼意思?接下來介紹sed命令答案自然就揭曉了。

二、sed簡介

sed:是一個編輯器,是一個強大的檔案處理工具。

sed作用:用來替換、刪除,更新檔案中的內容。sed能自動處理一個或多個檔案。

sed原理:sed以文字的行為單位進行處理,一次處理一行內容。首先sed把當前處理的行儲存在臨時緩衝區中(稱為模式空間pattern space),接著處理緩衝區中的行,處理完成後,把緩衝區的內容送往螢幕。sed處理完一行就將其從臨時緩衝區刪除,然後將下一行讀入,進行處理和顯示,這樣不斷的重複,直到檔案末尾。處理完檔案的最後一行後,sed便結束執行。

因為sed是對檔案中每行在臨時緩衝區中的副本進行編輯,所以原檔案內容並沒有改變,除非重定向輸出。

三、sed命令介紹

#sed [-nefri][命令]

引數說明:

-i:直接修改檔案,終端不輸出結果

-n:使用安靜(slient)模式,取消預設輸出。sed預設會將所有來自stdin的資料輸出到終端上。但如果加上-n引數後,不自動列印處理後的結果,只是默默的處理,只有經過sed特殊處理的那一行才被列出來。

-e: --expression直接在命令模式上進行sed的動作編輯。sed -e '...' -e '...' -e '...'

-f:指定sed指令碼的檔名。

-r:sed動作支援的是延伸型正規表示法的語法。(預設是基礎正規表示法語法)

命令說明:[n1][n2]命令

n1,n2:表示行號,該引數可選,一般表示希望操作的行數,可以是數字,正規表示式或二者混合。

用逗號分隔的兩個行數表示這兩行為起止的行的範圍。如1,3表示1,2,3行,美元符號($)表示最後一行。如何沒有指定地址,sed將處理輸入檔案的所有行。地址通常的寫法有:n;n,m;n,$。舉例,如果我的操作是需要在3到5行之間進行的,則【3,5,[動作行為]】。

命令:

a:新增,在當前行的下一行追加一行文字。

i:插入,在當前行的上一行插入一行文字。

c:替換,以行為單位進行替換,c的後面可以跟字串,用這些字串取代n1,n2之間的行。

d:刪除,從模式空間刪除一行。

p:列印,列印模式空間的行。通常p會與引數【-n】一起使用。

s:替換,通常s命令可以搭配正規表示式例如1,20s/old/new/g。

四、舉例

下面我們拿Emilia的Big Big World中的部分歌詞檔案song.txt舉例,其內容如下:

$ cat song.txt
I'm a big big girl
In a big big world
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

1、s替換命令

將song.txt檔案中每行的第一個big替換為small:

sed 's/big/small/' song.txt

解釋:s:替換命令,/big/:匹配big字串,/small/:把匹配替換成small。

$ sed 's/big/small/' song.txt
I'm a small big girl
In a small big world
It's not a small big thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

將song.txt檔案中每行所有的big替換為small:

sed 's/big/small/g' song.txt

解釋:同上,/g表示一行上替換所有的匹配

$ sed 's/big/small/g' song.txt
I'm a small small girl
In a small small world
It's not a small small thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

Note:這裡也可以使用 sed 's#big#small#g' song.txt  ,緊跟s命令的符號都會被認為是查詢串和替換串之間的分隔符,這裡使用#,其實無論什麼字串(換行符,反斜線除外),只要緊跟s命令,就成了新的串分隔符。

將song.txt檔案中每行第2個big替換為small: sed 's/big/small/2' song.txt

解釋:/2表示指定一行中第2個匹配的欄位操作

$ sed 's/big/small/2' song.txt 
I'm a big small girl
In a big small world
It's not a big small thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

2、-i引數直接修改檔案內容

上面的sed命令沒有改變song.txt,只是把處理後的內容輸出,如果要寫回檔案,可以使用重定向。

$ sed 's\big\small\g' song.txt >song.bak

或使用-i直接修改檔案內容:sed -i 's\big\small\g' song.txt

$ sed -i 's\big\small\g' song.txt 
$ cat song.txt
I'm a small small girl
In a small small world
It's not a small small thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

sed 的[-i]引數可以直接修改檔案內容,該功能非常有用!

舉例來說,如果有一個100萬行的檔案,要在第100行加某些文字。此時使用vim可能會瘋掉!因為檔案太大了打不開!但是通過sed直接修改/取代的功能,根本不需要開啟檔案就能完成任務。和vim相比sed就像會魔術一樣,vim要開啟檔案-操作檔案-關閉檔案,sed直接隔空就對檔案操作了,非常方便。

正因為sed -i 功能強大,可以直接修改原始檔案,也是個危險的動作,需小心使用。

3、-e引數編輯命令,進行多行匹配

-e是編輯命令,用於sed執行多個編輯任務的情況下。在下一行開始編輯前,所有的編輯動作都將應用到模式緩衝區中的行上。因為是逐行進行多重編輯(即每個命令都在模式空間的當前行上執行),所以編輯命令的順序會影響結果

如果我們要一次替換多個模式,

sed "1,3s/big/small/g; 4,5s/do/don't/g" song.txt

解釋:第一個模式:把第一行到第三行的big替換成small;第二個模式:把第四行到第五行的do替換成don't。

$ sed "1,3s/big/small/g; 4,5s/do/don't/g" song.txt
I'm a small small girl
In a small small world
It's not a small small thing if you leave me
But I don't don't feel
that I don't don't will miss you much
Miss you much

上面的命令等價於:sed  -e "1,3s/big/small/g" -e "4,5s/do/don't/g" song.txt 

$ sed  -e "1,3s/big/small/g" -e "4,5s/do/don't/g" song.txt  
I'm a small small girl
In a small small world
It's not a small small thing if you leave me
But I don't don't feel
that I don't don't will miss you much
Miss you much

4、刪除命令d:刪除匹配的行

命令d刪除匹配的輸入行,sed先將輸入行從檔案複製到模式空間裡,然後對該行執行sed命令,最後將模式空間的內容顯示在螢幕上。如果是命令d,當前模式空間裡的輸入行會被刪除,不被顯示。

利用匹配刪除行

刪除song.txt檔案中第一次包含“Miss”的行 :sed '/Miss/d' song.txt

$ sed '/Miss/d' song.txt 
I'm a big big girl
In a big big world
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much

下面是利用行號刪除行的例子

刪除song.txt檔案中的第1行:sed '1d' song.txt

$ sed '1d' song.txt 
In a big big world
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

刪除song.txt檔案中2到5行:sed '2,5d' song.txt  

$ sed '2,5d' song.txt   
I'm a big big girl
Miss you much

刪除song.txt檔案中第3行之後的行:sed '3,$d' song.txt

$ sed '3,$d' song.txt 
I'm a big big girl
In a big big world

正則匹配可以和行號一起使用,舉一個openstack部署中的例子:

刪除第一次包含“eth2”的行到最後所有的行:sed -i '/eth2/,$d' /etc/network/interfaces

5、插入命令a,在當前行後追加一行

a新增新文字到檔案中當前行(即讀入模式空間中的行)的後面。

在song.txt檔案中第3行後插入一行並直接作用於song.txt:sed '3a AAAAAAAAAAAAAAAAAAAAAAA' song.txt 【用空格作為分隔符】

$ sed -i '3a AAAAAAAAAAAAAAAAAAAAAAA' song.txt 
$ cat song.txt
I'm a big big girl
In a big big world
It's not a big big thing if you leave me
AAAAAAAAAAAAAAAAAAAAAAA
But I do do feel
that I do do will miss you much
Miss you much

在匹配'Miss'的行後插入一行:sed '/Miss/a AAAAAAAAAAAAAAAAAAAAAAAAAA' song.txt 【用空格作為分隔符】

$ sed '/Miss/a AAAAAAAAAAAAAAAAAAAAAAAAAA' song.txt                                
I'm a small small girl
In a small small world
It's not a small small thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much
AAAAAAAAAAAAAAAAAAAAAAAAAA

在song.txt最後插入一行:sed '$a append line' song.txt

$ sed '$a append line' song.txt 
I'm a big big girl
In a big big world
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much
append line

6、插入命令i,在當前行前插入一行

i新增新文字到檔案中當前行(即讀入模式空間中的行)的前面。

在song.txt檔案中第3行後插入一行:sed '3i#iiiiiiiiiiiiiiiiiiiiiiiiiii' song.txt  【#作為分隔符】

$ sed '3i#iiiiiiiiiiiiiiiiiiiiiiiiiii' song.txt                
I'm a small small girl
In a small small world
iiiiiiiiiiiiiiiiiiiiiiiiiii
It's not a small small thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

在song.txt檔案中匹配'Miss'的行前面插入一行:sed '/Miss/i iiiiiiiiiiiiiii' song.txt【空格作為分隔符】

$ sed '/Miss/i iiiiiiiiiiiiiii' song.txt                           
I'm a small small girl
In a small small world
It's not a small small thing if you leave me
But I do do feel
that I do do will miss you much
iiiiiiiiiiiiiii
Miss you much

7、新增多行(i行前插入,a行後追加,其他地方一樣,以a為例)

插入相同的行,在第2行到第5行之後均插入一行:sed '2,5a append one line ' song.txt

$ sed '2,5a append one line ' song.txt 
I'm a big big girl
In a big big world
append one line 
It's not a big big thing if you leave me
append one line 
But I do do feel
append one line 
that I do do will miss you much
append one line 
Miss you much

插入不同的行,以\n換行

在第2行後面插入三行:sed '2a append one line \nappend two line \nappend three line' song.txt

liuxiaoyan@development:~/mytest$ sed '2a append one line \nappend two line \nappend three line' song.txt   
I'm a big big girl
In a big big world
append one line 
append two line 
append three line
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much

8、c命令以行為單位替換

 把第2到第5行的內容替換為2-5content:sed '2,5c 2-5content' song.txt

$ sed '2,5c 2-5content' song.txt 
I'm a big big girl
2-5content
Miss you much

9、p命令顯示模式空間的內容

以行為單位顯示,

顯示song.txt檔案中的第2到第5行: sed -n '2,5p' song.txt

$ sed -n '2,5p' song.txt 
In a big big world
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much

搜尋匹配顯示:

顯示匹配'Miss'的行:sed -n '/Miss/p' song.txt

$ sed -n '/Miss/p' song.txt 
Miss you much

10、-n引數取消預設輸出

上面的p命令顯示時,用到-n引數,因為sed預設把輸入行列印在螢幕上:sed '/Miss/p' song.txt

liuxiaoyan@development:~/mytest$ sed '/Miss/p' song.txt    
I'm a big big girl
In a big big world
It's not a big big thing if you leave me
But I do do feel
that I do do will miss you much
Miss you much
Miss you much

所以要列印選定內容,用-n配合p來使用。

五、簡單正規表示式

^:行首定位符。

$:行尾定位符。

\<:詞首定位符。

\>:詞尾定位符。

.:匹配除換行以外的單個字元。

*:匹配0個或多個前導字元。

[]:匹配字符集合裡的任一字元。

[^] :匹配不在指定字符集合裡的任一字元。

 

更深入瞭解可參考以下資料:

《shell基礎十二篇》

sed 簡明教程- 酷殼陳皓

相關文章