正規表示式簡介
我們將在如下的章節中利用一些例子來解釋正規表示式的用法,絕大部分的例子是基於vi中的文字替換命令和grep檔案搜尋命令來書寫的,不過它們都是比較典型的例子,其中的概念可以在sed、awk、perl和其他支援正規表示式的程式語言中使用。你可以看看不同工具中的正規表示式這一節,其中有一些在別的工具中使用正規表示式的例子。還有一個關於vi中文字替換命令(s)的簡單說明附在文後供參考。
正規表示式基礎
正規表示式由一些普通字元和一些元字元(metacharacters)組成。普通字元包括大小寫的字母和數字,而元字元則具有特殊的含義,我們下面會給予解釋。在最簡單的情況下,一個正規表示式看上去就是一個普通的查詢串。例如,正規表示式"testing"中沒有包含任何元字元,,它可以匹配"testing"和"123testing"等字串,但是不能匹配"Testing"。
要想真正的用好正規表示式,正確的理解元字元是最重要的事情。下表列出了所有的元字元和對它們的一個簡短的描述。
元字元 | 描述 | |
---|---|---|
匹配任何單個字元。例如正規表示式r.t匹配這些字串:rat、rut、r t,但是不匹配root。 | ||
匹配行結束符。例如正規表示式weasel$ 能夠匹配字串"He's a weasel"的末尾,但是不能匹配字串"They are a bunch of weasels."。 | ||
匹配一行的開始。例如正規表示式^When in能夠匹配字串"When in the course of human events"的開始,但是不能匹配"What and When in the"。 | ||
匹配0或多個正好在它之前的那個字元。例如正規表示式.*意味著能夠匹配任意數量的任何字元。 | ||
這是引用府,用來將這裡列出的這些元字元當作普通的字元來進行匹配。例如正規表示式$被用來匹配美元符號,而不是行尾,類似的,正規表示式.用來匹配點字元,而不是任何字元的萬用字元。 | ||
[c1-c2] [^c1-c2] | 匹配括號中的任何一個字元。例如正規表示式r[aou]t匹配rat、rot和rut,但是不匹配ret。可以在括號中使用連字元-來指定字元的區間,例如正規表示式[0-9]可以匹配任何數字字元;還可以制定多個區間,例如正規表示式[A-Za-z]可以匹配任何大小寫字母。另一個重要的用法是“排除”,要想匹配除了指定區間之外的字元——也就是所謂的補集——在左邊的括號和第一個字元之間使用^字元,例如正規表示式[^269A-Z] 將匹配除了2、6、9和所有大寫字母之外的任何字元。 | |
匹配詞(word)的開始()。例如正規表示式 | ||
將 ( 和 ) 之間的表示式定義為“組”(group),並且將匹配這個表示式的字元儲存到一個臨時區域(一個正規表示式中最多可以儲存9個),它們可以用 1 到9 的符號來引用。 | ||
將兩個匹配條件進行邏輯“或”(Or)運算。例如正規表示式(him|her) 匹配"it belongs to him"和"it belongs to her",但是不能匹配"it belongs to them."。注意:這個元字元不是所有的軟體都支援的。 | ||
匹配1或多個正好在它之前的那個字元。例如正規表示式9+匹配9、99、999等。注意:這個元字元不是所有的軟體都支援的。 | ||
匹配0或1個正好在它之前的那個字元。注意:這個元字元不是所有的軟體都支援的。 | ||
{i,j} | 匹配指定數目的字元,這些字元是在它之前的表示式定義的。例如正規表示式A[0-9]{3} 能夠匹配字元"A"後面跟著正好3個數字字元的串,例如A123、A348等,但是不匹配A1234。而正規表示式[0-9]{4,6} 匹配連續的任意4個、5個或者6個數字字元。注意:這個元字元不是所有的軟體都支援的。 |
最簡單的元字元是點,它能夠匹配任何單個字元(注意不包括新行符)。假定有個檔案test.txt包含以下幾行內容:
- he is a rat
he is in a rut
the food is Rotten
I like root beer
- grep r.t test.txt
要想匹配行首的字元要使用抑揚字元(^)——又是也被叫做插入符。例如,想找到text.txt中行首"he"打頭的行,你可能會先用簡單表示式he,但是這會匹配第三行的the,所以要使用正規表示式^he,它只匹配在行首出現的h。
有時候指定“除了×××都匹配”會比較容易達到目的,當抑揚字元(^)出現在方括號中是,它表示“排除”,例如要匹配he ,但是排除前面是t or s的情性(也就是the和she),可以使用:[^st]he。
可以使用方括號來指定多個字元區間。例如正規表示式[A-Za-z]匹配任何字母,包括大寫和小寫的;正規表示式[A-Za-z][A-Za-z]* 匹配一個字母后面接著0或者多個字母(大寫或者小寫)。當然我們也可以用元字元+做到同樣的事情,也就是:[A-Za-z]+ ,和[A-Za-z][A-Za-z]*完全等價。但是要注意元字元+ 並不是所有支援正規表示式的程式都支援的。關於這一點可以參考後面的正規表示式語法支援情況。
要指定特定數量的匹配,要使用大括號(注意必須使用反斜槓來轉義)。想匹配所有100和1000的例項而排除10和10000,可以使用:10{2,3},這個正規表示式匹配數字1後面跟著2或者3個0的模式。在這個元字元的使用中一個有用的變化是忽略第二個數字,例如正規表示式0{3,} 將匹配至少3個連續的0。
簡單的例子
這裡有一些有代表性的、比較簡單的例子。
vi 命令 | 作用 |
:%s/ */ /g | 把一個或者多個空格替換為一個空格。 |
:%s/ *$// | 去掉行尾的所有空格。 |
:%s/^/ / | 在每一行頭上加入一個空格。 |
:%s/^[0-9][0-9]* // | 去掉行首的所有數字字元。 |
:%s/b[aeio]g/bug/g | 將所有的bag、beg、big和bog改為bug。 |
:%s/t([aou])g/h1t/g | 將所有tag、tog和tug分別改為hat、hot和hug(注意用group的用法和使用1引用前面被匹配的字元)。 |
中級的例子(神奇的咒語)
例1
將所有方法foo(a,b,c)的例項改為foo(b,a,c)。這裡a、b和c可以是任何提供給方法foo()的引數。也就是說我們要實現這樣的轉換:
之前 | 之後 | |
foo(10,7,2) | foo(7,10,2) | |
foo(x+13,y-2,10) | foo(y-2,x+13,10) | |
foo( bar(8), x+y+z, 5) | foo( x+y+z, bar(8), 5) |
下面這條替換命令能夠實現這一魔法:
- :%s/foo(([^,]*),([^,]*),([^)]*))/foo(2,1,3)/g
現在讓我們把它打散來加以分析。寫出這個表示式的基本思路是找出foo()和它的括號中的三個引數的位置。第一個引數是用這個表示式來識別的::([^,]*),我們可以從裡向外來分析它:
[^,] | 除了逗號之外的任何字元 | |
[^,]* | 0或者多個非逗號字元 | |
([^,]*) | 將這些非逗號字元標記為1,這樣可以在之後的替換模式表示式中引用它 | |
([^,]*), | 我們必須找到0或者多個非逗號字元後面跟著一個逗號,並且非逗號字元那部分要標記出來以備後用。 |
現在正是指出一個使用正規表示式常見錯誤的最佳時機。為什麼我們要使用[^,]*這樣的一個表示式,而不是更加簡單直接的寫法,例如:.*,來匹配第一個引數呢?設想我們使用模式.*來匹配字串"10,7,2",它應該匹配"10,"還是"10,7,"?為了解決這個兩義性(ambiguity),正規表示式規定一律按照最長的串來,在上面的例子中就是"10,7,",顯然這樣就找出了兩個引數而不是我們期望的一個。所以,我們要使用[^,]*來強制取出第一個逗號之前的部分。
這個表示式我們已經分析到了:foo(([^,]*),這一段可以簡單的翻譯為“當你找到foo(就把其後直到第一個逗號之前的部分標記為1”。然後我們使用同樣的辦法標記第二個引數為2。對第三個引數的標記方法也是一樣,只是我們要搜尋所有的字元直到右括號。我們並沒有必要去搜尋第三個引數,因為我們不需要調整它的位置,但是這樣的模式能夠保證我們只去替換那些有三個引數的foo()方法呼叫,在foo()是一個過載(overoading)方法時這種明確的模式往往是比較保險的。然後,在替換部分,我們找到foo()的對應例項,然後利用標記好的部分進行替換,是的第一和第二個引數交換位置。
例2
假設有一個CSV(comma separated value)檔案,裡面有一些我們需要的資訊,但是格式卻有問題,目前資料的列順序是:姓名,公司名,州名縮寫,郵政編碼,現在我們希望講這些資料重新組織,以便在我們的某個軟體中使用,需要的格式為:姓名,州名縮寫-郵政編碼,公司名。也就是說,我們要調整列順序,還要合併兩個列來構成一個新列。另外,我們的軟體不能接受逗號前後面有任何空格(包括空格和製表符)所以我們還必須要去掉逗號前後的所有空格。這裡有幾行我們現在的資料:
- Bill Jones, HI-TEK Corporation , CA, 95011
Sharon Lee Smith, Design Works Incorporated, CA, 95012
B. Amos , Hill Street Cafe, CA, 95013
Alexander Weatherworth, The Crafts Store, CA, 95014
...
- Bill Jones,CA 95011,HI-TEK Corporation
Sharon Lee Smith,CA 95012,Design Works Incorporated
B. Amos,CA 95013,Hill Street Cafe
Alexander Weatherworth,CA 95014,The Crafts Store
...
下面就是第一個替換命令:
- :%s/([^,]*),([^,]*),([^,]*),(.*)/1,3 4,2/
下面這個替換命令則用來去除空格:
- :%s/[ t]*,[ t]*/,/g
例3
假設有一個多字元的片斷重複出現,例如:Billy tried really hard而你想把"really"、"really really",以及任意數量連續出現的"really"字串換成一個簡單的"very"(simple is good!),那麼以下命令:
Sally tried really really hard
Timmy tried really really really hard
Johnny tried really really really really hard
:%s/(really )(really )*/very /就會把上述的文字變成:
Billy tried very hard表示式(really )*匹配0或多個連續的"really "(注意結尾有個空格),而(really )(really )* 匹配1個或多個連續的"really "例項。
Sally tried very hard
Timmy tried very hard
Johnny tried very hard
困難的例子(不可思議的象形文字)
Coming soon.不同工具中的正規表示式
OK,你已經準備使用RE(regular expressions,正規表示式),但是你並準備使用vi。所以,在這裡我們給出一些在其他工具中使用RE的例子。另外,我還會總結一下你在不同程式之間使用RE可能發現的區別。當然,你也可以在Visual C++編輯器中使用RE。選擇Edit->Replace,然後選擇"Regular expression"選擇框,Find What輸入框對應上面介紹的vi命令:%s/pat1/pat2/g中的pat1部分,而Replace輸入框對應pat2部分。但是,為了得到vi的執行範圍和g選項,你要使用Replace All或者適當的手工Find Next and Replace(譯者按:知道為啥有人罵微軟弱智了吧,雖然VC中可以選中一個範圍的文字,然後在其中執行替換,但是總之不夠vi那麼靈活和典雅)。
sed
Sed是Stream EDitor的縮寫,是Unix下常用的基於檔案和管道的編輯工具,可以在手冊中得到關於sed的詳細資訊。
這裡是一些有趣的sed指令碼,假定我們正在處理一個叫做price.txt的檔案。注意這些編輯並不會改變原始檔,sed只是處理原始檔的每一行並把結果顯示在標準輸出中(當然很容易使用重定向來定製):
sed指令碼 | 描述 | |
sed 's/^$/d' price.txt | 刪除所有空行 | |
sed 's/^[ t]*$/d' price.txt | 刪除所有隻包含空格或者製表符的行 | |
sed 's/"//g' price.txt | 刪除所有引號 |
awk
awk是一種程式語言,可以用來對文字資料進行復雜的分析和處理。可以在手冊中得到關於awk的詳細資訊。這個古怪的名字是它作者們的姓的縮寫(Aho,Weinberger和Kernighan)。在Aho,Weinberger和Kernighan的書The AWK Programming Language中有很多很好的awk的例子,請不要讓下面這些微不足道的指令碼例子限制你對awk強大能力的理解。我們同樣假定我們針對price.txt檔案進行處理,跟sed一樣,awk也只是把結果顯示在終端上。
awk指令碼 | 描述 | |
awk '$0 !~ /^$/' price.txt | 刪除所有空行 | |
awk 'NF > 0' price.txt | awk中一個更好的刪除所有行的辦法 | |
awk '$2 ~ /^[JT]/ {print $3}' price.txt | 列印所有第二個欄位是'J'或者'T'打頭的行中的第三個欄位 | |
awk '$2 !~ /[Mm]isc/ {print $3 + $4}' price.txt | 針對所有第二個欄位不包含'Misc'或者'misc'的行,列印第3和第4列的和(假定為數字) | |
awk '$3 !~ /^[0-9]+.[0-9]*$/ {print $0}' price.txt | 列印所有第三個欄位不是數字的行,這裡數字是指d.d或者d這樣的形式,其中d是0到9的任何數字 | |
awk '$2 ~ /John|Fred/ {print $0}' price.txt | 如果第二個欄位包含'John'或者'Fred'則列印整行 |
grep
grep是一個用來在一個或者多個檔案或者輸入流中使用RE進行查詢的程式。它的name程式語言可以用來針對檔案和管道進行處理。可以在手冊中得到關於grep的完整資訊。這個同樣古怪的名字來源於vi的一個命令,g/re/p,意思是global regular expression print。下面的例子中我們假定在檔案phone.txt中包含以下的文字,——其格式是姓加一個逗號,然後是名,然後是一個製表符,然後是電話號碼:
Francis, John 5-3871
Wong, Fred 4-4123
Jones, Thomas 1-4122
Salazar, Richard 5-2522
grep命令 | 描述 | |
grep 't5-...1' phone.txt | 把所有電話號碼以5開頭以1結束的行列印出來,注意製表符是用t表示的 | |
grep '^S[^ ]* R' phone.txt | 列印所有姓以S打頭和名以R打頭的行 | |
grep '^[JW]' phone.txt | 列印所有姓開頭是J或者W的行 | |
grep ', ....t' phone.txt | 列印所有姓是4個字元的行,注意製表符是用t表示的 | |
grep -v '^[JW]' phone.txt | 列印所有不以J或者W開頭的行 | |
grep '^[M-Z]' phone.txt | 列印所有姓的開頭是M到Z之間任一字元的行 | |
grep '^[M-Z].*[12]' phone.txt | 列印所有姓的開頭是M到Z之間任一字元,並且點號號碼結尾是1或者2的行 |
egrep
egrep是grep的一個擴充套件版本,它在它的正規表示式中支援更多的元字元。下面的例子中我們假定在檔案phone.txt中包含以下的文字,——其格式是姓加一個逗號,然後是名,然後是一個製表符,然後是電話號碼:- Francis, John 5-3871
Wong, Fred 4-4123
Jones, Thomas 1-4122
Salazar, Richard 5-2522
egrep command | Description | |
egrep '(John|Fred)' phone.txt | 列印所有包含名字John或者Fred的行 | |
egrep 'John|22$|^W' phone.txt | 列印所有包含John 或者以22結束或者以W的行 | |
egrep 'net(work)?s' report.txt | 從report.txt中找到所有包含networks或者nets的行 |
正規表示式語法支援情況
命令或環境 | . | [ ] | ^ | $ | ( ) | { } | ? | + | | | ( ) |
vi | X | X | X | X | X | |||||
Visual C++ | X | X | X | X | X | |||||
awk | X | X | X | X | X | X | X | X | ||
sed | X | X | X | X | X | X | ||||
Tcl | X | X | X | X | X | X | X | X | X | |
ex | X | X | X | X | X | X | ||||
grep | X | X | X | X | X | X | ||||
egrep | X | X | X | X | X | X | X | X | X | |
fgrep | X | X | X | X | X | |||||
perl | X | X | X | X | X | X | X | X | X |
vi替換命令簡介
Vi的替換命令:- :ranges/pat1/pat2/g
- : 這是Vi的命令執行介面。
- range 是命令執行範圍的指定,可以使用百分號(%)表示所有行,使用點(.)表示當前行,使用美元符號($)表示最後一行。你還可以使用行號,例如10,20表示第10到20行,.,$表示當前行到最後一行,.+2,$-5表示當前行後兩行直到全文的倒數第五行,等等。
s 表示其後是一個替換命令。
pat1 這是要查詢的一個正規表示式,這篇文章中有一大堆例子。
- pat2 這是希望把匹配串變成的模式的正規表示式,這篇文章中有一大堆例子。
g 可選標誌,帶這個標誌表示替換將針對行中每個匹配的串進行,否則則只替換行中第一個匹配串。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/14377/viewspace-1022186/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Java正規表示式簡單介紹Java
- 正規表示式簡述
- 正規表示式簡明教程
- 簡單介紹python中使用正規表示式的方法Python
- 正規表示式單行、多行模式簡介(使用說明)模式
- python正規表示式(簡明版)Python
- re正規表示式庫的簡介、入門、使用方法
- 簡單介紹正規表示式拆分url例項程式碼
- 正規表示式
- 正規表示式.
- 超簡單!正規表示式總結
- 常用正規表示式匹配程式碼介紹
- 【正規表示式】常用的正規表示式(數字,漢字,字串,金額等的正規表示式)字串
- Python正規表示式簡記和re庫Python
- php –正規表示式PHP
- 【Linux】正規表示式Linux
- 【JavaScript】正規表示式JavaScript
- URL正規表示式
- 正規表示式 split()
- 初探正規表示式
- 正規表示式 test()
- 正規表示式(?!)作用
- 正規表示式 {n,}
- SQL正規表示式SQL
- 正規表示式(java)Java
- Python——正規表示式Python
- PHP正規表示式PHP
- 正規表示式概括
- javascript正規表示式JavaScript
- java正規表示式Java
- Shell正規表示式
- 常用正規表示式
- 正規表示式合集
- python正規表示式Python
- 【java】正規表示式Java
- MySQL正規表示式MySql
- JavaScript 正規表示式JavaScript
- 正規表示式 教程
- Python 正規表示式Python