linux 正則表達式

←手機掃碼閱讀火星人 @ 2014-03-22 , reply:0

什麼是正則表達式
一個正則表達式，就是用某種模式去匹配一類字元串的一個公式。很多人因為它們看上去比較古怪而且複雜所以不敢去使用——很不幸，這篇文章也不能夠改變這一點，不過，經過一點點練習之後我就開始覺得這些複雜的表達式其實寫起來還是相當簡單的，而且，一旦你弄懂它們，你就能把數小時辛苦而且易錯的文本處理工作壓縮在幾分鐘（甚至幾秒鐘）內完成。正則表達式被各種文本編輯軟體、類庫（例如Rogue Wave的tools.h++）、腳本工具（像awk/grep/sed）廣泛的支持，而且像Microsoft的Visual C++這種互動式IDE也開始支持它了。
我們將在如下的章節中利用一些例子來解釋正則表達式的用法，絕大部分的例子是基於vi中的文本替換命令和grep文件搜索命令來書寫的，不過它們都是比較典型的例子，其中的概念可以在sed、awk、perl和其他支持正則表達式的編程語言中使用。你可以看看不同工具中的正則表達式這一節，其中有一些在別的工具中使用正則表達式的例子。還有一個關於vi中文本替換命令（s）的簡單說明附在文後供參考。

正則表達式基礎
正則表達式由一些普通字元和一些元字元（metacharacters）組成。普通字元包括大小寫的字母和數字，而元字元則具有特殊的含義，我們下面會給予解釋。
在最簡單的情況下，一個正則表達式看上去就是一個普通的查找串。例如，正則表達式」testing」中沒有包含任何元字元，，它可以匹配」testing」和」123testing」等字元串，但是不能匹配」Testing」。

要想真正的用好正則表達式，正確的理解元字元是最重要的事情。下表列出了所有的元字元和對它們的一個簡短的描述。

元字元描述

——————————————————————————?

——————————————————————————?
. 匹配任何單個字元。例如正則表達式r.t匹配這些字元串：rat、rut、r t，但是不匹配root。
$ 匹配行結束符。例如正則表達式weasel$ 能夠匹配字元串"He's a weasel"的末尾，但是不能匹配字元串"They are a bunch of weasels."。
^ 匹配一行的開始。例如正則表達式^When in能夠匹配字元串"When in the course of human events"的開始，但是不能匹配"What and When in the"。
* 匹配0或多個正好在它之前的那個字元。例如正則表達式.*意味著能夠匹配任意數量的任何字元。
\ 這是引用府，用來將這裡列出的這些元字元當作普通的字元來進行匹配。例如正則表達式\$被用來匹配美元符號，而不是行尾，類似的，正則表達式\.用來匹配點字元，而不是任何字元的通配符。
[ ]
[c1-c2]
[^c1-c2] 匹配括弧中的任何一個字元。例如正則表達式r[aou]t匹配rat、rot和rut，但是不匹配ret。可以在括弧中使用連字元-來指定字元的區間，例如正則表達式[0-9]可以匹配任何數字字元；還可以制定多個區間，例如正則表達式[A-Za-z]可以匹配任何大小寫字母。另一個重要的用法是「排除」，要想匹配除了指定區間之外的字元——也就是所謂的補集——在左邊的括弧和第一個字元之間使用^字元，例如正則表達式[^269A-Z] 將匹配除了2、6、9和所有大寫字母之外的任何字元。
\< \> 匹配詞（word）的開始（\<）和結束（\>）。例如正則表達式\  將 $ 和 $ 之間的表達式定義為「組」（group），並且將匹配這個表達式的字元保存到一個臨時區域（一個正則表達式中最多可以保存9個），它們可以用 \1 到\9 的符號來引用。
| 將兩個匹配條件進行邏輯「或」（Or）運算。例如正則表達式(him|her) 匹配"it belongs to him"和"it belongs to her"，但是不能匹配"it belongs to them."。注意：這個元字元不是所有的軟體都支持的。
+ 匹配1或多個正好在它之前的那個字元。例如正則表達式9+匹配9、99、999等。注意：這個元字元不是所有的軟體都支持的。
? 匹配0或1個正好在它之前的那個字元。注意：這個元字元不是所有的軟體都支持的。
\{i\}
\{i,j\} 匹配指定數目的字元，這些字元是在它之前的表達式定義的。例如正則表達式A[0-9]\{3\} 能夠匹配字元"A"後面跟著正好3個數字字元的串，例如A123、A348等，但是不匹配A1234。而正則表達式[0-9]\{4,6\} 匹配連續的任意4個、5個或者6個數字字元。注意：這個元字元不是所有的軟體都支持的。

——————————————————————————?

最簡單的元字元是點，它能夠匹配任何單個字元（注意不包括新行符）。假定有個文件test.txt包含以下幾行內容：

he is a rat
he is in a rut
the food is Rotten
I like root beer
我們可以使用grep命令來測試我們的正則表達式，grep命令使用正則表達式去嘗試匹配指定文件的每一行，並將至少有一處匹配表達式的所有行顯示出來。命令

1. grep r.t test.txt

在test.txt文件中的每一行中搜索正則表達式r.t，並列印輸出匹配的行。正則表達式r.t匹配一個r接著任何一個字元再接著一個t。所以它將匹配文件中的rat和rut，而不能匹配Rotten中的Rot，因為正則表達式是大小寫敏感的。要想同時匹配大寫和小寫字母，應該使用字元區間元字元（方括弧）。正則表達式[Rr]能夠同時匹配R和r。所以，要想匹配一個大寫或者小寫的r接著任何一個字元再接著一個t就要使用這個表達式： [Rr].t。
要想匹配行首的字元要使用抑揚字元（^）——又是也被叫做插入符。例如，想找到text.txt中行首」he」打頭的行，你可能會先用簡單表達式he，但是這會匹配第三行的the，所以要使用正則表達式^he，它只匹配在行首出現的h。

有時候指定「除了×××都匹配」會比較容易達到目的，當抑揚字元（^）出現在方括弧中是，它表示「排除」，例如要匹配he ，但是排除前面是t or s的情性（也就是the和she），可以使用：[^st]he。

可以使用方括弧來指定多個字元區間。例如正則表達式[A-Za-z]匹配任何字母，包括大寫和小寫的；正則表達式[A-Za-z][A-Za- z]* 匹配一個字母後面接著0或者多個字母（大寫或者小寫）。當然我們也可以用元字元+做到同樣的事情，也就是：[A-Za-z]+ ，和[A-Za-z][A-Za-z]*完全等價。但是要注意元字元+ 並不是所有支持正則表達式的程序都支持的。關於這一點可以參考後面的正則表達式語法支持情況。

要指定特定數量的匹配，要使用大括弧（注意必須使用反斜杠來轉義）。想匹配所有100和1000的實例而排除10和10000，可以使用：10\ {2,3\}，這個正則表達式匹配數字1後面跟著2或者3個0的模式。在這個元字元的使用中一個有用的變化是忽略第二個數字，例如正則表達式0\{3, \} 將匹配至少3個連續的0。

簡單的例子
這裡有一些有代表性的、比較簡單的例子。

vi 命令作用

——————————————————————————?

——————————————————————————?
:%s/ */ /g 把一個或者多個空格替換為一個空格。
:%s/ *$// 去掉行尾的所有空格。
:%s/^/ / 在每一行頭上加入一個空格。
:%s/^[0-9][0-9]* // 去掉行首的所有數字字元。
:%s/b[aeio]g/bug/g 將所有的bag、beg、big和bog改為bug。
:%s/t$[aou]$g/h\1t/g 將所有tag、tog和tug分別改為hat、hot和hug（注意用group的用法和使用\1引用前面被匹配的字元）。

中級的例子（神奇的咒語）
例1
將所有方法foo(a,b,c)的實例改為foo(b,a,c)。這裡a、b和c可以是任何提供給方法foo()的參數。也就是說我們要實現這樣的轉換：

之前之後
foo(10,7,2) foo(7,10,2)
foo(x+13,y-2,10) foo(y-2,x+13,10)
foo( bar(8), x+y+z, 5) foo( x+y+z, bar(8), 5)

下面這條替換命令能夠實現這一魔法：

1. :%s/foo($[^,]*$,$[^,]*$,$[^)]*$)/foo(\2,\1,\3)/g

現在讓我們把它打散來加以分析。寫出這個表達式的基本思路是找出foo()和它的括弧中的三個參數的位置。第一個參數是用這個表達式來識別的：：$[^,]*$，我們可以從裡向外來分析它：
[^,] 除了逗號之外的任何字元
[^,]* 0或者多個非逗號字元
$[^,]*$ 將這些非逗號字元標記為\1，這樣可以在之後的替換模式表達式中引用它
$[^,]*$, 我們必須找到0或者多個非逗號字元後面跟著一個逗號，並且非逗號字元那部分要標記出來以備後用。

現在正是指出一個使用正則表達式常見錯誤的最佳時機。為什麼我們要使用[^,]*這樣的一個表達式，而不是更加簡單直接的寫法，例如：.*，來匹配第一個參數呢？設想我們使用模式.*來匹配字元串」10,7,2″，它應該匹配」10,」還是」10,7,」？為了解決這個兩義性（ambiguity），正則表達式規定一律按照最長的串來，在上面的例子中就是」10,7,」，顯然這樣就找出了兩個參數而不是我們期望的一個。所以，我們要使用[^,]*來強製取出第一個逗號之前的部分。

這個表達式我們已經分析到了：foo($[^,]*$，這一段可以簡單的翻譯為「當你找到foo(就把其後直到第一個逗號之前的部分標記為 \1」。然後我們使用同樣的辦法標記第二個參數為\2。對第三個參數的標記方法也是一樣，只是我們要搜索所有的字元直到右括弧。我們並沒有必要去搜索第三個參數，因為我們不需要調整它的位置，但是這樣的模式能夠保證我們只去替換那些有三個參數的foo()方法調用，在foo()是一個重載（overoading）方法時這種明確的模式往往是比較保險的。然後，在替換部分，我們找到foo()的對應實例，然後利用標記好的部分進行替換，是的第一和第二個參數交換位置。

例2
假設有一個CSV（comma separated value）文件，裡面有一些我們需要的信息，但是格式卻有問題，目前數據的列順序是：姓名，公司名，州名縮寫，郵政編碼，現在我們希望講這些數據重新組織，以便在我們的某個軟體中使用，需要的格式為：姓名，州名縮寫-郵政編碼，公司名。也就是說，我們要調整列順序，還要合併兩個列來構成一個新列。另外，我們的軟體不能接受逗號前後面有任何空格（包括空格和製表符）所以我們還必須要去掉逗號前後的所有空格。
這裡有幾行我們現在的數據：
Bill Jones, HI-TEK Corporation , CA, 95011
Sharon Lee Smith, Design Works Incorporated, CA, 95012
B. Amos , Hill Street Cafe, CA, 95013
Alexander Weatherworth, The Crafts Store, CA, 95014

…
我們希望把它變成這個樣子：
Bill Jones,CA 95011,HI-TEK Corporation
Sharon Lee Smith,CA 95012,Design Works Incorporated
B. Amos,CA 95013,Hill Street Cafe
Alexander Weatherworth,CA 95014,The Crafts Store

…
我們將用兩個正則表達式來解決這個問題。第一個移動列和合併列，第二個用來去掉空格。
下面就是第一個替換命令：

1. :%s/$[^,]*$,$[^,]*$,$[^,]*$,$.*$/\1,\3 \4,\2/

這裡的方法跟例1基本一樣，第一個列（姓名）用這個表達式來匹配：$[^,]*$，即第一個逗號之前的所有字元，而姓名內容被用\1標記下來。公司名和州名縮寫欄位用同樣的方法標記為\2和\3，而最後一個欄位用$.*$來匹配（」匹配所有字元直到行末」）。替換部分則引用上面標記的那些內容來進行構造。
下面這個替換命令則用來去除空格：

1. :%s/[ \t]*,[ \t]*/,/g

我們還是分解來看：[ \t]匹配空格/製表符，[ \t]* 匹配0或多個空格/製表符，[ \t]*,匹配0或多個空格/製表符後面再加一個逗號，最後，[ \t]*,[ \t]*匹配0或多個空格/製表符接著一個逗號再接著0或多個空格/製表符。在替換部分，我們簡單的我們找到的所有東西替換成一個逗號。這裡我們使用了結尾的可選的g參數，這表示在每行中對所有匹配的串執行替換（而不是預設的只替換第一個匹配串）。
例3
假設有一個多字元的片斷重複出現，例如：
Billy tried really hard
Sally tried really really hard
Timmy tried really really really hard
Johnny tried really really really really hard

而你想把」really」、」really really」，以及任意數量連續出現的」really」字元串換成一個簡單的」very」（simple is good!），那麼以下命令：

1. :%s/$really $$really $*/very /

就會把上述的文本變成：
Billy tried very hard
Sally tried very hard
Timmy tried very hard
Johnny tried very hard

表達式$really $*匹配0或多個連續的」really 「（注意結尾有個空格），而$really $$really $* 匹配1個或多個連續的」really 「實例。
困難的例子（不可思議的象形文字）
Coming soon.

——————————————————————————?

不同工具中的正則表達式
OK，你已經準備使用RE（regular expressions，正則表達式），但是你並準備使用vi。所以，在這裡我們給出一些在其他工具中使用RE的例子。另外，我還會總結一下你在不同程序之間使用RE可能發現的區別。
當然，你也可以在Visual C++編輯器中使用RE。選擇Edit->Replace，然後選擇」Regular expression」選擇框，Find What輸入框對應上面介紹的vi命令:%s/pat1/pat2/g中的pat1部分，而Replace輸入框對應pat2部分。但是，為了得到vi的執行範圍和g選項，你要使用Replace All或者適當的手工Find Next and Replace（譯者按：知道為啥有人罵微軟弱智了吧，雖然VC中可以選中一個範圍的文本，然後在其中執行替換，但是總之不夠vi那麼靈活和典雅）。

sed
Sed是Stream EDitor的縮寫，是Unix下常用的基於文件和管道的編輯工具，可以在手冊中得到關於sed的詳細信息。

這裡是一些有趣的sed腳本，假定我們正在處理一個叫做price.txt的文件。注意這些編輯並不會改變源文件，sed只是處理源文件的每一行並把結果顯示在標準輸出中（當然很容易使用重定向來定製）：

sed腳本描述

——————————————————————————?

——————————————————————————?

1. sed 's/^$/d' price.txt 刪除所有空行
2. sed 's/^[ \t]*$/d' price.txt 刪除所有隻包含空格或者製表符的行
3. sed 's/"//g' price.txt 刪除所有引號

awk
awk是一種編程語言，可以用來對文本數據進行複雜的分析和處理。可以在手冊中得到關於awk的詳細信息。這個古怪的名字是它作者們的姓的縮寫（Aho，Weinberger和Kernighan）。
在Aho，Weinberger和Kernighan的書The AWK Programming Language中有很多很好的awk的例子，請不要讓下面這些微不足道的腳本例子限制你對awk強大能力的理解。我們同樣假定我們針對 price.txt文件進行處理，跟sed一樣，awk也只是把結果顯示在終端上。

awk腳本描述

——————————————————————————?

——————————————————————————?
awk '$0 !~ /^$/' price.txt 刪除所有空行
awk 'NF > 0' price.txt awk中一個更好的刪除所有行的辦法
awk '$2 ~ /^[JT]/ {print $3}' price.txt 列印所有第二個欄位是'J'或者'T'打頭的行中的第三個欄位
awk '$2 !~ /[Mm]isc/ {print $3 + $4}' price.txt 針對所有第二個欄位不包含'Misc'或者'misc'的行，列印第3和第4列的和（假定為數字）
awk '$3 !~ /^[0-9]+\.[0-9]*$/ {print $0}' price.txt 列印所有第三個欄位不是數字的行，這裡數字是指d.d或者d這樣的形式，其中d是0到9的任何數字
awk '$2 ~ /John|Fred/ {print $0}' price.txt 如果第二個欄位包含'John'或者'Fred'則列印整行

grep
grep是一個用來在一個或者多個文件或者輸入流中使用RE進行查找的程序。它的name編程語言可以用來針對文件和管道進行處理。可以在手冊中得到關於 grep的完整信息。這個同樣古怪的名字來源於vi的一個命令，g/re/p，意思是global regular expression print。
下面的例子中我們假定在文件phone.txt中包含以下的文本，——其格式是姓加一個逗號，然後是名，然後是一個製表符，然後是電話號碼：

Francis, John 5-3871
Wong, Fred 4-4123
Jones, Thomas 1-4122
Salazar, Richard 5-2522

grep命令描述

——————————————————————————?

——————————————————————————?
grep '\t5-...1' phone.txt 把所有電話號碼以5開頭以1結束的行列印出來，注意製表符是用\t表示的
grep '^S[^ ]* R' phone.txt 列印所有姓以S打頭和名以R打頭的行
grep '^[JW]' phone.txt 列印所有姓開頭是J或者W的行
grep ', ....\t' phone.txt 列印所有姓是4個字元的行，注意製表符是用\t表示的
grep -v '^[JW]' phone.txt 列印所有不以J或者W開頭的行
grep '^[M-Z]' phone.txt 列印所有姓的開頭是M到Z之間任一字元的行
grep '^[M-Z].*[12]' phone.txt 列印所有姓的開頭是M到Z之間任一字元，並且點號號碼結尾是1或者2的行

egrep
egrep是grep的一個擴展版本，它在它的正則表達式中支持更多的元字元。下面的例子中我們假定在文件phone.txt中包含以下的文本，——其格式是姓加一個逗號，然後是名，然後是一個製表符，然後是電話號碼：
Francis, John 5-3871
Wong, Fred 4-4123
Jones, Thomas 1-4122
Salazar, Richard 5-2522
egrep command Description

——————————————————————————?

——————————————————————————?
egrep '(John|Fred)' phone.txt 列印所有包含名字John或者Fred的行
egrep 'John|22$|^W' phone.txt 列印所有包含John 或者以22結束或者以W的行
egrep 'net(work)?s' report.txt 從report.txt中找到所有包含networks或者nets的行

——————————————————————————?

正則表達式語法支持情況

1. 命令或環境 . [ ] ^ $  \{ \} ? + | ( )
2. vi X X X X X
3. Visual C++ X X X X X
4. awk X X X X X X X X
5. sed X X X X X X
6. Tcl X X X X X X X X X
7. ex X X X X X X
8. grep X X X X X X
9. egrep X X X X X X X X X
10. fgrep X X X X X
11. perl X X X X X X X X X

——————————————————————————?

vi替換命令簡介
Vi的替換命令：
:ranges/pat1/pat2/g
其中
: 這是Vi的命令執行界面。
range 是命令執行範圍的指定，可以使用百分號（%）表示所有行，使用點（.）表示當前行，使用美元符號（$）表示最後一行。你還可以使用行號，例如10,20表示第10到20行，.,$表示當前行到最後一行，.+2,$-5表示當前行后兩行直到全文的倒數第五行，等等。
s 表示其後是一個替換命令。

pat1 這是要查找的一個正則表達式，這篇文章中有一大堆例子。

pat2 這是希望把匹配串變成的模式的正則表達式，這篇文章中有一大堆例子。
g 可選標誌，帶這個標誌表示替換將針對行中每個匹配的串進行，否則則只替換行中第一個匹配串。

網上有很多vi的在線手冊，你可以訪問他們以獲得更加完整的信息。

Tags: linux system 系統

[火星人 ] linux 正則表達式已經有661次圍觀

本文地址：http://coctec.com/docs/linux/show-post-107194.html

linux 正則表達式

熱門文章

最新文章