正则表达式的由来
正则表达式,英文写法Regular Expression,在编程语言中常被简写为regex、regexp等。它是用来描述、匹配一系列符合某个句法规则字符串的单个字符串。
正则表达式通常被用来检索、替换那些符合某个模式(Pattern)的文本。
1950年代,UNIX之父Ken Thompson将正则表达式引入编辑器QED,然后是编辑器ed,最终引入到grep中。从此,正则表达式被广泛地应用到了各种UNIX或类UNIX系统的工具之中,例如perl。
近些年来,主流操作系统、主流开发语言都能看到正则表达式的身影,掌握正则表达式并熟练应用,成为系统维护人员、程序开发人员必备技能。
grep、egrep简介
Linux使用了GNU版本的grep、egrep程序。
grep,全称 global search regular expression and print out the line,全面搜索正则表达式并把行打印出来。
grep能够借助正则表达式搜索文本,并把匹配行或者匹配项打印出来,同时它还可以使用-E选项使用egrep功能,使用-P使用perl正则表达式功能。
序号 | 名称 | 英文名称 | 缩写 |
1 | 基本正则表达式 | Basic Regular Expression | BRE |
2 | 扩展正则表达式 | Extended Regular Expression | ERE |
3 | Perl正则表达式 | Perl Regular Expression | PRE |
grep、egrep语法
grep和egrep都是对文本文件,按照给定的模式(PATTERN)逐行搜索。
1、 grep
grep [OPTION]... PATTERN [FILE]...
默认使用 基本正则表达式
使用 –E 选项,使用 扩展正则表达式
使用 –P 选项,使用 Perl正则表达式
2、 egrep
egrep [OPTION]... PATTERN [FILE]...
默认使用 扩展正则表达式
使用 –P 选项,使用Perl正则表达式
grep使用举例
例1:取出本机的IP地址
1、ifconfig | grep -o "inet addr:[^[:space:]]\+" | cut -d: –f2
2、ifconfig | grep -o -E "inet addr:[^[:space:]]+" | cut -d: –f2
3、ifconfig | egrep -o "inet addr:[^[:space:]]+" | cut -d: –f2
例2:取出函数名
1、grep -o "\<[[:alnum:]]\+\>()" /etc/rc.d/init.d/functions
2、egrep -o "\<[[:alnum:]]+\>\(\)" /etc/rc.d/init.d/functions
例3:建立一个文本文件,内容如下
He like his lover.
He love his lover.
He like his liker.
He love his liker.
找出最后一个单词是前面单词+r构成的行。
# cat > 1.txt <<EOF
> He like his lover.
> He love his lover.
> He like his liker.
> He love his liker.
> EOF
1、egrep "(\<[[:alnum:]]+\>).*\1r" 1.txt
2、grep "\(\<[[:alnum:]]\+\>\).*\1r" 1.txt
3、grep "\(\<[[:alnum:]]\{1,\}\>\).*\1r" 1.txt
正则表达式元字符对照表
字符 | 说明 | Basic RegEx | Extended RegEx | python RegEx | Perl regEx |
转义 | \ | \ | \ | \ | |
^ | 匹配行首,例如‘^dog‘匹配以字符串dog开头的行(注意:awk 指令中,‘^‘则是匹配字符串的开始) | ^ | ^ | ^ | ^ |
$ | 匹配行尾,例如:‘^、dog$‘匹配以字符串 dog 为结尾的行(注意:awk 指令中,‘$‘则是匹配字符串的结尾) | $ | $ | $ | $ |
^$ | 匹配空行 | ^$ | ^$ | ^$ | ^$ |
^string$ | 匹配行,例如:‘^dog$‘匹配只含一个字符串 dog 的行 | ^string$ | ^string$ | ^string$ | ^string$ |
\< | 匹配单词,例如:‘\<frog‘ (等价于‘\bfrog‘),匹配以 frog 开头的单词 | \< | \< | 不支持 | 不支持(但可以使用\b来匹配单词,例如:‘\bfrog‘) |
\> | 匹配单词,例如:‘frog\>‘(等价于‘frog\b ‘),匹配以 frog 结尾的单词 | \> | \> | 不支持 | 不支持(但可以使用\b来匹配单词,例如:‘frog\b‘) |
\<x\> | 匹配一个单词或者一个特定字符,例如:‘\<frog\>‘(等价于‘\bfrog\b‘)、‘\<G\>‘ | \<x\> | \<x\> | 不支持 | 不支持(但可以使用\b来匹配单词,例如:‘\bfrog\b‘ |
() | 匹配表达式,例如:不支持‘(frog)‘ | 不支持(但可以使用\(\),如:\(dog\) | () | () | () |
\(\) | 匹配表达式,例如:不支持‘(frog)‘ | \(\) | 不支持(同()) | 不支持(同()) | 不支持(同()) |
? | 匹配前面的子表达式 0 次或 1 次(等价于{0,1}),例如:where(is)?能匹配"where" 以及"whereis" | 不支持(同\?) | ? | ? | ? |
\? | 匹配前面的子表达式 0 次或 1 次(等价于‘\{0,1\}‘),例如:‘where\(is\)\? ‘能匹配 "where"以及"whereis" | \? | 不支持(同?) | 不支持(同?) | 不支持(同?) |
? | 当该字符紧跟在任何一个其他限制符(*, +, ?, {n},{n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 "oooo",‘o+?‘ 将匹配单个"o",而 ‘o+‘ 将匹配所有 ‘o‘ | 不支持 | 不支持 | 不支持 | 不支持 |
. | 匹配除换行符(‘\n‘)之外的任意单个字符(注意:awk 指令中的句点能匹配换行符) | . | .(如果要匹配包括“\n”在内的任何一个字符,请使用:‘(^$)|(.) | . | .(如果要匹配包括“\n”在内的任何一个字符,请使用:‘ [.\n] ‘ |
* | 匹配前面的子表达式 0 次或多次(等价于{0, }),例如:zo* 能匹配 "z"以及 "zoo" | * | * | * | * |
\+ | 匹配前面的子表达式 1 次或多次(等价于‘\{1, \}‘),例如:‘where\(is\)\+ ‘能匹配 "whereis"以及"whereisis" | \+ | 不支持(同+) | 不支持(同+) | 不支持(同+) |
+ | 匹配前面的子表达式 1 次或多次(等价于{1, }),例如:zo+能匹配 "zo"以及 "zoo",但不能匹配 "z" | 不支持(同\+) | + | + | + |
{n} | n 必须是一个 0 或者正整数,匹配子表达式 n 次,例如:zo{2}能匹配 | 不支持(同\{n\}) | {n} | {n} | {n} |
{n,} | "zooz",但不能匹配 "Bob"n 必须是一个 0 或者正整数,匹配子表达式大于等于 n次,例如:go{2,} | 不支持(同\{n,\}) | {n,} | {n,} | {n,} |
{n,m} | 能匹配 "good",但不能匹配 godm 和 n 均为非负整数,其中 n <= m,最少匹配 n 次且最多匹配 m 次 ,例如:o{1,3}将配"fooooood" 中的前三个 o(请注意在逗号和两个数之间不能有空格) | 不支持(同\{n,m\}) | {n,m} | {n,m} | {n,m} |
x|y | 匹配 x 或 y,例如: 不支持‘z|(food)‘ 能匹配 "z" 或"food";‘(z|f)ood‘ 则匹配"zood" 或 "food" | 不支持(同x\|y) | x|y | x|y | x|y |
[0-9] | 匹配从 0 到 9 中的任意一个数字字符(注意:要写成递增) | [0-9] | [0-9] | [0-9] | [0-9] |
[xyz] | 字符集合,匹配所包含的任意一个字符,例如:‘[abc]‘可以匹配"lay" 中的 ‘a‘(注意:如果元字符,例如:. *等,它们被放在[ ]中,那么它们将变成一个普通字符) | [xyz] | [xyz] | [xyz] | [xyz] |
[^xyz] | 负值字符集合,匹配未包含的任意一个字符(注意:不包括换行符),例如:‘[^abc]‘ 可以匹配 "Lay" 中的‘L‘(注意:[^xyz]在awk 指令中则是匹配未包含的任意一个字符+换行符) | [^xyz] | [^xyz] | [^xyz] | [^xyz] |
[A-Za-z] | 匹配大写字母或者小写字母中的任意一个字符(注意:要写成递增) | [A-Za-z] | [A-Za-z] | [A-Za-z] | [A-Za-z] |
[^A-Za-z] | 匹配除了大写与小写字母之外的任意一个字符(注意:写成递增) | [^A-Za-z] | [^A-Za-z] | [^A-Za-z] | [^A-Za-z] |
\d | 匹配从 0 到 9 中的任意一个数字字符(等价于 [0-9]) | 不支持 | 不支持 | \d | \d |
\D | 匹配非数字字符(等价于 [^0-9]) | 不支持 | 不支持 | \D | \D |
\S | 匹配任何非空白字符(等价于[^\f\n\r\t\v]) | 不支持 | 不支持 | \S | \S |
\s | 匹配任何空白字符,包括空格、制表符、换页符等等(等价于[ \f\n\r\t\v]) | 不支持 | 不支持 | \s | \s |
\W | 匹配任何非单词字符 (等价于[^A-Za-z0-9_]) | \W | \W | \W | \W |
\w | 匹配包括下划线的任何单词字符(等价于[A-Za-z0-9_]) | \w | \w | \w | \w |
\B | 匹配非单词边界,例如:‘er\B‘ 能匹配 "verb" 中的‘er‘,但不能匹配"never" 中的‘er‘ | \B | \B | \B | \B |
\b | 匹配一个单词边界,也就是指单词和空格间的位置,例如: ‘er\b‘ 可以匹配"never" 中的 ‘er‘,但不能匹配 "verb" 中的‘er‘ | \b | \b | \b | \b |
\t | 匹配一个横向制表符(等价于 \x09和 \cI) | 不支持 | 不支持 | \t | \t |
\v | 匹配一个垂直制表符(等价于 \x0b和 \cK) | 不支持 | 不支持 | \v | \v |
\n | 匹配一个换行符(等价于 \x0a 和\cJ) | 不支持 | 不支持 | \n | \n |
\f | 匹配一个换页符(等价于\x0c 和\cL) | 不支持 | 不支持 | \f | \f |
\r | 匹配一个回车符(等价于 \x0d 和\cM) | 不支持 | 不支持 | \r | \r |
\\ | 匹配转义字符本身"\" | \\ | \\ | \\ | \\ |
\cx | 匹配由 x 指明的控制字符,例如:\cM匹配一个Control-M 或回车符,x 的值必须为A-Z 或 a-z 之一,否则,将 c 视为一个原义的 ‘c‘ 字符 | 不支持 | 不支持 | \cx | |
\xn | 匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长,例如:‘\x41‘ 匹配 "A"。‘\x041‘ 则等价于‘\x04‘ & "1"。正则表达式中可以使用 ASCII 编码 | 不支持 | 不支持 | \xn | |
\num | 匹配 num,其中 num是一个正整数。表示对所获取的匹配的引用 | 不支持 | \num | \num | |
[:alnum:] | 匹配任何一个字母或数字([A-Za-z0-9]),例如:‘[[:alnum:]] ‘ | [:alnum:] | [:alnum:] | [:alnum:] | [:alnum:] |
[:alpha:] | 匹配任何一个字母([A-Za-z]), 例如:‘ [[:alpha:]] ‘ | [:alpha:] | [:alpha:] | [:alpha:] | [:alpha:] |
[:digit:] | 匹配任何一个数字([0-9]),例如:‘[[:digit:]] ‘ | [:digit:] | [:digit:] | [:digit:] | [:digit:] |
[:lower:] | 匹配任何一个小写字母([a-z]), 例如:‘ [[:lower:]] ‘ | [:lower:] | [:lower:] | [:lower:] | [:lower:] |
[:upper:] | 匹配任何一个大写字母([A-Z]) | [:upper:] | [:upper:] | [:upper:] | [:upper:] |
[:space:] | 任何一个空白字符: 支持制表符、空格,例如:‘ [[:space:]] ‘ | [:space:] | [:space:] | [:space:] | [:space:] |
[:blank:] | 空格和制表符(横向和纵向),例如:‘[[:blank:]]‘ó‘[\s\t\v]‘ | [:blank:] | [:blank:] | [:blank:] | [:blank:] |
[:graph:] | 任何一个可以看得见的且可以打印的字符(注意:不包括空格和换行符等),例如:‘[[:graph:]] ‘ | [:graph:] | [:graph:] | [:graph:] | [:graph:] |
[:print:] | 任何一个可以打印的字符(注意:不包括:[:cntrl:]、字符串结束符‘\0‘、EOF 文件结束符(-1), 但包括空格符号),例如:‘[[:print:]] ‘ | [:print:] | [:print:] | [:print:] | [:print:] |
[:cntrl:] | 任何一个控制字符(ASCII 字符集中的前 32 个字符,即:用十进制表示为从 0 到31,例如:换行符、制表符等等),例如:‘ [[:cntrl:]]‘ | [:cntrl:] | [:cntrl:] | [:cntrl:] | [:cntrl:] |
[:punct:] | 任何一个标点符号(不包括:[:alnum:]、[:cntrl:]、[:space:]这些字符集) | [:punct:] | [:punct:] | [:punct:] | [:punct:] |
[:xdigit:] | 任何一个十六进制数(即:0-9,a-f,A-F) | [:xdigit:] | [:xdigit:] | [:xdigit:] | [:xdigit:] |
学习资料
1、正则表达式30分钟入门教程。这是一篇非常好的文档,笔者当年就是看这篇文章学会正则表达式的。
http://deerchao.net/tutorials/regex/regex.htm
参考文献
1、维基百科
2、博客园,学院派的驴,《各种流派的正则表达式说明以及shell正则表达式》
http://www.cnblogs.com/finallyliuyu/archive/2013/05/27/3101220.html
Linux中grep、egrep正则表达式的使用