grep和正则表达式
1.grep:Global search REgular expression and Print out the file
作用：文本搜索工具，根据用户指定的模式对目标文件逐行进行匹配，打印匹配到的行
模式：由正则表达式字符及文本字符编写的过滤条件
格式：
grep [options] pattern file[...]
--color=auto 对匹配到的文本着色显示
-v 显示不能够被pattern匹配的行
-i 忽略file中文件字符的大小写
-n 显示匹配的行号
-o 只显示匹配到的字符串
-q 静默模式，无论匹配成功与否均不输出任何信息
-A num 匹配成功后，显示匹配的行和其后num行
-B num 匹配成功后，显示匹配的行和其前num行
-C num 匹配成功后，显示匹配的行和其前后分别num行
-e 实现多个选项间的逻辑or关系
grep -e ‘cat‘ -e ‘dog‘ file
-w 整行匹配整个单词
-E 使用扩展正则表达式
2.正则表达式
由一类特殊字符及文本字符所编写的模式，其中有些字符（元字符）不表示字符字面意义，而表示控制或通配（wildzard）的功能
分类：
基本正则表达式：Basic Regular Expression
扩展正则表达式 Extension Regular Expression
grep -E,egrep
下面讨论的都是基本正则表达式
元字符分类：字符匹配、匹配次数、位置锚定、分组
1）字符匹配
. 匹配任意单个字符
[] 匹配[]指定的范围内的任意单个字符 []之中的内容可以罗列：[a!.ops]
可以是有规律的范围：[a-zA-Z0-9]
也可以是预定义的字符集：[:digit:] [:punct:]等，使用时[[:digit:]]才能达到上面字符集的效果,才会起作用
[^] 匹配指定范围之外的任意单个字符
2）匹配次数：用在要指定次数的字符后面，用于指定前面字符或字符串（ \（\）扩起的部分 ），要出现的次数
* 匹配前面的字符或字符串任意次，包括0次
\? 匹配其前面的字符或字符串0次或1次
\+ 匹配其前面的字符或字符串1次或多次
\{m\} 匹配其前面的字符或字符串m次
\{m,n\} 匹配其前面的字符或字符串至少m次，至多n次
\{,n\} 匹配其前面的字符或字符串最多n次
\{m,\} 匹配其前面的字符或字符串最多m次
Attention：在这里匹配次数，默认是贪婪模式（greed）:尽可能的多匹配字符
与之相对应的有一种懒惰模式（lazy）:尽可能少的匹配字符
做法，简而言之就是在匹配次数的符号后面加上？
但是grep不支持，只有切换到Perl支持的正则表达式的模式下才能支持，很简单，就是加-P选项
Perl支持的扩展的正则表达式，也就是匹配次数的字符不用加前面的转义符了，例如
grep -P "a+?b" file
3）位置锚定：定位出现的位置
^ 行首锚定符
$ 行尾锚定符
^pattern$ 用于模式匹配整行
^$ 匹配空行
^[[:space:]]*$ 匹配空白行
\< 或 \b 词首锚定
\> 或 \b 词尾锚定
\<pattern\> 匹配整个单词，但是不一定要成对出现，比如^pattern\>
4）分组和向后引用
分组：使用小括号指定一个子表达式以后，匹配这个子表达式的文本（也就是此分组捕获的内容）可以在表达式或其他程序中进一步的处理。默认情况下，每个分组自动拥有一个组号，规则是：从左向右，以分组的左括号为标志，第一个出现的分组的组号为1，第二个为2，以此类推。
Attention:其实真正的组号分配更复杂一些。
a)分组0对应整个正则表达式
b)实际上组号分配过程是要从左向右扫描两遍的，第一遍只给未命名组分组分配组号（1 2 ...）
第二遍只给命名组分配((?<name>exp)或(?‘name‘exp) 调用时用 \k<name>或\k‘name‘ grep -P（PerlRE）支持这样做)
c)可以使用(?exp)这样的语法来剥夺一个分组对组号分配的参与权
向后引用：引用前面的分组括号中pattern匹配的字符串 也就是\1不能放在第一个分组之前，以此类推
5）断言(grep -P支持)
查找匹配pattern的内容之前或之后的内容
1）零宽断言
（1）（？=exp）,也叫零宽度正预测先行断言，
格式：pattern1(?=pattern2)
匹配这样的字符串
a)字符串本身匹配pattern1
b)字符串后面的内容匹配pattern2
例如：在/etc/passwd 中找出uid和gid相同，且都是4位数的行（使用（？=exp））
grep -P "(\d{4}(?=:\d{4}:)):\1" /etc/passwd
输出：
redhat:x:1000:1000:redhat:/home/redhat:/bin/bash
user1:x:1001:1001::/home/user1:/bin/bash
user2:x:1002:1002::/home/user2:/bin/bash
user3:x:1003:1003::/home/user3:/bin/bash
Attention:()可以加在pattern1(?=pattern2)整个外侧，也可以只加在pattern1外侧
（2） （？<=exp），也叫零宽度正回顾后发断言
格式：(?<=pattern2)pattern1
匹配这样的字符串
a)字符串本身匹配pattern1
b)字符串前面的内容匹配pattern2
例如：在/etc/passwd 中找出uid和gid相同，且都是4位数的行（使用（？<=exp））
grep -P "(?<=:x:)(\d{4}):\1:" /etc/passwd
输出：
redhat:x:1000:1000:redhat:/home/redhat:/bin/bash
user1:x:1001:1001::/home/user1:/bin/bash
user2:x:1002:1002::/home/user2:/bin/bash
user3:x:1003:1003::/home/user3:/bin/bash
Attention:()可以加在(?<=pattern2)pattern1整个外侧，也可以只加在pattern1外侧
2）负向零度断言
（1）（？！(exp)），零宽度负向预测先行断言 exp通常需要加（），我理解是因为前面的！的缘故
格式：pattern1(?！(pattern2))
匹配这样的字符串
a)字符串本身匹配pattern1
b)字符串后面的内容不匹配pattern2
Attention：但(?！(pattern2)) 有时可以放在前面，例如
echo -e "abcdabc\n shxjah" | grep -P "(?!(abc))\w+"
输出：
abcdabc
shxjah
（2）（？<!(exp)）,零宽度负回顾后发断言
格式：(?！(pattern2)) pattern1
匹配这样的字符串
a)字符串本身匹配pattern1
b)字符串前面的内容不匹配pattern2
例如：在/etc/passwd中找到gid是三位数的行
综合零宽度负向预测先行断言和零宽度负回顾后发断言
grep -P "(?<!(x:))\b\d{3}(?!(\d))" /etc/passwd
输出：
games:x:12:100:games:/usr/games:/sbin/nologin
polkitd:x:999:999:User for polkitd:/:/sbin/nologin
colord:x:998:998:User for colord:/var/lib/colord:/sbin/nologin
usbmuxd:x:113:113:usbmuxd user:/:/sbin/nologin
rtkit:x:172:172:RealtimeKit:/proc:/sbin/nologin
qemu:x:107:107:qemu user:/:/sbin/nologin
chrony:x:997:995::/var/lib/chrony:/sbin/nologin
...
3.需要小心的陷阱
1）找出文件当中含有-v的行 （string start with dash ）
你可能会这样做
grep "-v" file
在这里-v会被当成选项，不显示匹配的行，而file的名字会当成pattern，最后grep会等待你的输入查找的目标，但似乎变成了你输入什么，它回显什么的错误结果
原理与解决办法如下：
More precisely, a double dash (--) is used in bash built-in commands and many other commands to signify the end of command options, after which only positional parameters are accepted.
更确切的说，在bash内建命令和很多其他命令使用双破折号来标识命令选项的结束，在双破折号之后只有位置参数会被接受
Example use: lets say you want to grep a file for the string -v - normally -v will be considered the option to reverse the matching meaning (only show lines that do not match), but with -- you can grep for string -v like this:
用例：假如你想grep一个文件来查找-v字符串，通常-v会被当作是颠倒匹配含义的选项来考虑（就是只显示不匹配的行），但是你这样的方式grep去查找-v字符串：
grep -- -v file
就可以正常工作了
2）$的重要性
添加用户bash、testbash、basher以及nologin(其shell为/sbin/nologin)，而后找出/etc/passwd文件中用户名与shell类型相同的行
grep -o "^\([^:]\{1,\}\):.*/\1$" /etc/passwd
必须要有$，否则不能达到我们的要求
4.经典的正则表达式
1)匹配IP地址
grep -Po "((25[0-5]|2[0-4]\d|[01]?\d\d?)\.)(25[0-5]|2[0-4]\d|[01]?\d\d?)" file
后面的...(25[0-5]|2[0-4]\d|[01]?\d\d?)一定要加上括号，否则会出现这样的情况...25[0-5]|2[0-4]\d|[01]?\d\d?，会分别匹配...25[0-5]和2[0-4]\d以及[01]?\d\d?，后两个没有...的部分