shell中截取字符串的方法有很多中,本人对其中几种常用的进行整理总结。
0x01、grep
在文件中搜寻字符串匹配的行并输出
Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来。grep全称是Global Regular Expression Print,表示全局正则表达式版本,它的使用权限是所有用户。
grep 【选项】【指定字串】【文件】
-i 不区分大小写
-v 排除指定字串
-c:只输出匹配行的计数。
-n:显示匹配行及 行号。
-s:不显示不存在或无匹配文本的错误信息。
grep支持正则表达式,下面总结下正则表达式和通配符。
正则表达式
正则表达式用来在文件中匹配符合条件的字符串,正则表达式是包含匹配。grep、awk、sed等命令可以支持正则表达式。
通配符
通配符用来匹配符合条件的文件名,通配符是完全匹配,ls、find、cp这些命令不支持正则表达式,所以只能使用shell自己的通配符来进行匹配。
正则有些符号和通配符有些符号通用,但含义完全不同
基础正则表达式
元字符 |
作用 |
* |
前一个字符匹配0次或任意多次 |
. |
匹配除了换行符外任意一个字符 |
^ |
匹配行首。如^hello会匹配以hello开头的行 |
$ |
匹配行尾,如hello会匹配以hello结束的行 |
[] |
匹配中括号中任意的一个字符,只匹配一个字符。 |
[^] |
匹配除中括号的字符以外的任意一个字符。如[^0-9]匹配任意一个非数字字符 |
\ |
转义符。用于取消特殊符号的含义 |
{n} |
n是一个非负数,匹配前面的字符恰好出现n次。如o{2}匹配food中的两个o |
{n,} |
表示其前面的字符出现不少于n次 |
{n,m} |
最少匹配n次且最多匹配m次 |
需要注意的是,通配符的*表示任意字符,而正则表达式的*是匹配钱一个字符0次或者任意多次 grep "s*" anaconda-ks.cfg 显示的不是包含有s的行,而是显示了整个文件,“s*”匹配s的0次或多次
grep "size*" anaconda-ks.cfg匹配了e的0次或多次,但至少需匹配siz字符串
“.”匹配除了换行符外任意一个字符,和通配符的?相同,“.*”就才和通配符中的“*”作用相同
grep提取行,cut和awk提取列
0x02、cut
cut是一个选取命令,就是将一段数据经过分析,取出我们想要的。一般来说,选取信息通常是针对“行”来进行分析的,并不是整篇信息分析的
cut[选项] 文件名
-f列号提取第几列
-d分隔符按照指定分隔符分割列(默认使用的是制表符tab键)
和grep结合使用,cat /etc/passwd | grep /bin/bash | grep -v root | cut -d":" -f 1
cut命令的局限线
cut命令对于空格符分割,不能很好的提取,可以使用awk命令解决
0x03、awk
和cut命令作用一样,截取符合条件的列,grep是截取符合条件的行,但cut有些局限,awl也可以通过制表符,冒号等分隔符截取,功能远比cut强大,但awk是一个非常复杂的命令,不但可以实现字符串的截取,还可以在awk命令中进行编程调用,最常见的可以进行函数,判断等。所以把awk一直说是awk编程。但仅仅是简单的截取列,又不是用空格作分割的话,cut命令更简单。
awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。
awk ‘条件1{动作1}条件2{动作2}...’文件名
条件
一般使用关系表达式作为条件
x>10判断变量x是否大于10
x>=10大于等于
x<=10小于等于
动作
格式化输出
流程控制语句
$1代表第一列,$2代表第二列,$0代表整一行
FS内置变量
awk ‘{FS=":"}{print $1"\t" $3}‘ /etc/passwd,使用FS=””,指定分割符,第一行已经读完,用冒号分割已经来不及了,默认的用空格分割,后面的用冒号分割,在 FS之前强制加个BEGIN
关系运算符
cat /etc/passwd | awk ‘{FS=":"} $3>=500 {printf $1"\n"}‘
0x04、printf
printf是在awk中的标准输出格式
printf ‘输出类型输出格式’输出内容
输出类型:
%ns:输出字符串,n是数字指代输出几个字符
%ni:输出是整数,n是数字指代输出几个数字
%m.nf:输出浮点数。m和n是数字,指代输出的整数位数和小数位数。加%8.2f代表共输出8位数,其中2位是小数,6位是整数。
输出格式:
\a:输出警告声音
\b:输出退格符,也就是backspace键
\f:清楚屏幕
\n:换行
\r:回车,也就是Enter键
\t:水平输出退格键,也就是Tab键
\v:垂直输出退格键,也就是Tab键
在awk命令的输出中支持print和printf命令
print:print会在每个输出之后自动加入一个换行符(linux默认没有print命令)
printf:printf是标准格式输出命令,并不会自动加入换行符,如果需要换行,需要手工加入换行符。
0x05、sed
sed是一种几乎包括在所有unix平台(包括linux)的轻量级流编辑器。sed主要是用来将数据进行选取、替换、删除、新增的命令。
vim也可以进行选取,删除,替换等,但是vim只能对文件进行修改,但是不可以直接对命令的结果进行修改,需先把命令保存到文件中,再对文件进行修改。而sed可以从管道符接收数据进行修改
sed [选项] ‘[动作]’文件名
常见选项
-n一般sed命令会把所有数据都输出到屏幕,加入此参数,则只会把经过sed命令处理的行输出到屏幕
-e允许对输入数据应用多条sed命令编辑
-i用sed的修改结果直接修改读取数据的文件,而不是由屏幕输出
动作:
a\:追加,在当前行后添加一行或多行。添加多行时,除最后一行外,每行末尾需要用“\”代表数据未完结。
c\:行要用\”代表数据为完结。
替换,用c后面的字符串替换原来数据行,替换多行时,除最后一行外,每行末尾需i\:插入,在当前行前插入一行或多行,插入多行时,除最后一行外,每行末尾需要用\”代表数据为完结。
d:删除,删除指定的行。
p:输出、打印指定的行。
s:字串替换,用一个字符串替换另外一个字符串。格式为“行范围s/旧字串/新字串/g”(和vim中的替换格式类似)。
sed -n "1p" /etc/passwd ,查看etc/passwd中的第一行,如果不加-n参数,显示这条操作外,还会显示文件的全部内容,加-n 只会显示处理的行
sed "2,36d" /etc/passwd ,删除第二行到第四行的数据,但不修改文件本身,只有加了-i参数才会修改文件本身
动作a和i都是添加,a是追加在行尾,i是插入在行前,但不都会修改文件本身,只会先显示上做修改,不加-n 除了虎显示修改的数据,还会显示文本的所有数据。
动作c和动作s都是进行替换,c进行的是行的替换,s进行的是字符串的替换,字符替换的格式是sed “s/旧字符串/新字符串/g”文件名,在s前指定行只需改指定的行,不指定会修改所有的。
0x06、sort 排序命令
sort 【选项】 文件名
选项
-f忽略大小写
-n以数值型进行排序,默认使用字符串排序
-r反向排序
-t指定分隔符,默认使用的是制表符tab键
-k n[,m]按照指定的字段范围排序,从第n字段开始,m字段结束,不加m默认到行尾
sort -t ":" -k 3,3 /etc/passwd,仔细看,没把uid当作字符串对待,而当数值型对待,需要加-n参数