Linux的文本处理实用工具主要由sed和awk命令,二者虽然略有差异,但都使用正则表达式,默认使用标准I/O,并且使用管道命令可以将前一个命令的输出作为下一个命令的输入。笔者将在本节学习sed命令。
sed命令
sed命令是以行为单位的非交互式编辑器,从通过标准输入或文件获得要处理的输入文本,对指定的行进行逐行处理,然后将结果输出传送到标准输出或文件。sed命令也可以在vi(m)编辑器中使用。sed决定对指定地址范围内的哪些输入行进行处理,此时可在地址范围内使用行号或正则表达式模式。例如,5d表示删除第5个行,/windows/d表示删除包含”windows“的所有行。
1.工作原理:
sed流编辑器在1个文件或1个输入中每次只能处理1行并显示到显示器。该命令在vi(m)编辑器中也可以使用,在称为”模式空间“的临时缓冲处理已保存的行。每次处理完临时缓冲的行,该行就传到显示器。结束行处理后,就会从临时缓冲删除,接着读取并处理下一行,然后显示出来。输入文件的最后一行处理完成就终止sed命令。保存于临时缓冲的每行都要处理,所以原文件不会被更改或损坏。
2.命令格式:
调用sed命令有两种形式:
sed [options] ‘command‘ file(s)
sed [options] -f scriptfile file(s)
3. 常用选项:
-n:在一般sed的用法中,所有来自STDIN的资料都会被列出到屏幕上,但如果加上-n参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被输出。
-e: 进行多项编辑,即对输入行应用多条sed命令时使用。
-r:sed 的动作支援的是延伸型正则表达式的语法。(预设是基础正则表达式语法)。
-i:直接修改读取的文件内容,而不是由屏幕输出。
-f:指定sed脚本的文件名. 直接将 sed 的动作写在一个档案内, -f scriptfile 则可以执行 scriptfile 内的sed 动作。
4.常用命令:
a:新增, a 的后面可以接字串,而这些字串会在新的一行出现(当前行的下一行)。
c:取代, 用此符号后的新文本替换当前行中的文本,多行时除最后一行外,每行末尾需用"\"续行。
d:删除,因为是删除,所以 d 后面通常不接任何内容。
i:插入, i 的后面可以接字串,而这些字串会在新的一行出现(当前行的上一行)。
p:列印,亦即将某个选择的资料印出,通常 p 会与参数 sed -n 一起用。
q:结束或退出sed。
r:从文件中读取输入行。
s:取代,可以直接进行替换的工作,通常这个 s 的动作可以搭配正则表达式,例如 1,20s/old/new/g。
g:在行内进行全局替换。
w:将所选的行写入文件
x:交换暂存缓冲区与模式空间的内容。
y:将字符替换为另一字符(不能对正则表达式使用y命令)。
5. sed常用运算符:
运算符 | 名称 | 含义 |
[地址范围]/p | 显示[指定的地址范围] | |
[地址范围]/d | delete | 删除[指定的地址范围] |
s/pattern1/pattern2 | substitute | 将行中首次出现的pattern1替换为pattern2 |
[地址范围]/s/pattern1/pattern2 | substitute | 将地址范围内的行中首次出现的pattern1替换为pattern2 |
[地址范围]/y/pattern1/pattern2 | transform | 在地址范围内将任何位于pattern1的字符变更为pattern2位置上的字符(与tr相同) |
g | global | 在所有行启动与输入内容匹配的模式 |
6. 定址:
定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。如果没有指定地址,sed将处理输入文件的所有行。
地址是一个数字,则表示行号;是“$"符号,则表示最后一行。
例1:只打印第三行
sed -n ‘3p‘ datafile
|
地址范围是用逗号分隔的,那么需要处理的地址是这两行之间的范围(包括这两行在内)。范围可以用数字、正则表达式、或二者的组合表示。
例2:只查看文件的第100行到第200行
sed -n ‘100,200p‘ datafile
|
例3:删除包含”My“的行和到包含”you“的行之间的行
sed ‘/My/,/You/d‘ datafile
|
例4:删除包含”My“的行和第10行之间的内容
sed ‘/My/,10d‘ datafile
|
7. 退出状态:
sed不向grep一样,不管是否找到指定的模式,它的退出状态都是0。只有当命令存在语法错误时,sed的退出状态才不是0。
8. 正则表达式元字符:
与grep一样,sed也支持特殊元字符,来进行模式查找、替换。不同的是,sed使用的正则表达式是括在斜杠线"/"之间的模式。如果要把正则表达式分隔符"/"改为另一个字符,比如o,只要在这个字符前加一个反斜线,在字符后跟上正则表达式,再跟上这个字符即可,例如:sed -n ‘\o^Myop‘ datafile。
元字符 | 功能 | 示例 | 说明 |
^ | 行首定位符 | /^my/ | 匹配所有以my开头的行 |
$ | 行尾定位符 | /my$/ | 匹配所有以my结尾的行 |
. | 匹配除换行符以外的单个字符 | /m..y/ | 匹配包含字母m,后跟两个任意字符,再跟字母y的行 |
* | 匹配零个或多个前导字符 | /my*/ | 匹配包含字母m,后跟零个或多个y字母的行 |
[] | 匹配指定字符组内的任一字符 | /[Mm]y/ | 匹配包含My或my的行 |
[^] | 匹配不在指定字符组内的任一字符 | /[^Mm]y/ | 匹配包含y,但y之前的那个字符不是M或m的行 |
\(...)\ | 保存已匹配的字符 | s/\(love\)able/\ler/ | 使用\1保存匹配的模式方便以后浏览,并标记为1号标签。示例中lovable保存替换为over字符串 |
& | 保存可以记忆为替换字符串的检索字符串 | s/linux/**&**/ | 由于&是检索字符串,所以将linux字符串置于*字符中,示例中linux字符串变为**linux** |
\< | 词首 | /\<linux/ | 匹配包含以linux开始的词的行 |
\> | 词尾 | /linux\>/ | 匹配包含以linux结尾的词的行 |
x\{m\} | 将x字符的重复次数设为m | /o\{5\}/ | o重复5次 |
x\{m,\} | 至少重复m次 | /o\{5,\}/ | o重复5次 |
x\{m,n\} | 重复m~n之间的次数 | /o\{5,10\}/ | o重复5~10次 |
9.范例:
9.1 p命令
命令p用于显示模式空间的内容。默认情况下,sed把输入行打印在屏幕上,选项-n用于取消默认的打印操作。当选项-n和命令p同时出现时,sed可打印选定的内容。
sed ‘/my/p‘ datafile
|
9.2 d命令
命令d用于删除输入行。sed先将输入行从文件复制到模式空间里,然后对该行执行sed命令,最后将模式空间里的内容显示在屏幕上。如果发出的是命令d,当前模式空间里的输入行会被删除,不被显示。
sed ‘$d‘ datafile
|
9.3 s命令
sed ‘s/^My/You/g‘ datafile
|
sed ‘s#My#Your#g‘ datafile
|
9.4 e选项
-e是编辑命令,用于sed执行多个编辑任务的情况下。在下一行开始编辑前,所有的编辑动作将应用到模式缓冲区中的行上。
sed -e ‘1,10d‘ -e ‘s/My/Your/g‘ datafile
|
9.5 r命令
r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。
sed ‘/My/r introduce.txt‘ datafile
|
9.6 w命令
sed -n ‘/hrwang/w me.txt‘ datafile
|
9.7 a\ 命令
a\ 命令是追加命令,追加将添加新文本到文件中当前行(即读入模式缓冲区中的行)的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行,则每一行都必须以反斜线结束,最后一行除外。最后一行将以引号和文件名结束。
sed ‘/^hrwang/a\
|
9.8 i\ 命令
i\ 命令是在当前行的前面插入新的文本。
9.9 c\ 命令
sed使用该命令将已有文本修改成新的文本。
9.10 n命令
sed使用该命令获取输入文件的下一行,并将其读入到模式缓冲区中,任何sed命令都将应用到匹配行紧接着的下一行上。
sed ‘/hrwang/{n;s/My/Your/;}‘ datafile
|
注:如果需要使用多条命令,或者需要在某个地址范围内嵌套地址,就必须用花括号将命令括起来,每行只写一条命令,或这用分号分割同一行中的多条命令。
9.11 y命令
该命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。例如,y/abc/ABC/将把所有小写的a转换成A,小写的b转换成B,小写的c转换成C。
sed ‘1,20y/hrwang12/HRWANG^$/‘ datafile
|
9.12 q命令
q命令将导致sed程序退出,不再进行其它的处理。
sed ‘/hrwang/{s/hrwang/HRWANG/;q;}‘ datafile
|
9.13 h命令和g命令
#cat datafile
|
10. 常用指令举例:
(假设我们有一文件名为ab)
删除某行
[[email protected] ruby] # sed ‘1d‘ ab #删除第一行
[[email protected] ruby] # sed ‘$d‘ ab #删除最后一行
[[email protected] ruby] # sed ‘1,2d‘ ab #删除第一行到第二行
[[email protected] ruby] # sed ‘2,$d‘ ab #删除第二行到最后一行
显示某行
. [[email protected] ruby] # sed -n ‘1p‘ ab #显示第一行
[[email protected] ruby] # sed -n ‘$p‘ ab #显示最后一行
[[email protected] ruby] # sed -n ‘1,2p‘ ab #显示第一行到第二行
[[email protected] ruby] # sed -n ‘2,$p‘ ab #显示第二行到最后一行
使用模式进行查询
[[email protected] ruby] # sed -n ‘/ruby/p‘ ab #查询包括关键字ruby所在所有行
[[email protected] ruby] # sed -n ‘/\$/p‘ ab #查询包括关键字$所在所有行,使用反斜线\屏蔽特殊含义
增加一行或多行字符串
[[email protected] ruby] # sed ‘1a drink tea‘ ab #第一行后增加字符串"drink tea"
[[email protected] ruby] # sed ‘1,3a drink tea‘ ab #第一行到第三行后增加字符串"drink tea"
[[email protected] ruby] # sed ‘1a drink tea\nor coffee‘ ab #第一行后增加多行,使用换行符\n
代替一行或多行
[[email protected] ruby] # sed ‘1c Hi‘ ab #第一行代替为Hi
[[email protected] ruby] # sed ‘1,2c Hi‘ ab #第一行到第二行代替为Hi
替换一行中的某部分
格式:sed ‘s/要替换的字符串/新的字符串/g‘ (要替换的字符串可以用正则表达式)
[[email protected] ruby] # sed -n ‘/ruby/p‘ ab | sed ‘s/ruby/bird/g‘ #替换ruby为bird
[[email protected] ruby] # sed -n ‘/ruby/p‘ ab | sed ‘s/ruby//g‘ #删除ruby
[[email protected] ruby] # sed ‘s/[ ][ ]*/ /g‘ file_name # 替换两个或多个空格为一个空格
[[email protected] ruby] # sed ‘s/[ ][ ]*/:/g‘ file_name # 替换两个或多个空格为分隔符:
如果空格与tab共存时用下面的命令进行替换
[[email protected] ruby] # sed ‘s/[[:space:]][[:space:]]*/ /g‘ filename # 替换成空格
[[email protected] ruby] # sed ‘s/[[:space:]][[:space:]]*/:/g‘ filename # 替换成分隔符:
插入
[[email protected] ruby] # sed -i ‘$a bye‘ ab #在文件ab中最后一行直接输入"bye"
[[email protected] ruby]# cat ab