每日linux命令学习-sed

Linux的文本处理实用工具主要由sed和awk命令,二者虽然略有差异,但都使用正则表达式,默认使用标准I/O,并且使用管道命令可以将前一个命令的输出作为下一个命令的输入。笔者将在本节学习sed命令。

sed命令

sed命令是以行为单位的非交互式编辑器,从通过标准输入或文件获得要处理的输入文本,对指定的行进行逐行处理,然后将结果输出传送到标准输出或文件。sed命令也可以在vi(m)编辑器中使用。sed决定对指定地址范围内的哪些输入行进行处理,此时可在地址范围内使用行号或正则表达式模式。例如,5d表示删除第5个行,/windows/d表示删除包含”windows“的所有行。

1.工作原理:

sed流编辑器在1个文件或1个输入中每次只能处理1行并显示到显示器。该命令在vi(m)编辑器中也可以使用,在称为”模式空间“的临时缓冲处理已保存的行。每次处理完临时缓冲的行,该行就传到显示器。结束行处理后,就会从临时缓冲删除,接着读取并处理下一行,然后显示出来。输入文件的最后一行处理完成就终止sed命令。保存于临时缓冲的每行都要处理,所以原文件不会被更改或损坏。

      2.命令格式:

      调用sed命令有两种形式:
       sed [options] ‘command‘ file(s)
       sed [options] -f scriptfile file(s)

3. 常用选项:

-n:在一般sed的用法中,所有来自STDIN的资料都会被列出到屏幕上,但如果加上-n参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被输出。

-e: 进行多项编辑,即对输入行应用多条sed命令时使用。

-r:sed 的动作支援的是延伸型正则表达式的语法。(预设是基础正则表达式语法)。

-i:直接修改读取的文件内容,而不是由屏幕输出。

-f:指定sed脚本的文件名. 直接将 sed 的动作写在一个档案内, -f scriptfile 则可以执行 scriptfile 内的sed 动作。

 4.常用命令:

a:新增, a 的后面可以接字串,而这些字串会在新的一行出现(当前行的下一行)。

c:取代, 用此符号后的新文本替换当前行中的文本,多行时除最后一行外,每行末尾需用"\"续行。

d:删除,因为是删除,所以 d 后面通常不接任何内容。

i:插入, i 的后面可以接字串,而这些字串会在新的一行出现(当前行的上一行)。

p:列印,亦即将某个选择的资料印出,通常 p 会与参数 sed -n 一起用。

q:结束或退出sed。

r:从文件中读取输入行。

s:取代,可以直接进行替换的工作,通常这个 s 的动作可以搭配正则表达式,例如 1,20s/old/new/g。

g:在行内进行全局替换。

w:将所选的行写入文件

x:交换暂存缓冲区与模式空间的内容。

y:将字符替换为另一字符(不能对正则表达式使用y命令)。

      5. sed常用运算符:

运算符 名称 含义
[地址范围]/p print 显示[指定的地址范围]
[地址范围]/d delete 删除[指定的地址范围]
s/pattern1/pattern2 substitute 将行中首次出现的pattern1替换为pattern2
[地址范围]/s/pattern1/pattern2 substitute 将地址范围内的行中首次出现的pattern1替换为pattern2
[地址范围]/y/pattern1/pattern2 transform 在地址范围内将任何位于pattern1的字符变更为pattern2位置上的字符(与tr相同)
g global 在所有行启动与输入内容匹配的模式

      6. 定址:

定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。如果没有指定地址,sed将处理输入文件的所有行。

地址是一个数字,则表示行号;是“$"符号,则表示最后一行。

      

例1:只打印第三行


sed -n ‘3p‘ datafile

      地址范围是用逗号分隔的,那么需要处理的地址是这两行之间的范围(包括这两行在内)。范围可以用数字、正则表达式、或二者的组合表示。

例2:只查看文件的第100行到第200行


sed -n ‘100,200p‘ datafile

      例3:删除包含”My“的行和到包含”you“的行之间的行


sed ‘/My/,/You/d‘ datafile

例4:删除包含”My“的行和第10行之间的内容


sed ‘/My/,10d‘ datafile

      7. 退出状态:

      sed不向grep一样,不管是否找到指定的模式,它的退出状态都是0。只有当命令存在语法错误时,sed的退出状态才不是0。

      8. 正则表达式元字符:

      与grep一样,sed也支持特殊元字符,来进行模式查找、替换。不同的是,sed使用的正则表达式是括在斜杠线"/"之间的模式。如果要把正则表达式分隔符"/"改为另一个字符,比如o,只要在这个字符前加一个反斜线,在字符后跟上正则表达式,再跟上这个字符即可,例如:sed -n ‘\o^Myop‘ datafile。

元字符 功能 示例 说明
^ 行首定位符 /^my/ 匹配所有以my开头的行
$ 行尾定位符 /my$/  匹配所有以my结尾的行
. 匹配除换行符以外的单个字符 /m..y/  匹配包含字母m,后跟两个任意字符,再跟字母y的行
* 匹配零个或多个前导字符 /my*/ 匹配包含字母m,后跟零个或多个y字母的行
[] 匹配指定字符组内的任一字符 /[Mm]y/ 匹配包含My或my的行
[^] 匹配不在指定字符组内的任一字符 /[^Mm]y/  匹配包含y,但y之前的那个字符不是M或m的行
\(...)\ 保存已匹配的字符 s/\(love\)able/\ler/ 使用\1保存匹配的模式方便以后浏览,并标记为1号标签。示例中lovable保存替换为over字符串
& 保存可以记忆为替换字符串的检索字符串 s/linux/**&**/ 由于&是检索字符串,所以将linux字符串置于*字符中,示例中linux字符串变为**linux**
\< 词首 /\<linux/ 匹配包含以linux开始的词的行
\> 词尾 /linux\>/ 匹配包含以linux结尾的词的行
x\{m\} 将x字符的重复次数设为m /o\{5\}/ o重复5次
x\{m,\} 至少重复m次 /o\{5,\}/ o重复5次
x\{m,n\} 重复m~n之间的次数 /o\{5,10\}/ o重复5~10次

9.范例:

      

       9.1 p命令

      命令p用于显示模式空间的内容。默认情况下,sed把输入行打印在屏幕上,选项-n用于取消默认的打印操作。当选项-n和命令p同时出现时,sed可打印选定的内容。


sed ‘/my/p‘ datafile
#默认情况下,sed把所有输入行都打印在标准输出上。如果某行匹配模式my,p命令将把该行另外打印一遍。


sed -n ‘/my/p‘ datafile
#选项-n取消sed默认的打印,p命令把匹配模式my的行打印一遍。

      9.2 d命令

      命令d用于删除输入行。sed先将输入行从文件复制到模式空间里,然后对该行执行sed命令,最后将模式空间里的内容显示在屏幕上。如果发出的是命令d,当前模式空间里的输入行会被删除,不被显示。


sed ‘$d‘ datafile
#删除最后一行,其余的都被显示

sed ‘/my/d‘ datafile
#删除包含my的行,其余的都被显示

      9.3 s命令


sed ‘s/^My/You/g‘ datafile
#命令末端的g表示在行内进行全局替换,也就是说如果某行出现多个My,所有的My都被替换为You。

sed -n ‘1,20s/My$/You/gp‘ datafile
#取消默认输出,处理1到20行里匹配以My结尾的行,把行内所有的My替换为You,并打印到屏幕上。


sed ‘s#My#Your#g‘ datafile
#紧跟在s命令后的字符就是查找串和替换串之间的分隔符。分隔符默认为正斜杠,但可以改变。无论什么字符(换行符、反斜线除外),只要紧跟s命令,就成了新的串分隔符。

      9.4 e选项

      -e是编辑命令,用于sed执行多个编辑任务的情况下。在下一行开始编辑前,所有的编辑动作将应用到模式缓冲区中的行上。


sed -e ‘1,10d‘ -e ‘s/My/Your/g‘ datafile

#选项-e用于进行多重编辑。第一重编辑删除第1-3行。第二重编辑将出现的所有My替换为Your。因为是逐行进行这两项编辑(即这两个命令都在模式空间的当前行上执行),所以编辑命令的顺序会影响结果。

      9.5 r命令

      r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。


sed ‘/My/r introduce.txt‘ datafile
#如果在文件datafile的某一行匹配到模式My,就在该行后读入文件introduce.txt的内容。如果出现My的行不止一行,则在出现My的各行后都读入introduce.txt文件的内容。

      9.6 w命令


sed -n ‘/hrwang/w me.txt‘ datafile

     9.7 a\ 命令

     a\ 命令是追加命令,追加将添加新文本到文件中当前行(即读入模式缓冲区中的行)的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行,则每一行都必须以反斜线结束,最后一行除外。最后一行将以引号和文件名结束。


sed ‘/^hrwang/a\
>hrwang and mjfan are husband\
>and wife‘ datafile
#如果在datafile文件中发现匹配以hrwang开头的行,则在该行下面追加hrwang and mjfan are husband and wife

      9.8 i\ 命令

      i\ 命令是在当前行的前面插入新的文本。

     9.9 c\ 命令

     sed使用该命令将已有文本修改成新的文本。

     9.10 n命令

     sed使用该命令获取输入文件的下一行,并将其读入到模式缓冲区中,任何sed命令都将应用到匹配行紧接着的下一行上。


sed ‘/hrwang/{n;s/My/Your/;}‘ datafile

      注:如果需要使用多条命令,或者需要在某个地址范围内嵌套地址,就必须用花括号将命令括起来,每行只写一条命令,或这用分号分割同一行中的多条命令。

     9.11 y命令

     该命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。例如,y/abc/ABC/将把所有小写的a转换成A,小写的b转换成B,小写的c转换成C。


sed ‘1,20y/hrwang12/HRWANG^$/‘ datafile
#将1到20行内,所有的小写hrwang转换成大写,将1转换成^,将2转换成$。
#正则表达式元字符对y命令不起作用。与s命令的分隔符一样,斜线可以被替换成其它的字符。

      9.12 q命令

      q命令将导致sed程序退出,不再进行其它的处理。


sed ‘/hrwang/{s/hrwang/HRWANG/;q;}‘ datafile

      9.13 h命令和g命令


#cat datafile

My name is hrwang.

Your name is mjfan.

hrwang is mjfan‘s husband.

mjfan is hrwang‘s wife.

sed -e ‘/hrwang/h‘ -e ‘$G‘ datafile

sed -e ‘/hrwang/H‘ -e ‘$G‘ datafile

#通过上面两条命令,你会发现h会把原来暂存缓冲区的内容清除,只保存最近一次执行h时保存进去的模式空间的内容。而H命令则把每次匹配hrwnag的行都追加保存在暂存缓冲区。

sed -e ‘/hrwang/H‘ -e ‘$g‘ datafile

sed -e ‘/hrwang/H‘ -e ‘$G‘ datafile

#通过上面两条命令,你会发现g把暂存缓冲区中的内容替换掉了模式空间中当前行的内容,此处即替换了最后一行。而G命令则把暂存缓冲区的内容追加到了模式空间的当前行后。此处即追加到了末尾。

10. 常用指令举例:

(假设我们有一文件名为ab)
     删除某行
     [[email protected] ruby] # sed ‘1d‘ ab              #删除第一行 
     [[email protected] ruby] # sed ‘$d‘ ab              #删除最后一行
     [[email protected] ruby] # sed ‘1,2d‘ ab           #删除第一行到第二行
     [[email protected] ruby] # sed ‘2,$d‘ ab           #删除第二行到最后一行

  显示某行
.    [[email protected] ruby] # sed -n ‘1p‘ ab           #显示第一行 
     [[email protected] ruby] # sed -n ‘$p‘ ab           #显示最后一行
     [[email protected] ruby] # sed -n ‘1,2p‘ ab        #显示第一行到第二行
     [[email protected] ruby] # sed -n ‘2,$p‘ ab        #显示第二行到最后一行

  使用模式进行查询
     [[email protected] ruby] # sed -n ‘/ruby/p‘ ab    #查询包括关键字ruby所在所有行
     [[email protected] ruby] # sed -n ‘/\$/p‘ ab        #查询包括关键字$所在所有行,使用反斜线\屏蔽特殊含义

  增加一行或多行字符串
     [[email protected] ruby] # sed ‘1a drink tea‘ ab  #第一行后增加字符串"drink tea"
     [[email protected] ruby] # sed ‘1,3a drink tea‘ ab #第一行到第三行后增加字符串"drink tea"
     [[email protected] ruby] # sed ‘1a drink tea\nor coffee‘ ab   #第一行后增加多行,使用换行符\n

  代替一行或多行
     [[email protected] ruby] # sed ‘1c Hi‘ ab                #第一行代替为Hi
     [[email protected] ruby] # sed ‘1,2c Hi‘ ab             #第一行到第二行代替为Hi

  替换一行中的某部分
  格式:sed ‘s/要替换的字符串/新的字符串/g‘   (要替换的字符串可以用正则表达式)
     [[email protected] ruby] # sed -n ‘/ruby/p‘ ab | sed ‘s/ruby/bird/g‘    #替换ruby为bird
   [[email protected] ruby] # sed -n ‘/ruby/p‘ ab | sed ‘s/ruby//g‘        #删除ruby

[[email protected] ruby] # sed ‘s/[ ][ ]*/ /g‘ file_name            # 替换两个或多个空格为一个空格
     [[email protected] ruby] # sed ‘s/[ ][ ]*/:/g‘ file_name      # 替换两个或多个空格为分隔符:
     如果空格与tab共存时用下面的命令进行替换
     [[email protected] ruby] # sed ‘s/[[:space:]][[:space:]]*/ /g‘ filename     # 替换成空格
     [[email protected] ruby] # sed ‘s/[[:space:]][[:space:]]*/:/g‘ filename     # 替换成分隔符:

插入
     [[email protected] ruby] # sed -i ‘$a bye‘ ab         #在文件ab中最后一行直接输入"bye"
     [[email protected] ruby]# cat ab

时间: 2024-10-05 00:55:51

每日linux命令学习-sed的相关文章

每日linux命令学习-引用符号(反斜杠\,单引号&#39;&#39;,双引号&quot;&quot;)

引用符号在解析器中保护特殊元字符和参数扩展,其使用方法有3种:反斜杠(\),单引号(''),双引号(""). 单引号和双引号必须匹配使用,均可在解析器中保护特殊元字符和通配符,但是单引号(硬转义)主要用于信息的原样输出,防止任何变量的扩展,双引号(软转义)允许变量扩展.转义符和命令替换.单引号保护双引号,双引号保护单引号. 1. 反斜杠 反斜杠通过解析器将1个字符转化为引用符号或转义. 1)在单引号内使用反斜杠,反斜杠不会被解析,保持原样输出. 2)在双引号内使用反斜杠,主要用于美元符

每日linux命令学习-历史指令查询(history、fc、alias)

linux历史机制对命令行中输入的命令进行编号并依此保存,以维护命令历史.登录会话期间输入的命令保存在shell内存中,若终止命令则添加至历史文件. 1. 箭头符号方向键 使用键盘上的箭头方向键可以从历史文件中获取历史指令,访问历史指令后也可以进行更改. 2. history指令 history是系统的内置指令,可以显示.bash_history文件保存的指令列表,并向指令赋予编号. 3. fc指令 fc指令可以用于输出历史命令列表,也可以通过调用vi编辑器对历史指令内容进行编辑输出. 语法:

每日linux命令学习-xargs命令

xargs命令 xargs是给命令传递参数的一个过滤器,也是组合多个命令的一个工具.它把一个数据流分割为一些足够小的块,以方便过滤器和命令进行处理.通常情况下,xargs从管道或者stdin中读取数据,但是它也能够从文件的输出中读取数据.xargs的默认命令是echo,这意味着通过管道传递给xargs的输入将会包含换行和空白,不过通过xargs的处理,换行和空白将被空格取代. xargs 是一个强有力的命令,它能够捕获一个命令的输出,然后传递给另外一个命令.      简单来说,通常与“|”搭配

每日linux命令学习-4-lsof

lsof(list open files)是一个列出当前系统打开文件的工具.在linux环境下,任何事物都以文件的形式存在,通过文件不仅仅可以访问常规数据,还可以访问网络连接和硬件. 在终端下输入lsof即可显示系统打开的文件,因为 lsof 需要访问核心内存和各种文件,所以必须以 root 用户的身份运行它才能够充分地发挥其功能. 显示示例 COMMAND PID USER FD TYPE DEVICE SIZE NODE NAME init 1 root cwd DIR 3,3 1024 2

每日linux命令学习-3-sysctl

sysctl 内核变量配置 Usage: sysctl [options] [variable[=value] ...] NAME sysctl - configure kernel parameters at runtime DESCRIPTION sysctl is used to modify kernel parameters at runtime. The parameters available are those listed under /proc/sys/. Procfs is

每日linux命令学习-rpm命令

rpm命令 rpm是一款强大的Redhat软件包管理工具,可创建.安装.查询.验证.升级和卸载每个软件包,软件包是存储文件,包括需要安装的文件和名称.版本.说明等报信息. rpm默认支持7种操作模式,每个模式具有不同选项,分别为安装.查询.验证.签名确认.卸载.制作和重建数据库.本人在rpm命令的应用中,主要涉及了其安装.查询与卸载功能,所以本节只是介绍rpm的安装.查询与卸载功能. 安装模式:rpm -i [安装选项] <包文件> 查询模式:rpm -q [查询选项]     卸载模式:rp

linux命令学习-首篇

在home目录的.bashrc 添加了如下逻辑,目的是可以"每日"学习或复习linux命令 # 学习linux命令 # echo "Did you know that:"; whatis $(ls /bin | shuf -n 1) cowsay -f $(ls /usr/share/cowsay/cows | shuf -n 1 | cut -d. -f1) $(whatis $(ls /bin) 2>/dev/null | shuf -n 1) 效果图:

Linux命令学习笔记目录

Linux命令学习笔记目录 最近正在使用,linux,顺便将用到的命令整理了一下. 一. 文件目录操作命令: 0.linux命令学习笔记(0):man 命令 1.linux命令学习笔记(1):ls命令 2.linux命令学习笔记(2):cd命令 3.linux命令学习笔记(3):pwd命令 4.linux命令学习笔记(4):mkdir命令 5.linux命令学习笔记(5):rm 命令 6.linux命令学习笔记(6):rmdir 命令 7.linux命令学习笔记(7):mv命令 8.linux命

Linux命令学习之—每天发一个命令—mkdir

Linux命令学习之-每天发一个命令-mkdir mkdir 命令用来创建指定的名称的目录,要求创建目录的用户在当前目录中具有写权限,并且指定的目录名不能是当前目录中已有的目录. 1.命令格式: mkdir [选项] 目录... 2.命令功能: 通过 mkdir 命令可以实现在指定位置创建以 DirName(指定的文件名)命名的文件夹或目录.要创建文件夹或目录的用户必须对所创建的文件夹的父文件夹具有写权限.并且,所创建的文件夹(目录)不能与其父目录(即父文件夹)中的文件名重名,即同一个目录下不能