第十八章 文本处理流编辑器：sed命令

第十八章 文本处理流编辑器：sed命令

名词解释

sed 是一种流编辑器，它是文本处理常用到的工具，能够完美的配合正则表达式使用，功能不同凡响。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。sed主要用来自动编辑一个或多个文件，简化多文件的反复操作，编写转换程序等。

sed的选项、命令、替换标记

命令格式

sed [options] ‘command‘ file(s)
sed [options] -f scriptfile file(s)

选项

  • -e <script>或--expression=<script>：以选项中的指定script来处理输入的文本文件；
  • -f<script>或--file=<script文件>：以选项中的指定的script文件来处理输入的文本文件；
  • -h或--help ：显示帮助；
  • -i 直接在文档里修改内容，而不打印到终端；如果不加i，默认并不会修改文件，只是将替换的内容打印到终端
  • -n或--quiet或--silent：仅显示script处理后的结果；
  • -v或--version：显示版本信息。

参数

文件：指定待处理的文本文件列表

sed命令

a\ ：在当前行下面插入文本
i\ ：在当前行上面插入文本
c\ ：把选定的行改为新的文本
d ：删除，删除选择的行
D ：删除模板块的第一行
s ：替换指定字符
h ：拷贝模板块的内容到内存中的缓冲区
H ：追加模板块的内容到内存中的缓冲区
g ：获得内存缓冲区的内容，并替代当前模板块中的内容
G ：获得内存缓冲区的内容，并追加到当前模板块文本的内容
l ：列表不能打印字符的清单。
n ：读取下一个输入行，ongoing下一个命令处理新的行 而不是用第一个命令
N ：追加下一个输入行到模板块后面，并在二者间嵌入一个新行，改变当前行号码。
p 打印模板块的行
P（大写） 打印模板块的第一行
q 退出sed
b lable 分支到脚本中带有标记的地方，如果分支不存在，则分支到脚本的末尾。
r file 从file中读取
t lable if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
w file 写并追加模板块到file末尾
W file 写并追加模板块的第一行到file末尾。
！表示后面的命令对所有没有被选定的行发生作用。
= 打印当前行号码
# 把注释扩展到下一个换行符以前

sed替换标记

  • g 表示行内全面替换；表示替换每行的所有符合条件的字符串；如果不加g，默认只替换每行的第一个符合条件的字符串。
  • p 表示打印行；
  • w 表示把行写入一个文件；
  • x 表示互换模板块中的文本和缓冲区中的文本；
  • y 表示把一个字符翻译为另外的字符（但是不用于正则表达式）
  • \1 子串匹配标记
  • & 已匹配字符串标记

sed元字符集

^ ：匹配行开始，如：/^sed/ 匹配所有以sed开头的行；
$ : 匹配行结束，如：/sed$/ 匹配所有以sed结尾的行；
. ：匹配一个非换行符的任意字符，如：/s.d/匹配s后接一个任意字符，最后是d；
* ：匹配0个或多个字符，如：/*sed/匹配所有模板是一个或多个空格后紧跟着sed的行；
[]：匹配一个指定范围内的字符，如/[sS]ed/ 匹配sed和Sed；
[^]：匹配一个不再指定范围内的字符，如：/[^A-RT-Z]ed/ 匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行；
\(..\) ：匹配子串，保存匹配的字符，如：s/\(love\)able/\ers, loveable 被替换成lovers；
& ：保存搜索字符用来替换其他字符，如：s/love/**&**/,love编程**love**；
\< ：匹配单词的开始，如：/\<LOVE/ 匹配包含以love开头的单词的行；
\> ：匹配单词的结束，如：/love\> 匹配包含以love结束的单词的行；
x\{m\} ：重复字符x，m次，如：/0\{5\}/ 匹配包含5个0的行；
x\{m,\} ：重复字符x，至少m次，如：/0\{5\}/ 匹配至少有5个0的行；
x\{m,n\} ：重复字符x，至少m次，不多于n次，如：/0\{5,10\} 匹配5-10个0的行。

sed用法实例

替换操作：s命令

[[email protected] sed]# cat file
book1book2book3
book1book2book3
book1book2book3
test1test2test3
test1test2test3

替换文本中的字符串：

[[email protected] sed]# sed ‘s/book/books/‘ file
books1book2book3
books1book2book3
books1book2book3
test1test2test3
test1test2test3

-n选项和p命令 一起使用 表示只打印那些发生替换的行：

[[email protected] sed]# sed -n ‘s/test/TEST/p‘ file
TEST1test2test3
TEST1test2test3

直接编辑文件选项-i ，会匹配file文件中的每一行的第一个book替换为books：

[[email protected] sed]# sed -i ‘s/book/books/‘ file
[[email protected] sed]# cat file
books1book2book3
books1book2book3
books1book2book3
test1test2test3
test1test2test3

全面替换标记g

使用后缀/g标记 替换每一行中的所有匹配字符：

[[email protected] sed]# sed -i ‘s/book/books/g‘ file
[[email protected] sed]# cat file
bookss1books2books3
bookss1books2books3
bookss1books2books3
test1test2test3
test1test2test3

当需要从第N出匹配开始替换时，可以使用/Ng：

[[email protected] sed]# sed ‘s/books/BOOK/2g‘ file
bookss1BOOK2BOOK3
bookss1BOOK2BOOK3
bookss1BOOK2BOOK3
test1test2test3
test1test2test3

定界符

以上命令中字符/在sed中作为定界符使用，也可以使用任意的定界符：

[[email protected] sed]# sed ‘s|test|TEST|g‘ file
bookss1books2books3
bookss1books2books3
bookss1books2books3
TEST1TEST2TEST3
TEST1TEST2TEST3

[[email protected] sed]# sed ‘s#test#TEST#g‘ file
bookss1books2books3
bookss1books2books3
bookss1books2books3
TEST1TEST2TEST3
TEST1TEST2TEST3

定界符出现在样式内部时，需要进行转义：

#将 /bin/ 替换成 /user/local/

[[email protected] sed]# echo /bin/ | sed ‘s/bin/user\/local/g‘
/user/local/

[[email protected] sed]# echo /bin/ | sed ‘s/\/bin/\/user\/local/g‘
/user/local/

删除操作：d命令

删除空白行

sed ‘/^$/d‘ file

删除文件的第2行：

sed ‘2d‘ file

删除文件的第2行到末尾所有行：

sed ‘2,$d‘ file

删除文件最后一行：

sed ‘$d‘ file

删除文件中所有开头是test的行：

sed ‘/^test/d‘ file

已匹配字符串标记&

正则表达式 \w+ 匹配每一个单词，使用[&]替换它，&对应于之前所匹配到的单词：

[[email protected] sed]# echo this is a test line | sed ‘s/\w\+/[&]/g‘
[this] [is] [a] [test] [line]

所有以192.168.0.1开头的行都会被替换成它自己加localhost：

[[email protected] sed]# cat ip.txt
192.168.0.1
192.168.0.2
192.168.0.3

[[email protected] sed]# sed ‘s/^192.168.0.1/&locaohost/g‘ ip.txt
192.168.0.1locaohost
192.168.0.2
192.168.0.3

子串匹配标记\1

匹配给定样式的其中一部分：

[[email protected] sed]# echo this is digit 7 in a number | sed ‘s/digit \([0-9]\)/\1/‘
this is 7 in a number

命令中digit 7 被替换成了7；样式匹配到的子串是7，
\(..\) 用于匹配子串，对于匹配到的第一个子串标记为\1，依次类推匹配到第二个结果就是\2，例如：

[[email protected] sed]# echo aaa BBB | sed ‘s/\([a-z]\+\) \([A-Z]\+\)/\2 \1/‘
BBB aaa

# +号前需要加转义符；

book被标记为1，所有books会被替换成[email protected]@，并打印出来：

[[email protected] sed]# cat file
books1books2books3
books1books2books3
books1books2books3

[[email protected] sed]# sed -n ‘s/\(book\)s/\[email protected]@/gp‘ file
[email protected]@[email protected]@[email protected]@3
[email protected]@[email protected]@[email protected]@3
[email protected]@[email protected]@[email protected]@3

组合多个表达式

sed ‘表达式‘ | sed ‘表达式‘
等价于：
sed ‘表达式;表达式‘

引用

sed表达式可以使用单引号来引用，但是如果表达式内部包含变量字符串，就需要使用双引号：

test=hello
echo hello WORLD | sed "s/$test/HELLO/"
HELLO WORLD

选定行的范围：，逗号

所有在模板test和check所确定的范围内的行都被打印：

[[email protected] sed]# cat file
bookss1books2books3
bookss1books2books3
bookss1books2books3
check1check2check3
check4check5check6
test1test2test3
test1test2test3

[[email protected] sed]# sed -n ‘/check/,/test/p‘ file
check1check2check3
check4check5check6
test1test2test3

[[email protected] sed]# sed -n ‘/test/,/check/p‘ file
test1test2test3
test1test2test3

得出：
当check所在的行在test前面，那么就打印check和test所在的行，并且不打印重复一样的行；
当test所在的行在check后面，那么只打印test所在的行，并且打印重复的行。

打印从第4行开始到第一个包含以check开始的行之间的所有行：

[[email protected] sed]# sed -n ‘4,/^check/p‘ file
check1check2check3
check4check5check6

对于模板check和test之间的行，每行的末尾用字符串aaa bbb替换：

[[email protected] sed]# sed -i ‘/check/,/test/s/$/aaa bbb/g‘ file
[[email protected] sed]# cat file
bookss1books2books3
bookss1books2books3
bookss1books2books3
check1check2check3aaa bbb
check4check5check6aaa bbb
test1test2test3aaa bbb
test4test5test6

多点编辑：e命令

-e选项允许在同一行里执行多条命令：

[[email protected] sed]# sed -e ‘1,5d‘ -e ‘s/test/check/‘ file
check1test2test3aaa bbb
check4test5test6

上面sed表达式的第一条命令是：删除第1至5行，第二条命令是：check替换成test。
命令的顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。

和-e等价的命令是--expression：

sed --expression=‘s/test/check/‘ --expression=‘/love/d‘ file

第一条命令是：test替换成check
第二条命令是：删除love

从文件读入：r命令

file里的内容读取进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面：

[[email protected] sed]# cat test   #查看test文件的内容
aaa
bbb
test
ccc
ddd

[[email protected] sed]# sed ‘/test/r file‘ test
#先匹配test文件里 test所在的行内容以及之前打印出来
aaa
bbb
test
#再把file里边的内容打印出来
bookss1books2books3
bookss1books2books3
bookss1books2books3
check1check2check3aaa bbb
check4check5check6aaa bbb
test1test2test3aaa bbb
test4test5test6
#再接着打印test文件里剩下的内容
ccc
ddd

写入文件：w命令

在example中所有包含test的行都被写入file里：

[[email protected] sed]# cat example
test01
test02
aaaa
[[email protected] sed]# sed -n ‘/test/w file‘ example
[[email protected] sed]# cat file
test01
test02

追加(行下)：a\ 命令

将this is a test line 追加到 以test开头的行后面：

[[email protected] sed]# sed ‘/^test/a\this is a test line‘ file
test01
this is a test line
test02
this is a test line

在file文件第1行之后插入this is a test line：

[[email protected] sed]# sed -i ‘1a\this is a test line‘ file
[[email protected] sed]# cat file
test01
this is a test line
test02

插入(行上)：i\ 命令

将this is a test line 追加到file开头的行前面

[[email protected] sed]# sed -i ‘/^test/i\this is a test line‘ file
[[email protected] sed]# cat file
this is a test line
test01
this is a test line
this is a test line
test02

在file文件第3行之前插入hello world：

[[email protected] sed]# sed -i ‘3i\hello world‘ file
[[email protected] sed]# cat file
this is a test line
test01
hello world
this is a test line
this is a test line
test02

下一个：n命令

如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变成bb，并打印改行，然后继续：

[[email protected] sed]# sed  ‘/test/{ n; s/hello/HELLO/; }‘ file
this is a test line
test01
hello world
this is a test line     #在这里匹配到了test
HELLO world
this is a test line     #在这里也匹配到了
test02                 #但是这一行没有hello
hello world
this is a test line

#结果只有一个hello符合条件

变形：y命令

把1-5行内所有test转变为大写，注意：正则表达式元字符不能使用这个命令：

[[email protected] sed]# cat file
this is a test line
test01
hello world
this is a test line
hello world
this is a test line
test02
hello world
this is a test line

[[email protected] sed]# sed ‘1,5y/test/TEST/‘ file
ThiS iS a TEST linE
TEST01
hEllo world
ThiS iS a TEST linE
hEllo world
this is a test line
test02
hello world
this is a test line

退出：q命令

打印完2行后，退出sed：

[[email protected] sed]# sed ‘2q‘ file
this is a test line
test01

保持和获取：h命令和G命令

互换模式空间和保持缓冲区的内容。也能是把包含test与check的行互换：

#把test文件里的bbb换成aaa（并不修改文件，只是打印到终端显示）
[[email protected] sed]# cat test
aaa
bbb
test
ccc
ddd
[[email protected] sed]# sed -e ‘/aaa/h‘ -e ‘/bbb/x‘ test
aaa
aaa
test
ccc
ddd

脚本script file

sed脚本时一个sed的命令清单，启动sed时，以-f选项引导脚本文件名。sed对于脚本中输入的命令非常挑剔，在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。以#开头的行为是注释行，且不能跨行。

sed [options] -f script_file file(s)

打印奇数行或偶数行

方法1：

sed -n ‘p;n‘ test.txt   #奇数行
sed -n ‘n;p‘ test.txt   #偶数行

方法2：

sed -n ‘1~2p‘ test.txt  #奇数行
sed -n ‘2~2p‘ test.txt  #偶数行

打印匹配字符串并且打印下一行

方法1：
[[email protected] sed]# grep -A 1 test test
test
ccc

方法2:
[[email protected] sed]# sed -n ‘/test/{n;p}‘ test
ccc

方法3：
[[email protected] sed]# awk ‘/test/{getline; print}‘ test
ccc

原文地址：http://blog.51cto.com/506554897/2146234

时间： 2024-11-08 21:25:01

第十八章 文本处理流编辑器：sed命令的相关文章

第十九章 文本处理流编辑器：awk编程

第十九章 文本处理流编辑器:awk编程 名词解释 awk 是一种编程语言,用于linux/unix下对文本和数据进行处理.数据可以来自标准输入(stdin).一个或多个文件.或其它命令的输出.它支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大个编程工具.它在命令行中使用,但更多是作为脚本来使用.awk有很多内建的功能,比如:数组.函数等,这是它和C语言的相同之处,灵活性是awk最大的优势. awk命令格式和选项 语法形式 awk [option] 'script'

Shell 基础 -- 流编辑器 sed 详解

一.流编辑器 sed 与命令 sed Linux 中,常使用流编辑器 sed 进行文本替换工作.与常使用的交互式编辑器(如vim)不同,sed 编辑器以批处理的方式来编辑文件,这比交互式编辑器快得多,可以快速完成对数据的编辑修改. 一般来说,sed 编辑器会执行以下操作: 1)一次从输入中读取一行数据: 2)根据所提供的编辑器命令匹配数据: 3)按照命令修改流中的数据: 4)将新的数据输出到 STDOUT. 在 sed 编辑器匹配完一行数据后,它会读取下一行数据并重复这个过程,直到处理完所有数据

流编辑器 SED 十分钟入门全教程

这里借用一下酷壳网sed博文的图来开题,超赞的-- 1. sed 简介及原理简析 1.1 sed 简介 Sed 是什么?相信很多人都有所了解,sed 全称StreamEDitor 即流编辑器.生于1973年or 1974年by 贝尔实验室的 Lee E. McMahon(已故),是基于交互式编辑器ed("editor", 1971)的脚本功能及更早的qed(quick editor ,1965-1966)(Sed 比 awk 要大那么几岁,所以客官莫急,过几天我们再来详解 awk).S

流编辑器sed使用总结及利用sed从文本中提取字符串的方法

sed 是一个编辑器,但它与其它大多数编辑器不同.除了不面向屏幕之外,它还是非交互式的,我们常用的vim编辑器则是交互式的. 这意味着必须将要对数据执行的命令插入到命令行或要处 理的脚本中.sed 在一个文件(或文件集)中非交互式.并且不加询问地接收一系列的命令并执行它们.因而,它流经文本就如同水流经溪流一样,因而 sed 恰当地代表了流编辑器,可以对文件或者文件集批量的进行删除 替换 插入 追加等操作. 流编辑器非常适合于执行重复的编辑,这种重复编辑如果由人工完成将花费大量的时间. 其参数可能

shell脚本学习笔记 （流编辑器sed）

sed意为流编辑器(Stream Editor),在Shell脚本和Makefile中作为过滤器使用很普遍,也就是把前一个程序的输出引入sed的输入,经过一系列编辑命令转换为另一种格式输出. sed不只支持正則表達式.它另一些比較厉害的功能. 我给出一个样例,大家看看有什么办法能够解决它吧. <html><head><title>Hello World</title> <body>Welcome to the world of regexp!&l

流编辑器Sed

Sed简介 Sed是一款流编辑工具,用来对文本进行过滤与替换操作,特别是当你想要对几十个配置文件做统一修改时,你会感受到Sed的魅力!Sed通过一次仅读取一行内容来对某些指令进行处理后输出,所以Sed更适合于处理大数据文件.首先,Sed通过文件或管道读取文件内容,但Sed默认并不直接修改源文件,而是将读入的内容复制到缓冲区中,我们称之为模式空间(pattern space),所有的指令操作都是在模式空间中进行的,然后Sed根据相应的指令对模式空间中的内容进行处理并输出结果,默认输出至标准输出(即

我最爱的流编辑器sed用法总结

[替换]s 1 sed'/mislost/long/g' filename 在sed中,文件的每一行都会作为输入传入到sed中,如果不加g那么上述列子中只会替换每一行 第一个匹配到的mislost.加g则会匹配一行中所有的mislost. 想要定位一个行,然后去匹配需要这样做 1 sed'/test/s/mislost/long/g' filename 如果这一行包含有test,则将mislost替换为long 在例子中,/test/ 就是一个地址,sed在做操作的时候可以指定0个,1个或者2个

简述linux中sed命令

sed命令:Stream EDitor 流编辑器 sed命令的工作流程: sed会复制原文件中的一行或者多行,逐行进行操作.首先会将该行的内容放入到模式空间内,在模式空间内进行定界或者正则表达式匹配操作. a.如果该行内容不符合正则表达式或定界,该内容则被判断为No,进行标准输出. b.如果该行内容符合正则表达式或定界,该内容则被判断为Yes,进行编辑(包括标准输出). sed中模式空间和保持空间中的内容会进行会换,这种会换会使文件内容进行多次的筛选编辑,完成复杂的任务.   一般情况下,sed

文本处理三剑客之sed流编辑器

流编辑器 sed 模式空间,默认不编辑原文件,仅对模式空间中的数据做处理:处理结束后,将模式空间中数据打印至屏幕.sed是一个行编辑器. sed [options] 'Address Command' file ... Option: -n: 静默模式, 不再默认显示模式空间中的内容-i: 直接修改原文件-e SCRIPT 可以同时执行多个脚本, 操作-f /PATH/TO/SED_SCRIPT  如: sed -f /path/to/scripts file ( 指定 sed 的脚本文件)-r