sed多行文本处理

案例1:sed基本用法
案例2:使用sed修改系统配置
案例3:sed多行文本处理
案例4:sed综合脚本应用

1 案例1:sed基本用法
1.1 问题

本案例要求熟悉sed命令的p、d、s等常见操作,并结合正则表达式,完成以下任务:

删除文件中每行的第二个、最后一个字符
将文件中每行的第一个、第二个字符互换
删除文件中所有的数字
为文件中每个大写字母添加括号

1.2 方案

sed文本处理工具的用法:

用法1:前置命令 | sed  [选项]  ‘条件指令‘
用法2:sed  [选项]  ‘条件指令‘  文件.. ..

相关说明如下:

条件可以是行号或者/正则/
没有条件时,默认为所有条件
指令可以是增、删、改、查等指令
默认sed会将所有输出的内容都打印出来,可以使用-n屏蔽默认输出
选项中可以使用-r选项,让sed支持扩展正则

1.3 步骤

实现此案例需要按照如下步骤进行。

步骤一:认识sed工具的基本选项

sed命令的常用选项如下:

-n(屏蔽默认输出,默认sed会输出读取文档的全部内容)

-r(让sed支持扩展正则)

-i(sed直接修改源文件,默认sed只是通过内存临时修改文件,源文件无影响)

1)sed命令的 -n 选项

执行p打印等过滤操作时,希望看到的是符合条件的文本。但不使用任何选项时,默认会将原始文本一并输出,从而干扰过滤效果。比如,尝试用sed输出/etc/hosts的第1行:

[[email protected] ~]# sed ‘1p‘ /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

可以发现所有的行都被显示出来了(第1行重复2次)。—— 正确的用法应该添加 -n 选项,这样就可以只显示第1行了:

[[email protected] ~]# sed -n ‘1p‘ /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4

行号可以是连续的行号,如打印passwd第3到第6行账户的信息:

[[email protected] ~]# sed  -n ‘3,6p‘ /etc/passwd
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

2)sed命令的 -i 选项

正常情况下,sed命令所做的处理只是把操作结果(包括打印、删除等)输出到当前终端屏幕,而并不会对原始文件做任何更改:

[[email protected] ~]# sed ‘d‘ /etc/passwd                      //删除所有行
[[email protected] ~]# cat /etc/passwd                          //查看原始文本,并未改动

若希望直接修改文件内容,应添加选项 -i 。

比如,直接删除test.txt(自行创建一个任意内容的文件)的第1~4行:

[[email protected] ~]# sed -i ‘1,4d‘ test.txt            //删除操作
[[email protected] ~]# cat test.txt                      //确认删除结果

下文中关于使用sed修改文件的示例中,为了避免大家在练习过程中因误操作导致系统故障,命令省略 –i 选项,不再逐一说明。需要时,大家可自行加上此选项。

3)多个指令可以使用分号隔离

用分号来隔离多个操作,比如:

[[email protected] ~]# sed -n ‘1p;4p‘ /etc/passwd
root:x:0:0:root:/root:/bin/bash
adm:x:3:4:adm:/var/adm:/sbin/nologin

步骤二:认识sed工具的条件# sed [选项] ‘条件指令‘ 文件.. ..

sed命令可以使用行号或正则做为条件匹配:

1)行号案例

打印第3行:

[[email protected] ~]# sed -n ‘3p‘ /etc/passwd

打印第3到5行:

[[email protected] ~]# sed -n ‘3,5p‘ /etc/passwd

打印第3和5行:

[[email protected] ~]# sed -n ‘3p;5p‘ /etc/passwd

打印第3以及后面的10行:

[[email protected] ~]# sed -n ‘3,+10p‘ /etc/passwd

打印奇数行:

[[email protected] ~]# sed -n ‘1~2p‘ /etc/passwd

打印偶数行:

[[email protected] ~]# sed -n ‘2~2p‘ /etc/passwd

2)正则案例

打印包含root的行:

[[email protected] ~]# sed -n ‘/root/p‘ /etc/passwd

打印bash结尾的行:

[[email protected] ~]# sed -n ‘/bash$/p‘ /etc/passwd

3)没有条件,则表示匹配所有行

[[email protected] ~]# sed -n ‘p‘ /etc/passwd

步骤三:sed工具的p、d、s操作指令案例集合

1)下面看看sed工具的p指令案例集锦(自己提前生成一个a.txt文件)

[[email protected] ~]# sed  -n ‘p‘ a.txt            //输出所有行,等同于cat a.txt
[[email protected] ~]# sed  -n ‘4p‘ a.txt            //输出第4行
[[email protected] ~]# sed  -n ‘4,7p‘ a.txt        //输出第4~7行
[[email protected] ~]# sed  -n ‘4,+10p‘ a.txt        //输出第4行及其后的10行内容
[[email protected] ~]# sed  -n ‘/^bin/p‘ a.txt        //输出以bin开头的行
[[email protected] ~]# sed  -n ‘$=‘ a.txt            //输出文件的行数

2)下面看看sed工具的d指令案例集锦(自己提前生成一个a.txt文件)

[[email protected] ~]# sed  ‘3,5d‘ a.txt             //删除第3~5行
[[email protected] ~]# sed  ‘/xml/d‘ a.txt            //删除所有包含xml的行
[[email protected] ~]# sed  ‘/xml/!d‘ a.txt         //删除不包含xml的行,!符号表示取反
[[email protected] ~]# sed  ‘/^install/d‘ a.txt    //删除以install开头的行
[[email protected] ~]# sed  ‘$d‘ a.txt                //删除文件的最后一行
[[email protected] ~]# sed  ‘/^$/d‘ a.txt             //删除所有空行

3)sed命令的s替换基本功能(s/旧内容/新内容/选项):

[[email protected] ~]# vim  test.txt                //新建素材
2017 2011 2018
2017 2017 2024
2017 2017 2017
[[email protected] ~]# sed ‘s/2017/xxxx/‘           test.txt
[[email protected] ~]# sed ‘s/2017/xxxx/g‘          test.txt
[[email protected] ~]# sed ‘s/2017/xxxx/2‘          test.txt
[[email protected] ~]# sed ‘s/2017//2‘              test.txt
[[email protected] ~]# sed -n ‘s/2017/xxxx/p‘      test.txt

4)下面看看sed工具的s指令案例集锦(自己提前生成一个a.txt文件)

注意:替换操作的分隔“/”可改用其他字符,如#、&等,便于修改文件路径

[[email protected] ~]# sed ‘s/xml/XML/‘  a.txt        //将每行中第一个xml替换为XML
[[email protected] ~]# sed ‘s/xml/XML/3‘ a.txt     //将每行中的第3个xml替换为XML
[[email protected] ~]# sed ‘s/xml/XML/g‘ a.txt     //将所有的xml都替换为XML
[[email protected] ~]# sed ‘s/xml//g‘     a.txt     //将所有的xml都删除(替换为空串)
[[email protected] ~]# sed ‘s#/bin/bash#/sbin/sh#‘ a.txt  //将/bin/bash替换为/sbin/sh
[[email protected] ~]# sed ‘4,7s/^/#/‘   a.txt         //将第4~7行注释掉(行首加#号)
[[email protected] ~]# sed ‘s/^#an/an/‘  a.txt         //解除以#an开头的行的注释(去除行首的#号)

步骤四:利用sed完成本例要求的任务

参考数据文件内容如下:

[[email protected] ~]# cat nssw.txt
Hello the world
ni hao ma beijing

本小节的操作使用nssw.txt作为测试文件。

1)删除文件中每行的第二个、最后一个字符

分两次替换操作,第一次替换掉第2个字符,第二次替换掉最后一个字符:

[[email protected] ~]# sed ‘s/.//2 ; s/.$//‘ nssw.txt 

2)将文件中每行的第一个、倒数第1个字符互换

每行文本拆分为“第1个字符”、“中间的所有字符”、“倒数第1个字符”三个部分,然后通过替换操作重排顺序为“3-2-1”:

[[email protected] ~]# sed -r ‘s/^(.)(.*)(.)$/\3\2\1/‘ nssw.txt

3)删除文件中所有的数字

因原文件内没有数字,行首也没有空格,这里稍作做一点处理,生成一个新测试文件:

[[email protected] ~]# sed ‘s/[0-9]//‘ nssw.txt

以nssw2.txt文件为例,删除所有数字、行首空格的操作如下:

[[email protected] ~]# sed -r ‘s/[0-9]//g;s/^( )+//‘ nssw2.txt

4)为文件中每个大写字母添加括号

使用“()”可实现保留功能,所以可参考下列操作解决:

[[email protected] ~]# sed ‘s/([A-Z])/[\1]/g‘ nssw.txt

2 案例2:使用sed修改系统配置
2.1 问题

本案例要求熟悉课上的sed应用案例,并编写脚本anonftp.sh,实现以下功能:

通过yum安装vsftpd软件包
修改vsftpd服务配置,开启匿名上传
调整/var/ftp/pub目录权限,允许写入
启动vsftpd服务,并设置开机自运行

2.2 步骤

实现此案例需要按照如下步骤进行。

步骤一:编写anonftp.sh脚本,用来装配匿名FTP服务

1)任务需求及思路分析

vsftpd服务的安装、改目录权限、起服务等操作可以直接写在脚本中。

修改vsftpd.conf配置的工作可以使用sed命令,根据默认配置,只需要定位到以#anon开头的行,去掉开头的注释即可。

2)根据实现思路编写脚本文件

[[email protected] ~]# vim anonftp.sh
#!/bin/bash
yum -y install vsftpd                             //安装vsftpd软件
cp /etc/vsftpd/vsftpd.conf{,.bak}                  //备份默认的配置文件
sed -i "/^#anon/s/^#//" /etc/vsftpd/vsftpd.conf      //修改服务配置
chmod 777 /var/ftp/pub                              //调整目录权限
systemctl start vsftpd                              //启动服务
systemctl enable vsftpd                            //设为自动运行
[[email protected] ~]# chmod +x anonftp.sh
[[email protected] ~]# ./anonftp.sh

3 案例3:sed多行文本处理
3.1 问题

本案例要求使用sed工具来完成下列任务操作:

修改主机名配置文件
修改hosts文件,添加两条映射记录:192.168.4.5 与 svr5.tarena.com、svr5,还有119.75.217.56与www.baidu.com

3.2 方案# sed [选项] ‘条件指令‘ 文件..

sed工具的多行文本处理操作:

i: 在指定的行之前插入文本
a:在指定的行之后追加文本
c:替换指定的行

3.3 步骤

基本语法格式案例:

注意:系统默认没有a.txt文件,需要自己创建一个测试文件!!!

[[email protected] ~]# sed  ‘2a XX‘   a.txt            //在第二行后面,追加XX
[[email protected] ~]# sed  ‘2i XX‘   a.txt            //在第二行前面,插入XX
[[email protected] ~]# sed  ‘2c XX‘   a.txt            //将第二行替换为XX

实现此案例需要按照如下步骤进行。

步骤一:修改主机名配置文件

1)确认修改前的配置

[[email protected] ~]# cat /etc/hostname
svr5.tarena.com

2)使用sed修改主机名配置所在行的内容(c整行替换)

[[email protected] ~]# sed  ‘1c mysvr.tarena.com‘ /etc/hostname 

步骤二:修改hosts文件,添加新的记录

1)确认修改前的配置

[[email protected] ~]# cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

2)使用sed修改hosts文件,添加两行新纪录(a追加)

[[email protected] ~]# sed  -i  ‘$a 192.168.4.5  svr5.tarena.com svr5‘  /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.4.5  svr5.tarena.com svr5

4 案例4:sed综合脚本应用
4.1 问题

本案例要求编写脚本getupwd.sh,实现以下需求:

找到使用bash作登录Shell的本地用户
列出这些用户的shadow密码记录
按每行“用户名 --> 密码记录”保存到getupwd.log,如图-1所示

图-1
4.2 方案

基本思路如下:

先用sed工具取出登录Shell为/bin/bash的用户记录,保存为临时文件/tmp/urec.tmp,并计算记录数量
再结合while循环遍历取得的账号记录,逐行进行处理
针对每一行用户记录,采用掐头去尾的方式获得用户名、密码字串
按照指定格式追加到/tmp/getuupwd.log文件
结束循环后删除临时文件,报告分析结果

4.3 步骤

实现此案例需要按照如下步骤进行。

步骤一:编写getupwd.sh脚本

[[email protected] ~]# vim ./getupwd.sh
#/bin/bash
A=$(sed -n ‘/bash$/s/.*://p‘ /etc/passwd)             ## 提取符合条件的账号记录
for i in  $A                                         ##遍历账号记录
do
    pass1=$(grep $i /etc/shadow)
    pass2=${pass1#*:}
    pass=${pass2%%:*}
    echo  "$i   --> $pass"
done
[[email protected] ~]# chmod +x ./getupwd.sh 

步骤二:测试、验证执行结果

[[email protected] ~]# ./getupwd.sh
用户分析完毕,请查阅文件 /tmp/getupwd.log
[[email protected] ~]# less /tmp/getupwd.log
root --> $6$IWgMYmRACwdbfwBo$dr8Yn983nswiJVw0dTMjzbDvSLeCd1GMYjbvsDiFEkL8jnXOLcocBQypOCr4C6BRxNowIxjh6U2qeFU0u1LST/
zengye --> $6$Qb37LOdzRl5995PI$L0zTOgnhGz8ihWkW81J.5XhPp/l7x2./Me2ag0S8tRndCBL9nIjHIKkUKulHxJ6TXyHYmffbVgUT6pbSwf8O71
clamav --> !!
mysql --> !!
abc --> !!
.. ..

从上述参考脚本可以发现,使用sed来实现字段提取会比较复杂。下一章课程将会学到awk命令,届时可以通过更简单的方法来改进此脚本内容。

总结知识点:

#sed [选项] ‘条件指令‘ 文件

选项:

-n 屏蔽默认输出

-r 支持扩展正则

-i 修改源文件

条件:

行号 4 4,5 4~2 4,+10

/正则/

指令:

p 打印

d 删除

s 替换s/旧/新/g

a 追加

i 插入

c 替换行

原文地址:http://blog.51cto.com/13735155/2134531

时间: 2024-08-01 23:48:18

sed多行文本处理的相关文章

sed应用

sed基本用法 1.1 问题 本案例要求熟悉sed命令的p.d.s等常见操作,并结合正则表达式,完成以下任务: 删除文件中每行的第二个.最后一个字符 将文件中每行的第一个.第二个字符互换 删除文件中所有的数字.行首的空格 为文件中每个大写字母添加括号 1.2 方案 sed文本处理工具的用法: 用法1:前置命令 | sed [选项] '编辑指令' 用法2:sed [选项] '编辑指令' 文件.. .. 相关说明如下: "编辑指令"可以为增删改查等指令 "定址符"用来定

自动化运维Shell入门

运维shell 作用 项目部署 项目监控 什么是shell shell是一个程序,/bin/bash/,是一个命令解释器所有linux命令都由他来执行,打开终端就进入了 shell的交互式命令 运行方式 bash *.sh 更改可执行权限后使用./*.sh来执行 shource *.sh 语法 没有缩进要求,缩进是没有意义的 注释使用# 双引号""内嵌入变量是解释变量 单引号''内写什么,就是什么,不会解释变量 shource不会开启新的进程来执行脚本,可以跟当前窗口共享进程,以及变量

sed行文本处理工具

Sed是一种流编辑器,过滤和替换文本 工作原理: 简单的来说,Sed一次处理一行内容.处理时,把当前处理的行存储在临时缓冲区中,称之为"模式空间"(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕.接着处理下一行.直到文件末尾. 语法: sed [option] [script'(sed自带语法脚本)] [input-file处理的文件] sed [选项] + "地址+命令 " file 常用option参数(+描

grep进阶与sed行编辑器

grep进阶与sed行编辑器 上一篇(http://nearlv.blog.51cto.com/2432295/1729198)我们介绍了grep的一些基本的使用方法,其它grep还是一些比较高级的用法,让我们一起来看看. 先来看一下下面例子的运行结果: 相同的命令输出的结果有点不一样,对,这里就是利用"alias"去设置命令的别名,语法格式为"alias="command""即可,可能通过直接在命令行输入"alias"查看当

三剑客之老二sed详解

    三剑客之老二sed 第1章 sed介绍 我们都知道,在Linux中一切皆文件,比如配置文件,日志文件,启动文件等等.如果我们相对这些文件进行一些编辑查询等操作时,我们可能会想到一些vi,vim,cat,more等命令.但是这些命令效率不高,这就好比一块空地准备搭建房子,请了10个师傅拿着铁锹挖地基,花了一个月的时间才挖完,而另外一块空地则请了个挖土机,三下五除二就搞定了,这就是效率.而在linux中的"挖土机"有三种型号:顶配awk,中配sed,标配grep.使用这些工具,我们

三剑客之 sed详解

    sed 作者:Jack.X 归档:学习笔记 2017/4/13 三剑客之sed 第1章 sed详解: 1.1 sed介绍: sed是linux命令中三剑客的老二,sed命令是操作.过滤和转换文本内容的强大工具,常用功能有增删改查(增加,删除,修改,查询).其中查询的功能中最常用的两大功能是过滤(过滤指定字符串),取行(取出指定行). 我先在用的sed版本是GNU开源版本的,实验环境是Centos6.8系统,内核是2.6.32-642.el6.x86_64 [[email protecte

sed命令实现多行复制

以nginx.conf为例.文件原内容为: [[email protected] conf]# cat nginx.conf worker_processes  1; events {     worker_connections  1024; } http {     include       mime.types;     default_type  application/octet-stream;     sendfile        on;     keepalive_timeou

Linux三剑客之一sed用法

sed是一种流编辑器,主要针对文本行进行处理,它一次处理一行内容.处理时,把当前处理的行存储在临时缓冲区中,称为"模式空间"(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕.然后读入下行,执行下一个循环.如果没有使诸如'D'的特殊命令,那会在两个循环之间清空模式空间,但不会清空保留空间.这样不断重复,直到文件末尾.文件内容并没有改变,除非你使用重定向存储输出. 主要功能为主要用来自动编辑一个或多个文件,简化对文件的反复操作,编写转换

Linux sed 命令

动作:p 打印输出d 删除操作a 在指定的行后面添加一行内容i 在指定的行前面添加一行内容 1.查看操作 1 2 3 sed -n '5p' file                                         //只查看文件的第5行 sed -n '3,5p' file                                      //查看文件的第3到第5行 sed -n '5,$ p' file