关于sed的应用

公司让我做一个看一下在优化的程序和比原来的程序快多少，但是文件还在运行的服务器上，我需要把用到的文件复制到测试服务器上去。但是测试服务器上有的，目录不全，会导致scp出错。就发生了以下的故事。

首选我要查看每个程序用到的文件，然后我整理成了一个TXT

scp -r /DWH3/LV3/TRIALFL_TBL/* [email protected]:/DWH3/LV3/TRIALFL_TBL
1
scp /DWH3/LV3/URE/HANBAI_DAYLIST/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_DAYLIST
1.1
scp /DWH3/TBL/TEN_KYAKURITU.RIREKI [email protected]:/DWH3/TBL/
scp /DWH3/TBL/ZEIRITU [email protected]:/DWH3/TBL/
scp /DWH3/TBL/JAN_TOUROKUDAY [email protected]:/DWH3/TBL/
scp /DWH3/TBL/BUNDLEID_PRODUCTCD_IRISU [email protected]:/DWH3/TBL/
scp /DWH3/LV3/URE/HANBAI_MEISAI/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_MEISAI/
scp /DWH3/LV3/URE/HANBAI_HEADER/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_HEADER/

2
同1
2.1
同1.1.1
同1.1.2
同1.1.3
同1.1.4
同1.1.5
同1.1.6

3
同1
3.1
同1.1.1
同1.1.2
同1.1.3
同1.1.4
同1.1.5
同1.1.6

4~6 同一

7
scp /DWH3/LV3/URE/HANBAI_WEEKLIST/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_WEEKLIST/
7.1
scp /DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_TENANT/

8
同7
8.1
scp /DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_TENANT/

9
同7
9.1
scp /DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_TENANT/

10
同7
10.1
scp /DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_TENANT/

11
同7
11.1
scp /DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_TENANT/

12
同7
12.1
scp /DWH/LV3/URE/HIBETU_FL_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_FL_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_FL_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_FL_KYAKUSU_TENANT/

13
scp /DWH3/LV3/URE/HANBAI_MONTHLIST/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_MONTHLIST/
13.1
同7.1

14
同13
14.1
同8.1

15
同13
15.1
同9.1

16
同13
16.1
同10.1

17
同13
17.1
同11

18
同13
18.1
同12

一共十八个程序，暂时把这个文件保存成c

首先提取scp

cat c | sed -e ‘/^[^s]/d;/^$/d‘

scp -r /DWH3/LV3/TRIALFL_TBL/* [email protected]:/DWH3/LV3/TRIALFL_TBL
scp /DWH3/LV3/URE/HANBAI_DAYLIST/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_DAYLIST
scp /DWH3/TBL/TEN_KYAKURITU.RIREKI [email protected]:/DWH3/TBL/
scp /DWH3/TBL/ZEIRITU [email protected]:/DWH3/TBL/
scp /DWH3/TBL/JAN_TOUROKUDAY [email protected]:/DWH3/TBL/
scp /DWH3/TBL/BUNDLEID_PRODUCTCD_IRISU [email protected]:/DWH3/TBL/
scp /DWH3/LV3/URE/HANBAI_MEISAI/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_MEISAI/
scp /DWH3/LV3/URE/HANBAI_HEADER/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_HEADER/
scp /DWH3/LV3/URE/HANBAI_WEEKLIST/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_WEEKLIST/
scp /DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_TENANT/
scp /DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_TENANT/
scp /DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_TENANT/
scp /DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_TENANT/
scp /DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_TENANT/
scp /DWH/LV3/URE/HIBETU_FL_KYAKUSU_CHOKUEI/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_FL_KYAKUSU_CHOKUEI/
scp /DWH/LV3/URE/HIBETU_FL_KYAKUSU_TENANT/2016032*.gz  [email protected]:/DWH/LV3/URE/HIBETU_FL_KYAKUSU_TENANT/
scp /DWH3/LV3/URE/HANBAI_MONTHLIST/2016032*.gz [email protected]:/DWH3/LV3/URE/HANBAI_MONTHLIST/

然后提取出在目标服务器运行shell

cat c | sed -e ‘/^[^s]/d;/^$/d‘ |sed -n ‘s/.*[email protected]:\S//p‘ |uniq |sed ‘s/^DWH/mkdir -p &/g‘

mkdir -p DWH3/LV3/TRIALFL_TBL
mkdir -p DWH3/LV3/URE/HANBAI_DAYLIST
mkdir -p DWH3/TBL/
mkdir -p DWH3/LV3/URE/HANBAI_MEISAI/
mkdir -p DWH3/LV3/URE/HANBAI_HEADER/
mkdir -p DWH3/LV3/URE/HANBAI_WEEKLIST/
mkdir -p DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_CHOKUEI/
mkdir -p DWH/LV3/URE/HIBETU_SUBSEGMENT_KYAKUSU_TENANT/
mkdir -p DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_CHOKUEI/
mkdir -p DWH/LV3/URE/HIBETU_SEGMENT_KYAKUSU_TENANT/
mkdir -p DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_CHOKUEI/
mkdir -p DWH/LV3/URE/HIBETU_SUBCATEGORY_KYAKUSU_TENANT/
mkdir -p DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_CHOKUEI/
mkdir -p DWH/LV3/URE/HIBETU_CATEGORY_KYAKUSU_TENANT/
mkdir -p DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_CHOKUEI/
mkdir -p DWH/LV3/URE/HIBETU_ZONE_KYAKUSU_TENANT/
mkdir -p DWH/LV3/URE/HIBETU_FL_KYAKUSU_CHOKUEI/
mkdir -p DWH/LV3/URE/HIBETU_FL_KYAKUSU_TENANT/

大功告成

时间： 2024-10-12 17:05:56

关于sed的应用的相关文章

Linux学习笔记之grep命令及sed 命令相关选项

#grep  强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来. 根据模式,搜索文本 ,并将符合模式的文本行显示出来,常与正则表达式相结合使用. [[email protected] ~]# grep --h 用法: grep [选项]... PATTERN [FILE]... 在每个 FILE 或是标准输入中查找 PATTERN. 默认的 PATTERN 是一个基本正则表达式(缩写为 BRE). 例如: grep -i 'hello world' menu.h main.c

shell sed 的一些用法

#1.替换 #将1.txt文件中的2017替换成2016显示在屏幕上 sed "s/2017/2016/g" 1.txt #将1.txt文件中的2017替换成2016显示在屏幕上对文件彻底修改,加 i 修改进文件 sed -i "s/2017/2016/g" 1.txt #Sed读取系统变量,变量替换 DATE="2016" sed  "s/2017/$DATE/g" 1.txt #关闭SELinux,修改SELinux策略e

使用sed命令匹配文件指定的行删除

[email protected]123-57-87-170 ~ # cat file #aaabbbcccddd #aaabbbcccddd #aaabbbcccddd #cccdddaaawwee #cccdddaaawwee #cccdddaaawwee #cccdddaaawwee [email protected]-123-57-87-170 ~ # sed -i '/aaabbbcccddd/ s/#//g' file [email protected]-123-57-87-170

sed 实践案例 （不定期更新）

删除每行第一个字符 sed -r 's/^.//g' /etc/passwd 删掉每行第二个字符 sed -r 's/^(.)(.)/\1/g' /etc/passwd 删掉每行最后一个字符 sed -r 's/.$//g' /etc/passwd 取消一行的注释 cat cas.properties | sed '/Oracle10gDialect$/ s/^#//g' 给某行增加注释 cat cas.properties | sed -r '/MySQLDialect$/ s/^(.)/#\

Linux学习笔记：sed

sed命令:vim的末行命令(ex模式命令): sed:Stream EDitor,流编辑器,以行为单位对一个或多个文件进行编辑处理:每一次sed都会处理给定文件中的一行内容. 在sed处理文本时,将正在处理的当前行存储到临时的缓冲区中,称为"模式空间":用当前行去匹配给定的PATTERN,如果能匹配,则使用command编辑处理:如果不匹配,则默认输出至标准输出:然后继续处理下一行,直到文件的末尾. 默认情况下,sed的所有处理行为不会影响源文件的内容: 我们一般会使用sed命令来自

sed入门详解教程

sed 是一个比较古老的,功能十分强大的用于文本处理的流编辑器,加上正则表达式的支持,可以进行大量的复杂的文本编辑操作.sed 本身是一个非常复杂的工具,有专门的书籍讲解 sed 的具体用法,但是个人觉得没有必要去学习它的每个细节,那样没有特别大的实际意义.网上也有很多关于 sed 的教程,我也是抱着学习的心态来学习 sed 的常见的用法,并进行系统的总结,内容基本覆盖了 sed 的大部分的知识点.文中的内容比较简练,加以实际示例来帮助去理解 sed 的使用. 一.写在前边 1.sed介绍 se

Linux高级文本处理之sed（四）

模式空间是sed内部维护的一个缓存空间,它存放着读入的一行或者多行内容.但是模式空间的一个限制是无法保存模式空间中被处理的行,因此sed又引入了另外一个缓存空间--模式空间(Hold Space). 一.保持空间 保持空间用于保存模式空间的内容,模式空间的内容可以复制到保持空间,同样地保持空间的内容可以复制回模式空间.sed提供了几组命令用来完成复制的工作,其它命令无法匹配也不能修改模式空间的内容. 操作保持空间的命令如下所示: 这几组命令提供了保存.取回以及交换三个动作,交换命令比较容易理解,

sed命令使用详解归纳

用法 sed [option] 'Address Command' yourfile e.g. sed -n '2,13p' lineuser #打印文件lineuser中第2~13行的内容,-n为option, 2,13为Address,p为Command Address与Command中间的空格也可以省略 sed处理过程 待处理的文件一行一行地被sed读入到模式空间(pattern space)中,根据匹配及相应的处理命令进行输出显示,默认下每个模式空间的内容都会输出 sed常用option

sed: -i requires an argument Permission denied

在脚本中使用sed时,如果一行的内容较长,为了脚本美观要换行,在行尾添加"\"即可. 注意:如果在"\"之后添加空格,例如: sed -i "/^xxx=/s/.*/xxx=$xxx/"\[:space:]        $xxx echo $? [:space:]表示行尾有一个空格 脚本会报如下错误: sed: -i requires an argument./xxx.sh: line 20: xxx.sh: Permission denied

Linux 的文本处理工具---sed

                sed 处理文本工具 一.概述 Stream EDitor,行编辑器 sed是一种流编辑器,它一次处理一行内容.处理时,把当前处理的行存储在临时缓冲区中,称为"模式空间"(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕.接着处理下一行,这样不断重复,直到文件末尾.文件内容并没有改变,除非你使用重定向存储输出.sed主要用来自动编辑一个或多个文件,简化对文件的反复操作,编写转换程序等  sed 是一种非