收集shell脚本技巧

0. shell 调试

复制代码代码如下:

sh -x somefile.sh

在somefile.sh 文件里加上set+x set-x
1. 用 && || 简化if else

复制代码代码如下:

gzip -t a.tar.gz
if [[ 0 == $? ]]; then
    echo "good zip"
else
    echo "bad zip"
fi

可以简化为:

复制代码代码如下:

gzip  -t a.tar.gz && echo "good zip" || echo "bad zip"

2. 判断文件非空

复制代码代码如下:

if [[ -s $file ]]; then
    echo "not empty"
fi

3. 获取文件大小

复制代码代码如下:

stat -c %s $file
stat --printf=‘%s\n‘ $file
wc -c $file

4. 字符串替换

复制代码代码如下:

${string//pattern/replacement}
a=‘a,b,c‘
echo ${a//,/ /}
5. Contains 子字符串?
string="My string"
if [[ $string == *My* ]]; then
    echo "It‘s there!"
fi

6. rsync备份

复制代码代码如下:

rsync -r -t -v /source_folder /destination_folder
rsync -r -t -v /source_folder [[email protected]:/destination_folder

7. 批量重命名文件

为所有txt文件加上.bak 后缀:

复制代码代码如下:

rename ‘.txt‘ ‘.txt.bak‘ *.txt

去掉所有的bak后缀:

复制代码代码如下:

rename ‘*.bak‘ ‘‘ *.bak

把所有的空格改成下划线:

复制代码代码如下:

find path -type f -exec rename ‘s/ /_/g‘ {} \;

把文件名都改成大写:

复制代码代码如下:

find path -type f -exec rename ‘y/a-z/A-Z/‘ {} \;

8. for/while 循环

复制代码代码如下:

for ((i=0; i < 10; i++)); do echo $i; done 
for line in $(cat a.txt); do echo $line; done 
for f in *.txt; do echo $f; done 
while read line ; do echo $line; done < a.txt 
cat a.txt | while read line; do echo $line; done

9. 删除空行

复制代码代码如下:

cat a.txt | sed -e ‘/^$/d‘
(echo "abc"; echo ""; echo "ddd";) | awk ‘{if (0 != NF) print $0;}‘

10. 比较文件的修改时间

复制代码代码如下:

[[ file1.txt -nt file2.txt ]] && echo true || echo false
[[ file1.txt -ot file2.txt ]] && echo true || echo false

11. 实现Dictionary结构

复制代码代码如下:

hput() { 
        eval "hkey_$1"="$2" 
}
hget() { 
        eval echo ‘${‘"hkey_$1"‘}‘ 
        }
$ hput k1 aaa
$ hget k1
aaa

12. 去掉第二列

复制代码代码如下:

$echo ‘a b c d e f‘ | cut -d ‘ ‘ -f1,3-
$a c d e f

13. 把stderr输出保存到变量

复制代码代码如下:

$ a=$( (echo ‘out‘; echo ‘error‘ 1>&2) 2>&1 1>/dev/null) 
$ echo $a
error

14. 删除前3行

复制代码代码如下:

$cat a.txt | sed 1,3d

15. 读取多个域到变量

复制代码代码如下:

read a b c <<< "xxx yyy zzz"

16. 遍历数组

复制代码代码如下:

array=( one two three ) 
for i in ${array[@]} 
        do 
echo $i 
done

17. 查看目录大小

复制代码代码如下:

$ du –sh ~/apps

18. 查看CPU信息

复制代码代码如下:

$ cat /proc/cpuinfo

19. date

复制代码代码如下:

$ date +%Y-%m-%d
2012-12-24
$ date +%Y-%m-%d –date ‘-1 day‘
2012-12-23
$ date +%Y-m-%d –date ‘Dec 25‘
2011-12-25
$ date +%Y-m-%d –date ‘Dec 25 – 10 days‘
2011-12-15

20. 获取路径名和文件名

复制代码代码如下:

$ dirname ‘/home/lalor/a.txt‘
/home/lalor
$ basename ‘/home/lalor/a.txt‘
a.txt

21. 并集和交集

comm 可以用来求并集,交集,差集,假设现在有两个文件a和b,它们的内容如下:

复制代码代码如下:

$cat a
1
3
5

$cat b
3
4
5
6
7

$comm a b 
1
        3
    4
        5
    6
    7

$comm -1 -2 a b #交集
3
5

$comm a b | sed ‘s/\t//g‘ #并集
1
2
3
4
5
6
7

$comm -1 -3 a b | sed ‘s/\t//g‘ #b-a
4
6
7

22. awk复杂分隔符

多字符作分隔符

复制代码代码如下:

$ echo "a||b||c||d" | awk -F ‘[|][|]‘ ‘{print $3}‘
  c

多种分隔符1

复制代码代码如下:

$echo "a||b,#c d" | awk -F ‘[| ,#]+‘ ‘{print $4}‘
  d

多种分隔符2

复制代码代码如下:

$echo "a||b##c|#d" | awk -F ‘([|][|])|([#][#])‘ ‘{print $NF}‘
  c|#d

23. 产生一个随机数

复制代码代码如下:

echo $RANDOM

24. 按照模式split 文件

复制代码代码如下:

csplit server.log /PATTERN/ -n 2 -s {*} -f server_result -b "%02d.log" -z

/PATTERN/ 用来匹配某一行,分割过程由此开始
{*} 根据匹配,重复执行分割
-s 静默模式
-n 分割后文件名后缀中,数字的个数
-f 分割后的文件名前缀
-b 指定后缀格式

25. 获取文件名或者扩展名

复制代码代码如下:

var=hack.fun.book.txt
echo ${var%.*}
hack.fun.book
echo ${var%%.*}
hack
echo ${var#.*}
fun.book.txt
echo ${var##.*}
txt

26. 以 root 帐户执行上一条命令。

复制代码代码如下:

$sudo !!

其中: * !! 是指上一条命令 * !$ 上一条命令的最后一个参数 * !* 上一条命令的所有参数 * !:3 上一条命令的第3个参数
例如:

复制代码代码如下:

$ls /tmp/somedir
 ls: cannot access /tmp/somedir: No such file or directory
$mkdir !$
 madir /tmp/somedir

27. 利用 python 搭建一个简单的 Web 服务器,可通过 http://$HOSTNAME:8000 访问。

复制代码代码如下:

python -m SimpleHTTPServer

28. 在 Vim 中无需权限保存编辑的文件。

复制代码代码如下:

:w !sudo tee %

29. 将上一条命令中的 foo 替换为 bar,并执行。

复制代码代码如下:

^foo^bar

30. 快速备份或复制文件。

复制代码代码如下:

cp filename{,.bak}

31. 将 ssh keys 复制到 [email protected] 以启用无密码 SSH 登录。

复制代码代码如下:

$ssh-copy-id [email protected]

32. 把 linux 桌面录制为视频。

复制代码代码如下:

ffmpeg -f x11grab -s wxga -r 25 -i :0.0 -sameq /tmp/out.mpg

33. man 妙用

复制代码代码如下:

man ascii
man test

34. 在 vim 中编辑上一条命令

复制代码代码如下:

fc

35. 删除0 字节文件或垃圾文件

复制代码代码如下:

find . -type f -size 0 -delete
find . -type f -exec rm -rf {} \;
find . -type f -name "a.out" -exec rm -rf {} \;
find . type f -name "a.out" -delete
find . type f -name "*.txt" -print0 | xargs -0 rm -f

36. 在编写SHELL 时显示多行信息

复制代码代码如下:

cat << EOF
+--------------------------------------------------------------+
| === Welcome to Tunoff services === |
+--------------------------------------------------------------+
EOF

注意,在指定结束符时,它必须是该行的唯一内容,并且该行必须以这个字符开头。
37. 如何给mysql建软链接

复制代码代码如下:

cd /usr/local/mysql/bin
for i in *
do ln /usr/local/mysql/bin/$i /usr/bin/$i
done

38. 获取IP地址:

复制代码代码如下:

ifconfig eth0 |grep "inet addr:" |awk ‘{print $2}‘|cut -c 6-

39. 打开文件数目

复制代码代码如下:

lsof

40. 清除僵尸进程

复制代码代码如下:

ps -eal | awk ‘{ if ($2 == "Z"){ print $4}}‘ | kill -9

41. 打印唯一行

复制代码代码如下:

awk ‘!a[$0]++‘ file

42. 打印奇数行

复制代码代码如下:

awk ‘i=!i‘ file
awk ‘NR%2‘ file

43. 打印匹配行后的某一行

复制代码代码如下:

seq 10 | awk ‘/4/{f=4};--f==0{print;exit}‘

44. 打印某行后后面的10行

复制代码代码如下:

cat file | grep -A100 string
cat file | grep -B100 string #前面
cat file | grep -C100 string #前后

sed -n ‘/string/,+100p‘

awk ‘/string/{f=100}--f>=0‘

45. 获取命令行最后一个参数

复制代码代码如下:

echo ${!#}
echo ${$#} #错误的尝试

46. 输出重定向

如果你愿你,可以将STDERR 和 STDOUT 的输出重定向到一个输出文件,为此,bash 提供了特殊的重定向符号 &>

复制代码代码如下:

ls file nofile &> /dev/null

我们如何在脚本里面重定向呢?没有什么特别之处,和普通重定向一样。

复制代码代码如下:

#!/bin/bash
#redirecting output to different locations
echo "now redirecting all output to another location" &>/dev/null

问题就来了,如果我们要将所有的输出都重定向到某个文件呢?我们都不希望每次输出的时候都重定向一下吧,正所谓,山人自有妙计。我们可以用exec 来永久重定向,如下所示:

复制代码代码如下:

#!/bin/bash
#redirecting output to different locations
exec 2>testerror
echo "This is the start of the script"
echo "now redirecting all output to another location"

exec 1>testout
echo "This output should go to testout file"
echo "but this should go the the testerror file" >& 2

输出结果如下所示:

复制代码代码如下:

This is the start of the script
now redirecting all output to another location
[email protected]:~/temp$ cat testout 
This output should go to testout file
[email protected]:~/temp$ cat testerror 
but this should go the the testerror file
[email protected]:~/temp$

以追加的方式重定向:

复制代码代码如下:

exec 3 >> testout

取消重定向:

复制代码代码如下:

exec 3> -

47. 函数

任何地方定义的变量都是全局变量,如果要定义局部变量,需加local 关键字
shell中的函数也可以用递归

复制代码代码如下:

#!/bin/bash

function factorial {
      if [[ $1 -eq 1 ]]; then
          echo 1
      else
          local temp=$[ $1 - 1 ]
          local result=`factorial $temp`
          echo $[ $result * $1 ]
      fi
  }

result=`factorial 5`
  echo $result

创建函数库

将函数定一个在另一个文件,然后通过source 命令加载到当前文件

在命令行使用函数

将函数定义在~/.bashrc 中即可

向函数传递数组

复制代码代码如下:

#!/bin/bash
  #adding values in an array

function addarray {
      local sum=0
      local newarray
      newarray=(`echo "[email protected]"`)
      for value in ${newarray[*]}
      do
          sum=$[ $sum+$value ]
      done
      echo $sum
  }

myarray=(1 2 3 4 5)
  echo "The original array is: ${myarray[*]}"
  arg1=`echo ${myarray[*]}`
  result=`addarray $arg1`
  echo "The result is $result"

48.正则表达式

匹配中文字符的正则表达式:[u4e00-u9fa5]
评注:匹配中文还真是个头疼的事,有了这个表达式就好办了
匹配双字节字符(包括汉字在内):[^x00-xff]
评注:可以用来计算字符串的长度(一个双字节字符长度计2,ASCII字符计1)
匹配空白行的正则表达式:^ *$
评注:可以用来删除空白行
匹配HTML标记的正则表达式:<(S*?)[^>]*>.*?</1>|<.*? />
评注:网上流传的版本太糟糕,上面这个也仅仅能匹配部分,对于复杂的嵌套标记依旧无能为力
匹配首尾空白字符的正则表达式:^s*|s*$
评注:可以用来删除行首行尾的空白字符(包括空格、制表符、换页符等等),非常有用的表达式
匹配Email地址的正则表达式:w+([-+.]w+)*@w+([-.]w+)*.w+([-.]w+)*
评注:表单验证时很实用
匹配网址URL的正则表达式:[a-zA-z]+://[^s]*
评注:网上流传的版本功能很有限,上面这个基本可以满足需求
匹配帐号是否合法(字母开头,允许5-16字节,允许字母数字下划线):^[a-zA-Z][a-zA-Z0-9_]{4,15}$
评注:表单验证时很实用
匹配国内电话号码:d{3}-d{8}|d{4}-d{7}
评注:匹配形式如0511-4405222或021-87888822
匹配腾讯QQ号:[1-9][0-9]{4,}
评注:腾讯QQ号从10000开始
匹配中国邮政编码:[1-9]d{5}(?!d)
评注:中国邮政编码为6位数字
匹配身份证:d{15}|d{18}
评注:中国的身份证为15位或18位
匹配ip地址:d+.d+.d+.d+
评注:提取ip地址时有用
匹配特定数字: 
^[1-9]d*$  //匹配正整数 
^-[1-9]d*$ //匹配负整数 
^-?[1-9]d*$  //匹配整数 
^[1-9]d*|0$ //匹配非负整数(正整数+ 0) 
^-[1-9]d*|0$  //匹配非正整数(负整数+ 0) 
^[1-9]d*.d*|0.d*[1-9]d*$  //匹配正浮点数 
^-([1-9]d*.d*|0.d*[1-9]d*)$ //匹配负浮点数 
^-?([1-9]d*.d*|0.d*[1-9]d*|0?.0+|0)$ //匹配浮点数 
^[1-9]d*.d*|0.d*[1-9]d*|0?.0+|0$  //匹配非负浮点数(正浮点数+ 0) 
^(-([1-9]d*.d*|0.d*[1-9]d*))|0?.0+|0$  //匹配非正浮点数(负浮点数+ 0) 
评注:处理大量数据时有用,具体应用时注意修正
匹配特定字符串: 
^[A-Za-z]+$  //匹配由26个英文字母组成的字符串 
^[A-Z]+$  //匹配由26个英文字母的大写组成的字符串 
^[a-z]+$  //匹配由26个英文字母的小写组成的字符串 
^[A-Za-z0-9]+$  //匹配由数字和26个英文字母组成的字符串 
^w+$  //匹配由数字、26个英文字母或者下划线组成的字符串

时间: 2024-10-29 20:44:20

收集shell脚本技巧的相关文章

shell脚本小实例

本文收集了一堆的shell脚本技巧,我说过,我写博客主要是作一些学习笔记,方便自己查阅,所以,我会搞出这么一篇文章,也没有什么不可理解的.关于这些技巧的出处,诶,我也忘了,可能来自theunixschool. commandlinefu.酷勤网和igigo.net,当然了,也有部分是我自己的经验心得,管他呢,进了我的脑子就是我的了. 0. shell 调试 复制代码代码如下: sh -x somefile.sh 在somefile.sh 文件里加上set+x set-x1. 用 && ||

bash脚本技巧-trap命令

分享一个shell脚本技巧,大家写shell脚本的时候,一般而言仅仅保证功能可用,但程序的鲁棒性却不是太好,不够健壮,多数是脚本处理 一些中断信号导致,应对非预期的系统信号,其实系统自带的trap命令可以很好的处理,例如: trap "rm -f /var/lock/subsys/my_program_lock_file; exit 0" 1 2 9 15 上面的意思简单讲,就是捕获到信号1,2,9,15的时候执行引号里面的脚本(删除锁文件,并退出) 另外具体的系统信号是什么,可以通过

shell 脚本实战笔记(10)--spark集群脚本片段念念碎

前言: 通过对spark集群脚本的研读, 对一些重要的shell脚本技巧, 做下笔记. *). 取当前脚本的目录 sbin=`dirname "$0"` sbin=`cd "$sbin"; pwd` 代码评注:# 以上代码为获取执行脚本所在的目录的常用技巧# sbin=$(dirname $0) 返回可能是相对路径, 比如./ # sbin=$(cd $sbin; pwd) 采用pwd, 来返回脚本所在目录的绝对路径 *). 循环遍历脚本参数 while (( &q

SHELL脚本编程的常识和VI常用技巧

来源:http://mprc.pku.edu.cn/mentors/training/TrainingCourses/material/ShellProgramming.HTM#_Toc37518085 Shell脚本编程的常识... 3 七种文件类型... 3 正则表达式... 3 字符类描述... 4 shell的引号类型... 4 变量设置时的不同模式:... 4 条件测试... 5 命令执行顺序... 6 脚本调试... 6 一些常用的小trick.. 6 打印一些头信息... 6 创建

小白日记7:kali渗透测试之主动信息收集-发现(一)--二层发现:arping/shell脚本,Netdiscover,scapy

主动信息收集 被动信息收集可能不准确,可以用主动信息收集验证 特点:直接与目标系统交互通信,无法避免留下访问痕迹 解决方法:1.使用受控的第三方电脑进行探测,使用代理 (做好被封杀的准备) 2.伪造大量的来源IP进行探测,进行噪声迷惑,淹没真是的探测流量 扫描流程:发送不同的探测,根据返回结果判断目标状态[IP层->端口层->服务层] 发现 识别活着的主机,发现潜在的被攻击目标,输出结果为IP地址列表. 二层发现 数据电路层,使用ARP协议 使用场景:已经取得一台主机,进入内网,对内网进行渗透

对于shell脚本参数获取时的一点小技巧

问题如下: 根据脚本参数的个数$#进行一个循环,在依次输出每个参数$1 $2 $3...... 我有一个循环变量i $i 取到这时的i为1,我想使用这个1再去调用$1,也是就是打印出第一个参数 就是$($i)的意思来取到第几个参数,当然$($i)是不好用的 当时纠结了好久,最后上百度提问,两位高手给出了答案: 1) #!/bin/sh NUMBER=$# echo $NUMBER i=1 while [ $i -le $NUMBER ] do a[$i]=$1 #将数组a[i]赋值为$1,即取得

对于shell脚本获取参数的一些小技巧

问题如下: 根据脚本参数的个数$#进行一个循环,在依次输出每个参数$1 $2 $3...... 我有一个循环变量i $i  取到这时的i为1,我想使用这个1再去调用$1,也是就是打印出第一个参数 就是$($i)的意思来取到第几个参数,当然$($i)是不好用的 当时纠结了好久,最后上百度提问,两位高手给出了答案: 1) #!/bin/sh NUMBER=$# echo $NUMBER i=1 while [ $i -le $NUMBER ] do a[$i]=$1 #将数组a[i]赋值为$1,即取

6条shell小技巧,让脚本显得不再业余【转】

如何能让自己的shell显得不那么业余?下面6点实践一定有用. 画外音:本篇文章源自Google的一篇实践,抽取了部分1分钟能读完的内容,加入了一些分析. 一.以下面的语句开场 set -o nounset 在默认情况下,遇到不存在的变量,会忽略并继续执行,而这往往不符合预期,加入该选项,可以避免恶果扩大,终止脚本的执行. 画外音:有些变量名的手误,会让人崩溃的调试半天,通过这个方式,这类手误秒发现. set -o errexit 在默认情况下,遇到执行出错,会跳过并继续执行,而这往往不符合预期

Linux Shell 脚本的小技巧——不定期更新

本文旨在积累平时写 shell 脚本是遇到的小问题的解决方法.在这里不定期的更新,以便以后查阅.沿用. 一,在shell 脚本中定义默认值 1.   对默认变量直接赋值 read -p "input>>:" nub nub=${nub:-30} echo ${nub} 2.   对默认变量用可变值赋值 read -p "input>>:" nub nub=${nub:-$(date +%Y%m%d)} echo ${nub}