第十九章 文本处理流编辑器:awk编程

第十九章 文本处理流编辑器:awk编程

名词解释

awk 是一种编程语言,用于linux/unix下对文本和数据进行处理。数据可以来自标准输入(stdin)、一个或多个文件、或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大个编程工具。它在命令行中使用,但更多是作为脚本来使用。awk有很多内建的功能,比如:数组、函数等,这是它和C语言的相同之处,灵活性是awk最大的优势。

awk命令格式和选项

语法形式

awk [option] ‘script‘ var=value file(s)
awk [option] -f scriptfile var=value file(s)

常用命令选项

  • -F fs :fs指定输入分隔符,fs可以是字符串或正则表达式,如: -F:。
  • -v var=value :赋值一个用户定义变量,将外部变量传递给awk。
  • -f scriptfile :从脚本文件中读取awk命令。
  • -m[fr] val :对val值设置内在限制,-mf选项限制分配给val的最大块数目;-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能,在标准awk中不适用。

awk模式和操作

awk脚本是由模式和操作组成的

模式

模式可以是以下任意一个:

  • /正则表达式/ :适用通配符的扩展集。
  • 关系表达式:适用运算符进行操作,可以是字符串或数字的比较测试。
  • 模式匹配表达式:用运算符~(匹配) 和 ~!(不匹配)。
  • BEGIN语句块、pattern语句块、END语句块:参见awk的工作原理:见本章后边章节。

操作

操作由一个或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内,主要部分是:

  • 变量或数组赋值
  • 输出命令
  • 内置函数
  • 控制流语句

awk脚本基本结构

awk ‘BEGIN{ print "start" } pattern{ commands } END{ print "end"}‘ file

一个awk脚本通常由:BEGIN语句块、能够使用模式匹配的通用语句块、END语句块 三部分组成,这三个部分是可选的。

任意一个部分都可以不出现在脚本中,脚本通常是在 单引号或双引号中,例如:

#脚本在单引号中:
awk ‘BEGIN{ i=0 } { i++ } END{ print i }‘ filename
#脚本在双引号中:
awk "BEGIN{ i=0 } { i++ } END{ print i }" filename

awk的工作原理

awk ‘BEGIN{ commands } pattern{ commands } END{ commands }‘
  1. 第一步:执行BEGIN{ commands }语句块中的语句。
  2. 第二步:从文件或标准输入(stdin)读取一行,然后执行pattern{ commands }语句块,它逐行描述文件,从第一行到最后一行重复这个过程,知道文件全部被读取完毕。
  3. 第三步:当读至输入流末尾时,执行END{ commands }语句块。

BEGIN语句块在awk开始 从输入流中 读取之前被执行,这是一个可选的语句块,比如:变量初始化、打印输出表格的表头等语句通常可以写在BEGIN语句块中。

END语句块在awk从输入流中 读取完所有的行之后即被执行,比如:打印所有行的分析结果这类信息 都是在END语句块中完成,它也是一个可选语句块。

pattern语句块中的通用命令是最重要的部分,它也是可选的。如果没有提供pattern语句块,则默认执行{ print },即打印每一个读取的行,awk读取的每一行都会执行该语句块。

示例

echo -e "A line 1\nA line 2" | awk ‘BEGIN{ print "start:" } { print } END{ print "end:" }‘
输出:
start:
A line 1
A line 2
end:

当使用不带参数print时,它就打印当前行,当print的参数是以逗号进行分割时,打印时则以空格作为定界符。在awk中的print语句块中双引号是被当作拼接符使用,例如:

echo | awk ‘{ var1="v1";var2="v2";var3="v3"; print var1,var2,var3}‘
结果:
v1 v2 v3

双引号拼接使用:

echo | awk ‘{ var1="v1";var2="v2";var3="v3"; print var1"="var2"="var3}‘
结果 :
v1=v2=v3

{}类似一个循环体,会对文件中的每一行进行迭代,通常变量初始化语句(如:i=0)以及打印文件头部的语句放入BEGIN语句块中,将打印的结果等语句放在END语句块中。

awk内置变量(预定义变量)

说明:[][][A][N][P][G]表示第一个支持变量的工具,[A]=awk、[N]=nawk、[P]=POSIXawk、[G]=gawk

$n :当前记录的第n个字段,比如n为1表示第一个字段,n为2表示第二个字段。
$0 :这个变量 包含执行过程中 当前行的文本内容。
[N]:ARGC 命令行参数的数目。
[G]:ARGIND 命令行中当前文件的位置(从0开始计算)。
[N]:ARGV 包含命令行参数的数组。
[G]:CONVFMT 数字转换格式(默认值为%.6g)
[P]:ENVIRON 环境变量关联数组。
[N]:ERRNO 最后一个系统错误的描述。
[G]:FIELDWIDTHS 字段宽度列表(用空格键分隔)。
[A]:FILENAME 当前输入文件的名。
[P]:FNR 同NR,但相对于当前文件。
[A]:FS字段分隔符(默认是任何空格)。
[G]:IGNORECASE 如果为真,则进行忽略大小写的匹配。
[A]:NF 打印当前行的最后一个字段。
[A]:NR 打印当前行的行号。
[A]:OFMT 数字的输出格式(默认值是%.6g)。
[A]:OFS 输出字段分隔符(默认值是一个空格)。
[A]:ORS 输出记录分隔符(默认值时一个换行符)。
[A]:RS 记录分隔符(默认是一个换行符)。
[N]:RSTART 由match函数所匹配的字符串的第一个位置。
[N]:RLENGTH 由match函数所匹配的字符串的长度。
[N]:SUBSEP 数组下标分隔符(默认值是34)。

示例:

echo -e "line1 f1 f1\nline2 f2 f2\nline3 f3 f3" | awk ‘{print "Line No:"NR",No of field:"NF, "$0="$0, "$1="$1, "$2="$2, "$3="$3}‘
输出:
Line No:1,No of field:3 $0=line1 f1 f1 $1=line1 $2=f1 $3=f1
Line No:2,No of field:3 $0=line2 f2 f2 $1=line2 $2=f2 $3=f2
Line No:3,No of field:3 $0=line3 f3 f3 $1=line3 $2=f3 $3=f3

解释:
NR:表示打印当前读取内容所在的行号
NF:表示打印当前行的最后一个字段

使用print $NF 可以打印出一行中的最后一个字段,使用$(NF-1) 则是倒数第二个字段,其他依次类推:

[[email protected] awk]# echo -e "line1 f2 f3\nline2 f4 f5" | awk ‘{print $NF}‘
f3
f5

[[email protected] awk]# echo -e "line1 f2 f3\nline2 f4 f5" | awk ‘{print $(NF-1)}‘
f2
f4

打印每一行的第二和第三个字段:

[[email protected] awk]# echo -e "line1 f2 f3\nline2 f4 f5" | awk ‘{print $2,$3}‘
f2 f3
f4 f5

统计文件中的行数:

[[email protected] awk]# echo -e "line1 f2 f3\nline2 f4 f5" | awk ‘END{print NR}‘
2

以上命令只使用了END语句块,在读入每一行的时候,awk会将NR更新为对应的行号,当到达最后一行NR的值就是最后一行的行号,所以END语句块中的NR就是文件的行数。

计算每一行中的第一个字段累加的例子:

[[email protected] awk]# seq 5 | awk ‘BEGIN{ sum=0; print "计算总和:" } {print $1"+"; sum+=1 } END{print "相加总和是:"sum}‘
计算总和:
1+
2+
3+
4+
5+
相加总和是:5

将外部变量传递给awk

借助-v选项,可以将外部值(并非stdin)传递给awk:

[[email protected] awk]# abc=2000
[[email protected] awk]# echo | awk -v def=$abc ‘{ print def }‘
2000

另一种传递外部变量方法:

[[email protected] awk]# echo | awk ‘{ print v1,v2 }‘ v1=$var1 v2=$var2
hello world

当输入来自于文件时,使用:

awk ‘{ print v1,v2 }‘ v1=$var1 v2=$var2 filename
#此处有问题。

以上方法中,变量之间用空格分隔作为awk的命令行参数 跟随在BEGIN、{}和END语句之后。

awk运算与判断

awk支持多种运算,还提供了内置的运算函数(如log、sqr、cos、sin等)和一些用于对字符串进行操作的函数(如length、substr等)。awk中也提供了关系判断,允许多种测试作为样式匹配,还提供了模式匹配表达式 ~(匹配)和 ~!(不匹配)。awk也支持用逻辑运算符。

算术运算符

运算符 描述
+ - 加,减
* / & 乘,除,求余
+ - ! 一元加,减和逻辑非
^ *** 求幂
++ -- 增加或减少,作为前缀或后缀

例:

[[email protected] awk]# awk ‘BEGIN{a="b"; print a++,++a;}‘
0 2

注意:所有用作算术运算符进行操作,操作数自动转为数值,所有非数值都变为0; 里边的++就等于 +1;a++就等于0+1。

再看下面的例子:

[[email protected] awk]# awk ‘BEGIN{a="b"; print a++,a,++a,++a;}‘
0 1 2 3

赋值运算符

运算符 描述
= 简单的赋值运算符
+= 加法赋值运算符
-= 减法赋值运算符
*= 乘法赋值运算符
/= 除法赋值运算符
%= 取模赋值运算符
^= 二进制位异或运算
**= 乘幂赋值运算符

例:

a+=5;等同于: a=a+5 ;其他运算符也同样

逻辑运算符

运算符 描述
|| 逻辑 或
&& 逻辑 与

例如:

[[email protected] awk]# awk ‘BEGIN{a=1;b=2;print (a>5 && b<=2),(a>5 || b<=2);}‘
0 1
&&:代表两边条件必须都满足
||:达标两边条件一个满足即可

关系运算符

运算符 描述
< 小于
<= 小于等于
> 大于
>= 大于等于
!= 不等于
== 等于

例如:

[[email protected] awk]# awk ‘BEGIN{a=11; if(a>=9){print "ok";}}‘
ok

注意:> < 可以作为字符串比较,也可以作为数值比较,关键看操作符。如果是字符串会转换为字符串比较。两个都为数字才转为数值比较。字符串比较:是按照ASCII码的对应的顺序比较。

其它运算符

运算符 描述
$ 字段引用
空格 字符串连接符
?: C条件表达式
in 数组中是否存在某键值
not in 数组中不存在某键值

例如:

[[email protected] awk]# awk ‘BEGIN{ print 5==5?"ok":"err";}‘
ok
[[email protected] awk]# awk ‘BEGIN{ print 5==6?"ok":"err";}‘
err
[[email protected] awk]# awk ‘BEGIN{a="b"; arr[0]="b"; arr[b]="c"; print (a in arr);}‘
0
[[email protected] awk]# awk ‘BEGIN{a="b"; arr[0]="b"; arr[b]="c"; print (b in arr);}‘
1

运算级别优先级表

级别越高越优先

级别 运算符 说明
1 =,+=,-=,*=,/=,%=,&=,^=,|=,<<=,>>= 赋值、运算、赋值
2 || 逻辑或
3 && 逻辑与
4 | 按位或
5 ^ 按位异或
6 & 按位与
7 ==,!= 等于,不等于
8 <=,>=,<,> 小于等于,大于等于,小于,大于
9 <<,>> 按位左移,按位右移
10 +,- 加,减
11 *,/,% 乘,除,取模
12 !,~ 逻辑非,按位取反或补码
13 -,+ 正,负

awk高级输入输出

读取下一条记录

awk中next语句使用:在循环逐行匹配,如果遇到next,就会跳过当前行,直接忽略下面语句。而进行下一行匹配。next语句一般用于多行合并:

[[email protected] awk]# cat ceshi
a
b
c
d
e
[[email protected] awk]# awk ‘NR%2==1{next}{print NR,$0;}‘ ceshi
2 b
4 d

? 上例说明:当记录行号除以2余1,就推过当前行。下面的print NR,$0也不会执行。下一行开始,程序又开始判断NR%2值,这个时候记录行号为2,就会执行下面语句块:print NR,$0

分析发现需要将包含有“web”行进行跳过,然后需要将内容与下面行合并为一行:

[[email protected] awk]# cat test2
web01[192.168.2.100]
httpd            ok
tomcat               ok
sendmail               ok
web02[192.168.2.101]
httpd            ok
postfix               ok
web03[192.168.2.102]
mysqld            ok
httpd               ok

[[email protected] awk]# awk ‘/^web/{T=$0;next;}{print T": "$0;}‘ test2
web01[192.168.2.100]: httpd            ok
web01[192.168.2.100]: tomcat               ok
web01[192.168.2.100]: sendmail               ok
web02[192.168.2.101]: httpd            ok
web02[192.168.2.101]: postfix               ok
web03[192.168.2.102]: mysqld            ok
web03[192.168.2.102]: httpd               ok

简单的读取一条记录

awk getline 用法:输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容,并给NF NR和FNR等内建变量赋值。如果得到一条记录,geline函数返回1,如果到达文件的末尾就返回0,如果出现错误,例如打开文件失败,返回-1。

getline语法:getline var,变量var包含了特淡定行的内容。

awk getline整体用法说明:

  • 当其左右重定向符|&lt;时:getline作用于当前文件,读入当前文件的第一行给其后跟的变量var$0(无变量),应该注意到,由于awk在处理getline之前已经读入了一行,所以getline得到的返回结果是隔行的。
  • 当其左右重定向符|&lt;时:getline作用于重定向输入文件,由于该文件时刚打开,并没有被awk读入一行,只是getline读入,那么getline返回的是该文件的第一行,而不是隔行。

示例:

执行linux的date命令,并通过管道输出给getline,然后再把输出赋值给自定义变量out,并打印它:

[[email protected] awk]# awk ‘BEGIN{ "date" | getline out;print out }‘
Tue Apr 17 14:47:31 CST 2018

执行shell的date命令,并通过管道输出给getline,然后getline从管道中读取并将输入赋值给out,split函数把变量out转化成数组mon,然后打印数组mon的第二个元素:

[[email protected] awk]# date
Tue Apr 17 15:29:01 CST 2018
[[email protected] awk]# awk ‘BEGIN{ "date" | getline out; split(out,mon); print mon[2] }‘
Apr

命令ls的输出传递给geline作为输入,循环使getline从ls的输出中读取一行,并把它打印到屏幕。这里没有输入文件,因为BEGIN块在打开输入文件前执行,所有可以忽略输入文件。

[[email protected] awk]# ls
ceshi  test  test2
[[email protected] awk]# awk ‘BEGIN{ while( "ls" | getline) print }‘
ceshi
test
test2

关闭文件

awk中允许在程序中关闭一个输入或输出文件,方法是使用awk的close语句。

close("filename")

? filename可以是getline打开的文件,也可以是stdin,包含文件名的变量或者getline使用的确切命令。或一个输出文件,可以是stdout,包含文件名的变量或使用管道的确切命令。

输出到一个文件

awk中允许用如下方式将结果输出到一个文件:

[[email protected] awk]# echo | awk ‘{printf ("hello world!\n") > "datafile"}‘
[[email protected] awk]# cat datafile
hello world!
或
[[email protected] awk]# echo | awk ‘{printf ("hello world!\n") >> "datafile2"}‘
[[email protected] awk]# cat datafile2
hello world!

设置字段定界符

默认的字段定界符是空格,可以使用-F “定界符” 明确指定一个定界符:

awk -F: ‘{printf $NF}‘ /etc/passwd
或
awk ‘BEGIN{ FS=":"} {print $NF}‘ /etc/passwd

? 在BEGIN语句块中则可以用OFS="定界符"设置输出字段的定界符。

流程控制语句

在linux awk的while、do-while、for语句中允许使用break、continue语句来控制流程走向,也允许使用exit这样的语句来退出。break中断当前正在执行的循环并调到循环外执行吓一跳命令。if是流程选择用法。awk中 流程控制语句,语法结构,与C语言类似。有了这些语句。其实很多shell程序都是可以交给awk,而且性能是非常快的。下面是各个语句用法。

条件判断语句

if(表达式)
  语句1
else
  语句2

? 表达式中语句1 可以是多个语句,为了方便判断和阅读,最好将多个语句用{}括起来。awk分支结构允许嵌套,其格式为:

if(表达式)
  {语句1}
else if(表达式)
  {语句2}
else
  {语句3}

示例

#!/bin/bash

awk ‘BEGIN{
test=40;
if(test>90)
  {print "very good!";}
else if(test>60)
  {print "good!";}
else
  {print "no pass";}
}
‘
运行输出:
no pass

? 每条命令语句后面可以用;分号结尾。

循环语句

while语句
while(表达式)
  {语句}

示例:

awk ‘BEGIN{
test=5;
total=0;
while(i<test)
  {
  total+=i;
  i++;
  }
print "结果:"total;
}‘

运行结果
结果:10

i默认是0;此例为:计算0+1+2+3+4等于多少
for循环

格式1

for(变量 in 数组)
  {语句}

示例:

awk ‘BEGIN{
for(k in ENVIRON){
  print k"="ENVIRON[k];
}

}‘
TERM=linux
G_BROKEN_FILENAMES=1
SHLVL=1
pwd=/root/text
...
logname=root
HOME=/root
SSH_CLIENT=192.168.1.21 53087 22

? 注:ENVIRON是awk常量,是字典型数组。

格式2

for(变量;条件;表达式)
  {语句}

示例:

awk ‘BEGIN{
total=0
for(i=0;i<5;i++)
  {total+=i;}
print total
}‘

运行结果:
10
do循环
do
{语句} while(条件)

示例:

awk ‘BEGIN{
total=0;
i=0;
do {total+=i;i++;} while(i<5)
  print total;
}‘

运行结果:
10

其他语句

  • break:当break语句用于while或for语句时,导致退出程序循环。
  • continue:当continue语句用于while或for语句时,使程序循环移动到下一个迭代。
  • next:能够导致读入下一个输入行,并返回到脚本的顶部 。这可以避免对当前输入行执行其他的操作过程。
  • exit:语句使主输入循环退出 并将控制转义到END,如果END存在的话,就执行END规则;如果没有定义END规则,就在END中应用exit语句,终止脚本的执行。

数组应用

数组是awk的灵魂,处理文本中最不能少的就是它的数组处理。因为数组索引(下标)可以是数字和字符串,在awk数组中叫做关联数组(associative arrays)。awk中的数组不必提前声明,也不必声明大小。数组元素用0或空字符串来初始化,这根据上下文而定。

数组的定义

数字做数组索引(也叫下标):

Array[1]="sun"
Array[2]="kai"

字符串做数组索引(下标):

Array["first"]="www"
Array["last"]="name"
Array["birth"]="1999"

使用print Array[1]会打印出sun;使用print Array["last"]会得到name。

读取数组的值

{ for(item in array){print array[item]};}   #输出的顺序是随机的
{ for(i=1;i<=len;i++){print array[i]};}     #len是数组的长度

数组相关函数

得到数组长度

[[email protected] awk]# awk ‘BEGIN{info="it is a test";lens=split(info,tA," ");print length(tA),lens;}‘
4 4

? length返回字符串以及数组长度,split进行分割字符串为数组,也会返回分割得到数组长度。

[[email protected] awk]# awk ‘BEGIN{info="it is a test"; split(info,tA," "); print asort(tA);}‘4

? asort对数组进行排序,返回数组长度。

输出数组内容(无序,有序输出):

无序输出:
[[email protected] awk]# awk ‘BEGIN{info="it is a test"; split(info,tA," "); for(k in tA){print k,tA[k];}}‘
4 test
1 it
2 is
3 a

? for ... in 输出,因为数组是关联数组,默认是无序的。所以通过for ... in得到是无序的数组。如果需要得到有序数组,需要通过下标获得。

有序输出:
方法1:
[[email protected] awk]# awk ‘BEGIN{info="it is a test"; split(info,tA," "); for(k=1;k<=length(tA);k++){print k,tA[k];}}‘
1 it
2 is
3 a
4 test

方法2:
[[email protected] awk]# awk ‘BEGIN{info="it is a test"; split(info,tA," "); for(k=1;k<=asort(tA);k++){print k,tA[k];}}‘
1 a
2 is
3 it
4 test

方法3:
[[email protected] awk]# awk ‘BEGIN{info="it is a test"; Len=split(info,tA," "); for(k=1;k<=Len;k++){print k,tA[k];}}‘
1 it
2 is
3 a
4 test

? 注意:数组小标是从1开始,与C、python数组不一样 小标从0开始。

判断键值存在以及删除键值

#错误的判断方法:
awk ‘BEGIN{tB["a"]="a1";tB["b"]="b1";if(tB["c"]!="1"){print "no found";};for(k in tB){print k,tB[k];}}‘
no found
a a1
b b1
c

? 以上出现奇怪问题,tB[“c”]没有定义,但是循环时候,发现已经存在该键值,它的值为空,这里需要注意,awk数组是关联数组,只要通过数组引用它的key,就会自动创建改序列。

#正确判断方法:
[[email protected] awk]# awk ‘BEGIN{tB["a"]="a1";tB["b"]="b1"; if("c" in tB){print "ok";}else{print "not in!"}; for(k in tB){print k,tB[k];}}‘
not in!
a a1
b b1

? if(key in array)通过这种方法判断数组中是否包含key键值。

#删除键值:
[[email protected] awk]# awk ‘BEGIN{tB["a"]="a1";tB["b"]="b1"; delete tB["a"]; for(k in tB){print k,tB[k];}}‘
b b1

? delete array[key]可以删除 对应数组key的序列值。

二维、多维数组使用

awk的多维数组在本质上是一维数组,更确切一点,awk在存储上并不支持多维数组。awk提供了逻辑上模拟二维数组的访问方式。例如:array[2,4]=1这样的访问时允许的。awk使用一个特殊的字符串SUBSEP(?34)作为分隔字段,在上面的例子中,关联数组array存储的键值实际上是2?344

类似一维数组的成员测试,多维数组可以使用if( (i,j) in array)这样的语法,但是下标必须放置在圆括号中。类似一维数组的循环访问,多维数组使用for( item in array)这样的语法遍历数组。与一维数组不同的是,多维数组必须使用split()函数来访问单独的下标分量。

列出乘法口诀

#有序列出乘法口诀
awk ‘BEGIN{
for(i=1;i<=9;i++){
  for(j=1;j<=9;j++){
    tarr[i,j]=i*j;
    print i,"*",j,"=",tarr[i,j];
    }
  }
}‘

运行结果:
1 * 1 = 1
1 * 2 = 2
1 * 3 = 3
......
9 * 9 = 81

? 可以通过array[k,k2]引用获得数组内容。

另一种方法:

#无序列出乘法口诀
awk ‘BEGIN{
for(i=1;i<=9;i++){
  for(j=1;j<=9;j++){
    tarr[i,j]=i*j;
    }
  }

for(m in tarr){
  split(m,tarr2,SUBSEP);
  print tarr2[1],"*",tarr2[2],"=",tarr[m];
  }
}‘

运行结果:
8 * 7 = 56
9 * 1 = 9
8 * 8 = 64
......
8 * 6 = 48

内置函数

awk内置函数,主要分以下几种类:算术函数、字符串函数、其它一般函数、时间函数。

算术函数

格式 描述
atan2()y,x 返回y/x的反正切。
cos(x) 返回x的余弦;x是弧度。
sin(x) 返回x的正弦;x是弧度。
exp(x) 返回x幂函数。
log(x) 返回x的自然对数。
sqrt(x) 返回x平方根。
int(x) 返回x的截断至整数的值。其实就是输入小数返回一个整数。
rand( ) 返回任意数字n,其中 0<=n<1。
srand([expr]) 将rand函数的值设置为Expr参数的值,或如果省略Expr参数则使用某天的时间。返回先前的值。

举例说明:

[[email protected] awk]# awk ‘BEGIN{OFMT="%0.3f";fs=sin(1);fe=exp(10);fl=log(10);fi=int(3.1415);print fs,fe,fl,fi}‘
0.841 22026.466 2.303 3

OFMT 设置输出数据格式是保留3位小数。

获得随机数:

[[email protected] awk]# awk ‘BEGIN{srand();fr=int(100*rand());print fr;}‘
56
[[email protected] awk]# awk ‘BEGIN{srand();fr=int(100*rand());print fr;}‘
97
[[email protected] awk]# awk ‘BEGIN{srand();fr=int(100*rand());print fr;}‘
12

解读:脚本执行过程:

  1. rand() 随机返回一个六位小数点的小数,如:0.237788
  2. 然后是100rand(),就是100 0.237788 = 23.7788
  3. 通过int() 返回一个整数23。
  4. 再传给srant() 作为参数,处理,输出最后结果。

字符串函数

注:

Ere :可以是字符串、变量、也可以是正则表达式。

Repl:要替换成的值

In:是一个变量,或者字符串

格式 描述
gsub(Ere,Repl,[ In ]) 根据正则表达式替换所有匹配到的字符串,它和sub函数完全一样地执行,但是sub只替换从左往右第一次匹配到的字符串。
sub(Ere,Repl,[ In ]) 根据正则表达式Ere匹配In中所包含的匹配内容替换成Repl,并将替换后的内容赋值给In。sub函数返回匹配替换的数量。出现在Repl参数指定的字符串中的&(和符号) 由In参数指定的Ere参数的指定的扩展正则表达式匹配的字符串替换。如果未指定In参数,缺省值是整个记录($0记录变量)。
index(String1,String2) 判断string2是否出现在string1中,如果有返回位置,位置从1开始编号。如果String2参数不在String1参数中出现,则返回0。
length[(string)] 返回string参数指定的字符串的长度(字符形式)。如果未给出string参数,则返回整个记录的长度($0记录变量)。
blength[(string)] 返回string参数指定的字符串的长度(以字节为单位)。如果未给出string参数,则返回整个记录的长度($0记录变量)。
substr(string,M,[N]) M:代表string里边的位置,M位置编号从1开始<br />N:代表要从M字符串的位置,往右取多少个值,包含M,但不包含M+N的和的值<br />命令意思:在string字符串中截取从 M位置开始取N个字符串,返回所取到的值。<br />如果未指定N参数,则代表截取从M位置到string参数的末尾位置,包含最后一个字符。
match(string,Ere) 根据正则表达式Ere 在string中匹配查找,匹配到之后返回字符串所在位置,位置从1开始编号,或如果Ere参数不出现,则返回0。 RSTART特殊变量设置为返回值。RLENGTH特殊变量设置为匹配的字符串的长度,或如果未找到任何匹配,则设置为-1。
split(string,A,[Ere]) 将string参数指定的参数分隔为数组元素A[1],A[2],...A[N],并返回n变量的值。此分隔可以通过Ere参数指定的扩展正则表达式进行,或用当前字段分隔符(FS特殊变量)来进行(如果没有给出Ere参数)。除非上下文指明特定的元素还应具有一个数字值,否则A数组中的元素用字符串值来创建。
tolower(string) 将string字符串里边的大写字母都编程小写字母。
toupper(string) 将string字符串里边的小写字母都变成大写字母。
sprintf(Format,Expr,Expr,...) 根据Format参数指定的printf子例程格式字符串来格式化Expr参数指定的表达式并返回最后生成的字符串。

gsub,sub使用

#gsub替换所有匹配的字符串
[[email protected] awk]# awk ‘BEGIN{info="this is a test201test2010test!"; a=gsub(/[0-9]+/,"!",info); print a,info}‘
2 this is a test!test!test!

#sub只替换从左到右第一次匹配到的字符串
[[email protected] awk]# awk ‘BEGIN{info="this is a test201test2010test!"; a=gsub(/[0-9]+/,"!",info); print a,info}‘
2 this is a test!test!test!

#当没有匹配到的时候就返回原值。
[[email protected] awk]# awk ‘BEGIN{info="this is a testtesttest!"; a=gsub(/[0-9]+/,"!",info); print a,info}‘
0 this is a testtesttest!

在info中查找满足正则表达式 /[0-9]+/ 用 " " 替换,并且替换后的值,赋值给info。如果没有匹配到未给info赋值,输出info的原值,默认替换数量为0。

查找字符串(index使用)

#查找如果test在info字符串中,就返回ok,不在返回no found
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test2010test!"; print index(info,"test")?"ok":"no found!";}‘
ok

#查找如果test在info字符串中,返回test所在的位置,位置从左往右 编号从1开始。
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test2010test!";b=index(info,"test");print b}‘
11

#匹配字符串,未找到返回0
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test2010test!";b=index(info,"Test");print b}‘
0

正则表达式匹配查找(match使用)

#匹配字符串,匹配到返回ok
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test2010test!";print match(info,/[0-9]+/)?"ok":"no found!";}‘
ok

#匹配到字符串,并返回字符串所在位置
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test2010test!";a=match(info,/[0-9]+/); print a}‘
15

#匹配不到返回0
[[email protected] awk]# awk ‘BEGIN{info="this is a testtesttest!";a=match(info,/[0-9]+/); print a}‘
0

截取字符串(substr使用)

#截取从M位置开始,向右取N个字符串
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test!";a=substr(info,11,8);print a}‘
test2010

#不指定N值,就截取从M到string末尾的值
[[email protected] awk]# awk ‘BEGIN{info="this is a test2010test!";print substr(info,11);}‘
test2010test!

字符串分隔(split使用)

[[email protected] awk]# awk ‘BEGIN{info="this is a test!"; split(info,aa," "); print length(aa); for(k in aa){print k,aa[k];}}‘
4
4 test!
1 this
2 is
3 a

分隔字符串info,动态创建数组aa,用空格“ ”分隔符 风格info;

通过length获取数组aa元素的总数,当然也可以直接split的时候赋值一个变量获取元素的总数。

for(key in array)循环数组,是一个无序的循环。并不是从数组下标1...n,因此使用需要注意。

格式化字符串输出(printf使用)

格式化字符串 格式:

格式化字符串包含两部分内容:一部分是正常字符,这些字符将按原样输出;另一部分是格式化规定字符,以"%"开始,后跟一个或几个规定字符,用来确定输出内容格式。

格式 描述
%d 十进制有符号整数
%u 十进制无符号整数
%f 浮点数
%s 字符串
%c 单个字符
%p 指针的值
%e 指数形式的浮点数
%X %X 无符号以十六进制表示的整数
%o 无符号以八进制表示的整数
%g 自动选择合适的表示法
[[email protected] awk]# awk ‘BEGIN{n1=124.113; n2=-1.224; n3=1.2345; printf("%.2f,%.2u,%.2g,%X,%o\n",n1,n2,n3,n1,n1);}‘
124.11,18446744073709551615,1.2,7C,174

一般函数

格式 描述
close(Expression) 用同一个字符串值Expression参数来关闭由 print或printf语句、打开或调用getline函数打开的文件或管道。如果文件或管道成功关闭,则返回0;其它情况下返回非0值。如果打算写一个文件,并稍后在同一个程序中读取文件,则close语句时必须的。
system(command) 执行command 参数指定的命令,并返回退出状态。等同于system子进程。
Expression | getline [ Variable ] 从来自Expression参数指定的命令的输出中 通过管道传送的流中读取一个输入记录,并将该记录的值指定给Variable参数指定的变量。如果当前未打开将Expression参数的值作为其命令名称的流,则创建流。创建的流等同于调用popen子进程,此时command参数取Expression参数的值且mode参数设置为一个是r的值。只要流保留打开且Expression参数求得同一个字符串,则对getline函数的每次后续调用读取另一个记录。如果未指定Variable参数,则$0记录变量和NF特殊变量设置为从流读取的记录。
getline [ Variable ] < Expression 从Expression参数指定的文件读取输入的下一个记录,并将Variable参数指定的变量设置为该记录的值。只要流保留打开且Expression参数对同一个字符串求值,则对getline函数的每次后续调用读取另一个记录。如果未指定Variable参数,则$0记录变量和NF特殊变量设置为从流读取的记录。
getline [ Variable ] 将Variable参数指定的变量设置为从当前输入文件读取的下一个输入记录。如果未指定Variable参数,则$0记录变量设置为该记录的值,还将设置NF、NR、FNR特殊变量。

打开外部文件(close用法)

[[email protected] awk]# awk ‘BEGIN{ while("cat /etc/passwd" | getline){print $0;}; close("/etc/passwd");}‘
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin

逐行读取外部文件(getline使用方法)

[[email protected] awk]# awk ‘BEGIN{ while(getline < "/etc/passwd"){print $0;};close("/etc/passwd");}‘
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
[[email protected] awk]# awk ‘BEGIN{print "Enter your name:";getline name;print name;}‘
Enter your name:
abc
abc

调用外部应用程序(system使用方法)

[[email protected] awk]# awk ‘BEGIN{b=system("ls -al"); print b;}‘
total 24
drwxr-xr-x.  2 root root   77 Apr 17 15:58 .
dr-xr-x---. 12 root root 4096 Apr 12 15:01 ..
-rw-r--r--.  1 root root   10 Apr 17 13:23 ceshi
-rw-r--r--.  1 root root   13 Apr 17 15:39 datafile
-rw-r--r--.  1 root root   13 Apr 17 15:40 datafile2
-rw-r--r--.  1 root root   16 Apr 12 15:03 test
-rw-r--r--.  1 root root  222 Apr 17 14:25 test2
0
# b 代表返回值,是执行结果。0代表执行成功,非0表示执行失败。

时间函数

格式 描述
mktime( YYYY MM dd HH MM ss[DST]) 生成时间格式
strftime([format [,timestamp]]) 格式化时间输出,将时间戳转为时间字符串。具体格式见下表。
systime() 得到时间戳,返回从1970年1月1日开始到当前时间(不计闰年)的整秒数

显示一个时间(mktime使用)

[[email protected] awk]# awk ‘BEGIN{tstamp=mktime("2018 04 19 10 27 30"); print strftime("%c",tstamp);}‘
Thu 19 Apr 2018 10:27:30 AM CST

%c 代表本地日期和时间格式。
#计算两个时间 时间差,差的单位为秒
[[email protected] awk]# awk ‘BEGIN{tstamp1=mktime("2018 04 19 10 0 0"); tstamp2=mktime("2018 04 19 11 0 0"); print tstamp2-tstamp1;}‘
3600
[[email protected] awk]# awk ‘BEGIN{tstamp1=mktime("2001 01 01 0 0 0"); tstamp2=systime(); print "从2001年01月1日0点到现在时间相差秒:"tstamp2-tstamp1;print strftime("%c",tstamp2)}‘
从2001年01月1日0点到现在时间相差秒:545827039
Thu 19 Apr 2018 10:37:19 AM CST

strftime日期和时间格式说明符

格式 描述
%a 星期几的缩写(Sun)
%A 星期几的完整写法(Sunday)
%b 月名的缩写(Oct)
%B 月名的完整写法(October)
%c 本地日期和时间
%d 十进制日期
%D 日期 08/20/99
%e 日期,如果只有一位会补上一个空格
%H 用十进制表示24小时格式的小时
%I 用十进制表示12小时格式的小时
%j 从1月1日起一年中的第几天
%m 十进制表示的月份
%M 十进制表示的分钟
%p 12小时表示法(AM/PM)
%S 十进制表示的秒
%U 十进制表示的一年中的第几个星期(星期天作为一个星期的开始)
%w 十进制表示的星期几(星期天是0)
%W 十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
%x 重新设置本地日期(08/20/99)(月份/日期/年份)
%X 重新设置本地时间(12:00:00)
%y 两位数字表示的年(99)
%Y 当前月份
%Z 时区(PDT)
%% 百分号(%)

原文地址:http://blog.51cto.com/506554897/2146239

时间: 2024-10-19 13:06:05

第十九章 文本处理流编辑器:awk编程的相关文章

第十八章 文本处理流编辑器:sed命令

第十八章 文本处理流编辑器:sed命令 名词解释 sed 是一种流编辑器,它是文本处理常用到的工具,能够完美的配合正则表达式使用,功能不同凡响.处理时,把当前处理的行存储在临时缓冲区中,称为"模式空间"(pattern space),接着sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕.接着处理下一行,这样不断重复,直到文件末尾.文件内容并没有改变,除非你使用重定向存储输出.sed主要用来自动编辑一个或多个文件,简化多文件的反复操作,编写转换程序等. sed的选项.命令

【WPF学习】第十九章 控件类

原文:[WPF学习]第十九章 控件类 WPF窗口充满了各种元素,但这些元素中只有一部分是控件.在WPF领域,控件通常被描述为与用户交互的元素--能接收焦点并接受键盘或鼠标输入的元素.明显的例子包括文本框和按钮.然而,这个区别有时有些模糊.将工具提示视为控件,因为它根据用户鼠标的移动显示或消失.将标签视为控件,因为它支持记忆码(mnemonics,将焦点转移到相关控件快捷键). 所有控件都继承自System.Windows.Control类,该类添加了一小部分基本的基础结构: 设置控件内容对齐方式

从零开始的linux 第十九章(mv命令详解)

从零开始的linux 第十九章 hello~~又到了一周一更新博客的时候啦~~这周51CTO成功将博客功能升级~~给我们带来了全新的体验~全新的界面~全新的视感~~不过,在编辑器上~小编还是习惯用原来的编辑器,感谢工作人员在内测时候广泛采纳用户的建议~对博客进行一次又一次的修改,嗯,最辛苦的还是我们的开发同志~~小编给你们以及所有员工打call~~ 那么,回归到这章内容,实际上,小编从这周是想拒绝更新的~~因为这么久过去了,小编虽然在一直给同学们讲课,但自己还没有写一篇有技术性的博客,但小编又没

19.1 awk基础【第十九章 awk】

第十九章 awk 19.1 awk基础 本博文目录索引 [TOC] 一.初识awk (一)什么是awk? awk,全称:Aho Weinberger Kernighan 是一个报告生成器,用于格式化文本输出 (二)awk能做什么? 1.主要功能:格式化显示文档.或者打印报表 2.将给定的文本内容按照工程师想要的格式输出显示.或者打印成报表格式 3.日常用途:处理各种文档(比如日志信息),从中分析挖掘出工程师关心的必要数据,并且打印成报表 (三)CentOS7系统中的awk 1.gawk 在Cen

第十九章

绝圣弃智,民利百倍:绝化弃虑,民复孝慈:绝巧弃利,盗贼无有.此三言也,以为文未足,故令有所属:见素保朴,少私而寡欲,绝学无忧. 绝圣弃智,民利百倍: 其实所谓“绝圣弃智”讲的是管理者,管理者“绝圣弃智”,老百姓就能够“民利百倍”,老百姓的收益就会很大,老百姓就会幸福很多.这“民利百倍”的意思就是说老百姓的利益就会多很多,多出百倍来.要求管理者尽量放弃追求这种虚华的名誉,因为没有必要,您做到就行了,但是不要把这些东西放到口头上,领导者一旦追求这些虚幻的名誉就坏了.比如好大喜功,对外说自己是圣人 绝

【WPF学习】第二十九章 元素绑定——将元素绑定到一起

原文:[WPF学习]第二十九章 元素绑定--将元素绑定到一起 数据banding的最简单情形是,源对象时WPF元素而且源属性是依赖性属性.前面章节解释过,依赖项属性具有内置的更改通知支持.因此,当在源对象中改变依赖项属性的值时,会立即更新目标对象中的绑定属性.这正是我们所需要的行为--而且不必为此构建任何额外的基础结构. 为理解如何将一个元素绑定到另一个元素,下面创建一个简单的示例.该示例窗口包含了两个控件:一个Slider控件和一个具有单行文本的TextBlock控件.如果向右拖动滑动条上的滑

第十九章 APO连接与网络v节点

                  第十九章   APO连接与网络v节点       在编写网络底层实现前,需要做许多的准备工作:除了修改前面的章节外,可能还需写3章:本章.文件号管理类的实现.本地内存管理类的实现.我很希望最终的网络编程能给我惊喜:IP/TCP/UDP/ICMP的实现.包括所有的网络服务器的实现(HTTP.DNS.FTP等等),能到达300行的代码量:多于300行代码量那就更好了.我会很高兴.网络编程第一层简为socket层,第二层简称为TCP层,第三层简称为IP层:以后,不再

第十九章 面向对象的工具

学习要点:1.OOP 的魔术方法2.类函数和对象函数3.OOP 的反射API PHP通过类和方法等语言结构支持面向对象编程.同时也通过对象相关的函数和内置类为面向对象提供广泛支持. 一.OOP的魔术方法 PHP引入了__autoload()内置方法来自动包含类文件.__autoload()应该被写成单个参数的方法.当PHP引擎遇到试图实例化未知类的操作时,会调用__autoload()方法,并将类名当作字符串参数传递给它. function __autoload($_className) { r

Gradle 1.12翻译——第十九章. Gradle 守护进程

有关其他已翻译的章节请关注Github上的项目:https://github.com/msdx/gradledoc/tree/1.12,或访问:http://gradledoc.qiniudn.com/1.12/userguide/userguide.html 本文原创,转载请注明出处:http://blog.csdn.net/maosidiaoxian/article/details/41343615 关于我对Gradle的翻译,以Github上的项目及http://gradledoc.qin