awk命令——报告生成工具

日期: 2015年09月15日

awk命令:报告生成工具

awk的作用:

awk是一种编程语言,(awk的名源自该程序的作者们名字的首字母 a.k.a Aho, Weinberger, Kernighan)用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入(stdin)、

一个或多个文件,或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能,

是linux/unix下的一个强大编程工具。它在命令行中使用,但更多是作为脚本来使用。

awk的工作原理:

awk ‘BEGIN{ commands } pattern{ commands } END{ commands }‘

第一步:执行BEGIN{ commands }语句块中的语句;

第二步:从文件或标准输入(stdin)读取一行,然后执行pattern{ commands }语句块,它逐行扫描文件,从第一行到最后一行重复这个过程,直到文件全部被读取完毕。

第三步:当读至输入流末尾时,执行END{ commands }语句块。

BEGIN语句块在awk开始从输入流中读取行之前被执行,这是一个可选的语句块,比如变量初始化、打印输出表格的表头等语句通常可以写在BEGIN语句块中。

END语句块在awk从输入流中读取完所有的行之后即被执行,比如打印所有行的分析结果这类信息汇总都是在END语句块中完成,它也是一个可选语句块。

pattern语句块中的通用命令是最重要的部分,它也是可选的。如果没有提供pattern语句块,则默认执行{ print },即打印每一个读取到的行,awk读取的每一行都会执行该语句块。

基本语法:

awk [options] ‘program‘ file file ...

awk [options] ‘PATTERN{action}‘ file file ...

常用选项:

-F fs  fs指定输入分隔符,fs可以是字符串或正则表达式,如-F:

-v var=value  赋值一个用户定义变量,将外部变量传递给awk

-f scripfile  从脚本文件中读取awk命令

awk的输出:

print item1, item2,...

要点:

(1) 各项目之间使用逗号分隔,而输出时则使用输出分隔符分隔

(2) 输出的各item可以字符串或数值、当前记录的字段、变量或awk的表达式;数值会被隐式转换为字符串后输出

(3) print后面item如果省略,相当于print $0;输出空白,使用pirnt ""

awk的变量:

内置变量,自定义变量

内置变量

FS:Field Seperator, 输入时的字段分隔符

# awk ‘BEGIN{FS=":"}{print $1,$7}‘ /etc/passwd

RS:Record Seperator, 输入行分隔符

OFS: Output Field Seperator, 输出时的字段分隔符;

ORS: Outpput Row Seperator, 输出时的行分隔符;

NF:Numbers of Field,字段数

NR:Numbers of Record, 行数;所有文件的一并计数;

FNR:行数;各文件分别计数;

ARGV:数组,保存命令本身这个字符,awk ‘{print $0}‘ 1.txt 2.txt,意味着ARGV[0]保存awk,

ARGC: 保存awk命令中参数的个数;

FILENAME: awk正在处理的当前文件的名称;

可自定义变量

-v var_name=VALUE

变量名区分字符大小写;

(1) 可以program中定义变量;

(2) 可以命令行中通过-v选项自定义变量;

awk的printf命令:

命令的使用格式:printf format, item1,item2,...

要点:

(1) 要指定format;

(2) 不会自动换行;如需换行则需要给出\n

(3) format用于为后面的每个item指定其输出格式;

format格式的指示符都%开头,后跟一个字符:

%c: 显示字符的ASCII码;

%d, %i: 十进制整数;

%e, %E: 科学计数法显示数值;

%f: 显示浮点数;

%g, %G: 以科学计数法格式或浮点数格式显示数值;

%s: 显示字符串;

%u: 显示无符号整数;

%%: 显示%自身;

修饰符:

#:显示宽度

-:左对齐

+:显示数值的符号

.#: 取值精度

awk输出重定向:

print items > output-file

print items >> output-file

print items | command

特殊文件描述符:

/dev/stdin: 标准输入

/dev/stdout: 标准输出

/dev/stderr: 错误输出

awk的操作符:

算术操作符:

x+y

x-y

x*y

x/y

x**y, x^y

x%y

-x:负值

+x:转换为数值

字符串操作符:连接

赋值操作符:

=

+=

-=

*=

/=

%=

^=

**=

++

--

如果模式自身是=号,要写为/=/

比较操作符:

<

<=

>

>=

==

!=

~:模式匹配,左边的字符串能够被右边的模式所匹配为真,否则为假;

!~:

逻辑操作符:

&&: 与

||:或

条件表达式:

selector?if-true-expression:if-false-expression

函数调用:

function_name(argu1,argu2)

模式:

(1) Regexp: 格式为/PATTERN/

仅处理被/PATTERN/匹配到的行;

(2) Expression: 表达式,其结果为非0或非空字符串时满足条件;

仅处理满足条件的行;

(3) Ranges: 行范围,此前地址定界,

NR

仅处理范围内的行

(4) BEGIN/END: 特殊模式,仅在awk命令的program运行之前(BEGIN)或运行之后(END)执行一次;

(5) Empty:空模式,匹配任意行;

常用的action:

(1) Expressions

(2) Control statements

(3) Compound statements

(4) input statements

(5) output statements

控制语句

1 if-else

格式:if (condition) {then body} else {else body}

# awk -F: ‘{if ($3>=500) {print$1,"is a common user"} else {print $1, "is an admin or systemuser"}}‘ /etc/passwd

# awk ‘{if (NF>=8) {print}}‘/etc/inittab

2 while

格式:while (condition) {while body}

# awk ‘{i=1; while (i<=NF){printf"%s ",$i;i+=2};print ""}‘ /etc/inittab

# awk ‘{i=1; while (i<=NF){if(length($i)>=6) {print $i}; i++}}‘ /etc/inittab

length()函数:取字符串的长度

3 do-while循环

格式:do {do-while body} while (condition)

4 for循环

格式:for (variable assignment; condition; iterationprocess) {for body}

# awk ‘{for (i=1;i<=NF;i+=2){printf"%s ",$i};print ""}‘ /etc/inittab

# awk ‘{for (i=1;i<=NF;i++){if(length($i)>=6) print $i}}‘ /etc/inittab

for循环可用来遍历数组元素:

语法:for (i in array) {for body}

5 case语句

语法:switch (expression) {case VALUE or /RGEEXP/:statement1;... default: stementN}

6 循环控制

break

continue

7 next

提前结束对本行的处理进而提前进入下一行的处理;

# awk -F: ‘{if($3%2==0) next;print $1,$3}‘/etc/passwd

# awk -F: ‘{if(NR%2==0) next; printNR,$1}‘ /etc/passwd

数组:

传统数组:Index编号从1开始;

关联数组:

array[index-expression]

index-expression: 可以使用任意字符串; 如果某数组元素事先不存在,那么在引用时,awk会自动创建此元素并将其初始化为空串;因此,要判断某数组是否存在某元素,必须使用“index in array”这种格式;

A[first]="hello awk"

print A[second]

要遍历数组中的每一个元素,需要使用如下特殊结构:

for (var in array) {for body}

其var会遍历array的索引;

state[LISTEN]++

state[ESTABLISHED]++

# netstat -tan | awk‘/^tcp/{++state[$NF]}END{for (s in state) {print s,state[s]}}‘

# awk ‘{ip[$1]++}END{for (i in ip) {printi,ip[i]}}‘ /var/log/httpd/access_log

删除数组元素:

delete array[index]

awk的内置函数:

split(string,array[,fieldsep[,seps]]):

功能:将string表示的字符串以fieldsep为分隔符进行切片,并切片后的结果保存至array为名的数组中;数组下标从1开始;

root:x:0:0::/root:/bin/bash

user[1]="root", user[2]

此函数有返回值,返回值为切片后的元素的个数

# netstat -tn | awk ‘/^tcp/{lens=split($5,client,":");ip[client[1]]++}END{for(i in ip) print i,ip[i]}‘

length(string)

功能:返回给定字串的长度

substr(string,start[,length])

功能:从string中取子串,从start为起始位置为取length长度的子串;

时间: 2024-10-06 21:04:53

awk命令——报告生成工具的相关文章

linux awk命令使用的一些心得-基础命令

该工具的作用是将文本文件逐行读入,然后对读入文本进行切片(默认用空格分隔),然后再读入下一行,已提供使用.是一个格式化报告生成工具,然后用来处理文本. 当前,linux上使用的awk,是gawk(开源awk),简写为awk. 用法: #awk [options] 'script' file,file2,- #awk [options] 'PATTERN {action }' filelist 引用的话,每一行从$1开始,$0为当前行,以换行符作为行结束 常用为:awk '{print $1}'

报告生成器-awk命令

AWK是一个优良的文本处理工具,Linux及Unix环境中现有的功能最强大的数据处理引擎之一.这种编程及数据操作语言(其名称得自于它的创始人阿尔佛雷德·艾侯.彼得·温伯格和布莱恩·柯林汉姓氏的首个字母)的最大功能取决于一个人所拥有的知识.awk经过改进生成的新的版本nawk,gawk,现在默认linux系统下日常使用的是gawk,用命令可以查看正在应用的awk的来源(ls -l /bin/awk ) 格式: awk [options] 'script' file1 file2,... awk [

Protobuf 文件生成工具 Prototool 命令详解

Protobuf 文件生成工具 Prototool 命令详解 简介 Prototool 是 Protobuf 文件的生成工具, 目前支持go, php, java, c#, object c 五种语言包的生成. 详情参考Github: https://github.com/uber/prototool docker 方式使用 prototool 工具 使用方式 // prototool 的使用 docker run --rm -v $(pwd):/work "uber/prototool&quo

Linux报告生成器工具awk

awk:根据输入的信息格式化后显示出来 1.1.awk基本用法 awk [options] 'script' file1,file2,.... 或 awk [options] 'PATTERN [ACTION]' file1,file2.... 示例:awk '{print $1}' test.txt options: -F:定义分隔符 示例awk -F: 以冒号为分隔符 1.2.awk内置变量 (1)记录变量 FS:设置默认分割字符  示例awk -F: 以冒号为分隔符 RS:设置默认换行符

linux awk命令详解(转)

简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理. awk有3个不同版本: awk.nawk和gawk,未作特别说明,一般指gawk,gawk 是 AWK 的 GNU 版本. awk其名称得自于它的创始人 Alfred Aho .Peter Weinberger 和 Brian Kernighan 姓氏的首个字母.实际上 AWK

linux awk命令详解

简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理. awk有3个不同版本: awk.nawk和gawk,未作特别说明,一般指gawk,gawk 是 AWK 的 GNU 版本. awk其名称得自于它的创始人 Alfred Aho .Peter Weinberger 和 Brian Kernighan 姓氏的首个字母.实际上 AWK

【转】【Linux】linux awk命令详解

简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理. awk有3个不同版本: awk.nawk和gawk,未作特别说明,一般指gawk,gawk 是 AWK 的 GNU 版本. awk其名称得自于它的创始人 Alfred Aho .Peter Weinberger 和 Brian Kernighan 姓氏的首个字母.实际上 AWK

[转] linux awk命令详解

点击阅读原文 简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理. awk有3个不同版本: awk.nawk和gawk,未作特别说明,一般指gawk,gawk 是 AWK 的 GNU 版本. awk其名称得自于它的创始人 Alfred Aho .Peter Weinberger 和 Brian Kernighan 姓氏的首个字母.实

Linux awk命令

awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理. awk工作流程是这样的:读入有'\n'换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域,$0则表示所有域,$1表示第一个域,$n表示第n个域.默认域分隔符是"空白键" 或 "[tab]键" 示例:#cat /etc/passwd |awk