【转载更新】Linux工具之AWK 2.基础知识

1.awk简介
awk是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger。gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的，在linux系统中已把awk链接到gawk，所以下面全部以awk进行介绍。

2.awk命令格式和选项
2.1. awk的语法有两种形式
•    awk [options] ‘script‘ var=value file(s)
•    awk [options] -f scriptfile var=value file(s)
基本用法:
1）在Shell命令行输入命令调用awk：
    awk [-F 域分隔符] ‘awk程序段’ 输入文件
2）将awk程序段插入脚本文件后，然后通过awk命令调用它：
    awk -f awk脚本文件 输入文件 【脚本文件的首行不以#!/bin/awk –f开头】
3）将awk命令插入脚本文件后，设置该脚本文件为可执行，然后直接执行该脚本文件，格式为：
   ./awk脚本文件 输入文件  【脚本文件的首行以#!/bin/awk –f开头】

awk ‘
    BEGIN { actions }
    /pattern/ { actions }
    /pattern/ { actions }
    END { actions }
‘files
2.2. 命令选项

3.    模式和操作
awk脚本是由模式和操作组成的：
pattern {action} 如$ awk ‘/root/‘ test，或$ awk ‘$3 < 100‘ test。
两者是可选的，如果没有模式，则action应用到全部记录，如果没有action，则输出匹配全部记录。默认情况下，每一个输入行都是一条记录，但用户可通过RS变量指定不同的分隔符进行分隔。

3.1. 模式
模式可以是以下任意一个：
•    /正则表达式/：使用通配符的扩展集。
•    关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，如$2>$1选择第二个字段比第一个字段长的行。
•    模式匹配表达式：用运算符~(匹配)和~!(不匹配)。
•    模式，模式：指定一个行的范围。该语法不能包括BEGIN和END模式。
•    BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。
•    END：让用户在最后一条输入记录被读取之后发生的动作。

3.2. 操作
操作由一个或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：
•    变量或数组赋值
•    输出命令
•    内置函数
•    控制流命令

4.    awk的环境变量
Table 1. awk的环境变量

5.    awk运算符
Table 2. 运算符

6.    记录和域
6.1. 记录
awk把每一个以换行符结束的行称为一个记录。
记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。
$0变量：它指的是整条记录。如$ awk ‘{print $0}‘ test将输出test文件中的所有记录。
变量NR：一个计数器，每处理完一条记录，NR的值就增加1。如$ awk ‘{print NR,$0}‘ test将输出test文件中所有记录，并在记录前显示记录号。
6.2. 域
记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk ‘{print $1,$3}‘ test将打印test文件中第一和第三个以空格分开的列(域)。
6.3. 域分隔符
内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: ‘{print $1,$5}‘ test将打印以冒号为分隔符的第一，第五列的内容。
可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，如$awk -F‘[:\t]‘ ‘{print $1,$3}‘ test，表示以空格、冒号和tab作为分隔符。
输出域的分隔符OFS默认是一个空格。如$ awk -F: ‘{print $1,$5}‘ test，$1和$5间的逗号就是OFS的值。

7.    gawk专用正则表达式元字符
一般通用的元字符集就不讲了，可参考我的Sed和Grep学习笔记。以下几个是gawk专用的，不适合unix版本的awk。

8.    POSIX字符集
（省略）
9.    匹配操作符(~)
用来在记录或者域内匹配正则表达式。如$ awk ‘$1 ~/^root/‘ test将显示test文件第一列中以root开头的行。
10.    比较表达式
conditional expression1 ? expression2: expression3，例如：$ awk ‘{max = {$1 > $3} ? $1: $3: print max}‘ test。如果第一个域大于第三个域，$1就赋值给max，否则$3就赋值给max。
$ awk ‘$1 + $2 < 100‘ test。如果第一和第二个域相加大于100，则打印这些行。
$ awk ‘$1 > 5 && $2 < 10‘ test,如果第一个域大于5，并且第二个域小于10，则打印这些行。
11.    范围模板
范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现，则匹配到开头或末尾。如$ awk ‘/root/,/mysql/‘ test将显示root第一次出现到mysql第一次出现之间的所有行。
12.    一个验证passwd文件有效性的例子
$ cat /etc/passwd | awk -F: ‘\
NF != 7{\
printf("line %d,does not have 7 fields:%s\n",NR,$0)}\
$1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\
$2 == "*" {printf("line %d, no password: %s\n",NR,$0)}‘
 
cat把结果输出给awk，awk把域之间的分隔符设为冒号。
如果域的数量(NF)不等于7，就执行下面的程序。
printf打印字符串"line ?? does not have 7 fields"，并显示该条记录。
如果第一个域没有包含任何字母和数字，printf打印“no alpha and numeric user id" ，并显示记录数和记录。
如果第二个域是一个星号，就打印字符串“no passwd”，紧跟着显示记录数和记录本身。

13.    多个命令执行
直接书写即可，不必像sed那样加-e参数.例如

awk ‘/[1-9]\.[0-9][0-9]$/ { print $0, "*"} /0\.[1-9][1-9]/ {print ;}‘ zdd.txt
在价格高于1美元的水果后面加* 以引起注意，这里包含了两个模式和动作对

14.    格式化打印
%s参数，用来打印字符串，可以指定宽度，不足的补空格，正数表示右对齐，负数表示左对齐。%3s表示字符串宽度为3列，右边对齐，如果字符串实际宽度大于3，那么取实际宽度。

文件名左对齐，大小左对齐
ls -l | awk ‘{printf "%-16s%\t%-16s\n", $9, $5;}‘
文件名左对齐，大小右对齐
ls -l | awk ‘{printf "%-16s%\t%16s\n", $9, $5;}‘
文件名右对齐，大小左对齐
ls -l | awk ‘{printf "%16s%\t%-16s\n", $9, $5;}‘
文件名右对齐，大小左对齐
ls -l | awk ‘{printf "%16s%\t%16s\n", $9, $5;}‘

15.    几个实例

【转载更新】Linux工具之AWK 2.基础知识