awk从入门至放弃

什么是awk?
awk:Aho,Weinberger,Kernighan,报告生成器，格式化文本输出
有多种版本：New awk(nawk),GNU awk(gawk)
gawk:模式扫描的处理语言
基本用法：
awk [options] ‘program‘ var=value file...
awk [POSIX or GNU style options] -f programfile [--] file ...

基本格式：
awk [options] ‘program‘ file...
program:pattern{action statements;...}
读入文件一行，检查是否符合pattern，是就执行action statments
BEGIN：没有读取文件前，先执行BEGIN
END：读取完成文件后，执行END
省略action，则默认执行 print $0 的操作
在{}中，$1 $2要用，才可以分割，用空格不行，可以用"\t"
分割符：
读入行分割成$1 $2，默认是空格，不管几个空格都压缩成一个，-F设置分隔符
域：
行的所有字段$0为所有域
记录：
文件的每一行称为记录，可以把多选，一行中的一部分作为记录，可以利用-v RS=“”来定义记录分隔符

-F 列分隔符

-v 变量赋值，变量可以延伸到下一行
    FS=":" 列分隔符，FS=$PATH，可以引用shell中的变量 field space
        awk -v FS=$S ‘{pirnt $1,$3}‘ /etc/passwd
    OFS=":" 输出时列分隔符
        awk -v OFS=*** ‘{print $1OSF$3}‘ /etc/passwd
    RS="" 输入记录分隔符，指定输入时的换行符 record space
        awk -v RS="" ‘‘
    ORS="" 输出记录分隔符，指定时不用在action中引用有有
        awk -v ORS=""
    自定义变量：
        awk -v var=123
        awk -F： ‘{title="hello"; print $1,title}‘ /etc/passwd

NF 字段数 number field
    awk -F: ‘{print NF}‘ /etc/passwd
    awk -F: ‘{print $NF}‘ /etc/passwd 最后一段
    awk -F: ‘{print $(NF-1)}‘ /etc/passwd 倒数第二段
NR 记录数 number record
    awk -F: ‘{print NR,$1}‘ /etc/passwd 打印第一行的行号
FNR 各文件分别计数，记录号
    awk ‘{print FNR}‘ /etc/fstab /etc/inittab
FILENAME 当前文件名
    awk ‘{print FILENAME}‘ /etc/fstab
ARGC 命令行参数的个数
    awk ‘{print ARGC}‘ /etc/fstab
ARGV 数组，保存的是命令行所给定的各参数
    awk ‘BEGIN {print ARGV[0]}’ /etc/fstab /etc/inittab

-f awkScript

使用扩展正则表达式来定义-F后的分隔符
    df | grep "/dev/sd" | awk -F"[[:space:]]+|%" ‘{print $5}‘ （以多个连续空格或%为分隔符）
    ![](https://s1.51cto.com/images/blog/201904/13/84d9d679c39c027aa452d3a4dea80eb1.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=)
    df | awk -F" +|%" ‘/^\/dev\/sd/{print $1,$5}‘
    ![](https://s1.51cto.com/images/blog/201904/13/fde44b4f735edf5c63a437d4b247b1b9.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=)

printf命令
printf "FORMAT",item1,item2,...
1、必须指定FORMAT
2、不会自动换行，需要显示给出换行控制符，\n1
3、FORMAT中需要分别为后面每个item指定格式符
格式符：与item一一对应
%c：显示字符的ASCII码
%d, %i：显示十进制整数
%e, %E：显示科学计数法数值
%f：%.2f，右对齐%10.2f，右对齐%-10.2f，显示为浮点数
%g, %G：以科学计数法或浮点形式显示数值
%s：显示字符串
%u：无符号整数
%%：显示%自身
修饰符
#[.#] 第一个数字控制显示的宽度；第二个#表示小数点后精度，%3.1f

  • 左对齐（默认右对齐） %-15s
  • 显示数值的正负符号 %+d
    echo "100.123" | awk ‘{printf "The is a %d"kk,$0}‘
    awk的操作符
    算术操作符：x+y x%y +x -x
    字符串操作符：没有符号的操作符，字符串连接
    赋值操作符：= += -= *= /= %= ^= ++ --
    比较操作符：==, !=, >, >=, <, <=
    模式匹配符：~ !~
    awk -F: ‘$3 ~ /107/{print $1}‘ /etc/passwd 匹配第3列中等于107的行的用户名

    df | awk ‘$0 ~ "^/dev/sd" {print $0}‘ 打印匹配df命令以^/dev/sd开头的行

    逻辑操作符：与&&，或||，非!
    awk -F: ‘$3>=0 && $3<=1000 {print $1}‘ /etc/passwd

    awk -F: ‘$3==0 || $3>=1000 {print $1}‘ /etc/passwd

    awk -F: ‘!($3==0) {print $1}‘ /etc/passwd

    条件表达式（三目表达式）
    selector?if-true-expression:if-false-expression
    awk -F: ‘{$3>=1000?usertype="Common User":usertype=" SysUser";printf "%15s:%-s\n",$1,usertype}‘ /etc/passwd

    PATTERN:根据pattern条件，过滤匹配的行，再做处理
    (1)如果未指定：空模式，匹配每一行
    (2) /regular expression/：仅处理能够模式匹配到的行，需要用/ /括起来
    awk ‘/^UUID/{print $1}‘ /etc/fstab
    awk ‘!/^UUID/{print $1}‘ /etc/fstab
    (3) relational expression: 关系表达式，结果为“真”才会被处理
    只要是awk -F： ‘""{print $1,$3}‘ /etc/passwd中{print $1,$3}前""是空就是，只要有内容都是真
    字符串不空为真，数值不为0为真
    真：结果为非0值，非空字符串
    假：结果为空字符串或0值
    (4) line ranges：行范围
    startline,endline：/pat1/,/pat2/ 不支持直接给出数字格式
    awk -F: ‘/^root\>/,/^nobody\>/{print $1}‘ /etc/passwd
    awk -F: ‘(NR>=10&&NR<=20){print NR,$1}‘ /etc/passwd
    seq 10 | awk ‘NR>2;NR<=5‘
    打印全部行，且3 4 5 打印两遍
    (5) BEGIN/END模式
    BEGIN{}：仅在开始处理文件中的文本之前执行一次
    END{}：仅在文本处理完成之后执行一次 
    seq 10 | awk ‘i=0‘ 这个awk是默认省略了{print $0}
seq 10 | awk ‘i=!i‘ 1、对空i取反为非空，打印 2、对非空i取反，不打印，这样循环，打印奇数行
seq 10 | awk ‘!(i=!i)‘

    常用的action分类
    ?(1) Expressions：算术，比较表达式等
    ?(2) Control statements：if, while等
    ?(3) Compound statements：组合语句
    ?(4) input statements
    ?(5) output statements：print等

    { statements;… } 组合语句
    ?if(condition) {statements;…}
    ?if(condition) {statements;…} else {statements;…}
    ?while(conditon) {statments;…}
    ?do {statements;…} while(condition)
    ?for(expr1;expr2;expr3) {statements;…}
    ?break
    ?continue
    ?delete array[index]
    ?delete array
    ?exit

    if-else语句
    awk -F: ‘{if($3>=1000)print $1,$3}‘ /etc/passwd
    awk -F: ‘{if($3>=1000) {printf "Common user: %s\n",$1} else {printf "root or Sysuser: %s\n",$1}}‘ /etc/passwd
    df -h|awk -F% ‘/^\/dev/{print $1}‘|awk ‘$NF>=80{print $1,$5}‘

    while语句
    awk ‘/^[[:space:]]linux16/{i=1;while(i<=NF){print $i,length($i); i++}}‘ /etc/grub2.cfg
    awk ‘/^[[:space:]]    linux16/{i=1;while(i<=NF) {if(length($i)>=10) {print $i,length($i)}; i++}}‘ /etc/grub2.cfg

    do-while语句
    awk ‘BEGIN{ total=0;i=0;do{ total+=i;i++;}while(i<=100);print total}‘

    for循环语句
    语法：for(expr1;expr2;expr3) {statement;…}
    awk ‘/^[[:space:]]*linux16/{for(i=1;i<=NF;i++) {print $i,length($i)}}‘ /etc/grub2.cfg

    switch语句
    语法：switch(expression) {case VALUE1 or /REGEXP/: statement1; case VALUE2 or /REGEXP2/: statement2; ...; default: statementn}
    break和continue
    awk ‘BEGIN{sum=0;for(i=1;i<=100;i++){if(i%2==0)continue;sum+=i}print sum}‘
    awk ‘BEGIN{sum=0;for(i=1;i<=100;i++){if(i==66)break;sum+=i}print sum}‘

    awk ‘!line[$0]++‘ fl.txt 忽略重复行，第一次f1.txt的第一行为line["123"]为空，line["123"]++=line["123"]=1
    awk ‘!line[$0]++{pirint $0 line[$0]}‘ f1.txt 查看
    awk ‘{!line[$0]++; pirint $0 line[$0]}‘ f1.txt

    awk数组
    关联数组：array[index-expression]
    index-expression
    (1)、可使用任意字符串，字符串要使用双引号括起来
    (2)、如果某数组元素事先不存在，在引用时，awk会自动创建此元素，并将某值初始化为"空串"
    (3)、若要判断数组中是否存在某元素，要使用"index in array"，格式进行遍历
    若要遍历数组中的每个元素，可使用for循环
    for(var in array) {for-body}
    注意：var会遍历array的每个索引
    awk‘BEGIN{weekdays["mon"]="Monday";weekdays["tue"]="Tuesday"; for(i in weekdays) {print weekdays[i]}}‘
    netstat -tan | awk ‘/^tcp/{state[$NF]++}END{for(i in state) { print i,state[i]}}‘
    awk ‘{ip[$1]++}END{for(i in ip) {print i,ip[i]}}‘ /var/log/httpd/access_log

    利用函数求男女的平均数
name score gender
a    100   m
b    99    f
c    80    f
awk ‘NR!=1{sum[$3]+=$2;num[$3]++}END{for(i in sum)print i,num[i];or(i in sum)print i,num[i];}‘

    函数
    rand()：返回0和1之间的一个随机数
    srand()有种子才能造成随机数
    awk ‘BEGIN{srand();print rand()}‘
    awk ‘BEGIN{srand();print int(rand()*100)}‘
    字符串处理：
    length([s])：返回指定字符串的长度
    sub(r,s,[t])：对t字符串搜索r表示模式匹配的内容，并将第一个匹配内容替换为s
    echo "2008:08:08 08:08:08" | awk ‘sub(/:/,"-",$1)‘
    gsub(r,s,[t])：对t字符串进行搜索r表示的模式匹配的内容，并全部替换为s所表示的内容
    split(s,array,[r])：以r为分隔符，切割字符串s，并将切割后的结果保存至array所表示的数组中，第一个索引值为1,第二个索引值为2,…
    array[1]切割的第一列，array[2]切割后...
    ss -tn | awk ‘/^ESTAB{split($NF,ip,":");count[ip[1]]++};END{for(i in count)print i,count[i]}‘
    自定义函数
    格式：
    function name ( parameter, parameter, ... ) {
    statements
    return expression
    }
    ?示例：
    cat fun.awk
    function max(x,y) {
    x>y?var=x:var=y
    return var
    }
    BEGIN{a=3;b=2;print max(a,b)}
    awk -f fun.awk
    调用shell中的命令
    awk ‘BEGIN{system("hostname")}‘
    awk ‘BEGIN{score=100;system("echo your score is " score)}‘

原文地址：https://blog.51cto.com/14233913/2378157

时间： 2024-10-18 13:53:16

awk从入门至放弃的相关文章

文本处理三剑客之awk——从入门到放弃

awk是文本处理三剑客之首,功能及其强大且支持正则表达式(包括基础正则和拓展正则). awk支持(三剑客都支持)以文件作为操作对象,以及从标准输出里面接受内容. [[email protected] ~]# head /etc/passwd | awk -F ":" '{print $1}'rootbindaemonadmlpsyncshutdownhaltmailoperator [[email protected] ~]# head /etc/passwd > test[[e

从入门到放弃，.net构建博客系统（二）：依赖注入

文章目录:<从入门到放弃,.net构建博客系统> 从入门到放弃,.net构建博客系统(一):系统构建 从入门到放弃,.net构建博客系统(二):依赖注入 上一篇中有讲到项目启动时会进行ioc的依赖注入,但具体是怎么注入的呢?我们先一步步往下走 一.注册autofac配置 首先bootstraper会进行初始化,接着将当前mvc控制器工厂改为AutofacControllerFactory. 1 public class AutofacConfig 2 { 3 /// <summary&g

《Java从入门到放弃》文章目录

转眼半个月过去了,不知不觉也写了10篇博客,突然发现所有的目录都没有纯列表的展示,所以特意写一个目录篇,来记录该系列下所有的文章. 当然,因为现在还没有写完,所以先按时间顺序排列,等相关内容都写完后,再按学习顺序来整理. <Java从入门到放弃>入门篇:XMLHttpRequest的基本用法 <Java从入门到放弃>入门篇:Struts2的基本访问方 <Java从入门到放弃>入门篇:Struts2的基本访问方式(二) <Java从入门到放弃>入门篇:Stru

iOS 即时通讯，从入门到 “放弃”？

原文链接:http://www.jianshu.com/p/2dbb360886a8 本文会用实例的方式,将 iOS 各种 IM 的方案都简单的实现一遍.并且提供一些选型.实现细节以及优化的建议. —— 由宇朋Look分享 前言 本文会用实例的方式,将iOS各种IM的方案都简单的实现一遍.并且提供一些选型.实现细节以及优化的建议. 注:文中的所有的代码示例,在github中都有demo:iOS即时通讯,从入门到“放弃”?(demo)可以打开项目先预览效果,对照着进行阅读. 言归正传,首先我们来总

NDK开发 从入门到放弃(七：Android Studio 2.2 CMAKE 高效NDK开发)

前言 之前,每次需要边写C++代码的时候,我的内心都是拒绝的. 1. 它没有代码提示!!!这意味着我们必须自己手动敲出所有的代码,对于一个新手来说,要一个字母都不错且大小写也要正确,甚至要记得住所有的jni函数等,真是太折磨人了-平时写java代码的时候都是写几个字母会出来一大堆提示然后选择的,这样还有一个好处就是很多时候我们不知道有那些函数,但是我们可以通过obj.,然后就可以看到它有哪些方法函数了. 2. 很多地方会显示为红色,就像是错误提示的那种,当然,如果没错的话还是能编译运行的,但是如

CYQ.Data 从入门到放弃ORM系列：开篇：自动化框架编程思维

前言: 随着CYQ.Data 开始回归免费使用之后,发现用户的情绪越来越激动,为了保持这持续的激动性,让我有了开源的念头. 同时,由于框架经过这5-6年来的不断演进,以前发的早期教程已经太落后了,包括使用方式,及相关介绍,都容易引人误解. 为此,我打算重新写个系列来介绍最新的版本,让大伙从传统的ORM编程过渡到自动化框架型思维编程(自已造的词). 于是:这个新系列的名称就叫:CYQ.Data 从入门到放弃ORM系列 什么是:CYQ.Data 1:它是一个ORM框架. 2:它是一个数据层组件. 3

shell从入门到放弃 第二步 ++

此文承接 shell从入门到放弃 第一步 由此,继续从小白到放弃的第二部分@[email protected] 一.shell的运算符 Shell支持很多运算符,包括:Shell算数运算符.关系运算符.布尔运算符.字符串运算符等 算术运算    算术运算符:        +,-        *, /        %:取余        **:次方            算术运算格式:        (1) let  VAR=算术表达式         (2) VAR=$[算术表达式]  

Python的函数式编程，从入门到?放弃?

转:http://python.jobbole.com/84927/ 很早以前就听说过了函数式编程,印象中是一种很晦涩难懂的编程模式,但却一直没有去进行了解. 恰好这周组内的周会轮到我主持,一时也没想到要分享什么.灵光一闪,就选定函数式编程这个主题吧,反正组里的同事都没有学过,只需要讲解入门方面的知识就好,也正好可以借这个机会逼迫自己去学习下这种新的编程方式. 经过初步了解,发现支持函数式编程的语言挺多的,除了像Lisp.Scheme.Haskell.Erlang这样专用的函数式编程语言,我们常

[补档][从入门到放弃]——网络流 学习索引

前篇 由于某篇博文已经长到我自己看不下去的地步,又不忍心删,所以就有了这篇索引,方便自己找,也方便来访的客人看嘛(真的会有人来看吗啊喂) 最长的博文 2017-7-29 大佬讲课笔记 网络流--从入门到放弃 没错,就是它= = 各种题解的索引 搭配飞行员 士兵占领 王者之剑 happiness 切糕 餐巾 血帆海盗