linux文本处理三剑客之awk

CSDN 2024-08-01 12:37:05 阅读 69

Awk

一、简介

诞生于 20 世纪 70 年代末期,名字取自3个发明者姓的首字母。

它是专门为文本处理设计的编程语言,也是行处理软件,通常用于扫描、过滤、统计汇总工作,数据可以来自标准输入也可以是管道或文件。

使用起来非常简单:和 sed 命令类似,awk 命令也是逐行扫描文件,寻找含有目标文本的行,如果匹配成功,则会在该行上执行用户想要的操作。

二、基本格式

2.1 格式简介

命令由 2 部分组成,分别为匹配规则和执行命令,如下所示:

<code>awk 选项 '匹配规则{执行命令}' 文件名

awk:固定字符

选项:可省略

含义
-F fs 指定以 fs 作为输入行的分隔符,awk 命令默认分隔符为空格或制表符。
-f file 从脚本文件中读取 awk 脚本指令,以取代直接在命令行中输入指令。
-v var=val 在执行处理过程之前,设置一个变量 var,并给其设备初始值为 val。

'':整个脚本命令是用单引号''括起。

匹配规则:和 sed 的 address 部分作用相同,用来指定脚本命令可以作用到的具体行,可以用字符串或正则指定。

执行命令:对具体行执行的命令(大部分是print),需要用大括号{}括起来,

文件名:需要被操作的文件

注意:如果没有指定执行命令,则默认会把匹配的行输出;如果不指定匹配规则,则默认匹配文本中所有的行。

2.2 例1

[root@localhost ~]# awk '/^$/ {print "Blank line"}' test.txt

在此命令中:

1)/^$/ 是一个正则表达式,功能是匹配文本中的空白行。

2)执行命令使用的是 print,它的作用就是将指定的文本进行输出。

3)因此,整个命令的功能是,如果 test.txt 有 N 个空白行,那么执行此命令会输出 N 个 Blank line。

三、主要特性:数据字段变量

3.1 简介

awk 的优点之一就是它会自动给一行中的每个数据元素分配一个变量,所以sed命令常用于一整行的处理,而awk倾向于将一行看成多个字段处理(如报表某些场景比较好用) awk通过字段分隔符(默认的字段分隔符是任意的空白字符,如空格或制表符)把每行分为多个数据字段

默认情况下,awk 会将如下变量分配给它在文本行中发现的数据字段:

$0 代表整个文本行;

$n 代表文本行中的第 n 个数据字段。

3.2 例2

例子中,awk 程序读取文本文件,只显示第 1 个数据字段的值:

[root@localhost ~]# cat data2.txt

One line of test text.

Two lines of test text.

Three lines of test text.

[root@localhost ~]# awk '{print $1}' data2.txt

One

Two

Three

该程序用 $1 字段变量来表示“仅显示每行文本的第 1 个数据字段”。当然,如果你要读取采用了其他字段分隔符的文件,可以用 -F 选项手动指定。

四、其它特性

4.1 特性二:多个命令

和linux命令一样,awk 允许将多条命令组合成一个正常的程序。在命令之间放个分号即可。

例:

[root@localhost ~]# echo "My name is Rich" | awk '{$4="Christine"; print $0}' code>

My name is Christine

第一条命令给 $4 赋值。第二条命令打印整个数据字段。

可以看到,awk 程序在输出中已经将原文本中的第四个数据字段替换成了新值。

4.2 特性三:可以执行文件

awk其实是一门脚本语言,像其他语言一样,我们可以写在文件里再执行它,这可以让我们做一些复杂操作。

[root@localhost ~]# cat awk.sh

{print $1 "'s home directory is " $6}

[root@localhost ~]# awk -F: -f awk.sh /etc/passwd

yikezhuo's home directory is /home/yikezhuo

sorenzzhu's home directory is /home/sorenzzhu

svenli's home directory is /home/svenli

arnicedeng's home directory is /home/arnicedeng ...

awk.sh 脚本文件会使用 print 命令打印 /etc/passwd 文件的主目录数据字段(字段变量 $6),以及 userid 数据字段(字段变量 $1)。



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。