《SED 单行脚本快速参考》的 perl 实现

fcvba

《SED 单行脚本快速参考》的 perl 实现

需要处理文本时，通常我会使用sed或者awk，但我从来没有掌握它们，每次用时都得临时去查怎么使用。最近又碰到一个问题，想把一个html里面所有的css及javascript链接取出来，用sed或awk折腾了半天没有整出来，最后终于放弃了。我决定转向perl，perl是门非常强大的通用语言，但它最初诞生是用于文本处理，因此它处理文本的能力非常强大，并且于它一系列古怪的缩写，使得写命令非常简洁，非常适合一次性的文本处理。perl的与正则表达式的是我非常熟悉，几乎所有的现代编程语言都使用的是perl的正则表达式语法，不像vim,sed,grep等的正则表达式需要那么多转义，十分古怪。至于学习成本，我觉得perl更容易学，通用编程语言大都十分相似，如果有多虑其它语言的编程经历，再学习另外一门编程语言非常容易，perl也不例外，在我开始写这篇文章时，其实只看perl的基本语法，花了大概2个小时，当然写的时间要长得多。相反对于sed，awk仅仅用于面向行的流处理工具，其语法跟通用编程语言有很大差别，理解它的处理模型，并记住它的特殊语法要困难得多。学习perl另外一个好处就是可以看懂别人写的perl代码，有很多优秀的perl源代码。以下基于“《SED 单行脚本快速参考》的 awk 实现”，原文内容保留，以便对比。

文本间隔：
# 在每一行后面增加一空行
# 将原来的所有空行删除并在每一行后面增加一空行。
# 这样在输出的文本中每一行后面将有且只有一空行。
# 在每一行后面增加两行空行


# 将第一个脚本所产生的所有空行删除（即删除所有偶数行）

• sed 'n;d'  
  
• awk '{f=!f;if(f)print $0}'  
  
• perl -ne 'print if $.%2'  
  
• perl -pe '$_="" if $.%2'  
  

# 在匹配式样“regex”的行之前插入一空行


# 在匹配式样“regex”的行之后插入一空行

• sed '/regex/G'  
  
• awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'  
  
• perl -ne 'print; print "\n" if /regex/'  
  
• perl -pe '$_ .= "\n" if /regex/'  
  

# 在匹配式样“regex”的行之前和之后各插入一空行

• sed '/regex/{x;p;x;G;}'  
  
• awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'  
  
• perl -pe 's/.*regex.*/\n$_/'  
  
• perl -pe '$_ = "\n$_\n" if /regex/'  
  

编号：

# 为文件中的每一行进行编号（简单的左对齐方式）。这里使用了“制表符”
# （tab，见本文末尾关于’\t’的用法的描述）而不是空格来对齐边缘。
# 对文件中的所有行编号（行号在左，文字右端对齐）。


# 对文件中的所有行编号，但只显示非空白行的行号。

• sed '/./=' filename | sed '/./N; s/\n/ /'  
  
• awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'  
  
• perl -pe 'print "$. " unless /^$/'  
  

# 计算行数 （模拟 “wc -l”）


文本转换和替代：

# Unix环境：转换DOS的新行符（CR/LF）为Unix格式。
# Unix环境：转换Unix的新行符（LF）为DOS格式。
# DOS环境：转换Unix新行符（LF）为DOS格式。
DOS环境的略过
# DOS环境：转换DOS新行符（CR/LF）为Unix格式。
# 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的
# sed可以通过其特有的“–text”选项。你可以使用帮助选项（“–help”）看
# 其中有无一个“–text”项以此来判断所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。
DOS环境的略过

# 将每一行前导的“空白字符”（空格，制表符）删除
# 使之左对齐
# 将每一行拖尾的“空白字符”（空格，制表符）删除
# 将每一行中的前导和拖尾的空白字符删除
# 在每一行开头处插入5个空格（使全文向右移动5个字符的位置）
# 以79个字符为宽度，将所有文本右对齐
# 78个字符外加最后的一个空格

# 以79个字符为宽度，使所有文本居中。在方法1中，为了让文本居中每一行的前
# 头和后头都填充了空格。 在方法2中，在居中文本的过程中只在文本的前面填充
# 空格，并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。
# 在每一行中查找字串“foo”，并将找到的“foo”替换为“bar”
# 只在行中出现字串“baz”的情况下将“foo”替换成“bar”
# 将“foo”替换成“bar”，并且只在行中未出现字串“baz”的情况下替换
# 不管是“scarlet”“ruby”还是“puce”，一律换成“red”
# 倒置所有行，第一行成为最后一行，依次类推（模拟“tac”）。
# 由于某些原因，使用下面命令时HHsed v1.5会将文件中的空行删除
# 将行中的字符逆序排列，第一个字成为最后一字，……（模拟“rev”）
# 将每两行连接成一行（类似“paste”）
# 如果当前行以反斜杠“\”结束，则将下一行并到当前行末尾
# 并去掉原来行尾的反斜杠
# 如果当前行以等号开头，将当前行并到上一行末尾
# 并以单个空格代替原来行头的“=”
# 为数字字串增加逗号分隔符号，将“1234567”改为“1,234,567”
# 为带有小数点和负号的数值增加逗号分隔符（GNU sed）
# 在每5行后增加一空白行 （在第5，10，15，20，等行后增加一空白行
选择性地显示特定行：

# 显示文件中的前10行 （模拟“head”的行为）
# 显示文件中的第一行 （模拟“head -1”命令）
# 显示文件中的最后10行 （模拟“tail”）
# 显示文件中的最后2行（模拟“tail -2”命令）
# 显示文件中的最后一行（模拟“tail -1”）
# 显示文件中的倒数第二行
# 只显示匹配正则表达式的行（模拟“grep”）
# 只显示“不”匹配正则表达式的行（模拟“grep -v”）
# 查找“regexp”并将匹配行的上一行显示出来，但并不显示匹配行
# 查找“regexp”并将匹配行的下一行显示出来，但并不显示匹配行
# 显示包含“regexp”的行及其前后行，并在第一行之前加上“regexp”所在行的行号 （类似“grep -A1 -B1”）
# 显示包含“AAA”、“BBB”和“CCC”的行（任意次序）
# 显示包含“AAA”、“BBB”和“CCC”的行（固定次序）
# 显示包含“AAA”“BBB”或“CCC”的行 （模拟“egrep”）
# 显示包含“AAA”的段落 （段落间以空行分隔）
# HHsed v1.5 必须在“x;”后加入“G;”，接下来的3个脚本都是这样
# 显示包含“AAA”“BBB”和“CCC”三个字串的段落 （任意次序）
# 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 （任意次序）
# 显示包含65个或以上字符的行
# 显示包含65个以下字符的行
# 显示部分文本——从包含正则表达式的行开始到最后一行结束
# 显示部分文本——指定行号范围（从第8至第12行，含8和12行）
# 显示第52行
# 从第3行开始，每7行显示一次
# 显示两个正则表达式之间的文本（包含）
选择性地删除特定行：

# 显示通篇文档，除了两个正则表达式之间的内容
sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'
perl -ne 'print unless /Iowa/../Montana/'

# 删除文件中相邻的重复行（模拟“uniq”）
# 只保留重复行中的第一行，其他行删除
# 删除文件中的重复行，不管有无相邻。注意hold space所能支持的缓存大小，或者使用GNU sed。
# 删除除重复行外的所有行（模拟“uniq -d”）
# 删除文件中开头的10行
# 删除文件中的最后一行
# 删除文件中的最后两行
# 删除文件中的最后10行
# 删除8的倍数行
# 删除匹配式样的行
# 删除文件中的所有空行（与“grep ‘.’ ”效果相同）
# 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。
# （模拟“cat -s”）
# 只保留多个相邻空行的前两行。
# 删除文件顶部的所有空行
# 删除文件尾部的所有空行
# 删除每个段落的最后一行

特殊应用：
# 移除手册页（man page）中的nroff标记。在Unix System V或bash shell下使
# 用’echo’命令时可能需要加上 -e 选项。
# 提取新闻组或 e-mail 的邮件头
# 提取新闻组或 e-mail 的正文部分
# 从邮件头提取“Subject”（标题栏字段），并移除开头的“Subject:”字样
# 从邮件头获得回复地址
# 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮地址的部分剃除。（见上一脚本）
# 在每一行开头加上一个尖括号和空格（引用信息）
# 将每一行开头处的尖括号和空格删除（解除引用）
# 移除大部分的HTML标签（包括跨行标签）
# 将分成多卷的uuencode文件解码。移除文件头信息，只保留uuencode编码部分。
# 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入；
# 第二种版本则可以放入一个带执行权限的shell脚本中。（由Rahul Dhesi的一
# 个脚本修改而来。）
# 将文件中的段落以字母顺序排序。段落间以（一行或多行）空行分隔。GNU sed使用
# 字元“\v”来表示垂直制表符，这里用它来作为换行符的占位符——当然你也可以
# 用其他未在文件中使用的字符来代替它。
     总的来说，大部分命令perl比awk还要短，再加上我在文章开头说的那些优势，我认为perl可以完全替换awk。sed很短，这是因为它的命令都只由单个字符所组成，所以别看它看很短，实际上可能是好多条命令的组合，写sed命令其实很复杂，很多时候还需要一些奇技淫巧。更不必说上面的对比对awk和perl并不公平，因为它充分地利用了sed的特性，相反更多awk和perl的特性都没有用到，一条很简单的awk命令, awk '{ print $7 }'在sed中就非常复杂。sed和awk的优势是它在unix平台上随处可得，而perl就相对少一些，但是很多机器默认都带了perl，对于个人使用，这这种优势微不足道。

ps. 我在此这篇文章时用到文本处理需要，要将所有代码包含在"[ code]...[ /code]"中，所有code可以认为以sed或者gsed开头，可以用下面的perl代码来完成：

• perl -00nle 'if (/^g?sed/) { print "[ code]\n${_}\n[ /code]"}else{print}'