`
isiqi
  • 浏览: 16029674 次
  • 性别: Icon_minigender_1
  • 来自: 济南
社区版块
存档分类
最新评论

文本工具箱——“sed”篇

阅读更多

文本工具箱——“sed”篇

原文:http://blah.blogsome.com/2006/03/28/texttools_sed/

文本工具箱——“sed”篇

鉴于旧Blog已经删了,新Blog上的前几篇将是旧Blog上帖过的文章。首先是:文本工具箱——“sed”篇(原名:我喜爱的工具——编辑器篇:sed)。与原来的相比会做一些更动

hq00e

什么是SED?简单来说,SED是个编辑器。就像Windows下的记事本一样是用来编辑文本的,但是从操作方式来看它是个很特殊的编辑器!sed(Stream EDitor)是“流编辑器”的意思。最早是Unix平台的工具,但已经被移植到各个平台上了。它有两个主要的属性:
一它是个编辑器; 二它这个编辑器是面向“流”的。

名称:SED (Stream EDitor)
描述:命令行下运行的流编辑器
平台:Unix,Linux,MacOS,Windows,DOS,……
大小:根据平台和版本的不同从13KB-200KB不等(超过100K的一般都是加了多语言支持的)
PS:sed的版本有很多样,推荐使用GNU<!-- /@w -->sed(gsed)或在gsed基础上修改的支持perl正则表达式的ssed。不同的版本对表达式,及表达式使用的细节上有些不同,如hhsed和csed不严格执行最左侧最大长度匹配原则,Pattern<!-- /@w -->Space和Hold<!-- /@w -->Space的支持的大小也不同,这些细节在使用时要注意。
下载:http://sed.sourceforge.net/#download 在这里可以找到不同版本的SED下载
Unix和Linux一般已带有sed,鉴于Windows平台上编译SED不方便,加上不容易找这里找供一个ssed的下载地址

  • 首先,它是个编辑器,它的用途便是对文本进行编辑。对一些重复性的编辑工作而言sed可以为你节省很多时间。
  • 其次,它是面向流的。它的工作流程为:读入行,处理,移到下一行,读入行,处理,移到下一行……并且这个过程是依你所给的命令(或脚本)自动进行的。在这个编辑过程中文本以行为单位不断的移动(读入)就如同水在流动一般,因而称为流编辑器。不过你也许更喜欢这个解释:它支持管道操作接受前一个命令的输出作为sed的输入并写入至标准输出(通过管道操作,这又可以成为下一个命令的输入),就像是工厂的流水线一样,所以叫它流编辑器。此外,它是据给定的命令或脚本“自动”逐行处理文本的,这意味着它是非交互式的编辑器——在它处理的过程中不须人工干预。

1 与交互式编辑器的不同:

  • 它是非交互式的,所有的操作必须以命令(脚本)的方式给出。交互式编辑器让你可以即时的看到结果并对其修改,现在的交互编辑器通常还有图形介面及菜单工具栏。
  • 它是one pass,sed单向的处理文件流。除非读入多行到Pattern Space或Hold Space中,不然你没办法先处理第6行来修改第2行。
  • 交互式编辑器可用来做一些不确定的和无规律的(但很多看似无规律的东东其实都系有规律的)编辑工作,如找找语病,检查文本——在开始之前并不知道那些地方要修改。但是如果你事先已经知道哪些地方要修改了,那也许可以考虑用sed。

2 它能做得到的交互式编辑器能做得到吗?

一部分可以。交互式用的是人工——双手万能!但很累而且没效率。而且当要处理的文件数量或文件大小超过了一定的范围后,要使用交互式编辑器来做编辑修改的工作就不大现实了。此外sed可以结合Unix下面的Shell编程或Win平台下的批处理与脚本编程中使用(主要是因为sed对管道操作的支持)从而将它的应用扩展到文本编辑以外的领域。

3 它的主要用途?它与ed、AWK或Perl的关系?

sed能做多种不同的编辑工作(还能用来玩游戏),但最经常的用途是用做“批量查找替换”的工具。

既然你读了这篇文章那也许你没听过ed、AWK,但是如果你想了解SED的话ED和AWK也应该了解一下。
ed是Linux下的行编辑器。它与sed很相似:它是命令行工具、支持正则表达式、与SED相似的命令、支持脚本。不同的是ed是交互式编辑器同时它缺少作为一种编程语言所需的控制结构。而且对于同样的任务而sed通常要比ed快。
Perl是一种通用语言。你几乎可以用Perl来做任何事,因为Perl的一些特性使得它同样适合作命令行的文本编辑器。
AWK相较sed而言是一种更完整的编程语言。含有更多编程特性如变量、数组、函数等。它与SED的命令结构相似。
很多人认为AWK可以完成SED可以完成的所有任务所以不需要SED。但是正如我们不会因为Perl而不使用AWK或者因为SED而不用Head,Cut,Paste……等其他Unix文本工具一样,我们应该只用最适合的工具!话说回来AWK与SED还是很不一样的,在它们有不同的适用场合——不过这里不会有深度剖析。

4 为什么喜欢它?

效率: sed能将用户从重复的编辑中工作解放出来。如批量替换网页中的特定链接;整理出日志中来自特定IP段的访问记录;删除特定行等,用SED都可以轻易地完成。SED能读入脚本文件意味着一个脚本可以被重复用或者经过少量修改后就可以再次使用。SED的效率还来源于它支持管道操作(*这点非常重要*)能以上一个命令的输出作为输入,并将结果写回“标准输出”(通常是电脑屏幕),这表示SED可以方便地将处理完的结果传到下一个工具中。SED当然不是万能的,使用管道操作SED只要完成自己的那一部份工作然后传给下一个工具。最后,如果要从一个“大”文件中“抽取”一部份(符合式样的)文本的话,交互式编辑器光在打开文件时就要占用相当多的时间和磁盘空间了……
PS:就算是简单的替换而言,sed也能省下一些时间。比如要将“abc.txt”中的所有“hqooe”改为“hq00e”(中间是数字0不是字母o)。我只要在命令行下输入:sed<!-- /@w -->"s/hqooe/hq00e/g"<!-- /@w -->abc.txt<!-- /@w -->><!-- /@w -->abc2.txt。而在交互式的编辑器中我需要先打开文件,运行“替换”,输入hqooe和hq00e,按“确定”,另存为abc2.txt,关闭编辑器。当然我不坚持这种情况下一定要用SED: )

乐趣:使用sed本身就是一种乐趣:你要事先想好要进行的操作并用脚本的形式写出来,试运行,修改,再运行……搞定。对一些编辑任务而言要使用非交互的方式来完成是有一定难度的如果此时还能写出一个可行的SED脚本(AWK也一样)的话会——非常有成就感!此时完成任务成了一种享受。而使用交互式工具的话,意味着你舍弃了用一种更优雅的方式完成任务的可能性,完成任务只是一种体力活(如果文件够大的话)。
PS:Greg Ubben用sed写了一个计算器;还有很多人写了SED的游戏——请注意SED只是一个流编辑器。想知道他们是怎么做的吗?看下这个网址:http://sed.sourceforge.net/grabbag/

成本:sed是开源的,自由的。简单说就是SED是免费的。
空间成本:不同版本的sed大小不尽相同但大一点的也就180K左右基本不占磁盘空间。没有图形介面以省下了不少屏幕空间和内存:-)
学习成本:sed的学习成本几乎都在“正则表达式”上,但学了正则表达式后你可以在支持“正则表达式”的其他的编辑器上(如Vim、UltraEdit32、EmEditor等——不过他们支持的正则表达式有些细微的差别),Perl,.NET编程和一大堆的GNU工具中使用。这样平摊下来学习成本也很低的。而且SED是跨平台的你现在学的无论你将来用的是Solaris、Linux、MacOS还是Win都能派上用场。

5 它的缺点?

SED的优点很明显缺点也是。最主要的缺点就是大部分人不用命令行来编辑文本。其次是很少人愿意花时间去学正则表达式。不过,好消息是SED相对AWK或C语言要容易得多。

6 sed的基本用法和一些使用的例子

sed可在命令行下直接输入使用SED命令,或将SED命令写成SED脚本在运行SED时读取脚本。
sed -e "命令" abc.txt
–>第一种:直接在SED后使用SED命令,在Unix平台下使用单引号而不是双引号。很多的sed版本允许省略前面的“-e”选项(开关)。
sed -f script.txt abc.txt
–>第二种:从脚本script.txt中读取SED命令,脚本文件其实也是文本文件,但它的扩展名是什么并不重要。使用脚本文件通常因为命令是比较复杂写在脚本中方便写也方便调试或者是命令经常要用到通过脚本可以方便的再次调用。
注意:sed<!-- /@w -->并不会对输入文件做任何的改动,在上面的例子中它只是读入abc.txt的内容处理然后输出到屏幕上,并不会改变abc.txt的内容。如果要保存修改的结果可以使用重定向操作符“>”。如“sed<!-- /@w -->"命令"<!-- /@w -->abc.txt<!-- /@w -->><!-- /@w -->新abc.txt”将修改的结果保存到“新abc.txt”中。

第一种用法的例子:

     #删除文件中的所有空行
     sed "/^$/d"
     #abc.txt中所有的hqooe都替换成hq00e
     sed "s/hqooe/hq00e/g"
     #所有行缩进两格
     sed "s/^/  /"
     #显示包含“姚明”这个词的行
     sed -n "/姚明/p"
     #移除大多数的html标签
     sed ":a;s/<[^>]*>//g;/</N;//ba"

第二种用法——脚本。脚本的例子较长,附录中的“sed百宝箱”中提供了许多经典的脚本。

7 如何学sed:

  1. 首先是参考资料。GNU SED的文档加上sed自带的帮助就差不多了。
  2. 学些简单的正则表达式和正则表达式中的一些常用字元(^$[]{}().*?\1)
  3. 再学几个常用命令 s、i、d、p 等
  4. 练习。在实践中练习。
  5. 遇到简单命令不能应付的任务,学更多命令。
  6. 不懂的话找人问问看。建议订阅sed的邮件列表。
              订阅方式,发送空白邮件至 sed-users-subscribe@yahoogroups.com
              退订邮件列表,发送空白邮件至 sed-users-unsubscribe@yahoogroups.com
              这个邮件列表里有一群热心的sed用户会为你提供帮助。
              当然如果能帮得上忙的话,我也很乐意帮忙的。
         

附录: 一些sed资源

附:

-------------------------------------------------------------------------
SED单行脚本快速参考(Unix 流编辑器) 2005年12月29日

英文标题:USEFUL ONE-LINE SCRIPTS FOR SED (Unix stream editor)
原标题:HANDY ONE-LINERS FOR SED (Unix stream editor)

整理:Eric Pement - 电邮:pemente[at]northpark[dot]edu 版本5.5
译者:Joe Hong - 电邮:hq00e[at]126[dot]com

下载地址:http://gnuwin32.sourceforge.net/packages.html


在以下地址可找到本文档的最新(英文)版本:
http://sed.sourceforge.net/sed1line.txt
http://www.pement.org/sed/sed1line.txt

其他语言版本:
中文 - http://sed.sourceforge.net/sed1line_zh-CN.html
捷克语 - http://sed.sourceforge.net/sed1line_cz.html
荷语 - http://sed.sourceforge.net/sed1line_nl.html
法语 - http://sed.sourceforge.net/sed1line_fr.html
德语 - http://sed.sourceforge.net/sed1line_de.html
<!-- 意大利语 - <a href="http://sed.sourceforge.net/sed1line_it.html">http://sed.sourceforge.net/sed1line_it.html</a> -->
葡语 - http://sed.sourceforge.net/sed1line_pt-BR.html
<!-- 西班牙语 - <a href="http://sed.sourceforge.net/sed1line_es.html">http://sed.sourceforge.net/sed1line_es.html</a> -->

文本间隔:
--------

# 在每一行后面增加一空行
sed G

# 将原来的所有空行删除并在每一行后面增加一空行。
# 这样在输出的文本中每一行后面将有且只有一空行。
sed '/^$/d;G'

# 在每一行后面增加两行空行
sed 'G;G'

# 将第一个脚本所产生的所有空行删除(即删除所有偶数行)
sed 'n;d'

# 在匹配式样“regex”的行之前插入一空行
sed '/regex/{x;p;x;}'

# 在匹配式样“regex”的行之后插入一空行
sed '/regex/G'

# 在匹配式样“regex”的行之前和之后各插入一空行
sed '/regex/{x;p;x;G;}'

编号:
--------

# 为文件中的每一行进行编号(简单的左对齐方式)。这里使用了“制表符”
# (tab,见本文末尾关于'\t'的用法的描述)而不是空格来对齐边缘。
sed = filename | sed 'N;s/\n/\t/'

# 对文件中的所有行编号(行号在左,文字右端对齐)。
sed = filename | sed 'N; s/^/ /; s/ *\(.\{6,\}\)\n/\1 /'

# 对文件中的所有行编号,但只显示非空白行的行号。
sed '/./=' filename | sed '/./N; s/\n/ /'

# 计算行数 (模拟 "wc -l")
sed -n '$='

文本转换和替代:
--------

# Unix环境:转换DOS的新行符(CR/LF)为Unix格式。
sed 's/.$//' # 假设所有行以CR/LF结束
sed 's/^M$//' # 在bash/tcsh中,将按Ctrl-M改为按Ctrl-V
sed 's/\x0D$//' # ssed、gsed 3.02.80,及更高版本

# Unix环境:转换Unix的新行符(LF)为DOS格式。
sed "s/$/`echo -e \\\r`/" # 在ksh下所使用的命令
sed 's/$'"/`echo \\\r`/" # 在bash下所使用的命令
sed "s/$/`echo \\\r`/" # 在zsh下所使用的命令
sed 's/$/\r/' # gsed 3.02.80 及更高版本

# DOS环境:转换Unix新行符(LF)为DOS格式。
sed "s/$//" # 方法 1
sed -n p # 方法 2

# DOS环境:转换DOS新行符(CR/LF)为Unix格式。
# 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的
# sed可以通过其特有的“--text”选项。你可以使用帮助选项(“--help”)看
# 其中有无一个“--text”项以此来判断所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。
sed "s/\r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本
tr -d \r <infile >outfile # GNU tr 1.22 或更高版本

# 将每一行前导的“空白字符”(空格,制表符)删除
# 使之左对齐
sed 's/^[ \t]*//' # 见本文末尾关于'\t'用法的描述

# 将每一行拖尾的“空白字符”(空格,制表符)删除
sed 's/[ \t]*$//' # 见本文末尾关于'\t'用法的描述

# 将每一行中的前导和拖尾的空白字符删除
sed 's/^[ \t]*//;s/[ \t]*$//'

# 在每一行开头处插入5个空格(使全文向右移动5个字符的位置)
sed 's/^/ /'

# 以79个字符为宽度,将所有文本右对齐
sed -e :a -e 's/^.\{1,78\}$/ &/;ta' # 78个字符外加最后的一个空格

# 以79个字符为宽度,使所有文本居中。在方法1中,为了让文本居中每一行的前
# 头和后头都填充了空格。 在方法2中,在居中文本的过程中只在文本的前面填充
# 空格,并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。
sed -e :a -e 's/^.\{1,77\}$/ & /;ta' # 方法1
sed -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/' # 方法2

# 在每一行中查找字串“foo”,并将找到的“foo”替换为“bar”
sed 's/foo/bar/' # 只替换每一行中的第一个“foo”字串
sed 's/foo/bar/4' # 只替换每一行中的第四个“foo”字串
sed 's/foo/bar/g' # 将每一行中的所有“foo”都换成“bar”
sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替换倒数第二个“foo”
sed 's/\(.*\)foo/\1bar/' # 替换最后一个“foo”

# 只在行中出现字串“baz”的情况下将“foo”替换成“bar”
sed '/baz/s/foo/bar/g'

# 将“foo”替换成“bar”,并且只在行中未出现字串“baz”的情况下替换
sed '/baz/!s/foo/bar/g'

# 不管是“scarlet”“ruby”还是“puce”,一律换成“red”
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' #对多数的sed都有效
gsed 's/scarlet\|ruby\|puce/red/g' # 只对GNU sed有效

# 倒置所有行,第一行成为最后一行,依次类推(模拟“tac”)。
# 由于某些原因,使用下面命令时HHsed v1.5会将文件中的空行删除
sed '1!G;h;$!d' # 方法1
sed -n '1!G;h;$p' # 方法2

# 将行中的字符逆序排列,第一个字成为最后一字,……(模拟“rev”)
sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'

# 将每两行连接成一行(类似“paste”)
sed '$!N;s/\n/ /'

# 如果当前行以反斜杠“\”结束,则将下一行并到当前行末尾
# 并去掉原来行尾的反斜杠
sed -e :a -e '/\\$/N; s/\\\n//; ta'

# 如果当前行以等号开头,将当前行并到上一行末尾
# 并以单个空格代替原来行头的“=”
sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'

# 为数字字串增加逗号分隔符号,将“1234567”改为“1,234,567”
gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta' # GNU sed
sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta' # 其他sed

# 为带有小数点和负号的数值增加逗号分隔符(GNU sed)
gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'

# 在每5行后增加一空白行 (在第5,10,15,20,等行后增加一空白行)
gsed '0~5G' # 只对GNU sed有效
sed 'n;n;n;n;G;' # 其他sed

选择性地显示特定行:
--------

# 显示文件中的前10行 (模拟“head”的行为)
sed 10q

# 显示文件中的第一行 (模拟“head -1”命令)
sed q

# 显示文件中的最后10行 (模拟“tail”)
sed -e :a -e '$q;N;11,$D;ba'

# 显示文件中的最后2行(模拟“tail -2”命令)
sed '$!N;$!D'

# 显示文件中的最后一行(模拟“tail -1”)
sed '$!d' # 方法1
sed -n '$p' # 方法2

# 显示文件中的倒数第二行
sed -e '$!{h;d;}' -e x # 当文件中只有一行时,输入空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x # 当文件中只有一行时,显示该行
sed -e '1{$d;}' -e '$!{h;d;}' -e x # 当文件中只有一行时,不输出

# 只显示匹配正则表达式的行(模拟“grep”)
sed -n '/regexp/p' # 方法1
sed '/regexp/!d' # 方法2

# 只显示“不”匹配正则表达式的行(模拟“grep -v”)
sed -n '/regexp/!p' # 方法1,与前面的命令相对应
sed '/regexp/d' # 方法2,类似的语法

# 查找“regexp”并将匹配行的上一行显示出来,但并不显示匹配行
sed -n '/regexp/{g;1!p;};h'

# 查找“regexp”并将匹配行的下一行显示出来,但并不显示匹配行
sed -n '/regexp/{n;p;}'

# 显示包含“regexp”的行及其前后行,并在第一行之前加上“regexp”所
# 在行的行号 (类似“grep -A1 -B1”)
sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h

# 显示包含“AAA”、“BBB”或“CCC”的行(任意次序)
sed '/AAA/!d; /BBB/!d; /CCC/!d' # 字串的次序不影响结果

# 显示包含“AAA”、“BBB”和“CCC”的行(固定次序)
sed '/AAA.*BBB.*CCC/!d'

# 显示包含“AAA”“BBB”或“CCC”的行 (模拟“egrep”)
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d # 多数sed
gsed '/AAA\|BBB\|CCC/!d' # 对GNU sed有效

# 显示包含“AAA”的段落 (段落间以空行分隔)
# HHsed v1.5 必须在“x;”后加入“G;”,接下来的3个脚本都是这样
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'

# 显示包含“AAA”“BBB”和“CCC”三个字串的段落 (任意次序)
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'

# 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 (任意次序)
sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d' # 只对GNU sed有效

# 显示包含65个或以上字符的行
sed -n '/^.\{65\}/p'

# 显示包含65个以下字符的行
sed -n '/^.\{65\}/!p' # 方法1,与上面的脚本相对应
sed '/^.\{65\}/d' # 方法2,更简便一点的方法

# 显示部分文本——从包含正则表达式的行开始到最后一行结束
sed -n '/regexp/,$p'

# 显示部分文本——指定行号范围(从第8至第12行,含8和12行)
sed -n '8,12p' # 方法1
sed '8,12!d' # 方法2

# 显示第52行
sed -n '52p' # 方法1
sed '52!d' # 方法2
sed '52q;d' # 方法3, 处理大文件时更有效率

# 从第3行开始,每7行显示一次
gsed -n '3~7p' # 只对GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}' # 其他sed

# 显示两个正则表达式之间的文本(包含)
sed -n '/Iowa/,/Montana/p' # 区分大小写方式

选择性地删除特定行:
--------

# 显示通篇文档,除了两个正则表达式之间的内容
sed '/Iowa/,/Montana/d'

# 删除文件中相邻的重复行(模拟“uniq”)
# 只保留重复行中的第一行,其他行删除
sed '$!N; /^\(.*\)\n\1$/!P; D'

# 删除文件中的重复行,不管有无相邻。注意hold space所能支持的缓存
# 大小,或者使用GNU sed。
sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'

# 删除除重复行外的所有行(模拟“uniq -d”)
sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'

# 删除文件中开头的10行
sed '1,10d'

# 删除文件中的最后一行
sed '$d'

# 删除文件中的最后两行
sed 'N;$!P;$!D;$d'

# 删除文件中的最后10行
sed -e :a -e '$d;N;2,10ba' -e 'P;D' # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba' # 方法2

# 删除8的倍数行
gsed '0~8d' # 只对GNU sed有效
sed 'n;n;n;n;n;n;n;d;' # 其他sed

# 删除匹配式样的行
sed '/pattern/d' # 删除含pattern的行。当然pattern
# 可以换成任何有效的正则表达式

# 删除文件中的所有空行(与“grep '.' ”效果相同)
sed '/^$/d' # 方法1
sed '/./!d' # 方法2

# 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。
# (模拟“cat -s”)
sed '/./,/^$/!d' #方法1,删除文件顶部的空行,允许尾部保留一空行
sed '/^$/N;/\n$/D' #方法2,允许顶部保留一空行,尾部不留空行

# 只保留多个相邻空行的前两行。
sed '/^$/N;/\n$/N;//D'

# 删除文件顶部的所有空行
sed '/./,$!d'

# 删除文件尾部的所有空行
sed -e :a -e '/^\n*$/{$d;N;ba' -e '}' # 对所有sed有效
sed -e :a -e '/^\n*$/N;/\n$/ba' # 同上,但只对 gsed 3.02.*有效

# 删除每个段落的最后一行
sed -n '/^$/{p;h;};/./{x;/./p;}'

特殊应用:
--------

# 移除手册页(man page)中的nroff标记。在Unix System V或bash shell下使
# 用'echo'命令时可能需要加上 -e 选项。
sed "s/.`echo \\\b`//g" # 外层的双括号是必须的(Unix环境)
sed 's/.^H//g' # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/.\x08//g' # sed 1.5,GNU sed,ssed所使用的十六进制的表示方法

# 提取新闻组或 e-mail 的邮件头
sed '/^$/q' # 删除第一行空行后的所有内容

# 提取新闻组或 e-mail 的正文部分
sed '1,/^$/d' # 删除第一行空行之前的所有内容

# 从邮件头提取“Subject”(标题栏字段),并移除开头的“Subject:”字样
sed '/^Subject: */!d; s///;q'

# 从邮件头获得回复地址
sed '/^Reply-To:/q; /^From:/h; /./d;g;q'

# 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮
# 地址的部分剃除。(见上一脚本)
sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'

# 在每一行开头加上一个尖括号和空格(引用信息)
sed 's/^/> /'

# 将每一行开头处的尖括号和空格删除(解除引用)
sed 's/^> //'

# 移除大部分的HTML标签(包括跨行标签)
sed -e :a -e 's/<[^>]*>//g;/</N;//ba'

# 将分成多卷的uuencode文件解码。移除文件头信息,只保留uuencode编码部分。
# 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入;
# 第二种版本则可以放入一个带执行权限的shell脚本中。(由Rahul Dhesi的一
# 个脚本修改而来。)
sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode # vers. 1
sed '/^end/,/^begin/d' "$@" | uudecode # vers. 2

# 将文件中的段落以字母顺序排序。段落间以(一行或多行)空行分隔。GNU sed使用
# 字元“\v”来表示垂直制表符,这里用它来作为换行符的占位符——当然你也可以
# 用其他未在文件中使用的字符来代替它。
sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'
gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'

# 分别压缩每个.TXT文件,压缩后删除原来的文件并将压缩后的.ZIP文件
# 命名为与原来相同的名字(只是扩展名不同)。(DOS环境:“dir /b”
# 显示不带路径的文件名)。
echo @echo off >zipup.bat
dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat


使用SED:Sed接受一个或多个编辑命令,并且每读入一行后就依次应用这些命令。
当读入第一行输入后,sed对其应用所有的命令,然后将结果输出。接着再读入第二
行输入,对其应用所有的命令……并重复这个过程。上一个例子中sed由标准输入设
备(即命令解释器,通常是以管道输入的形式)获得输入。在命令行给出一个或多
个文件名作为参数时,这些文件取代标准输入设备成为sed的输入。sed的输出将被
送到标准输出(显示器)。因此:

cat filename | sed '10q' # 使用管道输入
sed '10q' filename # 同样效果,但不使用管道输入
sed '10q' filename > newfile # 将输出转移(重定向)到磁盘上

要了解sed命令的使用说明,包括如何通过脚本文件(而非从命令行)来使用这些命
令,请参阅《sed & awk》第二版,作者Dale Dougherty和Arnold Robbins
(O'Reilly,1997;http://www.ora.com),《UNIX Text Processing》,作者
Dale Dougherty和Tim O'Reilly(Hayden Books,1987)或者是Mike Arst写的教
程——压缩包的名称是“U-SEDIT2.ZIP”(在许多站点上都找得到)。要发掘sed
的潜力,则必须对“正则表达式”有足够的理解。正则表达式的资料可以看
《Mastering Regular Expressions》作者Jeffrey Friedl(O'reilly 1997)。
Unix系统所提供的手册页(“man”)也会有所帮助(试一下这些命令
“man sed”、“man regexp”,或者看“man ed”中关于正则表达式的部分),但
手册提供的信息比较“抽象”——这也是它一直为人所诟病的。不过,它本来就不
是用来教初学者如何使用sed或正则表达式的教材,而只是为那些熟悉这些工具的人
提供的一些文本参考。

括号语法:前面的例子对sed命令基本上都使用单引号('...')而非双引号
("...")这是因为sed通常是在Unix平台上使用。单引号下,Unix的shell(命令
解释器)不会对美元符($)和后引号(`...`)进行解释和执行。而在双引号下
美元符会被展开为变量或参数的值,后引号中的命令被执行并以输出的结果代替
后引号中的内容。而在“csh”及其衍生的shell中使用感叹号(!)时需要在其前
面加上转义用的反斜杠(就像这样:\!)以保证上面所使用的例子能正常运行
(包括使用单引号的情况下)。DOS版本的Sed则一律使用双引号("...")而不是
引号来圈起命令。

'\t'的用法:为了使本文保持行文简洁,我们在脚本中使用'\t'来表示一个制表
符。但是现在大部分版本的sed还不能识别'\t'的简写方式,因此当在命令行中为
脚本输入制表符时,你应该直接按TAB键来输入制表符而不是输入'\t'。下列的工
具软件都支持'\t'做为一个正则表达式的字元来表示制表符:awk、perl、HHsed、
sedmod以及GNU sed v3.02.80。

不同版本的SED:不同的版本间的sed会有些不同之处,可以想象它们之间在语法上
会有差异。具体而言,它们中大部分不支持在编辑命令中间使用标签(:name)或分
支命令(b,t),除非是放在那些的末尾。这篇文档中我们尽量选用了可移植性较高
的语法,以使大多数版本的sed的用户都能使用这些脚本。不过GNU版本的sed允许使
用更简洁的语法。想像一下当读者看到一个很长的命令时的心情:

sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d

好消息是GNU sed能让命令更紧凑:

sed '/AAA/b;/BBB/b;/CCC/b;d' # 甚至可以写成
sed '/AAA\|BBB\|CCC/b;d'

此外,请注意虽然许多版本的sed接受象“/one/ s/RE1/RE2/”这种在's'前带有空
格的命令,但这些版本中有些却不接受这样的命令:“/one/! s/RE1/RE2/”。这时
只需要把中间的空格去掉就行了。

速度优化:当由于某种原因(比如输入文件较大、处理器或硬盘较慢等)需要提高
命令执行速度时,可以考虑在替换命令(“s/.../.../”)前面加上地址表达式来
提高速度。举例来说:

sed 's/foo/bar/g' filename # 标准替换命令
sed '/foo/ s/foo/bar/g' filename # 速度更快
sed '/foo/ s//bar/g' filename # 简写形式

当只需要显示文件的前面的部分或需要删除后面的内容时,可以在脚本中使用“q”
命令(退出命令)。在处理大的文件时,这会节省大量时间。因此:

sed -n '45,50p' filename # 显示第45到50行
sed -n '51q;45,50p' filename # 一样,但快得多

如果你有其他的单行脚本想与大家分享或者你发现了本文档中错误的地方,请发电
子邮件给本文档的作者(Eric Pement)。邮件中请记得提供你所使用的sed版本、
该sed所运行的操作系统及对问题的适当描述。本文所指的单行脚本指命令行的长
度在65个字符或65个以下的sed脚本〔译注1〕。本文档的各种脚本是由以下所列作
者所写或提供:

Al Aab # 建立了“seders”邮件列表
Edgar Allen # 许多方面
Yiorgos Adamopoulos # 许多方面
Dale Dougherty # 《sed & awk》作者
Carlos Duarte # 《do it with sed》作者
Eric Pement # 本文档的作者
Ken Pizzini # GNU sed v3.02 的作者
S.G. Ravenhall # 去html标签脚本
Greg Ubben # 有诸多贡献并提供了许多帮助
-------------------------------------------------------------------------

译注1:大部分情况下,sed脚本无论多长都能写成单行的形式(通过`-e'选项和`;'
号)——只要命令解释器支持,所以这里说的单行脚本除了能写成一行还对长度有
所限制。因为这些单行脚本的意义不在于它们是以单行的形式出现。而是让用户能
方便地在命令行中使用这些紧凑的脚本才是其意义所在。

分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics