一、sed介绍
sed全称(stream editor)流式编辑器,Sed主要用来自动编辑一个或多个文件、简化对文件的反复操作、编写转换程序等,工作流程如下
1、sed概述
>sed 是一种在线的、非交互式的编辑器,它一次处理一行内容,它是文本处理中非常好的工具,能够完美的配合正则表达式使用,功能不同凡响。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出,或者使用sed -i选项 #-i选项就是将本该输出到屏幕上的内容输出/流入文件中。Sed主要用来自动编辑一个或多个文件,可以将数据行进行替换、删除、新增、选取等特定工作,简化对文件的反复操作,编写转换程序等
登录后复制
2、sed格式
#sed的命令格式: sed [options] 'command' file(s); #sed的脚本格式: sed [options] -f scriptfile file(s); # 注: sed和grep不一样,不管是否找到指定的模式,它的退出状态都是0 只有当命令存在语法错误时,sed的退出状态才不是0
登录后复制
二、sed选项与基本用法
1、sed选项
选项 功能 -e: #允许多项编辑 -n: #取消默认的输出(模式空间的内容输出),只打印模式匹配的行; -i: #inplace,就地编辑,直接修改文件内容; -r: #支持扩展元字符 -f: #指定sed脚本文件名 -h或--help: #显示帮助; -V或--version: #显示版本信息 #示例 sed -r '' /etc/passwd sed -r 'p' /etc/passwd sed -r -n 'p' /etc/passwd #文件的一行行内容相当与水流,连续两个-e就是设置了两道关卡 [root@aliyun ~]# sed '' test.txt 1111111 2222222egon 333333egon 444444egon 555555eon [root@aliyun ~]# sed -e '3d' -e '1d' test.txt 2222222egon 444444egon 555555eon [root@aliyun ~]# sed -rn -e '1,3d' -e 'p' test.txt 444444egon 555555eon [root@aliyun ~]# #也可以将多道关卡写入一个文件中 [root@aliyun ~]# cat sed.txt 1,3d p [root@aliyun ~]# sed -rn -f sed.txt test.txt 444444egon 555555eon [root@aliyun ~]#
登录后复制
2、sed命令组成
命令由”地址+命令“两部分组成,命令如p、d,更多详解第三章节,本节我们主要介绍地址
地址用于决定对流入模式空间的哪些行进行编辑,如果没有指定地址,sed将处理流入模式空间的所有行。
1)数字
sed -n 'p' /etc/passwd sed -n '1,3p' /etc/passwd sed '1,47d' /etc/passwd
登录后复制
2)正则表达式
与grep一样,sed在文件中查找模式时也可以使用正则表达式(RE)和各种元字符。正则表达式是 括在斜杠间的模式,用于查找和替换,以下是sed支持的元字符。 # 使用基本元字符集 ^, $, ., *, [], [^], \< \>,\(\),\{\} # 使用扩展元字符集 ?, +, { }, |, ( ) # 使用扩展元字符的方式: 转义,如\+ -r参数,如sed -r [root@aliyun ~]# cat test.txt 1111111 2222222egon 333333egon 444444egon 555555eon [root@aliyun ~]# sed -rn '/egon/p' test.txt 2222222egon 333333egon 444444egon [root@aliyun ~]#
登录后复制
3)数字+正则表达式
[root@aliyun ~]# cat test.txt 1111111 2222222egon 333333egon 444444egon 555555eon [root@aliyun ~]# sed -rn '1,/egon/p' test.txt 1111111 2222222egon [root@aliyun ~]# 解释: # "1,8p"代表打印1到8行,"1,/egon/p"则代表取从第1行到首次匹配到/egon/的行
登录后复制
3、cregexpc
地址可以是正则表达式,而正则表达式需要放置在\c与c中间,其中c可以是任意字符,但必须要加\转义
[root@aliyun ~]# cat test.txt 1111111 2222222egon 333333egon 444444egon 555555eon [root@aliyun ~]# sed -rn '#egon#p' test.txt [root@aliyun ~]# sed -rn '\#egon#p' test.txt 2222222egon 333333egon 444444egon [root@aliyun ~]#
登录后复制
如果c是左斜杠,不需要转义也可以
[root@aliyun ~]# sed -rn '\/egon/p' test.txt 2222222egon 333333egon 444444egon [root@aliyun ~]# sed -rn '/egon/p' test.txt 2222222egon 333333egon 444444egon [root@aliyun ~]#
登录后复制
如果匹配的正则里有左斜杠,要么将正则转义,要么将c转义
[root@aliyun ~]# cat a.txt /etc/egon/666 etc [root@aliyun ~]# sed -rn '//etc/egon/666/p' a.txt # 错误 sed: -e expression #1, char 0: no previous regular expression [root@aliyun ~]# sed -rn '/\/etc\/egon\/666/p' a.txt # 正则转义 /etc/egon/666 [root@aliyun ~]# sed -rn '#/etc/egon/666#p' a.txt # 转义c,必须是\c [root@aliyun ~]# sed -rn '\#/etc/egon/666#p' a.txt # 转义c /etc/egon/666 [root@aliyun ~]# # 示例 [root@aliyun ~]# cat a.txt /etc/egon/666 etc [root@aliyun ~]# sed -ri '/\/etc\/egon\/666/s/.*/xxx/' a.txt [root@aliyun ~]# cat a.txt xxx etc [root@aliyun ~]#
登录后复制
三、sed常用命令
sed命令告诉sed对指定行进行何种操作,包括打印、删除、修改等。
1、sed常用的参数
命令 功能 a 在当前行后添加一行或多行 c 用新文本修改(替换)当前行中的文本 d 删除行 i 在当前行之前插入文本 l 会用$符号标识出文件中看不到的字符的位置 p 打印行 n 把下一行内容读入模式空间,后续的处理命令处理的都是刚读入的新内容 q 结束或退出sed,不会将后续内容读入模式空间 r 从文件中读 ! 对所选行以外的所有行应用命令 s 用一个字符串替换另一个 w 将行写入文件 y 将字符转换为另一字符(不支持正则表达式),y/egon/1234/ e->1 g->2 o->3 n->4 h 把模式空间里的内容复制到暂存缓冲区(覆盖) H 把模式空间里的内容追加到暂存缓冲区 g 取出暂存缓冲区的内容,将其复制到模式空间,覆盖该处原有内容 G 取出暂存缓冲区的内容,将其复制到模式空间,追加在原有内容后面 N 追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码; x 交换暂存缓冲区与模式空间的内容 替换标志 s g 在行内进行全局替换 i 忽略大小写 ########################sed基础命令###################### a\ 在当前行下面插入文本; i\ 在当前行上面插入文本; c\ 把选定的行改为新的文本; d 删除,删除选择的行; D 删除模板块的第一行; s 替换指定字符; h 拷贝模板块的内容到内存中的缓冲区; H 追加模板块的内容到内存中的缓冲区; g 获得内存缓冲区的内容,并替代当前模板块中的文本; G 获得内存缓冲区的内容,并追加到当前模板块文本的后面; l 列表不能打印字符的清单; n 读取下一个输入行,用下一个命令处理新的行而不是用第一个命令; N 追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码; p 打印模板块的行。 P(大写) 打印模板块的第一行; q 退出Sed; b lable 分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾; r file 从file中读行; t label if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾; T label 错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾; w file 写并追加模板块到file末尾; W file 写并追加模板块的第一行到file末尾; ! 表示后面的命令对所有没有被选定的行发生作用; = 打印当前行号; # 把注释扩展到下一个换行符以前; ########################sed替换标记####################### g 表示行内全面替换; p 表示打印行; w 表示把行写入一个文件; x 表示互换模板块中的文本和缓冲区中的文本; y 表示把一个字符翻译为另外的字符(但是不用于正则表达式); \1 子串匹配标记; & 已匹配字符串标记; ######################sed元字符集####################### ^ 匹配行开始,如:/^sed/匹配所有以sed开头的行; $ 匹配行结束,如:/sed$/匹配所有以sed结尾的行; . 匹配一个非换行符的任意字符,如:/s.d/匹配s后接一个任意字符,最后是d; * 匹配0个或多个字符,如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行; [] 匹配一个指定范围内的字符,如/[ss]ed/匹配sed和Sed; [^] 匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行; \(..\)匹配子串,保存匹配的字符,如s/\(love\)able/\1rs,loveable被替换成lovers; & 保存搜索字符用来替换其他字符,如s/love/**&**/,love这成**love**; \< 匹配单词的开始,如:/\ \> 匹配单词的结束,如/love\>/匹配包含以love结尾的单词的行; x\{m\} 重复字符x,m次,如:/0\{5\}/匹配包含5个0的行; x\{m,\} 重复字符x,至少m次,如:/0\{5,\}/匹配至少有5个0的行; x\{m,n\} 重复字符x,至少m次,不多于n次,如:/0\{5,10\}/匹配5~10个0的行;
登录后复制
2、sed的实列
替换操作:s命令 替换文本中的字符串: sed 's/book/books/' file -n选项和p命令一起使用表示只打印那些发生替换的行: sed -n 's/test/TEST/p' file 直接编辑文件选项-i,会匹配file文件中每一行的第一个book替换为books sed -i 's/book/books/g' file 全面替换标记g 使用后缀 /g 标记会替换每一行中的所有匹配: sed 's/book/books/g' file 当需要从第N处匹配开始替换时,可以使用 /Ng: echo sksksksksksk | sed 's/sk/SK/2g' skSKSKSKSKSK echo sksksksksksk | sed 's/sk/SK/3g' skskSKSKSKSK echo sksksksksksk | sed 's/sk/SK/4g' skskskSKSKSK 定界符 以上命令中字符 / 在sed中作为定界符使用,也可以使用任意的定界符 sed 's:test:TEXT:g' sed 's|test|TEXT|g' 定界符出现在样式内部时,需要进行转义: sed 's/\/bin/\/usr\/local\/bin/g' 删除操作:d命令 删除空白行: sed '/^$/d' file 删除文件的第2行: sed '2d' file 删除文件的第2行到末尾所有行: sed '2,$d' file 删除文件最后一行: sed '$d' file 删除文件中所有开头是test的行: sed '/^test/'d file 已匹配字符串标记& 正则表达式 \w\+ 匹配每一个单词,使用 [&] 替换它,& 对应于之前所匹配到的单词: echo this is a test line | sed 's/\w\+/[&]/g' [this] [is] [a] [test] [line] 所有以192.168.0.1开头的行都会被替换成它自已加localhost: sed 's/^192.168.0.1/&localhost/' file 192.168.0.1localhost 子串匹配标记\1 匹配给定样式的其中一部分: echo this is digit 7 in a number | sed 's/digit \([0-9]\)/\1/' this is 7 in a number 命令中 digit 7,被替换成了 7。样式匹配到的子串是 7,\(..\) 用于匹配子串,对于匹配到的第一个子串就标记为 \1,依此类推匹配到的第二个结果就是 \2,例如: echo aaa BBB | sed 's/\([a-z]\+\) \([A-Z]\+\)/\2 \1/' BBB aaa love被标记为1,所有loveable会被替换成lovers,并打印出来: sed -n 's/\(love\)able/\1rs/p' file 组合多个表达式 sed '表达式' | sed '表达式' 等价于: sed '表达式; 表达式' 引用 sed表达式可以使用单引号来引用,但是如果表达式内部包含变量字符串,就需要使用双引号。 test=hello echo hello WORLD | sed "s/$test/HELLO" HELLO WORLD 选定行的范围:,(逗号) 所有在模板test和check所确定的范围内的行都被打印: sed -n '/test/,/check/p' file 打印从第5行开始到第一个包含以test开始的行之间的所有行: sed -n '5,/^test/p' file 对于模板test和west之间的行,每行的末尾用字符串aaa bbb替换: sed '/test/,/west/s/$/aaa bbb/' file 多点编辑:e命令 -e选项允许在同一行里执行多条命令: sed -e '1,5d' -e 's/test/check/' file 上面sed表达式的第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。 和 -e 等价的命令是 --expression: sed --expression='s/test/check/' --expression='/love/d' file 从文件读入:r命令 file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面: sed '/test/r file' filename 写入文件:w命令 在example中所有包含test的行都被写入file里: sed -n '/test/w file' example 追加(行下):a\命令 将 this is a test line 追加到 以test 开头的行后面: sed '/^test/a\this is a test line' file 在 test.conf 文件第2行之后插入 this is a test line: sed -i '2a\this is a test line' test.conf 插入(行上): i\命令 将 this is a test line 追加到以test开头的行前面: sed '/^test/i\this is a test line' file 在test.conf文件第5行之前插入this is a test line: sed -i '5i\this is a test line' test.conf 下一个:n命令 如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续: sed '/test/{ n; s/aa/bb/; }' file 变形:y命令 把1~10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令: sed '1,10y/abcde/ABCDE/' file 退出:q命令 打印完第10行后,退出sed sed '10q' file 保持和获取:h命令和G命令 在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。 sed -e '/test/h' -e '$G' file 在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。 保持和互换:h命令和x命令 互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换: sed -e '/test/h' -e '/check/x' file 脚本scriptfile sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。 sed [options] -f scriptfile file(s) 打印奇数行或偶数行 方法1: sed -n 'p;n' test.txt #奇数行 sed -n 'n;p' test.txt #偶数行 方法2: sed -n '1~2p' test.txt #奇数行 sed -n '2~2p' test.txt #偶数行 打印匹配字符串的下一行 grep -A 1 SCC URFILE sed -n '/SCC/{n;p}' URFILE awk '/SCC/{getline; print}'
登录后复制
3、sed命令示例
打印命令:p # sed -r "/egon/p" a.txt # sed -r -n "/egon/p" a.txt 删除命令:d,注意用单引号 # sed -r '3d' a.txt # sed -r '3,$d' a.txt # sed -r '$d' a.txt # sed -r '/egon/d' a.txt # sed -r '1,/egon/{/egon/d}' a.txt # 只删除模式匹配成功的第一行 [root@hzl ~]# cat a.txt Egon111111 egon222222 333Egon333 444444egon 5555555555 6666666666 egon777777 8888888888 [root@hzl ~]# [root@hzl ~]# sed -r '/egon/d' a.txt # 只删除模式匹配成功的所有行 Egon111111 333Egon333 5555555555 6666666666 8888888888 [root@hzl ~]# sed -r '1,/egon/{/egon/d}' a.txt # 只删除模式匹配成功的第一行 Egon111111 333Egon333 444444egon 5555555555 6666666666 egon777777 8888888888 替换命令:s # sed -r 's/egon/Bigegon/' a.txt # sed -r 's/egon/Bigegon/g' a.txt # sed -r 's/^egon/Bigegon/g' a.txt # sed -r -n 's/root/egon/gip' /etc/passwd # sed -r 's/[0-9]$/&.change/' a.txt # &代表取到匹配成功的整行内容 # sed -r 's/^([a-zA-Z]+)([^[a-zA-Z]+)/\2\1/' a.txt # sed -r 's#egon#bigegon#g' a.txt 多重编辑命令:e # sed -r -e '1,3d' -e 's/[Ee]gon/EGON/g' a.txt # 在前一个-e的基础之上进行第二个-e操作 # sed -r '1,3d;s/[Ee]gon/EGON/g' a.txt # sed -r '3{s/[0-9]/x/g;s/[Ee]gon/EGON/g}' a.txt # 只处理第三行 # sed -r '1,3{s/[0-9]/x/g;s/[Ee]gon/EGON/g}' a.txt # 处理1到3行 # sed -r -n '1p;p' a.txt # ;分隔依次运行,先针对第一行进行p操作,再针对所有行进行p操作 # sed -r -n '1{p;p}' a.txt # 只针对第一行,连续进行两次p操作 反向选择! # sed -r '3d' a.txt # sed -r '3!d' a.txt 读文件命令:r # sed -r '/^Egon/r b.txt' a.txt # 在匹配成功的行后添加文件b.txt的内容 # sed -r '/2/r b.txt' a.txt # 在第2行后面添加文件b.txt的内容 写文件命令:w # sed -r '/[Ee]gon/w b.txt' a.txt # 将匹配成功的行写入新文件b.txt # sed -r '3,$w /root/new.txt' a.txt # 将第3行到最后一行写入/root/new.txt 追加命令:a # sed -r '2aXXXXXXXXXXXXXXXXXXXX' a.txt # 在第2行后添加一行 # sed -r '2a1111111111111\ # 可以用\续行 > 222222222222\ > 333333333333' a.txt 插入命令:i # sed -r '2i1111111111111' /etc/hosts # sed -r '2i111111111\ > 2222222222\ > 3333333333' a.txt 修改命令:c # sed -r '2c1111111111111' a.txt # sed -r '2c111111111111\ > 22222222222\ > 33333333333' a.txt 把下一行内容读入模式空间:n # sed -r '/^Egon/{n;s/[0-9]/x/g}' a.txt # 将匹配/^Egon/成功的行的下一行读入模式空间进行s处理 [root@aliyun ~]# cat a.txt /etc/egon/666 etc [root@aliyun ~]# sed -r '\#/etc/egon/666#n;c 1111' a.txt /etc/egon/666 1111 [root@aliyun ~]# 转换命令:y # sed -r '1,3y/Eeo/12X/' a.txt # 1到3行进行转换 对应规则:a->1 e->2 o->X 退出:q # sed -r '5q' a.txt # sed -r '/[Ee]gon/{ s/[0-9]/X/; q; }' a.txt # 匹配成功/[Ee]gon/则执行{}内命令,q代表退出,即替换一次则退出,如果文件中多行符合规则的内容也只替换了第一个
登录后复制
四、模式空间与保持空间
1、sed 有两个内置的存储空间:
1)模式空间(pattern space):
如你所知,模式空间用于 sed 执行的正常流程中。该空间 sed 内置的一个缓冲区,用来存放、修改从输入文件读取的内容。
2)保持空间(hold space):
保持空间是另外一个缓冲区,用来存放临时数据。Sed 可以在保持空间和模式空间交换数据,但是不能在保持空间上执行普通的 sed 命令。
2、模式空间与保持空间的操作命令
x:命令x(exchange) 用于交换模式空间和保持空间的内容 h:模式空间复制/覆盖到保持空间 H:模式空间追加到保持空间 g:保持空间复制/覆盖到模式空间 G:保持空间追加到模式空间 n:读取下一行到/覆盖到模式空间 N:将下一行添加到模式空间 d:删除pattern space中的所有行,并读入下一新行到pattern space中
登录后复制
3、示例(交换文件的行)
[root@hzl ~]# cat test.txt 1111 2222 3333 # ======================方式1:====================== [root@hzl ~]# tac test.txt 3333 2222 1111 [root@hzl ~]# # ======================方式2:====================== 思路: # 1、读取文件第一行内容到模式空间,进行的操作如下 # 将模式空间内容覆盖到保持空间 # 删除模式空间内容 # 2、读取文件第二行内容到模式空间,进行的操作如下 # 将保持内容追加到模式空间 # 将模式空间内容覆盖到保持空间 # 删除模式空间内容 # 3、读取文件第三行内容到模式空间,进行的操作如下 # 将保持空间内容追加到模式空间 实现: sed -r '1h;1d;2G;2h;2d;3G' test.txt 或者 sed '1!G;h;$!d' test.txt
登录后复制
五、sed脚本
sed脚本就是写在文件中的一系列sed命令,使用-f 选项指定sed脚本文件名,需要注意的问题如下
脚本末尾不能有任何多余的空格或文本
如果命令不能独占一行,就必须以\结尾
脚本中不能使用引号,除非它们是查找串的一部分
反斜杠起到续行的作用
[root@egon ~]# cat sed.sh #永久存储,存了多行sed命令,相当于多道关卡,每读入一行内容将经历一道道关卡 1h;1d;2G;2h;2d;3G 1h;1d;2G;2h;2d;3G [root@egon ~]# sed -r '' a.txt 1111 2222 3333 [root@egon ~]# [root@egon ~]# sed -r -f sed.sh test.txt 3333 2222 1111 2222 1111 [root@egon ~]#
登录后复制
六、sed使用练习
#注释的行 sed -r -i '/^#/d' file.conf sed -r -i '/^[ \t]*#/d' file.conf 删除配置文件中用双斜杠//注释的行 sed -r -i '\c//cd' file.conf 删除无内容空行 sed -r '/^$/d' file.conf sed -r '/^[\t]*$/d' file.conf sed -r '/^[ \t]*$/d' file.conf 示例: # 删除#号注释和无内容的空行 sed -r -i '/^[ \t]*#/d; /^[ \t]*$/d' /etc/vsftpd/vsftpd.conf sed -r -i '/^[ \t]*#|^[ \t]*$/d' /etc/vsftpd/vsftpd.conf # 同上 追加一行,\可有可无,有更清晰 sed -r -i '$a\chroot_local_user=YES' /etc/vsftpd/vsftpd.conf 给文件每行加注释 sed -r -i 's/^/#/' filename 每指定行加注释 sed -r -i '10,$s/^/#/' filename sed -r '3,$s/^#*/#/' filename # 将行首连续的零个或多个#换成一个# sed中使用外部变量 # var1=666 # sed -r 3a$var1 test.txt # 可以不加引号 # sed -r "3a$var1" test.txt # 也可以加引号,但注意是双引号而不是单引号,因为要用$符号取变量值 # sed -r '3a'"$var1" test.txt # 也可以sed命令用''引起来,而变量用"",注意二者之间不能有空格
登录后复制
以上就是linux的sed命令如何使用的详细内容,更多请关注小君博客其它相关文章!