sed命令（超详细）

sed概念

       是一种流编辑器，它是文本处理中非常好的工具，能够完美的配合正则表达式使用，功能不同凡响。
       处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命
       令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，
       直到文件末尾。
    

选项：

    -e ：直接在命令行模式上进行sed动作编辑，此为默认选项;  

    -f ：将sed的动作写在一个文件内，用–f filename 执行filename内的sed动作;

    -i ：直接修改文件内容;  

    -n ：只打印模式匹配的行；

    -r ：支持扩展表达式;

    -h或--help：显示帮助；

    -V或--version：显示版本信息。    

sed常用命令：

                                                          vi
    a 在当前行下面插入文本;               o

    i 在当前行上面插入文本;                O

    c 把选定的行改为新的文本;

    d 删除，删除选择的行;                  dd       

    D 删除模板块的第一行;

    s 替换指定字符;                       :%s /root/abc

    h 拷贝模板块的内容到内存中的缓冲区;

    H 追加模板块的内容到内存中的缓冲区;

    g 获得内存缓冲区的内容，并替代当前模板块中的文本;

    G 获得内存缓冲区的内容，并追加到当前模板块文本的后面;

    l 列表不能打印字符的清单;

    n 读取下一个输入行，用下一个命令处理新的行而不是用第一个命令;

    N 追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码;

    p 打印模板块的行。 P(大写) 打印模板块的第一行;

    q 退出Sed;

    b lable 分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾;

    r file 从file中读行;

    t label if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾;

    T label 错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾;

    w file 写并追加模板块到file末尾;

    W file 写并追加模板块的第一行到file末尾;

    ! 表示后面的命令对所有没有被选定的行发生作用;

    = 打印当前行号;

    # 把注释扩展到下一个换行符以前; 

sed替换标记：

    g 表示行内全面替换;                     :%s /root/abc/g

    p 表示打印行;

    w 表示把行写入一个文件;

    x 表示互换模板块中的文本和缓冲区中的文本;

    y 表示把一个字符翻译为另外的字符（但是不用于正则表达式）;
 
    \1 子串匹配标记;

    & 已匹配字符串标记;
    
sed元字符集：

    ^ 匹配行开始，如：/^sed/匹配所有以sed开头的行;
 
    $ 匹配行结束，如：/sed$/匹配所有以sed结尾的行;
 
    . 匹配一个非换行符的任意字符，如：/s.d/匹配s后接一个任意字符，最后是d;
 
    * 匹配0个或多个字符，如：/*sed/匹配所有模板是一个或多个空格后紧跟sed的行;
  
    [] 匹配一个指定范围内的字符，如/[sS]ed/匹配sed和Sed;
   
    [^] 匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行;
  
    \ (.. \) 匹配子串，保存匹配的字符，如s/$love$able/\1rs，loveable被替换成lovers;
  
    & 保存搜索字符用来替换其他字符，如s/love/**&**/，love这成**love**;
  
    \< 匹配单词的开始
    \> 匹配单词的结束，如/love\>/匹配包含以love结尾的单词的行;
 
    x\{m\} 重复字符x，m次，如：/0\{5\}/匹配包含5个0的行;
 
    x\{m,\} 重复字符x，至少m次，如：/0\{5,\}/匹配至少有5个0的行;
 
    x\{m,n\} 重复字符x，至少m次，不多于n次，如：/0\{5,10\}/匹配5~10个0的行;
    

sed用户实例

1.替换操作：s命令

替换文本中的字符串：
    sed 's/book/books/' file    只替代第一个字符串
    sed 's/book/books/g' file    替代行中所有满足的字符串

-n选项和p命令一起使用表示只打印那些发生替换的行：
    sed -n 's/test/TEST/p' file

直接编辑文件选项-i，会匹配file文件中每一行的第一个book替换为books：
    sed -i 's/book/books/g' file

全面替换标记g：

    使用后缀 /g 标记会替换每一行中的所有匹配：
    sed 's/book/books/g' file

    当需要从第N处匹配开始替换时，可以使用 /Ng：
    echo sksksksksksk | sed 's/sk/SK/2g' 
    
以上命令中字符 / 在sed中作为定界符使用，也可以使用任意的定界符
    sed 's:test:TEXT:g' 
    sed 's|test|TEXT|g' 

定界符出现在样式内部时，需要进行转义：
    echo "/bin  /bin  /bin" |sed 's/\/bin/\/usr\/local\/bin/g'
    echo "/bin  /bin  /bin" |sed 's|/bin|/usr/local/bin|g'  

2.删除操作：d命令

删除空白行：
    sed '/^$/d' file
    sed '/^#/d' /etc/profile

删除文件的第2行：
    sed '2d' file

删除文件的第2行到末尾所有行：
    sed '2,$d' file
    
删除文件第2行和末尾行
    sed '2d;$d' file

删除文件最后一行：
    sed '$d' file

删除文件中所有开头是test的行：
    sed '/^test/d' file    

3.已匹配字符串标记&

正则表达式 \w\+ 匹配每一个单词，使用 [&] 替换它，& 对应于之前所匹配到的单词：
    echo this is a test line | sed 's/\w\+/[&]/g'
    [this] [is] [a] [test] [line] 

所有以192.168.0.1开头的行都会被替换成它自已加localhost：
    sed 's/^192.168.0.1/&localhost/' file

4.组合多个表达式

    sed '表达式' | sed '表达式'  等价于：  
    sed '表达式; 表达式'

5.选定行的范围：,（逗号）

打印从第5行开始到第一个包含以test开始的行之间的所有行：
    sed -n '5,/^test/p' file   

6.多点编辑：e命令

-e选项允许在同一行里执行多条命令：
    sed -e '1,5d' -e 's/test/check/' file   

7.从文件读入：r命令

file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面：
    sed '/test/r file1' file

8.写入文件：w命令

在file1中所有包含test的行都被写入file里(覆盖写入，默认-i)：
    sed -n '/test/w file' file1

9.追加（行下）：a\命令

将 this is a test line 追加到 以test 开头的行后面：
    sed '/^test/a\this is a test line' file

在 test.conf 文件第2行之后插入 this is a test line：
    sed -i '2a\this is a test line' test.conf 

10.插入（行上）：

i\命令 将 this is a test line 追加到以test开头的行前面：
    sed '/^test/i\this is a test line' file

在file文件第5行之前插入this is a test line：
    sed -i '5i\this is a test line' file

11.下一个：n命令

如果test被匹配，则移动到匹配行的下一行，替换这一行的aa，变为bb，并打印该行，然后继续：
    sed '/test/{ n; s/aa/bb/; }' file 

12.变形：y命令

把1~10行内所有abcde转变为大写，注意，正则表达式元字符不能使用这个命令：
    sed '1,10y/abcde/ABCDE/' file

13.退出：q命令

打印完前10行后，退出
    sed '10q' file    

14.保持和获取：h命令和G命令 

任何包含test的行都被复制并追加到该文件的末尾。
    sed -e '/test/h' -e '$G' file 

15.保持和互换：h命令和x命令

互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换：
    sed -e '/test/h' -e '/check/x' file 

16.脚本scriptfile

sed脚本是一个sed的命令清单，启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔，
在命令的末尾不能有任何空白或文本，如果在一行中有多个命令，要用分号分隔。
以#开头的行为注释行，且不能跨行。

 sed [options] -f scriptfile file(s)

17.打印奇数行或偶数行

方法1：
    sed -n 'p;n' file  #奇数行 
    sed -n 'n;p' file  #偶数行 

方法2：
    sed -n '1~2p' file  #奇数行 
    sed -n '2~2p' file  #偶数行 

18. 打印ip地址

    ifconfig ens33|sed -n '2p' |sed 's/.*inet//' |sed 's/netmask.*//'

===================================

总结：

显示 

sed -n 'Np;Mp;Xp' FILE     显示行号为N,M,X的多行
sed -n '$p' FILE           显示最后一行
sed -n '/str/p'FILE        显示包括str的所有行
sed -n 'N,Mp' FILE         显示第N行到第M行

删除

sed 'N,Md' FILE              显示删除第N行到第M行剩下的内容
sed '/str1/,/str2/d’ FILE    显示删除包含str1的行到包含str2的行剩下内容
sed '/str/,Nd' FILE          显示删除包含strt的行到第N行剩下的内容
sed '/str/d' FILE            显示删除包含str的行剩下的内容
sed '/^$/d' FILE             显示删除空白行剩下的内容

增加

sed  -i 'Na str' FILE          第N行后增加一行字符
sed  -i 'Na str1\nstr2' FILE   第N行后增加二行字符
sed  -i 'N,Ma str' FILE        第N行到第M行的每行后都增加一行字符
sed  -i 'Ni str' FILE          第N行前增加一行字符
sed  -i 'Ni str1\nstr2' FILE   第N行前增加二行字符
sed  -i 'N,Mi str' FILE        第N行到第M行的每行前都增加一行字符

替代

sed -i 'Nc str' FILE                    将第N行的内容替换为str
sed -i 'N,Mc str' FILE                  将第N行到第M行的内容替换为str
sed -i 's/str1/newstr/g' FILE           将所有的str1替换为newstr
sed -i 's/str1/newstr2/gw FILE1' FILE2  将处理过的行另存到文件1
sed -i 's/str1/newstr/g' FILE2 >FILE1   将处理后的内容重定向至文件1

案例1：每隔30秒监控httpd服务是否启动，如果没启动就启动httpd服务

vim /sh/http.sh
#!/bin/bash
sleeptime=30
while true
do
        if killall -0 httpd &> /dev/null;then
                true
        else
                systemctl restart httpd
                time=`date +"%F %T" `
                echo "httpd service at "$time" is restarted" >> /app/http.log
        fi
        sleep "$sleeptime"
done
 
nohup /sh/http.sh &
 
案例2：将连接服务器次数很多次的客户端IP加入防火墙 ***
while true
do
        ss -nt | grep ESTAB | tr -s " " ":" | cut -d: -f6 | sort | uniq -c | while read num ip 
        do
                if [ "$num" -gt 2 ];then
                iptables -A INPUT -s "$ip" -j REJECT
                fi
        done
        sleep 3
done