主頁 >  其他 > linux文本處理三劍客之sed,原來只需要掌握這些!!!

linux文本處理三劍客之sed,原來只需要掌握這些!!!

2021-09-26 13:14:58 其他

前言:

shell腳本最常見的一個用途就是處理文本檔案,檢查日志檔案、讀取配置 檔案、處理資料元素,shell腳本可以幫助我們將文本檔案中各種資料的日常處理任務自動化,但僅靠shell腳本命令來處理文本檔案的內容有點力不從心的,如果想在shell腳本中處理任何型別的資料,掌握sedgawk工具可以達到事半功倍的效果,企業開發中常用,高階命令,

一、sed編輯器基本了解

sed 編輯器被稱作 流編輯器 stream editor),和普通的互動式文本編輯器恰好相反,流編
輯器會在編輯器處理資料之前基于預先提供的一組規則來編輯資料流, 可以根據命令來處理資料流中的資料,這些命令要么從命令列中輸入,要么存盤 在一個命令文本檔案中,
sed編輯器執行流程大致如下:
  1. 一次從輸入中讀取一行資料,
  2. 根據所提供的編輯器命令匹配資料,
  3. 按照命令修改流中的資料,
  4. 將新的資料輸出到STDOUT,

核心講解:

在流編輯器將所有命令與一行資料匹配完畢后,它會讀取下一行資料并重復這個程序,在流
編輯器處理完流中的所有資料行后,它就會終止,
由于命令是按順序逐行給出的, sed 編輯器只需對資料流進行一遍處理就可以完成編輯操作,
這使得 sed 編輯器要比互動式編輯器快得多,你可以快速完成對資料的自動修改,

有了上面核心理論的了解,下面我們就可以對sed進行實操演練了:

sed 使用的語法格式:

sed options script file

常用引數羅列:

  • -e script 在處理輸入時,將script中指定的命令添加到已有的命令中
  • -f file 在處理輸入時,將file中指定的命令添加到已有的命令中
  • -n 不產生命令輸出,使用print命令來完成輸出

重點說明:

script 引數指定了應用于流資料上的單個命令,如果需要用多個命令,要么使用 -e 選項在
命令列中指定,要么使用 -f 選項在單獨的檔案中指定,有大量的命令可用來處理資料,

1.1 在終端命令列使用單條sed命令

默認情況下, sed 編輯器會將指定的命令應用到 STDIN 輸入流上,這樣你可以直接將資料通
過管道輸入 sed 編輯器處理,
演示案例:
單行文本修改:

如截圖中所見,這個例子在sed編輯器中使用了s命令,s命令會用斜線間指定的第二個文本字串來替換第 一個文本字串模式,在本例中是big test替換了test

整個文本修改:

核心講解:

在運行上面的例子時,結果都是立即就會顯示出來的,這就是使用 sed編輯器的強大之處,我們可以同時對文本資料做出多處修改,而需要操作的時間是及其短暫的,需要注意的一點的是,sed編輯器并不會修改原來文本檔案的資料,它只會將修改后的資料發送到STDOUT,我們可以查看源文本的資料依舊保持不變,

1.2 在命令列使用多個sed 命令

要在 sed 命令列上執行多個命令時,只要用 -e 選項就可以了,

操作演示:

操作詳解:

兩個命令都作用到檔案中的每行資料上,命令之間必須用分號隔開,并且在命令末尾和分號 之間不能有空格,還有一種方式我們使用的很少,就是用shell中的次提示符來分隔命令,如下截圖:

1.3 從檔案中讀取編輯器命令

有時候我們有大量要處理的sed命令,此時我們就可以命令放在一個腳本檔案里,檔案通常以.sed 結尾,使用中我們只需要應用 -f 引數,就可以來讀取檔案中命令:

核心解說:

如上圖,sed編輯器知道每行都是一條單獨的命令, 跟在命令列輸入命令一樣,sed編輯器會從指定檔案中讀取命令,并將它們應用到資料檔案中的 每一行上,同樣達到了對文本處理的效果,

二、sed編輯器作業中經常的使用

成功使用 sed 編輯器的關鍵在于掌握其各式各樣的命令和格式,它們能夠幫助你定制文本編
輯行為,本節將介紹一些可以集成到腳本中基本命令和功能,上面章節我們已經懂得了如何用s 命令( substitute )來在行中替換文本,這個命令還有另外一些選 項能讓事情變得更為簡單,

2.1. 替換標記

實體展示:

上圖中可以看到替換命令在替換多行中的文本時能正常作業,但默認情況下它只替換每行中出現的第一處, 要讓替換命令能夠替換一行中不同地方出現的文本必須使用替換標substitutionflag),替換標記會在替換命令字串之后設定,

替換標記分類:

  • 數字,表明新文本將替換第幾處模式匹配的地方;
  • g,表明新文本將會替換所有匹配的文本;
  • p,表明原先行的內容要列印出來;
  • w file,將替換的結果寫到檔案中,
在第一類替換中,可以指定 sed 編輯器用新文本替換第幾處模式匹配的地方,

對比一以上兩圖,我們可以得出結論:

將替換標記指定為 2 的結果就是: sed 編輯器只替換每行中第二次出現的匹配模式, g替換標
使你能替換文本中匹配模式所匹配的每處地方,
p 替換標記會列印與替換命令中指定的模式匹配的行,這通常會和 sed -n 選項一起使用,
-n 選項將禁止 sed 編輯器輸出,但 p 替換標記會輸出修改過的行,將二者配合使用的效果就是
只輸出被替換命令修改過的行,
如下效果圖:

w 替換標記會產生和p替換標記相同的輸出,不同的是w會將輸出保存到指定檔案中,
如下效果圖:

2.2 替換字符

有時我們會在文本字串中遇到一些不太方便在替換模式中使用的字符, Linux 中一個常見的
例子就是正斜線( / ), 替換檔案中的路徑名會比較麻煩,
比如下面,如果想用C shell替換/etc/passwd檔案中的bash shell,需要使用如下方式:

上面我們可以發現,由于正斜線通常用作字串分隔符,因而如果它出現在了模式文本中的話,必須用反斜線來 轉義,這通常會帶來一些困惑和錯誤, 要解決這個問題,sed編輯器允許選擇其他字符來作為替換命令中的字串分隔符,下例中我們就是使用感嘆號用作字串分隔符,

2.3 sed 的尋址操作

sed 的尋址模式分為兩種:

  1. 以數字形式表示行區間
  2. 用文本模式來過濾出行

兩種尋址的語法格式是相同的,sed編輯器會將指定的每條命令作用到匹配指定地址的行上,

[address]command
或者是將特定地址的多個命令分組:
address {
command1
command2
command3
}

2.3.1 數字尋址(常用的方式)

當使用數字方式的行尋址時,可以用行在文本流中的行位置來參考,sed 編輯器會將文本流中的第一行編號為1 ,然后繼續按順序為接下來的行分配行號, 在命令中指定的地址可以是單個號,或是用起始行號、逗號以及結尾行號指定的一定區間范圍內的行,
演示截圖:
a.指定行號

b.行地址區間

c.如果想將命令作用到文本中從某行開始的所有行,可以用特殊地址$.

2.3.2 使用文本模式過濾器(不常用)

sed 編輯器允許指定文本模式來過 濾出命令要作用的行,
格式如下:
/pattern/ command

必須用正斜線將要指定的pattern封起來,sed編輯器會將該命令作用到包含指定文本模式的行上,

如下面給的示例:修改用戶Samantha的默認shell,可以使用sed命令,

核心詳解:

該命令只作用到匹配文本模式的行上,雖然使用固定文本模式能幫你過濾出特定的值,就跟 上面這個用戶名的例子一樣,但其作用難免有限,sed 編輯器在文本模式中采用了一種稱為 正則 運算式( regular expression )的特性來幫助你創建匹配效果更好的模式,

2.3.3 命令組合使用

如果需要在單行上執行多條命令,可以用花括號將多條命令組合在一起, sed 編輯器會處理
地址行處列出的每條命令,

兩條命令都會作用到該地址上,同樣,也可以在一組命令前指定一個地址區間,

2.4 洗掉行

文本替換命令不是 sed 編輯器唯一的命令,如果需要洗掉文本流中的特定行,可以用洗掉命令,
洗掉命令d名副其實,它會洗掉匹配指定尋址模式的所有行,使用該命令時要特別小心,如 果你忘記加入尋址模式的話,流中的所有文本行都會被洗掉,

2.4.1 指定地址洗掉

2.4.2 指定特定區間

2.4.3 通過特殊的檔案結尾字符

筆記重點:

記住,sed編輯器不會修改原始檔案,你洗掉的行只是從sed編輯器的輸出中消失了,原始
檔案仍然包含那些“刪掉的”行,

2.5 插入和附加文本

和其他編輯器類似,sed編輯器允許向資料流插入和附加文本行,兩個操作的區別可能比較讓人費解:

  • 插入(insert)命令(i)會在指定行前增加一個新行;
  • 附加(append)命令(a)會在指定行后增加一個新行,

這兩條命令的費解之處在于它們的格式,它們不能在單個命令列上使用,你必須指定是要將行插入還是附加到另一行,格式如下:

sed '[address]command new line'

注意:new line 中的文本將會出現在 sed 編輯器輸出中你指定的位置,記住,當使用插入命令時, 文本會出現在資料流文本的前面,

2.5.1 指定行數插入資料

2.6 修改行

修改( change )命令允許修改資料流中整行文本的內容,它跟插入和附加命令的作業機制
一樣,你必須在 sed 命令中單獨指定新行,

2.7 轉換命令

轉換( transform )命令( y )是唯一可以處理單個字符的 sed 編輯器命令,轉換命令格式
如下:
[ address ] y / inchars / outchars /
轉換命令會對 inchars outchars 值進行一對一的映射, inchars 中的第一個字符會被轉 換outchars 中的第一個字符,第二個字符會被轉換成 outchars 中的第二個字符,這個映射程序會一直持續到處理完指定字符,如果inchars outchars 的長度不同,則 sed 編輯器會產生一 條錯誤訊息,
操作示例:

如圖中輸出中看到的,inchars模式中指定字符的每個實體都會被替換成outchars模式中 相同位置的那個字符, 轉換命令是一個全域命令,也就是說,它會文本行中找到的所有指定字符自動進行轉換,而不會考慮它們出現的位置,

sed 編輯器轉換了在文本行中匹配到的字符 1 的兩個實體,無法限定只轉換在特定地方出現 的字符,
如下例:

2.8 使用 sed 處理檔案

替換命令包含一些可以用于檔案的標記,還有一些 sed 編輯器命令也可以實作同樣的目標,
不需要非得替換文本,

2.8.1 寫入檔案

w 命令用來向檔案寫入行,該命令的格式如下:
[ address ]w filename
filename 可以使用相對路徑或絕對路徑,但不管是哪種,運行 sed 編輯器的用戶都必須有文
件的寫權限,地址可以是 sed 中支持的任意型別的尋址方式,例如單個行號、文本模式、行區間
或文本模式,
下面的例子是將資料流中的前兩行列印到一個文本檔案中:

2.8.2 2. 從檔案讀取資料

上面已經了解了如何在 sed 命令列上向資料流中插入或附加文本,讀取( read )命令( r )允
許你將一個獨立檔案中的資料插入到資料流中,
讀取命令的格式如下:
[ address ]r filename
filename 引數指定了資料檔案的絕對路徑或相對路徑,你在讀取命令中使用地址區間,只
能指定單獨一個行號或文本模式地址, sed 編輯器會將檔案中的文本插入到指定地址后,

后記:

雖然 shell 腳本本身完成很多事情,但單憑 shell 腳本通常很難處理資料, Linux 提供了兩個方便
的工具來幫助處理文本資料,作為一款流編輯器, sed 編輯器能在讀取資料時快速地自動處理數 據,必須給sed 編輯器提供用于處理資料的編輯命令,
下篇我們將會持續講到awk,,,,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/303048.html

標籤:其他

上一篇:資料結構學習筆記--順序表

下一篇:C語言篇 + 記憶體管理及柔性陣列話題

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more