主頁 > 作業系統 > 我怎樣才能在awk中做到這一點?我有幾個檔案,其中有兩列,第一列中的值相同。如何逐行平均第二列中的值?

我怎樣才能在awk中做到這一點?我有幾個檔案,其中有兩列,第一列中的值相同。如何逐行平均第二列中的值?

2022-04-20 20:11:18 作業系統

我是一個缺乏經驗的 Awk 用戶,但我知道 Awk 是處理許多檔案的有效選擇。如果有人能指出我正確的方向,我將不勝感激。

我有一個名為parent. 里面有更多名為1, 2, 3, 4, .... 在每個目錄中都有一個名為angles. 里面angles是一個名為 的檔案angle_A_B_C.dat,如下所示。

parent
  1
     angles
       angle_A_B_C.dat
  2
     angles
       angle_A_B_C.dat
  3
     angles
       angle_A_B_C.dat
  4
     angles
       angle_A_B_C.dat
  ...

這些檔案angle_A_B_C.dat都具有相同的行數 (91) 和相同的第一列。只有第二列中的值是不同的。以下是一個angle_A_B_C.dat檔案的示例:

# Deg[°]         Angle[A ,B ,C ] 
     1.000        0.0000000000
     3.000        0.0000000000
     5.000        0.0000000000
     7.000        0.0000000000
     9.000        0.0000000000
    11.000        0.0000000000
    13.000        0.0000000000
    15.000        0.0000000000
    17.000        0.0000000000
    19.000        0.0000000000
    21.000        0.0000000000
    23.000        0.0000000000
    25.000        0.0000000000
    27.000        0.0000000000
    29.000        0.0000000000
    31.000        0.0000000000
    33.000        0.0000000000
    35.000        0.0000000000
    37.000        0.0000000000
    39.000        0.0000000000
    41.000        0.0000000000
    43.000        0.0000000000
    45.000        0.0000000000
    47.000        0.0000000000
    49.000        0.0000000000
    51.000        0.0000000000
    53.000        0.0000000000
    55.000        0.0000000000
    57.000        0.0000000000
    59.000        0.0000000000
    61.000        0.0000000000
    63.000        0.0000000000
    65.000        0.0000000000
    67.000        1.0309278351
    69.000        1.0309278351
    71.000        2.0618556701
    73.000        1.0309278351
    75.000        2.0618556701
    77.000        0.0000000000
    79.000        0.0000000000
    81.000        4.1237113402
    83.000        2.0618556701
    85.000        4.1237113402
    87.000        2.0618556701
    89.000        2.0618556701
    91.000        5.1546391753
    93.000        3.0927835052
    95.000        1.0309278351
    97.000        3.0927835052
    99.000        1.0309278351
   101.000        2.0618556701
   103.000        9.2783505155
   105.000        7.2164948454
   107.000        4.1237113402
   109.000        5.1546391753
   111.000        5.1546391753
   113.000        3.0927835052
   115.000        2.0618556701
   117.000        9.2783505155
   119.000        0.0000000000
   121.000        3.0927835052
   123.000        3.0927835052
   125.000        2.0618556701
   127.000        0.0000000000
   129.000        1.0309278351
   131.000        1.0309278351
   133.000        2.0618556701
   135.000        1.0309278351
   137.000        0.0000000000
   139.000        1.0309278351
   141.000        0.0000000000
   143.000        0.0000000000
   145.000        1.0309278351
   147.000        0.0000000000
   149.000        0.0000000000
   151.000        1.0309278351
   153.000        0.0000000000
   155.000        0.0000000000
   157.000        1.0309278351
   159.000        0.0000000000
   161.000        0.0000000000
   163.000        0.0000000000
   165.000        0.0000000000
   167.000        0.0000000000
   169.000        0.0000000000
   171.000        0.0000000000
   173.000        0.0000000000
   175.000        0.0000000000
   177.000        0.0000000000
   179.000        0.0000000000

我想生成一個名為的檔案anglesSummary.txt,其中第一列與上面示例中的所有angle_A_B_C.dat檔案相同,并且第二列的每一行是所有其他檔案中同一行的平均值。

我大致記得如何取位于不同目錄中不同檔案中的整個列的平均值,但不知道如何一次只處理一行。這可能嗎?

這是我現在的位置;問號顯示我認為我被困在哪里。

cd parent
find . -name angle_A_B_C.dat -exec grep "Angle[A ,B ,C ]" {}   > anglesSummary.txt
my_output="$(awk '{ total  = ??? } END { print total/NR }' anglesSummary.txt)"
echo "Average: $my_output" >> anglesSummary.txt

更新(回應 markp-fuso 評論)

我想要什么(請參閱第 1 列值為 15.000 的行的注釋):

# Deg[°]         Angle[A ,B ,C ] 
     1.000        0.0000000000
     3.000        0.0000000000
     5.000        0.0000000000
     7.000        0.0000000000
     9.000        0.0000000000
    11.000        0.0000000000
    13.000        0.0000000000
    15.000        1.2222220000 # <--Each row in column 2 is the average of the value in the corresponding row, column 2 in all files. So this particular value (1.222222) is the average of the values in all files where the column 1 value is 15.000.
    17.000        0.0000000000
    19.000        0.0000000000
    21.000        0.0000000000
    23.000        0.0000000000
    25.000        0.0000000000
    27.000        0.0000000000
    29.000        0.0000000000
    31.000        0.0000000000
    33.000        0.0000000000
    35.000        0.0000000000
    ... (truncated)

我目前從我的代碼中得到的是每個 angle_A_B_C.dat 檔案中第 2 列平均值的平均值。

如果這仍然不清楚,請隨時說出來,我會重寫它。謝謝你。

uj5u.com熱心網友回復:

樣本輸入:

$ head */*/angle*
==> 1/angles/angle_A_B_C.dat <==
# Deg[°]         Angle[A ,B ,C ]
     1.000        0.3450000000
     3.000        0.4560000000
     5.000        0.7890000000
     7.000        10.0000000000
     9.000        20.0000000000
    11.000        30.0000000000
    13.000        40.0000000000

==> 2/angles/angle_A_B_C.dat <==
# Deg[°]         Angle[A ,B ,C ]
     1.000        7.3450000000
     3.000        8.4560000000
     5.000        9.7890000000
     7.000        17.0000000000
     9.000        27.0000000000
    11.000        37.0000000000
    13.000        47.0000000000

==> 3/angles/angle_A_B_C.dat <==
# Deg[°]         Angle[A ,B ,C ]
     1.000        0.9876000000
     3.000        0.5432000000
     5.000        0.2344560000
     7.000        3.0000000000
     9.000        4.0000000000
    11.000        5.0000000000
    13.000        6.0000000000

一個GNU awk想法:

find . -name angle_A_B_C.dat -type f -exec awk '
NR==1   { printf "%s\t%s\n","# Deg[°]", "Angle[A ,B ,C ]" }   # 1st record of 1st file => print header
FNR==1  { filecount  ; next }                                 # 1st record of each new file => increment file counter; skip to next input line
NF==2   { sums[$1] =$2 }                                      # sum up angles, use 1st column as array index
END     { if (filecount>0) {                                  # eliminate "divide by zero" error if no files found
              PROCINFO["sorted_in"]="@ind_num_asc"            # sort array by numeric index in ascending order
              for (i in sums)                                 # loop through array indices, printing index and average
                  printf "%.3f\t%.10f\n", i, sums[i]/filecount
          }
        }
' {}  

筆記:

  • GNU awk需要PROCINFO["sorted_in"]允許以# Deg[°]升序生成輸出(否則輸出可以通過管道傳輸sort以確保所需的順序)

假設輸入行已經排序:

find . -name angle_A_B_C.dat -type f -exec awk '
NR==1   { printf "%s\t%s\n","# Deg[°]", "Angle[A ,B ,C ]" }
FNR==1  { filecount  ; next }
NF==2   { col1[FNR]=$1;  sums[FNR] =$2 }
END     { if (filecount>0)
              for (i=2;i<=FNR;i  )
                  printf "%.3f\t%.10f\n", col1[i], sums[i]/filecount
        }
' {}  

筆記:

  • 應該在所有awk版本中運行(即不需要GNU awk
  • 基于 jhnc 的評論(如果 jhnc 想發布單獨的答案,我可以洗掉這部分答案)

這兩個生成:

# Deg[°]         Angle[A ,B ,C ]
1.000   2.8925333333
3.000   3.1517333333
5.000   3.6041520000
7.000   10.0000000000
9.000   17.0000000000
11.000  24.0000000000
13.000  31.0000000000

筆記:

  • printf通過修改格式字串,可以根據 OP 的喜好調整輸出格式

uj5u.com熱心網友回復:

使用連接輸入檔案的合成版本進行測驗212 MB,假設有一點 over 76,000 individual files,并完成整個報告2.23 seconds

該解決方案旨在通過將中間值存盤為無符號整數2^53而不是雙精度浮點數來最小化舍入誤差,并使用最昂貴的字串操作來防止不希望的預轉換為浮點數。

它還使用蠻力方法來規避某些awk缺乏內置排序功能的 s 的限制。好處是 - 輸入檔案中的行可以是任何混亂的順序,這很好。

pvE0 <  test.txt \
\
| mawk2 '
  BEGIN {____=\
         _^=_=(_ =  _ _)^--_ --_;_____=!(_=!_)
   } {
      if (/Deg/) { ___[$_]   } else {
           ___[$_____]=$_
           __[$_____] =____*int(______=$NF) \
                         substr(______,index(______,".") _____) 
   } } END { 
     for(_ in ___) { if(index(_,"Deg")) { 
         ______=___[_]
         print _
            break } }
      _________=match(________=sprintf("%.*s",\
                      index(____,!____),____),/$/) 
     for(_=_~_;_-________<=(_________ ________)*\
                         (_________ ________);_  ) {
       if((_______=sprintf("%.*f",_________,_)) in __) { 
           _____=___[_______]
                 sub("[ \t]*[[:digit:]] [.][[:digit:]] $",        
          sprintf("%c%*.*f",--________,  ________ _________,
                    ________,__[_______]/______/____),_____) 
        print _____ } } }' 



  in0:  212MiB 0:00:02 [97.1MiB/s] [97.1MiB/s] 
  [=============================>] 100%   
     
 # Deg[°]         Angle[A ,B ,C ] 
     1.000       7.5148221018
     3.000       7.4967176419
     5.000       7.5160005498
     7.000       7.4793862628
     9.000       7.5123479596
    11.000       7.4791082935
    13.000       7.4858962001
    15.000       7.4941294148
    17.000       7.5150168021
    19.000       7.5067556155
    21.000       7.5146136198
    23.000       7.4792701433
    25.000       7.4801382861
    27.000       7.5026906476
    29.000       7.4802267331
    31.000       7.5216754387
    33.000       7.4892379481
    35.000       7.4905661773
    37.000       7.4759338641
    39.000       7.5130521094
    41.000       7.4923359448
    43.000       7.4680275394
    45.000       7.5131741424
    47.000       7.5022641880
    49.000       7.4865545672
    51.000       7.5280509182
    53.000       7.4982720538
    55.000       7.5082048446
    57.000       7.5034726853
    59.000       7.4978429619
    61.000       7.5055566807
    63.000       7.5108651984
    65.000       7.5211276535
    67.000       7.4875763176
    69.000       7.4993074644
    71.000       7.5124084003
    73.000       7.5321662989
    75.000       7.4859560680
    77.000       7.4700932217
    79.000       7.5121024268
    81.000       7.5180572994
    83.000       7.4938736294
    85.000       7.5073566749
    87.000       7.4917927829
    89.000       7.5142626391
    91.000       7.5223228551
    93.000       7.5168014947
    95.000       7.4757822101
    97.000       7.5141328593
    99.000       7.4863544344
   101.000       7.5036731671
   103.000       7.5200733708
   105.000       7.4964541138
   107.000       7.5050440318
   109.000       7.4890049434
   111.000       7.5045965882
   113.000       7.5119613957
   115.000       7.5050971735
   117.000       7.4983417123
   119.000       7.4867090870
   121.000       7.5047947039
   123.000       7.4837043078
   125.000       7.4995212486
   127.000       7.5111280706
   129.000       7.5092771858
   131.000       7.4977679060
   133.000       7.5278372066
   135.000       7.4794945181
   137.000       7.5152681775
   139.000       7.4954245649
   141.000       7.5099441844
   143.000       7.4945221883
   145.000       7.4860083947
   147.000       7.4848234307
   149.000       7.4932545468
   151.000       7.4937942058
   153.000       7.4657789265
   155.000       7.4947049961
   157.000       7.5113607827
   159.000       7.4978364461
   161.000       7.5031970850
   163.000       7.5017955073
   165.000       7.5187543102
   167.000       7.5064268609
   169.000       7.4985988429
   171.000       7.5438396243
   173.000       7.4917706435
   175.000       7.4589904950
   177.000       7.5072644989
   179.000       7.5176241959

轉載請註明出處,本文鏈接:https://www.uj5u.com/caozuo/458917.html

標籤:文件 awk 文件-io

上一篇:洗掉Python中的所有空字符

下一篇:使用檔案名和串列作為引數將串列寫入檔案函式

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • CA和證書

    1、在 CentOS7 中使用 gpg 創建 RSA 非對稱密鑰對 gpg --gen-key #Centos上生成公鑰/密鑰對(存放在家目錄.gnupg/) 2、將 CentOS7 匯出的公鑰,拷貝到 CentOS8 中,在 CentOS8 中使用 CentOS7 的公鑰加密一個檔案 gpg -a ......

    uj5u.com 2020-09-10 00:09:53 more
  • Kubernetes K8S之資源控制器Job和CronJob詳解

    Kubernetes的資源控制器Job和CronJob詳解與示例 ......

    uj5u.com 2020-09-10 00:10:45 more
  • VMware下安裝CentOS

    VMware下安裝CentOS 一、軟硬體準備 1 Centos鏡像準備 1.1 CentOS鏡像下載地址 下載地址 1.2 CentOS鏡像下載程序 點擊下載地址進入如下圖的網站,選擇需要下載的版本,這里選擇的是Centos8,點擊如圖所示。 決定選擇Centos8后,選擇想要的鏡像源進行下載,此 ......

    uj5u.com 2020-09-10 00:12:10 more
  • 如何使用Grep命令查找多個字串

    如何使用Grep 命令查找多個字串 大家好,我是良許! 今天向大家介紹一個非常有用的技巧,那就是使用 grep 命令查找多個字串。 簡單介紹一下,grep 命令可以理解為是一個功能強大的命令列工具,可以用它在一個或多個輸入檔案中搜索與正則運算式相匹配的文本,然后再將每個匹配的文本用標準輸出的格式 ......

    uj5u.com 2020-09-10 00:12:28 more
  • git配置http代理

    git配置http代理 經常遇到克隆 github 慢的問題,這里記錄一下幾種配置 git 代理的方法,解決 clone github 過慢。 目錄 git配置代理 git單獨配置github代理 git配置全域代理 配置終端環境變數 git配置代理 主要使用 git config 命令 git單獨 ......

    uj5u.com 2020-09-10 00:12:33 more
  • Linux npm install 裝包時提示Error EACCES permission denied解

    npm install 裝包時提示Error EACCES permission denied解決辦法 ......

    uj5u.com 2020-09-10 00:12:53 more
  • Centos 7下安裝nginx,使用yum install nginx,提示沒有可用的軟體包

    Centos 7下安裝nginx,使用yum install nginx,提示沒有可用的軟體包。 18 (flaskApi) [root@67 flaskDemo]# yum -y install nginx 19 已加載插件:fastestmirror, langpacks 20 Loading ......

    uj5u.com 2020-09-10 00:13:13 more
  • Linux查看服務器暴力破解ssh IP

    在公網的服務器上經常遇到別人爆破你服務器的22埠,用來挖礦或者干其他嘿嘿嘿的事情~ 這種情況下正確的做法是: 修改默認ssh的22埠 使用設定密鑰登錄或者白名單ip登錄 建議服務器密碼為復雜密碼 創建普通用戶登錄服務器(root權限過大) 建立堡壘機,實作統一管理服務器 統計爆破IP [root ......

    uj5u.com 2020-09-10 00:13:17 more
  • CentOS 7系統常見快捷鍵操作方式

    Linux系統中一些常見的快捷方式,可有效提高操作效率,在某些時刻也能避免操作失誤帶來的問題。 ......

    uj5u.com 2020-09-10 00:13:31 more
  • CentOS 7作業系統目錄結構介紹

    作業系統存在著大量的資料檔案資訊,相應檔案資訊會存在于系統相應目錄中,為了更好的管理資料資訊,會將系統進行一些目錄規劃,不同目錄存放不同的資源。 ......

    uj5u.com 2020-09-10 00:13:35 more
最新发布
  • vim的常用命令

    Vim的6種基本模式 1. 普通模式在普通模式中,用的編輯器命令,比如移動游標,洗掉文本等等。這也是Vim啟動后的默認模式。這正好和許多新用戶期待的操作方式相反(大多數編輯器默認模式為插入模式)。 2. 插入模式在這個模式中,大多數按鍵都會向文本緩沖中插入文本。大多數新用戶希望文本編輯器編輯程序中一 ......

    uj5u.com 2023-04-20 08:43:21 more
  • vim的常用命令

    Vim的6種基本模式 1. 普通模式在普通模式中,用的編輯器命令,比如移動游標,洗掉文本等等。這也是Vim啟動后的默認模式。這正好和許多新用戶期待的操作方式相反(大多數編輯器默認模式為插入模式)。 2. 插入模式在這個模式中,大多數按鍵都會向文本緩沖中插入文本。大多數新用戶希望文本編輯器編輯程序中一 ......

    uj5u.com 2023-04-20 08:42:36 more
  • docker學習

    ###Docker概述 真實專案部署環境可能非常復雜,傳統發布專案一個只需要一個jar包,運行環境需要單獨部署。而通過Docker可將jar包和相關環境(如jdk,redis,Hadoop...)等打包到docker鏡像里,將鏡像發布到Docker倉庫,部署時下載發布的鏡像,直接運行發布的鏡像即可。 ......

    uj5u.com 2023-04-19 09:26:53 more
  • 設定Windows主機的瀏覽器為wls2的默認瀏覽器

    這里以Chrome為例。 1. 準備作業 wsl是可以使用Windows主機上安裝的exe程式,出于安全考慮,默認情況下改功能是無法使用。要使用的話,終端需要以管理員權限啟動。 我這里以Windows Terminal為例,介紹如何默認使用管理員權限打開終端,具體操作如下圖所示: 2. 操作 wsl ......

    uj5u.com 2023-04-19 09:25:49 more
  • docker學習

    ###Docker概述 真實專案部署環境可能非常復雜,傳統發布專案一個只需要一個jar包,運行環境需要單獨部署。而通過Docker可將jar包和相關環境(如jdk,redis,Hadoop...)等打包到docker鏡像里,將鏡像發布到Docker倉庫,部署時下載發布的鏡像,直接運行發布的鏡像即可。 ......

    uj5u.com 2023-04-19 09:19:04 more
  • Linux學習筆記

    IP地址和主機名 IP地址 ifconfig可以用來查詢本機的IP地址,如果不能使用,可以通過install net-tools安裝。 Centos系統下ens33表示主網卡;inet后表示IP地址;lo表示本地回環網卡; 127.0.0.1表示代指本機;0.0.0.0可以用于代指本機,同時在放行設 ......

    uj5u.com 2023-04-18 06:52:01 more
  • 解決linux系統的kdump服務無法啟動的問題

    問題:專案麒麟系統服務器的kdump服務無法啟動,沒有相關日志無法定位問題。 1、查看服務狀態是關閉的,重啟系統也無法啟動 systemctl status kdump 2、修改grub引數,修改“crashkernel”為“512M(有的機器數值太大太小都會導致報錯,建議從128M開始試,或者加個 ......

    uj5u.com 2023-04-12 09:59:50 more
  • 解決linux系統的kdump服務無法啟動的問題

    問題:專案麒麟系統服務器的kdump服務無法啟動,沒有相關日志無法定位問題。 1、查看服務狀態是關閉的,重啟系統也無法啟動 systemctl status kdump 2、修改grub引數,修改“crashkernel”為“512M(有的機器數值太大太小都會導致報錯,建議從128M開始試,或者加個 ......

    uj5u.com 2023-04-12 09:59:01 more
  • 你是不是暴露了?

    作者:袁首京 原創文章,轉載時請保留此宣告,并給出原文連接。 如果您是計算機相關從業人員,那么應該經歷不止一次網路安全專項檢查了,你肯定是收到過資訊系統技術檢測報告,要求你加強風險監測,確保你提供的系統服務堅實可靠了。 沒檢測到問題還好,檢測到問題的話,有些處理起來還是挺麻煩的,尤其是線上正在運行的 ......

    uj5u.com 2023-04-05 16:52:56 more
  • 細節拉滿,80 張圖帶你一步一步推演 slab 記憶體池的設計與實作

    1. 前文回顧 在之前的幾篇記憶體管理系列文章中,筆者帶大家從宏觀角度完整地梳理了一遍 Linux 記憶體分配的整個鏈路,本文的主題依然是記憶體分配,這一次我們會從微觀的角度來探秘一下 Linux 內核中用于零散小記憶體塊分配的記憶體池 —— slab 分配器。 在本小節中,筆者還是按照以往的風格先帶大家簡單 ......

    uj5u.com 2023-04-05 16:44:11 more