主頁 > 軟體工程 > 沒有async/await的異步readline回圈

沒有async/await的異步readline回圈

2022-03-29 19:39:07 軟體工程

我想在我的嵌入式設備上使用這個功能(在我的筆記本電腦上運行良好)或類似的東西。但是有兩個問題:

  1. 我們設備上的 Node.JS 太舊了,以至于 JavaScript 不支持 async / await。鑒于我們在該領域的數百個單位,更新可能是不切實際的。
  2. 即使這不是問題,我們還有另一個問題:檔案可能有數十兆位元組大小,不能一次全部放入記憶體中。而這個 for-await 回圈將或多或少同時啟動數千個異步任務。

async function sendOldData(pathname) {
    const reader = ReadLine.createInterface({
      input: fs.createReadStream(pathname), 
      crlfDelay: Infinity
     })
    for await (const line of reader) {
      record = JSON.parse(line);
      sendOldRecord(record);
    }
}

function sendOldRecord(record) {...}

Promise 在這個舊版本中有效。我確信使用 Promises 順序執行此操作有一種優雅的語法:

read one line
massage its data
send that data to our server

順序但異步,以便在將資料發送到服務器時不會阻塞 JavaScript 事件回圈。

拜托,有人可以建議在我過時的 JavaScript 中執行此操作的正確語法嗎?

uj5u.com熱心網友回復:

建立一個佇列,以便將下一個從陣列中取出

function foo() {

  const reader = [
    '{"foo": 1}',
    '{"foo": 2}',
    '{"foo": 3}',
    '{"foo": 4}',
    '{"foo": 5}',
  ];


  function doNext() {
    if (!reader.length) {
      console.log('done');
      return;
    }
    const line = reader.shift();
    const record = JSON.parse(line);
    sendOldRecord(record, doNext);
  }
  
  doNext();

}

function sendOldRecord(record, done) {
  console.log(record);
  // what ever your async task is
  window.setTimeout(function () {
    done();
  }, Math.floor(2000 * Math.random()));
}

foo();

uj5u.com熱心網友回復:

基本上你可以使用功能方法來實作這一點:

const arrayOfValues = [1,2,3,4,5];

const chainOfPromises = arrayOfValues.reduce((acc, item) => {

  return acc.then((result) => {
    // Here you can add your logic for parsing/sending request
    
    // And here you are chaining next promise request
    return yourAsyncFunction(item);
  })

}, Promise.resolve());

// Basically this will do
// Promise.resolve().then(_ => yourAsyncFunction(1)).then(_ => yourAsyncFunction(2)) and so on...

// Start
chainOfPromises.then();

uj5u.com熱心網友回復:

問題

readline流和異步處理讓它們很好地協同作業并處理所有可能的錯誤情況有點痛苦,而且對于模塊來說情況更糟。由于您似乎在說您不能將for await ()構造用于可讀性(即使它受到支持,也存在各種問題),所以事情甚至更復雜一些。

on 流的主要問題readline.createInterface()是它讀取檔案的一個塊,決議該塊以獲得完整的行,然后在緊密的 for 回圈中同步發送所有行。

您可以從字面上看到這里的代碼:

for (let n = 0; n < lines.length; n  ) this[kOnLine](lines[n]);

的實作是kOnLine這樣的:

 this.emit('line', line);

所以,這是一個緊密的for回圈,它會發出它讀出的所有行。所以......如果你在回應line事件時嘗試做一些異步的事情,當你點擊一個await或異步回呼的那一刻,這個 readline 代碼將line在你完成處理前一個事件之前發送下一個事件。這使得line按順序對事件進行異步處理變得很痛苦,您在開始下一行之前完成異步處理一行。IMO,這是一個非常失敗的設計,因為它只適用于同步處理。你會注意到這個for回圈也不關心 readline 物件是否被暫停。它只是抽出它擁有的所有線路,而不考慮任何事情。

討論可能的解決方案

那么,該怎么辦呢。對此的修復的一部分是在 readline 的異步迭代器介面中(但它還有其他問題,我已經提交了錯誤)。但是,您的問題的假設似乎是您不能使用該異步迭代器介面,因為您的設備可能有較舊版本的 nodejs。如果是這種情況,那么我只知道兩種選擇:

  1. 完全放棄該readline.createInterface()功能,要么使用第 3 方模塊,要么進行自己的線路邊界處理。
  2. 用您自己的代碼覆寫line事件,該代碼支持異步處理行,而不會在仍在處理前一行的程序中獲取下一行。

一個解法

我已經為選項 #2 撰寫了一個實作,用您自己的代碼覆寫了 line 事件。在我的實作中,我們只承認在我們異步處理前幾行期間行事件將到達,但不是通知您那時,輸入流被暫停并且這些“早期”行被排隊。使用此解決方案,readline 代碼將從輸入流中讀取一大塊資料,將其決議為完整的行,同步發送line這些完整行的所有事件。但是,在收到第一行事件后,我們將暫停輸入流并啟動后續行事件的排隊。因此,您可以異步處理一行,并且在您請求下一行之前不會得到另一行。

This code has a different way of communicating incoming lines to your code. Since we're in the age of promises for asynchronous code, I've added a promise-based reader.getNextLine() function to the reader object.

This lets you write code like this:

import fs from 'fs';

async function run(filename) {
    let reader = createLineReader({
        input: fs.createReadStream(filename),
        crlfDelay: Infinity
    });

    let line;
    let cntr = 0;
    while ((line = await reader.getNextLine()) !== null) {
        // simulate some asynchronous operation in the processing of the line
        console.log(`${  cntr}: ${line}`);
        await processLine(line);
    }
}

run("temp.txt").then(result => {
    console.log("done");
}).catch(err => {
    console.log(err);
});

And, here's the implementation of createLineReader():

import * as ReadLine from 'readline';

function createLineReader(options) {
    const stream = options.input;
    const reader = ReadLine.createInterface(options);

    // state machine variables
    let latchedErr = null;
    let isPaused = false;
    let readerClosed = false;
    const queuedLines = [];

    // resolves with line
    // resolves with null if no more lines
    // rejects with error
    reader.getNextLine = async function() {
        if (latchedErr) {
            // once we get an error, we're done
            throw latchedErr;
        } else if (queuedLines.length) {
            // if something in the queue, return the oldest from the queue
            const line = queuedLines.shift();
            if (queuedLines.length === 0 && isPaused) {
                reader.resume();
            }
            return line;
        } else if (readerClosed) {
            // if nothing in the queue and the reader is closed, then signify end of data
            return null;
        } else {
            // waiting for more line data to arrive
            return new Promise((resolve, reject) => {
                function clear() {
                    reader.off('error', errorListener);
                    reader.off('queued', queuedListener);
                    reader.off('done', doneListener);
                }

                function queuedListener() {
                    clear();
                    resolve(queuedLines.shift());
                }

                function errorListener(e) {
                    clear();
                    reject(e);
                }

                function doneListener() {
                    clear();
                    resolve(null);
                }

                reader.once('queued', queuedListener);
                reader.once('error', errorListener);
                reader.once('done', doneListener);
            });
        }
    }

    reader.on('pause', () => {
        isPaused = true;
    }).on('resume', () => {
        isPaused = false;
    }).on('line', line => {
        queuedLines.push(line);
        if (!isPaused) {
            reader.pause();
        }
        // tell any queue listener that something was just added to the queue
        reader.emit('queued');
    }).on('close', () => {
        readerClosed = true;
        if (queuedLines.length === 0) {
            reader.emit('done');
        }
    });

    return reader;
}

Explanation

Internally, the implementation takes each new line event and puts it into a queue. Then, reader.getNextLine() just pulls items from the queue or waits (with a promise) for the queue to get something put in it.

During operation, the readline object will get a chunk of data from your readstream, it will parse that into whole lines. The whole lines will all get added to the queue (via line events). The readstream will be paused so it won't generate any more lines until the queue has been drained.

When the queue becomes empty, the readstream will be resumed so it can send more data to the reader object.

This is scalable to very large files because it will only queue the whole lines found in one chunk of the file being read. Once those lines are queued, the input stream is paused so it won't put more into the queue. After the queue is drained, the inputs stream is resumed so it can send more data and repeat...

Any errors in the readstream will trigger an error event on the readline object which will either reject a reader.getNextLine() that is already waiting for the next line or will reject the next time reader.getNextLine() is called.

Disclaimers

This has only been tested with file-based readstreams.

I would not recommend having more than one reader.getNextLine() in process at once as this code does not anticipate that and it's not even clear what that should do.

轉載請註明出處,本文鏈接:https://www.uj5u.com/gongcheng/451759.html

標籤:javascript 异步 承诺

上一篇:如何檢查多個同步和異步javascript承諾是否已完成

下一篇:等待一個承諾得到解決,然后再繼續使用功能

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • Git本地庫既關聯GitHub又關聯Gitee

    創建代碼倉庫 使用gitee舉例(github和gitee差不多) 1.在gitee右上角點擊+,選擇新建倉庫 ? 2.選擇填寫倉庫資訊,然后進行創建 ? 3.服務端已經準備好了,本地開始作準備 (1)Git 全域設定 git config --global user.name "成鈺" git c ......

    uj5u.com 2020-09-10 05:04:14 more
  • CODING DevOps 代碼質量實戰系列第二課,相約周三

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。**《DevOps 代碼質量實戰(PHP 版)》**為 CODING DevOps 代碼質量實戰系列的第二課,同時也是本系列的 PHP ......

    uj5u.com 2020-09-10 05:07:43 more
  • 推薦Scrum書籍

    推薦Scrum書籍 直接上干貨,推薦書籍清單如下(推薦有順序的哦) Scrum指南 Scrum精髓 Scrum敏捷軟體開發 Scrum捷徑 硝煙中的Scrum和XP : 我們如何實施Scrum 敏捷軟體開發:Scrum實戰指南 Scrum要素 大規模Scrum:大規模敏捷組織的設計 用戶故事地圖 用 ......

    uj5u.com 2020-09-10 05:07:45 more
  • CODING DevOps 代碼質量實戰系列最后一課,周四發車

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。 **《DevOps 代碼質量實戰(Java 版)》**為 CODING DevOps 代碼質量實戰系列的最后一課,同時也是本系列的 ......

    uj5u.com 2020-09-10 05:07:52 more
  • 敏捷軟體工程實踐書籍

    Scrum轉型想要做好,第一步先了解并真正落實Scrum,那么我推薦的Scrum書籍是要看懂并實踐的。第二步是團隊的工程實踐要做扎實。 下面推薦工程實踐書單: 重構:改善既有代碼的設計 決議極限編程 : 擁抱變化 代碼整潔代碼 程式員的職業素養 修改代碼的藝術 撰寫可讀代碼的藝術 測驗驅動開發 : ......

    uj5u.com 2020-09-10 05:07:55 more
  • Jenkins+svn+nginx實作windows環境自動部署vue前端專案

    前面文章介紹了Jenkins+svn+tomcat實作自動化部署,現在終于有空抽時間出來寫下Jenkins+svn+nginx實作自動部署vue前端專案。 jenkins的安裝和配置已經在前面文章進行介紹,下面介紹實作vue前端專案需要進行的哪些額外的步驟。 注意:在安裝jenkins和nginx的 ......

    uj5u.com 2020-09-10 05:08:49 more
  • CODING DevOps 微服務專案實戰系列第一課,明天等你

    CODING DevOps 微服務專案實戰系列第一課**《DevOps 微服務專案實戰:DevOps 初體驗》**將由 CODING DevOps 開發工程師 王寬老師 向大家介紹 DevOps 的基本理念,并探討為什么現代開發活動需要 DevOps,同時將以 eShopOnContainers 項 ......

    uj5u.com 2020-09-10 05:09:14 more
  • CODING DevOps 微服務專案實戰系列第二課來啦!

    近年來,工程專案的結構越來越復雜,需要接入合適的持續集成流水線形式,才能滿足更多變的需求,那么如何優雅地使用 CI 能力提升生產效率呢?CODING DevOps 微服務專案實戰系列第二課 《DevOps 微服務專案實戰:CI 進階用法》 將由 CODING DevOps 全堆疊工程師 何晨哲老師 向 ......

    uj5u.com 2020-09-10 05:09:33 more
  • CODING DevOps 微服務專案實戰系列最后一課,周四開講!

    隨著軟體工程越來越復雜化,如何在 Kubernetes 集群進行灰度發布成為了生產部署的”必修課“,而如何實作安全可控、自動化的灰度發布也成為了持續部署重點關注的問題。CODING DevOps 微服務專案實戰系列最后一課:**《DevOps 微服務專案實戰:基于 Nginx-ingress 的自動 ......

    uj5u.com 2020-09-10 05:10:00 more
  • CODING 儀表盤功能正式推出,實作作業資料可視化!

    CODING 儀表盤功能現已正式推出!該功能旨在用一張張統計卡片的形式,統計并展示使用 CODING 中所產生的資料。這意味著無需額外的設定,就可以收集歸納寶貴的作業資料并予之量化分析。這些海量的資料皆會以圖表或串列的方式躍然紙上,方便團隊成員隨時查看各專案的進度、狀態和指標,云端協作迎來真正意義上 ......

    uj5u.com 2020-09-10 05:11:01 more
最新发布
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:41:12 more
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:35:34 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:05:44 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:00:18 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:20:31 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:55 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:18:51 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:00 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:17:55 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:12:06 more