主頁 > 後端開發 > [Python自動化]使用Python Pexpect模塊實作自動化互動腳本使用心得

[Python自動化]使用Python Pexpect模塊實作自動化互動腳本使用心得

2023-04-26 07:34:51 後端開發

使用Python Pexpect模塊實作自動化互動腳本使用心得

參考檔案:https://pexpect.readthedocs.io/en/stable/

前言

在最近的作業中,需要使用DockerFile構建鏡像,在構建鏡像的程序中,有一些執行的命令是需要互動的,例如安裝tzdata(apt install tzdata),不過在使用apt安裝時,可以直接使用DEBIAN_FRONTEND=noninteractive 前綴來取消互動(至于是禁止互動還是選擇互動的默認值,這一點就不太清楚了,TODO),具體的命令列就是DEBIAN_FRONTEND=noninteractive apt install -y tzdata,在Dockerfile中也可以使用ARG進行統一設定,不過這種前綴設定方法僅僅適用于apt(大概TODO),還有另一種我一開始就想到的方法,也就是利用類Unix自帶的管道(pipe)功能,實作行程間通信,或是將stdin檔案描述符重定向為某個文本或是字串,按道理這是可行的,但是經過我的測驗,不知道為啥行不通(等待探索TODO),

Docker鏡像中需要構建一個rust環境,因此需要安裝rust,安裝rust的方法一般有兩種

  • 使用官方推薦的 curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh 命令進行操作,這個命令首先下載腳本,然后將輸出的腳本通過管道作為sh行程的輸入(pipe,fork,exec,dup),sh執行腳本的程序中會遇到一些互動,如果這時候將sh的stdin重定向到預定好的檔案或是字串,按道理是可以直接進行自動化互動的,至于為啥沒能成功,,咱也不知道 (curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh) < in.in 為啥不能成功捏,
  • 直接使用apt install rust-all,這種方法確實方便,也沒有任何互動,但是很多配置因為由于和rust官方可能不一樣,很多環境變數沒有設定($CARGO_HOME),有些時候還需要自己配置,屬實是麻煩得很,

因此我迫切需要一個可以自動化互動的方法,在網上找了很久答案后,發現pexpect可以實作這種自動化互動,因此在這里需要學習pexpect的相關用法,(shell腳本中也有expect相關概念,但是由于shell腳本我用起來感覺有點不太適應,因此就用python了),

Pexpect簡介

Pexpect allows your script to spawn a child application and control it as if a human were typing commands.

Pexpect can be used for automating interactive applications such as ssh, ftp, passwd, telnet, etc. It can be used to a automate setup scripts for duplicating software package installations on different servers. It can be used for automated software testing.

一個中心:自動化,各種需要互動,需要輸入都可以自動化,

安裝

使用pip包管理進行安裝

pip install pexpect -i https://pypi.tuna.tsinghua.edu.cn/simple/

在這里用清華源進行加速,

This version of Pexpect requires Python 3.3 or above, or Python 2.7.

以下的流程均在Ubuntu上進行,Windows等系統使用pexpect請參考:https://pexpect.readthedocs.io/en/stable/overview.html#windows

基本操作

在py腳本中,定義想要匹配的提示,然后進行對應的輸出,其中匹配可以是字串完全匹配也可以是正則運算式狀態機匹配,

  • 通過pexpect.spawn方法進行腳本的執行
  • 配置expect,從而捕獲匹配的字串
  • 配置對應expect的回應

example

# This connects to the openbsd ftp site and
# downloads the recursive directory listing.
import pexpect
child = pexpect.spawn('ftp ftp.openbsd.org')
child.expect('Name .*: ')
child.sendline('anonymous')
child.expect('Password:')
child.sendline('[email protected]')
child.expect('ftp> ')
child.sendline('lcd /tmp')
child.expect('ftp> ')
child.sendline('cd pub/OpenBSD')
child.expect('ftp> ')
child.sendline('get README')
child.expect('ftp> ')
child.sendline('bye')

注意事項

  1. 驚天巨坑

    由于匹配的字串可以是正則運算式也可以是普通字串,因此有些符號是需要轉義的,
    比如我下面這個腳本

    import pexpect
    import sys
    child = pexpect.spawn('bash -c \'curl --proto \'=https\' --tlsv1.2 -sSf https://sh.rustup.rs | sh\'')
    child.expect("Continue\? \(y\/N\)")
    print("get 1")
    child.sendline("y")
    child.expect('>')
    print("get 2")
    child.sendline('1')
    child.expect(pexpect.EOF)
    

    如果child.expect("Continue\? \(y\/N\)")這句代碼沒有使用轉義符號,那么就將卡死,這玩意卡了我半小時,屬實是折磨了,

    驚天巨坑

  2. 當命令列中使用(>>,<<,|)等符號的時候,直接spwan+命令列是不起作用的,需要額外呼叫shell進行操作

    child = pexpect.spawn('bash -c \'curl --proto \'=https\' --tlsv1.2 -sSf https://sh.rustup.rs | sh\'')
    

    對應:curl --proto \'=https\' --tlsv1.2 -sSf https://sh.rustup.rs | sh

  3. If you wish to read up to the end of the child’s output without generating an EOF exception then use the expect(pexpect.EOF) method.

    正如檔案中所說,不管怎么樣,盡量都整一個expect(pexpect.EOF)來把EOF給吞掉

探索

有個問題,expect是順序執行的還是隨機匹配的呢?
可以使用一個沒有安裝rust的機器進行測驗,沒有安裝rust的機器不會出現Continue\? \(y\/N\)這一提示,查看expect是否會跳過,實測不會跳過,會卡住,

經過檔案的查看,使用

index = p.expect(['good', 'bad', pexpect.EOF, pexpect.TIMEOUT])
if index == 0:
    do_something()
elif index == 1:
    do_something_else()
elif index == 2:
    do_some_other_thing()
elif index == 3:
    do_something_completely_different()

index的操作,輸入多個可匹配字串,進行匹配,遇到哪個就執行哪個,

所以對于無序亂序輸出的程式,可以使用一個回圈,然后任意匹配,可以自定義一個狀態機,通過輸入的順序決定執行的流程,

try:
    index = p.expect(['good', 'bad'])
    if index == 0:
        do_something()
    elif index == 1:
        do_something_else()
except EOF:
    do_some_other_thing()
except TIMEOUT:
    do_something_completely_different()

在上面這段代碼中,EOF就可能是終止這個狀態機,TIMEOUT也有可能會中止狀態機,

最終Rust自動化無互動安裝腳本如下

import pexpect
child = pexpect.spawn('bash -c \'curl --proto \'=https\' --tlsv1.2 -sSf https://sh.rustup.rs | sh\'')
try:
    while True:
        index = child.expect(['Continue\? \(y\/N\)','>'])
        if index == 0:
            child.sendline('y')
            print("Continue? (y/N) y")
        elif index == 1:
            child.sendline('1')
            print("> 1")
except pexpect.EOF:
    exit
except pexpect.TIMEOUT:
    print("timeout")

如果timeout了,可以適當將timeout變大一些,畢竟下載安裝rust還是需要一定時間的

碎碎念

在我尋找答案的程序中,還發現了這么一個答案

curl https://sh.rustup.rs -sSf | sh -s -- -y

使用這個方法可以直接無互動自動化安裝,但是這是一個特解,應用程式千千萬萬,如果每個應用程式都有特殊的無互動方式,那么需要了解所有的相關操作,這不免有點太累了,好處呢,就是這個方案基本上是永久有效,能夠跟著應用程式更新,壞處呢也就是這只是一個特解,pexpect這個通解還是需要的,

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/551168.html

標籤:其他

上一篇:mybatis xml 中 大于、小于、等于 寫法

下一篇:返回列表

標籤雲
其他(158074) Python(38106) JavaScript(25391) Java(18001) C(15217) 區塊鏈(8260) C#(7972) AI(7469) 爪哇(7425) MySQL(7144) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5870) 数组(5741) R(5409) Linux(5329) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4561) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2431) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1960) Web開發(1951) HtmlCss(1926) python-3.x(1918) 弹簧靴(1913) C++(1911) xml(1889) PostgreSQL(1874) .NETCore(1855) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • [Python自動化]使用Python Pexpect模塊實作自動化互動腳本使用心

    使用Python Pexpect模塊實作自動化互動腳本使用心得 參考檔案:https://pexpect.readthedocs.io/en/stable/ 前言 在最近的作業中,需要使用DockerFile構建鏡像。在構建鏡像的程序中,有一些執行的命令是需要互動的。例如安裝tzdata(apt i ......

    uj5u.com 2023-04-26 07:34:51 more
  • mybatis xml 中 大于、小于、等于 寫法

    在 *.xml 中使用常規的 < > = <= >= 會與xml的語法存在沖突 方法一:使用xml 原生轉義的方式進行轉義 | 字符名稱 | sql符號 | 轉義字符 | |: :|: :|: | | 大于號 | > | &gt; | | 小于號 | < | &lt; | | 不等于 | <> | ......

    uj5u.com 2023-04-26 07:34:46 more
  • MySQL 備忘清單_開發速查表分享

    MySQL 備忘清單 MySQL是一種關系型資料庫管理系統,關系資料庫將資料保存在不同的表中,而不是將所有資料放在一個大倉庫內,這樣就增加了速度并提高了靈活性。 MySQL所使用的 SQL 語言是用于訪問資料庫的最常用標準化語言。MySQL 軟體采用了雙授權政策,分為社區版和商業版,由于其體積小、速 ......

    uj5u.com 2023-04-26 07:29:42 more
  • python字串集合面試筆試題

    python字串面試筆試題 1: 以下代碼的輸出是? s = 'foo' t = 'bar' print('barf' in 2 * (s + t)) A.True B.Fasle +運算子連接字串,而*運算子創建多個副本。 2 *(s + t)的結果是'foobarfoobar',它確實包含字 ......

    uj5u.com 2023-04-26 07:29:00 more
  • Django筆記三十之log日志記錄詳解

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記三十之log日志的記錄詳解 這一節介紹在 Django 系統里使用 logging 記錄日志 以下是一個簡單的 logging 模塊示例,可以先預覽一下,接下來會詳細介紹各個模塊的具體功能: LOGGING = { 'version': ......

    uj5u.com 2023-04-26 07:28:53 more
  • ray-分布式計算框架-集群與異步Job管理

    0. ray 簡介 ray是開源分布式計算框架,為并行處理提供計算層,用于擴展AI與Python應用程式,是ML作業負載統一工具包 Ray AI Runtime ML應用程式庫集 Ray Core 通用分布式計算庫 Task -- Ray允許任意Python函式在單獨的Python worker上運 ......

    uj5u.com 2023-04-26 07:28:44 more
  • 【NLP教程】用python呼叫百度AI開放平臺進行情感傾向分析

    一、背景 Hi,大家!我是 @馬哥python說 ,一名10年程式猿。 今天我來演示一下:通過百度AI開放平臺,利用python呼叫百度介面進行中文情感傾向分析,并得出情感極性分為積極、消極還是中性以及置信度結果。 二、操作步驟 首先,打開百度AI首頁:百度AI開放平臺-全球領先的人工智能服務平臺 ......

    uj5u.com 2023-04-26 07:28:22 more
  • Python中文分詞庫——jieba的用法

    1.介紹 jieba是優秀的中文分詞第三方庫。由于中文文本之間每個漢字都是連續書寫的,我們需要通過特定的手段來獲得其中的每個單詞,這種手段就叫分詞。而jieba是Python計算生態中非常優秀的中文分詞第三方庫,需要通過安裝來使用它。 jieba庫提供了三種分詞模式,但實際上要達到分詞效果只要掌握一 ......

    uj5u.com 2023-04-26 07:27:56 more
  • [Python自動化]使用Python Pexpect模塊實作自動化互動腳本使用心

    使用Python Pexpect模塊實作自動化互動腳本使用心得 參考檔案:https://pexpect.readthedocs.io/en/stable/ 前言 在最近的作業中,需要使用DockerFile構建鏡像。在構建鏡像的程序中,有一些執行的命令是需要互動的。例如安裝tzdata(apt i ......

    uj5u.com 2023-04-26 07:27:52 more
  • Django 如何使用 Celery 完成異步任務或定時任務

    以前版本的 Celery 需要一個單獨的庫(django-celery)才能與 Django 一起作業, 但從 Celery 3.1 開始,情況便不再如此,我們可以直接通過 Celery 庫來完成在 Django 中的任務。 安裝 Redis 服務端 以 Docker 安裝為例,安裝一個密碼為 my ......

    uj5u.com 2023-04-26 07:27:48 more