主頁 >  其他 > 以資料思維和技能提升資料應用測驗實踐

以資料思維和技能提升資料應用測驗實踐

2023-05-12 10:48:23 其他

作者:京東零售 周雪梅

以資料思維和技能提高測驗覆寫率和效率,資料應用測驗,功能測驗主要聚焦在資料流向(輸入和輸出),

一、背景

資料質量組當前主要承接黃金眼和商智中的供應鏈模塊,商智包括PC(品牌版:商家端,運營端)和M端,各模塊的產品特征和測驗范圍和策略的通用模式如下圖所示,圖中灰色部分是待建設中,

從圖中可見,產品的資料流向主要包括業務資料、模型資料、后臺應用、前臺應用四個模塊,更細一點資料流向包括以下幾步

  • 應用離線(T+1)和實時(大促控制臺當日和實時庫存)資料加工到app層表中,然后推到ck中;
  • 用戶在前臺操作確定查詢條件后查詢,前臺會將該查詢請求到后臺,后臺決議出指標維度,查詢ck后同步指標結果給前臺,然后給用戶展示,

二、測驗策略

測驗策略,首先聚焦在從0到1的測驗場景,后面會針對一些特殊場景進行單獨的介紹,

1、模型資料

模型資料的測驗前提是了解到資料安全和資料時效(特別是deadline時間),策略主要包括探測、功能測驗、監控,

  • 探測主要采用自動化的方式,按模式校驗輸出html的報告,當前完成了磁區連續性探測、NULL占比、統計變數、列舉欄位的分布三種模式,后續計劃加上環比,以及包含部門、金額、數量等供應鏈涉及的關鍵字的特殊校驗;
  • 1)磁區連續性探測識別:磁區總數、結束和開始時間的天數差距去識別磁區型別,來判斷磁區是否連續

  • 2)最近三個dt的總數環比(環比差距0.1會自動標紅)

  • 3)最近三個dt的NULL占比和環比(NULL環比差距0.1會自動標紅)

  • 4)最近三個dt的統計值情況

  • 功能測驗主要采用手工和自動化的方式,自動化主要是針對通用的資料屬性測驗,手工主要是針對業務屬性和非通用資料屬性的測驗,

  • 監控待建設,后續的計劃是把探測和功能測驗沉淀的自動化沉淀為任務進行頻次監控

2、后臺測驗

后臺測驗的測驗范圍主要集中在功能(指標維度的準確性)、性能和安全,

  • 功能(指標維度的準確性),采用手工和自動化回歸的方式進行,自動化是依托九數和deeptest平臺建設的,流水線的方式自動生成deeptest支持的用例進行回歸測驗,未來規劃是提升介面驗證的覆寫率和適應場景,

  • 安全,把安全的測驗點建設到后臺的功能測驗中,權限內可查非權限內不可查,
  • 性能

3、前臺測驗

前臺測驗聚焦在資料的輸入輸出和其他,輸入指前臺的請求入參是否準確;輸出是指前臺樣式展示和資料取值(即后臺介面回傳的key和前臺展示的映射關系),其他是指頁面兼容性和資源權限等,

1)前臺輸入測驗,現狀是采用手工+錄制識別的方式驗證請求入參是否準確,錄制識別的方式采用chrome插件MeterSphere JMX Recorder錄制前臺請求并匯出為jmx檔案,錄制的方式建議每次改變一個查詢條件觸發后臺查詢,對匯出的jmx檔案進行識別轉換為df,利用視窗函式去驗證這一請求和上一次請求的不同之處是否只有1處,下面兩圖分別為檔案決議后的df物件和檢測入參變化的結果(rank非1的變化數大于等于2就需要細化查看是否有問題,其中變化項change_value,變化數change_n,請求的順序rank),執行命令#python test_web_input.py jmx檔案(autotest-data/公共/前端)

2)前臺輸出測驗范圍主要包括頁面樣式展示、資料映射等,當前在持續建設用例模板,

  • 樣式展示主要是文本和數值的展示樣式,主要采用人工驗證沉淀期望結果,然后自動化回歸,采用的cypress(支持介面mock)可視化的測驗,當前的建設是梳理包括的資料樣式的模式,通過mock的方式快速回傳樣式下的多場景,如下圖可見,介面為輸入項,選擇介面中包括的樣式范圍,輸出需要多少種測驗場景能覆寫所有的樣式場景,

  • 資料映射是后臺介面中資料和前臺展示資料的映射關系正確,主要采用人工驗證沉淀期望結果,然后自動化回歸,采用的cypress可視化的測驗,

3)前臺的其它測驗,兼容和權限

  • 兼容是瀏覽器或者手機版本的兼容性測驗;
  • 權限包括選單和資料權限

4、技改

資料應用的技改指數值未變,架構升級,

4.1資料技改

測驗方案是新表和老表資料對比結果是否一致,采用的方式有兩種,1)hivesql的join;2)差集為空

4.2后臺技改

測驗方案是新老應用的介面資料是否一致,采用的方式是介面測驗,選擇入參串列,回圈遍歷新老介面,對介面回傳轉換為df,df對比是否一致

三、測驗沉淀

自動化沉淀到中coding中,里面包含了資料、后臺和前臺三個模塊,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/552309.html

標籤:其他

上一篇:零基礎學會計三:資產【交易性金融資產】

下一篇:返回列表

標籤雲
其他(158922) Python(38129) JavaScript(25420) Java(18034) C(15226) 區塊鏈(8265) C#(7972) AI(7469) 爪哇(7425) MySQL(7179) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5339) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4572) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2433) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1972) 功能(1967) Web開發(1951) HtmlCss(1936) python-3.x(1918) C++(1915) 弹簧靴(1913) xml(1889) PostgreSQL(1875) .NETCore(1860) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 以資料思維和技能提升資料應用測驗實踐

    作者:京東零售 周雪梅 以資料思維和技能提高測驗覆寫率和效率。資料應用測驗,功能測驗主要聚焦在資料流向(輸入和輸出)。 一、背景 資料質量組當前主要承接黃金眼和商智中的供應鏈模塊,商智包括PC(品牌版:商家端,運營端)和M端。各模塊的產品特征和測驗范圍和策略的通用模式如下圖所示,圖中灰色部分是待建設 ......

    uj5u.com 2023-05-12 10:48:23 more
  • 零基礎學會計三:資產【交易性金融資產】

    二、交易性金融資產 2.1、交易性金融資產的賬務處理 2.1.1、交易性金融資產取得時的賬務處理 借:交易性金融資產-XX-成本【公允價值】 應收股利/應收利息【取得時已宣告但尚未發放的現金股利或已到付息期但尚未領取的債券利息】 貸:其他貨幣資金-存出投資款【支付的價款】 借:投資收益【交易費用】 ......

    uj5u.com 2023-05-12 09:12:28 more
  • SemiEng20230413-What Designers Need To Know About GAA

    Nanowire與nanosheet爭議仍然存在,業界還沒確定誰更適合作下一代主流邏輯器件。 對任何新器件,第一代都是用來學習試驗的,后面再迭代升級。 FinFET不能繼續縮微的原因:fin之間要填柵和功函式堆疊層,fin之間15-20nm的距離是必要的。“So, you have this cli ......

    uj5u.com 2023-05-12 09:12:19 more
  • 如何設計介面測驗用例?(文末送介面測驗用例模板)

    介面測驗是專案測驗的一部分,正如其名,它測驗的主要物件是介面,是測驗系統組件間介面的一種測驗。介面測驗主要用于檢測外部系統與所測系統之間以及內部各系統之間的互動點。測驗的重點是檢查資料互動、傳遞、和控制管理程序以及系統間的相互依賴關系等。 ......

    uj5u.com 2023-05-12 09:12:10 more
  • Python復制檔案的9種方法

    以下是演示“如何在Python中復制檔案”的九種方法。 1.shutil copyfile()方法 2.shutil copy()方法 3.shutil copyfileobj()方法 4.shutil copy2()方法 5.os popen方法 6.os系統()方法 7.Thread()方法 8 ......

    uj5u.com 2023-05-12 09:06:37 more
  • OCR 文字檢測,可微的二值化(Differentiable Binarization --- DB)

    百度飛槳(PaddlePaddle) - PaddleOCR 文字識別簡單使用 影像二值化 影像二值化( Image Binarization),指將影像上的像素點灰度值設為0或255,將整個影像呈現出明顯的黑白效果程序,二值影像每個像素只有兩種取值:要么純黑,要么純白 影像二值化,有利于影像的進一 ......

    uj5u.com 2023-05-12 08:58:40 more
  • 零基礎學會計二:資產【應收、預付、應付、預收】

    一、應收、預付、應付、預收 >>應收、預付是資產,應付、預收是負債。 >>預付賬款和預收賬款賬戶,一用用到底。(借方代表資產,貸方代表負債) >>預付或預收業務不多的企業可以采用“收收核算”或“付付核算”,應保留原來的借貸方向。 1.1、壞賬準備的賬務處理 1>計提/補提壞賬準備 借:信用減值損失( ......

    uj5u.com 2023-05-12 08:52:36 more
  • 零基礎學會計一:會計概述

    一、 會計要素及其確認與計量 1.1、會計要素 資金運動(會計物件)->資產、負債、所有者權益、利潤、收入、費用(會計要素)->會計科目 1.2、會計恒等式 1>資產=負債+所有者權益 注:左邊代表資金占有,右邊代表資金來源。 2>利潤=收入-負債 注:利潤歸屬于所有者權益,所以有3)的代入式公式。 ......

    uj5u.com 2023-05-12 08:52:32 more
  • pxe基礎的批量化裝機

    PXE網路裝機 PXE 原理 開機自檢 》MBR引導 》grub2選單 》內核初始化 》init初始化 服務器的批量部署 1.規模化:同時裝配多臺服務器 2.自動化:安裝系統、配置各種服務 3.遠程實作:不需要光碟、U盤等安裝介質 4.對于無盤作業站,服務器端需要提供可運行的完整系統鏡像;對于遠程安 ......

    uj5u.com 2023-05-12 08:52:24 more
  • 如何做直播平臺的開發:直播原始碼推拉流技術的實作(二)

    直播原始碼的拉流技術通俗來講觀看直播的人,通過拉流的相關協議和地址,拉取直播人的直播資料,在播放端,比如手機、平板、PC上就可以觀看直播了。 ......

    uj5u.com 2023-05-12 08:52:14 more