背景
作為一款國民級二手交易App，閑魚每天都有成千上萬的二手閑置商品發布，精準的個性化的商品推薦是促進閑魚用戶快速成交的秘訣，搜索推薦演算法的精準和埋點資料的準確性息息相關，一旦埋點資料出現問題，用戶側就會出現推薦商品不準確、過度推薦等問題，同時宏觀的交易大盤資料的統計也會有偏差，進而影響整個商品運營策略，因此采取有效的手段來保障埋點質量就成為了閑魚客戶端質量保障的關鍵的一環，
問題
過去的一年閑魚客戶端在首頁、搜索、商品發布等核心場景下進行App體驗優化與升級，在客戶端快速迭代程序中經常會出現UI改版之后某些關鍵埋點沒有上報、埋點關鍵欄位缺失、埋點欄位值不正確等問題，而這些問題在線下測驗的時候由于不影響用戶體感而被忽略，往往客戶端版本發布之后演算法或者資料同學察覺到資料例外才會回過頭來定位埋點問題，問題修復代價很高，通常會追加客戶端版本或者開關降級來解決埋點例外的問題，通過對迭代程序中出現的問題復盤得出來主要有以下的急需解決的問題
?哪些是我們需要重點保障的核心埋點
?如何開展有效的線下埋點測驗
?如何提高埋點問題的排除效率
針對以上問題，閑魚技術質量團隊結合自身業務特點提供了一套低侵入埋點質量保障方案
埋點質量保障方案
閑魚端上承載著數以萬計的埋點，且隨著業務的增長埋點個數也在不停地增多，而這些埋點由于歷史原因都沒有沉淀相關的說明檔案，依賴開發、資料、產品同學主動梳理埋點資料顯然是一件耗時費力又容易出錯的事情，所以針對端上埋點質量保障我們的核心思想是：通過歷史資料的分析和人工干預生成埋點畫像（校驗規則、值特征），優先保障核心埋點，并提供自動化測驗和埋點版本對比來提升埋點資料交付的信心，
如圖所示為閑魚端內埋點質量保障方案，埋點資料hook后進行資料的抄送，抄送的埋點資料會分為兩部分，一部分樣本會交給埋點分析服務提取埋點的Key/Value特征，進而生產埋點的校驗規則；另一部分核心埋點會交給驗證服務處理，參考已生成的校驗規則和人工干預的校驗條件會對這部分資料進行逐個校驗，最后在版本灰度發布前也會提供埋點的版本比對功能來確定核心埋點是否漏報，
核心埋點梳理
首先需要從成千上萬的埋點中圈選出重點保障的埋點，圈選的原則是
?埋點資料缺失/例外會導致搜索推薦演算法精準性
?埋點資料缺失/例外會導致大盤統計資料偏差
?埋點資料缺失/例外會導致運營投放策略
滿足上述條件的都會被標記為閑魚客戶端核心埋點，前期我們梳理了閑魚首頁、同城、關注、搜索、詳情等場景，并通過埋點所屬頁面（PAGE）、事件標識（ARG1）、事件型別（EVENTID）進行核心埋點的標記，最終在后續的測驗中也更側重于這部分核心埋點，而這部分的埋點的校驗規則則是由樣本資料分析和人工規則干預得出的，
埋點資料上報
圈選出核心埋點之后，接著需要解決的問題就是如何獲取客戶端埋點資料，閑魚端上集成的埋點SDK是通過實時上報通道對埋點資料進行上報，上報后資料經過處理后會最終落到數倉中，所以說要拿到埋點資料可以從數倉中取資料，也可以在端上下功夫，由于數倉取數存在資料實時性不高、資料量大、呼叫鏈路長等問題，最終選取了客戶端埋點抄送的方案，通過對端上埋點上報通道的hook來實作每一個埋點資料抄送，
例如在Android端我們采用的是AOP切面攔截的方式對開發包的埋點資料進行截獲然后通過HttpAPI抄送到資料接收服務，當然采用這種直接攔截代碼的方式做資料抄送需要熟悉代碼邏輯，做最小化的侵入，除了AOP切面攔截，類似的通用技術方案Frida[1]也是不錯的選擇，
埋點校驗規則
有了埋點資料之后接下來就是補全核心埋點的特征，例如埋點上報哪些欄位、欄位是必須上報的、欄位的值是離散的還是可列舉的、欄位在背景關系場景中值的特點，后端的資料處理就會根據核心埋點的分布和版本上報資料進行樣本的提取，對每個樣本逐欄位進行檢查，并統計Key的分布、Value的分布，當樣本數達到閾值之后根據歷史Key/Value分布資料就能得出以下的基礎校驗規則
?Key非空
?Value非空
?Value取值范
上面的基礎規則得出之后進一步對資料進行聚類分析，就可以得出以下的場景校驗規則
?組合Key條件下Value的特征
例如：通過樣本的聚類分析可以推斷出類似于“同一次搜索程序中，rn引數必須保持一致”這樣的規則
埋點自動化測驗
有了資料和規則接下來就需要自動化測驗腳本大顯身手了，通過手工操作閑魚App能知道對應埋點觸發的時機、頁面等資訊，因此只要撰寫自動化測驗代碼替代人工的點擊、滑動、瀏覽行為就可以做到埋點的自動化驗證，以搜索點擊核心埋點為例整體的自動化驗證程序示意如下
埋點的自動化測驗可以大幅提高埋點回歸的效率，測驗同學只需按照版本維護核心埋點自動化用例，就可以在分鐘級別完成閑魚核心埋點的自動化驗證，埋點自動化測驗解決了大部分的核心埋點的精準驗證問題，版本比對則是在自動化之上實作埋點Diff的功能，通過不同版本埋點資料的比對快速檢測出新版本中哪些埋點丟了，哪些埋點埋點格式發生了變化，進一步降低人工排除的成本，
總結
閑魚端內埋點質量保障方案對端上侵入較少，通過歷史樣本資料分析免去了人工主動梳理埋點的作業量，目前梳理出閑魚端內重要場景（首頁/關注/同城/搜索/發布/詳情）下的核心埋點共計100+，UI自動化驗證整體回歸時間由手工測驗耗時0.5天下降為到分鐘級別，快速的版本比對和可視化的埋點資料展示和篩選也讓埋點問題排查變得更加方便，
在未來我們將繼續從以下兩點來進行方案的整體優化：
?埋點自動化將納入端上集成卡點之中，即開發同學集成后就立即觸發埋點的自動化驗證和比對，在集成階段就提早發現埋點問題，
?自動化深度和用例的可維護性方便也是我們需要努力的方向，
希望我們的自動化手段能讓更多技術小二從重復勞動中釋放出來，提升資料質量的同時也為每一個閑魚的用戶提供貼心的個性化推薦服務，為每一個閑魚用戶提供更好的購物體驗，
References
[1] Frida:https://github.com/frida
閑不住？來閑魚！
PICK ME
閑魚技術團隊通過創新追尋更多價值，不斷驅動業務變革，
從閑置生意的老本行，到打造“無憂購”“會玩社區““新線下”，
從出版書籍、峰會發聲，到開源專利、海外傳播，
閑不住，上閑魚——技術團隊對極致的探索與深耕是我們的底氣，
立即加入
1、招客戶端/服務端/前端/架構/質量工程師
2、發簡歷給guicai.gxy@alibaba-inc.com
3、您還可以在頭條、知乎、掘金、facebook、twitter找到我們
轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/248088.html
標籤：java
上一篇：Java我的2020年終盤點
下一篇：簡單的資料可視化---繪制散點圖