不知不覺間，2022年的腳步已經走到了倒數第二個月，臨近年末，我們對產品本身以及客戶反饋的一些問題進行了持續的更新和優化，例如基線告警、資料服務平臺新增TDengine 資料源支持、行級權限根據用戶屬性實作動態賦權，

以下為袋鼠云產品功能更新報告第二期內容，更多探索，請繼續閱讀，

數堆疊DTinsight

離線開發平臺

1.支持對接Trino引擎

創建專案時支持對接Trino引擎，支持創建和運行Trino任務，

2.個人賬號支持系結Kerberos認證

數堆疊支持對用戶或用戶組系結Kerberos證書，并支持以用戶級/用戶組級Kerberos賬號進行任務提交，

3.基線告警

基線是一組任務的管理單位，被納入同一組基線的任務一般需要相同的產出時間，一潭訓線被納入監控后，該基線中的任務及其所有上游的任務都會被自動監控，

基線在基線管理中開啟時，每天晚上24點會生成第二天的基線實體，以對第二天的基線上任務所產生的實體進行監控，

例子：如下圖，設一潭訓線包含任務D、E，則D、E及其上游的A、B都會被納入監控，

如果某任務的下游沒有被納入基線的任務（例如C），則即使該任務例外，智能監控也不會報警，

4.安全審計增加類目

5.NULL可以選擇識別為NULL

資料同步任務中，FTP作為源資料源時，NULL可以選擇識別為NULL或者空字串

6.整庫同步可以選擇同步任務存放目錄

7.其他優化項

· 在IDE中進行任務切換時，會記住上次代碼瀏覽位置

· postgresql、db2、greenplum、kingbase、mysql、oceanbase、oracle、sqlserber、tidb等任務，存盤函式使用select * from procedure（） /select procedure（）呼叫時，在調度不會執行的問題修復

· 表查詢結果限制，所有SQL任務資料查詢結果默認僅顯示1000條

· 資料同步任務當HDFS磁區不存在時，高級配置中可配置是否報錯

具體說明：通過指定高級配置中failedIfPathNotExist的狀態，來配置是否進行報錯提示：

若failedIfPathNotExist=true，則報錯；若failedIfPathNotExist=false，則不報錯

8.技術改造

· 統計資料流量統計優化

· SQL加密解密防止某些關鍵字被攔

· 支持spark UDF

· inceptor同步支持直接讀寫檔案的方式去進行資料同步

實時開發平臺

1.產品首頁改造

在原來只有專案入口和幫助手冊入口的基礎上，新增了更多運維資訊，幫助用戶進入產品后，不需要一個個進入專案，可以直觀的看到目前專案運行情況、當前需要處理什么問題，提高產品可用性，

2.任務運行日志推送

在【任務開發-任務設定】頁面，支持將任務運行日志推送至外部Kafka，運維人員可基于日志資訊做更豐富的日志分析、任務監控等作業，

3.優化專案

· PyFlink任務在創建時可以參考第三方python包

· Flink1.12兼容TiDB Connector

· Flink1.10/1.12兼容開啟SASL認證的Kafka Connector

· 優化日志列印格式，避免出現/n/t等字符

· Source Connector新增支持了RocketMQ

資料服務平臺

1.【生成API】新增TDengine 資料源支持

TDengine 是一款高性能、分布式、支持 SQL 的時序資料庫，廣泛運用于物聯網、工業互聯網、車聯網、IT 運維、金融等領域，除核心的時序資料庫功能外，TDengine 還提供快取、資料訂閱、流式計算等大資料平臺所需要的系列功能，

目前EasyAPI支持TDengine基本SQL陳述句的查詢功能，可以在「生成API」-「自定義SQL模式」DQL模式下創建TDengine API服務，

2.【API市場】增加批量匯出功能

支持API市場API的批量匯出，用戶可先在測驗環境中進行API除錯，無誤后在API市場批量匯出API，再在正式環境中匯入API，提高效率，

3.【API呼叫情況】新增下載日志功能

「API管理」API呼叫情況 呼叫明細/錯誤明細模塊增加「下載日志」功能，可以通過設定呼叫條件下載7天內的日志資料，方便用戶進行明細查看，呼叫統計，

4.【生成API】in、not in 運算子增加分隔符配置

之前的版本當進行in、not in 運算子查詢資料時，默認入參引數為逗號分隔，存在特殊業務場景入參引數中包含逗號的情況，導致入參分隔錯誤，

當前版本中，針對in、not in運算子，可以自定義選擇英文“，”、“｜”、“/”、“：”、“；”五種分隔符，以滿足不同客戶業務場景需求，

數雁EasyDigit

客戶資料洞察平臺（原智能標簽平臺）

1.【授權】-標簽/物體/群組/目錄細粒度權限控制

用戶痛點：標簽、物體、群組等屬于企業資料資源的一部分，隨著資源持續維護、資產沉淀，對資源的權限控制提出了更高的要求，本次新增的授權功能能夠實作靈活的權限控制，

新增功能說明：給用戶/用戶組/部門/角色授予當前資源的權限，可授權的資源包括標簽、物體、群組、目錄，可授予的權限包括可查看、可編輯權限，也可以將資源設定為全員公開可查看/可編輯，實作細粒度的權限控制，

2.【行級權限】-根據用戶屬性實作動態賦權

用戶痛點：行級權限 用來控制用戶對標簽資料的訪問權限，當某個用戶被設定了行級權限后，只能查看在權限規則內設定的標簽資料，

新增功能說明：

· 支持針對用戶屬性動態設定權限規則，如1000條結果資料，用戶A查看200條，用戶B查看500條

· 單個權限標識可設多條權限規則，且最大支持5個層級，條件之間支持配置“且”、“或”關系

· 權限的適用成員可指定用戶、用戶組、部門、角色，且支持針對用戶屬性動態設定適用成員

3.【多值標簽】-標簽值分隔去重

多值標簽 的值由一個或多個值組合構成，多個值之間由分隔符進行分隔（系統固定為英文逗號），可在物體/關系創建時指定標簽是否多值，

多值型標簽的運算子包括【包含部分、包含所有、不包含、精確匹配、模糊匹配、不匹配、有值、無值】，可選的是分隔并去重后的標簽值，其中：

· 包含所有：若選擇多個標簽值，篩選結果將同時符合所有標簽值，即多個標簽值的篩選結果之間使用交集運算；

· 包含部分：若選擇多個標簽值，篩選結果將至少符合其中一個標簽值，即多個標簽值的篩選結果之間使用并集運算，

4.【組織架構】-引入多層級部門

組織架構 是一個組織整體的結構，是企業內部開展業務、落實管理的基本要素，標簽系統支持根據多層級的組織架構添加用戶，并根據部門進行標簽授權、行級權限的控制，

5.【批量操作】-發布/更新互動升級

· 批量發布：分類展示可發布、無法發布的標簽，并說明標簽無法發布的原因，降低操作門檻

· 批量更新：分類展示可更新、無法更新的標簽，并說明標簽無法更新的原因，降低操作門檻

6.【通用模板】-查詢模板設定

設定查詢維度通用模板，并直接應用于標簽圈群、上傳本地群組、群組交并差選查詢維度的地方，用戶可以在模板的基礎上增刪查詢維度，減少操作成本，

7.【匯出描述】-匯出資料時可填描述

用戶在匯出資料時可填寫描述資訊，系統將描述資訊記錄在審計日志中，

8.其他優化項

· 標簽圈群支持重置條件

· 字典資料最大支持2000條

袋鼠云開源框架釘釘技術交流qun（30537511），歡迎對大資料開源專案有興趣的同學加入交流最新技術資訊，開源專案庫地址：https://github.com/DTStack/Taier

標籤：大數據

上一篇：編譯器在轉換程序中如何理解物件的鍵和值部分？

下一篇：三分鐘帶你了解一站式大資料平臺運維管家ChengYing產品包制作