資料倉庫的用途整合公司所有業務資料，建立統一的資料中心 產生業務報表，用于作出決策 為網站運營提供運營上的資料支持 可以作為各個業務的資料源，形成業務資料互相反饋的良性回圈 分析用戶行為資料，通過資料挖掘來降低投入成本，提高投入效果 開發資料產品，直接或間接地為公司盈利數倉運行簡圖資料集市與數倉的區別資料集市（Data Market）：是一種微型的資料倉庫，它通常有更少的資料，更少的主題區域，以及更少的歷史資料，因此是部門級的，一般只能為某個區域范圍內的管理人員服務。資料倉庫...
2021-07-23 more在Hive explain獲得執行計劃時，經常會看到如下圖所示的表資料量統計：那么這個資料量，Hive是如何統計出來的呢？一、Data size統計1.1、Hive原始碼在Hive通過Antlr語法決議器獲取到SQL的抽象語法樹（AST）并生成校驗過元資料的邏輯執行計劃后，在優化階段會使用Statistics統計的規則（rule），如下圖所示：在AnnotateWithStatistics這個類中，在對執行計劃進行轉化（transform）時會呼叫TableScanStatsRul...
2021-07-23 more目 錄一、Zookeeper 概述1、zookeeper 作業機制2、Zookeeper特點3、zookeeper資料結構4、zookeeper選舉機制二、部署Zookeeper集群1、環境準備2、實驗步驟① 安裝前準備/關閉防火墻② 安裝zookeeper③ 在每個節點的dataDir指定的目錄下創建一個myid的檔案④ 配置zookeeper啟動腳本⑤ 檢驗一、Zookeeper 概述Zookeeper是一個開源的分布的，為分布式框架提供協調服務的Apache專案。1、zookeeper 作業機制...
2021-07-23 more一鍵部署zookeeper集群服務1. 撰寫腳本情況分析2. 腳本代碼部分3. 實驗測驗部分1. 撰寫腳本情況分析Zookeeper是一個開源的分布式的，為分布式框架提供協調服務的Apache專案。Zookeeper適合安裝奇數臺服務器。腳本完成后將會產生：一個領導者(Leader) ，多個跟隨者(Follower) 組成的集群。此腳本默認的安裝包為：apache-zookeeper-3.5.7-bin.tar.gz，如果使用其他版本，自行修改部分代碼。2. 腳本代碼部分#!/bin/ba...
2021-07-23 more4、微服務架構下的服務治理1、Spring Boot集成Apache Dubbodubbo:protocol:配置服務提供者的協議資訊，Dubbo支持多種協議來發布服務，默認采用Dubbo協議，可選的協議有很多，比如Hessian、Webservice、Thrift等。dubbo:service:描述需要發布的服務介面，也就是這個介面可供本網路上的其他行程訪問。dubbo:consumer:check:false:關閉所有服務的啟動時檢查(沒有提供者時報錯)dubbo中提供的@Servi...
2021-07-23 more問題導讀1.Flink 1.11 有哪些新功能？2.如何使用 flink-cdc-connectors 捕獲 MySQL 和 Postgres 的資料變更?3.怎樣利用 Flink SQL 做多流 join 后實時同步到 Elasticsearch 中？1 Flink 1.8 ~ 1.11 社區發展趨勢回顧自 2019 年初阿里巴巴宣布向 Flink 社區貢獻 Blink 原始碼并在同年 4 月發布 Flink 1.8 版本后，Flink 在社區的活躍程度猶如坐上小火箭般上升，每個版本包含的 git...
2021-07-23 more??在使用RabbitMQ的時候，訊息生產者發送訊息不希望出現訊息丟失或者投遞失敗的現象；??RabbitMQ在訊息投遞可靠性方面給我們提供了兩種模式；????1，confirm確認模式????2，return 退回模式confirm確認模式介紹以及實作??confirm機制，訊息的確認，是指生產者投遞訊息之后，如果Broker收到訊息，則會給生產者一個應答，生產者能接收應答，用來確定這條訊息是否正常的發送到Broker，這種機制是訊息可靠性投遞的核心保障。confirm機制是只保證訊息到達exc...
2021-07-23 more前言大家好，我是manor。相信大家和我一樣，都有一個大廠夢，作為一名大資料專業學生、愛好者，深知面試重要性，很多學生已經進入暑假模式，暑假也不能懈怠，正值金九銀十的秋招接下來我準備用30天時間，基于大資料開發崗面試中的高頻面試題，以每日5題的形式，帶你過一遍熱門面試題及恰如其分的解答。相信只要一路走來，榷訓月累，我們侄訓在最高處見。以古人的話共勉：道阻且長，行則將至；行而不輟，未來可期！本欄目大資料開發崗高頻面試題主要出自大資料技術專欄的各個小專欄,由于個別筆記上傳太早,排版雜亂,后面會...
2021-07-23 more背景： 開發背景:公司相關報表需求需要將訂單業務資料同步至RocketMQ中，由于需要保證開發的一致性(多個部門協同開發)，所以采用讀取Hive離線資料的方式通過PythonAPI寫入RocketMQ中，便于其他開發同事呼叫~ 開發環境: 本地除錯 系統 MacPython 3.7.5rocketmq 0.4.4 (Python模塊) rocketmq-client-pyth.....
2021-07-23 more如何從xshell上傳檔案到centos linux虛擬機里及：虛擬機CentOs下執行 yum -y install lrzsz命令，出現錯誤：鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示：其實很簡單，往虛擬機上安裝一個上傳檔案的工具 ......
uj5u.com 2020-09-10 02:00:47 more一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號， sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求，SQLMAP可以從一個文本檔案中 ......
uj5u.com 2020-09-10 02:00:50 moremetasploit 簡單使用教程 浩先生， 2020-08-28 16:18:25 分類專欄： kail 網路安全 linux 文章標簽： linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么？ 二、準備作業 三、具體步驟 前言 Msfconsole ......
uj5u.com 2020-09-10 02:00:53 more驅動層代碼： #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......
uj5u.com 2020-09-10 02:00:56 more北斗電力時鐘（北斗授時服務器）讓網路資料更精準 北斗電力時鐘（北斗授時服務器）讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年，資訊技術的得了快速發展，互聯網在逐漸普及，其在人們生活和生產中都得到了廣泛應用，并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用，一方面使電力系統的運行 ......
uj5u.com 2020-09-10 02:01:03 more?碎碎念 CTFHub：https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺，后來才有了CTFHub。 感覺不論是網頁UI設計，還是題目質量，賽事跟蹤，工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......
uj5u.com 2020-09-10 02:04:05 more我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解（net user / type /md /rd/ dir /cd /net use copy、批處理 等） 利用dos命令制作 ......
uj5u.com 2020-09-10 02:04:18 more我學到了以下幾點 01Linux系統介紹02系統安裝，密碼啊破解03Linux常用命令04LAMP 01LINUX windows： win03 8 12 16 19 配置不繁瑣 Linux：redhat,centos(紅帽社區版)，Ubuntu server,suse unix:金融機構，證券，銀 ......
uj5u.com 2020-09-10 02:04:30 more信管通低代碼開發工具包括兩個大部分，一部分是公司內部使用的設計工具，負責業務系統的研發設計，另一部分是終端客戶使用的應用工具，是由公司內部業務系統開發人員使用的設計工具設計好的業務系統在終端客戶的一個交換處理軟體平臺，從而滿足用戶的不同業務要求，終端客戶應用工具又分為單機版和網路版，適應用戶的不同應用環境。信管通低代碼開發工具總體結構圖如圖所示。信管通低代碼快速開發平臺就是公司內部使用的設計系統，信管通綜合協辦公資訊管理系統就是終端用戶使用的業務系統互動資訊處理的平臺，信管通低代碼開發工具設計....
uj5u.com 2021-08-23 09:50:11 more虛擬機linux密碼忘記，通過但用戶模式修改密碼第一步：重新啟動虛擬機，再出現進度條時按e鍵（啟動編輯器），進入到以下界面，再次按下e鍵第二步：進入以下界面后，通過上下鍵選擇第二項，按下e鍵第三步：進入以下界面后，在quiet 后面輸入空格和s，然后按回車確認第四步：進入以下界面后，按b鍵（boot啟動）第五步：進入單用戶模式，輸入passwd root (root表示的是需要重置密碼的用戶名)和新密碼，按回車鍵確認第六步：輸入reboot重啟系統第七步：重新啟動后，使用新密碼登陸...
uj5u.com 2021-08-23 09:10:00 more這里寫自定義目錄標題歡迎使用Markdown編輯器新的改變功能快捷鍵合理的創建標題，有助于目錄的生成如何改變文本的樣式插入鏈接與圖片如何插入一段漂亮的代碼片生成一個適合你的串列創建一個表格設定內容居中、居左、居右SmartyPants創建一個自定義串列如何創建一個注腳注釋也是必不可少的KaTeX數學公式新的甘特圖功能，豐富你的文章UML 圖表FLowchart流程圖匯出與匯入匯出匯入歡迎使用Markdown編輯器你好！ 這是你第一次使用 Markdown編輯器 所展示的歡迎頁。如果你想學習如何使用Mar...
uj5u.com 2021-08-23 09:09:45 more1、運行時資料區域JVM虛擬機在執行Java程式時，會把它所管理的記憶體劃分為若干個不同的記憶體區域，如下圖所示。這些區域有著各自的用途，它們的生命周期也各不相同。其中，方法區和堆的生命周期與JVM虛擬機相同，隨著虛擬機行程的啟動而存在，因此，它們也是所有Java執行緒共享的資料區域；而虛擬機堆疊、本地方法堆疊和程式計數器，它們的生命周期與用戶執行緒相互依賴，隨著用戶執行緒的啟動和結束而對應地創建和銷毀，因此，它們也是執行緒私有的資料區域，也就是每個執行緒都有各自的虛擬機堆疊、本地方法堆疊和程式計數器。各...
uj5u.com 2021-08-23 09:09:31 morewindows安裝和使用nginx1、下載官網下載【nginx/Windows-1.20.1】下載成功后解壓，檔案如下：2、啟動nginx方式一：直接雙擊nginx.exe方式二：打開cmd命令視窗，切換到nginx解壓目錄下，輸入命令 nginx.exe 或者 start nginx ，回車即可驗證是否啟動成功：在瀏覽器輸入 http://localhost，看到以下界面則說明啟動成功：通過cmd查看nginx運行情況：打開cmd，執行：tasklist /fi "image...
uj5u.com 2021-08-23 09:09:08 more一.簡介1.什么是ansible? ansible的官方標題為:"Ansible is Simple IT Automation",也就是說ansible是一種簡單的自動化IT工具. 工具目標:1.自動化部署APP 2.自動化管理配置項 3.自動化的持續交付 4.自動化的云服務管理2.ansible特性 模塊化：呼叫特定的模塊，完成特定的任務 Paramiko (Python對ssh的實作)，PyYaml，Jinja2(模板語言)三個關鍵模塊......
uj5u.com 2021-08-23 09:08:40 more文章目錄：1.容器資料卷是什么？2.容器資料卷能干嘛？3.容器內添加資料卷3.1 直接使用命令添加3.2 使用DockerFile添加4.資料卷容器1.容器資料卷是什么？先來看看Docker的理念：* 將運用與運行的環境打包形成容器運行 ，運行可以伴隨著容器，但是我們對資料的要求希望是持久化的。* 容器之間希望有可能共享資料。Docker容器產生的資料，如果不通過docker commit生成新的鏡像，使得資料做為鏡像的一部分保存下來，那么當容器洗掉后，資料自.....
uj5u.com 2021-08-23 09:08:04 more實驗步驟一根據實驗環境，本實驗的步驟如下：1、測驗環境中獲取DNS資料包。2、分析DNS資料包。任務描述：獲取兩種型別的DNS資料包（1）通過瀏覽器訪問域名（www.baidu.com）來獲取DNS資料雖然合天實驗室環境下，無法抓取此部分資料包（其實也可以自己搭建服務器，配置DNS服務器，但設計者比較懶，就將就下吧），但設計者希望學習的人能根據例子在自己的筆記本上抓取，然后分析。我們以登錄www.baidu.com來獲取DNS資料，啟動Wireshark，在Filter中輸入dns。打開瀏覽器...
uj5u.com 2021-08-23 09:07:06 more