一、Flink應用開發Flink作為流批一體的計算引擎,其面對的是業務場景,面向的使用者是開發人員和運維管理人員。Flink應用程式,也叫Flink作業、FlinkJob.Flink作業包含了兩個基本的塊:資料流(DataStream)和轉換(Tranformation)。DataStream是邏輯概念,為開發者提供了API介面,Transformation是處理行為的抽象,包含了資料的讀取、計算、寫出。所以Flink的作業中的DataStreamAPI呼叫,實際上構建了多個由Transformat...
2021-08-17 more前言本文隸屬于專欄《1000個問題搞定大資料技術體系》,該專欄為筆者原創,參考請注明來源,不足和錯誤之處請在評論區幫忙指出,謝謝!本專欄目錄結構和參考文獻請見1000個問題搞定大資料技術體系正文在專欄前面我們已經介紹過可以通過window視窗來統計每一段時間或者每多少條資料的一些數值統計。請參考我的這篇博客——一篇文章搞懂 Flink 的 Window但是也存在另外一個問題,就是如果資料有延遲該如何解決,例如一個視窗定義的是每隔五分鐘統計一次,我們應該在上午九點至九點零五分這段時間統計...
2021-08-17 more前言本文隸屬于專欄《1000個問題搞定大資料技術體系》,該專欄為筆者原創,參考請注明來源,不足和錯誤之處請在評論區幫忙指出,謝謝!本專欄目錄結構和參考文獻請見1000個問題搞定大資料技術體系正文1、watermark的作用watermark是用于處理亂序事件的,而正確的處理亂序事件,通常用watermark機制結合window來實作。我們知道,流處理從事件產生,到流經source,再到operator,中間是有一個程序和時間的。雖然大部分情況下,流到operator的資料都是按照事件產生的時...
2021-08-17 more2021-08-12gitlab訪問報錯502報錯原因:8080埠被java占用方法1:kill掉java行程,多載gitlab方法2:修改gitlab組態檔vim /etc/gitlab/gitlab.rb 添加一個未使用的埠external_url ‘http://172.25.9.2:8099’gitlab-ctl restartjenkins添加agent節點將server4配置成jenkins的agent端server4安裝jdk節點管理----新建節點測驗,關閉mas...
2021-08-17 more全網最詳細的大資料Kafka文章系列,強烈建議收藏加關注!新文章都已經列出歷史文章目錄,幫助大家回顧前面的知識重點。目錄系列歷史文章Kafka的分片和副本機制一、分片機制二、副本機制三、總結系列歷史文章2021年大資料Kafka(七):Kafka的分片和副本機制2021年大資料Kafka(六):??安裝Kafka-Eagle??2021年大資料Kafka(五):??Kafka的java API撰寫??2021年大資料Kafka(四):??kafka的......
2021-08-17 more本文主要介紹了初識計算機和Java語言,主要包括計算機的體系結構(計算機的基本概念、常見的主要硬體(CPU、記憶體、硬碟和輸入輸出設備)、主要硬體的詳解、常見的主要軟體、計算機的體系結構)、Java語言概述(計算機語言的發展、Java語言的發展和Java語言的主要版本)和開發環境的搭建和使用(開發環境和工具的下載和安裝、安裝目錄和概念解讀、撰寫Java程式的流程、常見的錯誤和簡化的編譯運行、常用的快捷鍵和注釋、環境變數的配置和跨平臺原理)等,大資料開發的基礎是Java,因此熟練掌握Java開發極為重要。...
2021-08-17 more日志分析系統ELK(中)之logstash1、什么是logstash?2、Logstash安裝3、logstash簡單命令列測驗4、logstash檔案測驗(1)命令列輸入,輸出到檔案(2)命令列輸入,輸出到elasticsearch(3)檔案輸入,輸出到elasticsearch5、logstash可以偽裝成日志服務器,直接接受遠程日志6、多行過濾插件(1)命令列多行輸入,檔案輸出(2)檔案多行輸入,輸出到elasticsearch7、grok切片過濾插件(1)命令列輸入,過濾,命令列輸出(2)apac...
2021-08-17 moreRabbitMQ(九)——Routing 之訂閱模型-Direct(直連)Direct exchange簡介在Fanout模式中,一條訊息,會被所有訂閱的佇列都消費。但是,在某些場景下,我們希望不同的訊息被不同的佇列消費。這時就要用到Direct型別的Exchange。在Direct模型下:佇列與交換機的系結,不能是任意系結了,而是要指定一個RoutingKey(路由key)訊息的發送方在 向 Exchange發送訊息時,也必須指定訊息的 RoutingKey。Exchange不再把訊息交給每...
2021-08-17 moremybatis-plus整合elasticsearch7.14最新版。能夠自動的實作elasticsearch的增刪改操作,以及自動創建index。還有簡化版的es的搜索功能先看配置smart-es: client-config: hostname: # 服務器ip port: 9200 scheme: http username: # es給你生成的用戶名 password: # es給你生成的密碼 service-config: pre-t...
2021-08-17 more如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......
uj5u.com 2020-09-10 02:00:47 more一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......
uj5u.com 2020-09-10 02:00:50 moremetasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......
uj5u.com 2020-09-10 02:00:53 more驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......
uj5u.com 2020-09-10 02:00:56 more北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......
uj5u.com 2020-09-10 02:01:03 more?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......
uj5u.com 2020-09-10 02:04:05 more我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......
uj5u.com 2020-09-10 02:04:18 more我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......
uj5u.com 2020-09-10 02:04:30 more信管通低代碼開發工具包括兩個大部分,一部分是公司內部使用的設計工具,負責業務系統的研發設計,另一部分是終端客戶使用的應用工具,是由公司內部業務系統開發人員使用的設計工具設計好的業務系統在終端客戶的一個交換處理軟體平臺,從而滿足用戶的不同業務要求,終端客戶應用工具又分為單機版和網路版,適應用戶的不同應用環境。信管通低代碼開發工具總體結構圖如圖所示。信管通低代碼快速開發平臺就是公司內部使用的設計系統,信管通綜合協辦公資訊管理系統就是終端用戶使用的業務系統互動資訊處理的平臺,信管通低代碼開發工具設計....
uj5u.com 2021-08-23 09:50:11 more虛擬機linux密碼忘記,通過但用戶模式修改密碼第一步:重新啟動虛擬機,再出現進度條時按e鍵(啟動編輯器),進入到以下界面,再次按下e鍵第二步:進入以下界面后,通過上下鍵選擇第二項,按下e鍵第三步:進入以下界面后,在quiet 后面輸入空格和s,然后按回車確認第四步:進入以下界面后,按b鍵(boot啟動)第五步:進入單用戶模式,輸入passwd root (root表示的是需要重置密碼的用戶名)和新密碼,按回車鍵確認第六步:輸入reboot重啟系統第七步:重新啟動后,使用新密碼登陸...
uj5u.com 2021-08-23 09:10:00 more這里寫自定義目錄標題歡迎使用Markdown編輯器新的改變功能快捷鍵合理的創建標題,有助于目錄的生成如何改變文本的樣式插入鏈接與圖片如何插入一段漂亮的代碼片生成一個適合你的串列創建一個表格設定內容居中、居左、居右SmartyPants創建一個自定義串列如何創建一個注腳注釋也是必不可少的KaTeX數學公式新的甘特圖功能,豐富你的文章UML 圖表FLowchart流程圖匯出與匯入匯出匯入歡迎使用Markdown編輯器你好! 這是你第一次使用 Markdown編輯器 所展示的歡迎頁。如果你想學習如何使用Mar...
uj5u.com 2021-08-23 09:09:45 more1、運行時資料區域JVM虛擬機在執行Java程式時,會把它所管理的記憶體劃分為若干個不同的記憶體區域,如下圖所示。這些區域有著各自的用途,它們的生命周期也各不相同。其中,方法區和堆的生命周期與JVM虛擬機相同,隨著虛擬機行程的啟動而存在,因此,它們也是所有Java執行緒共享的資料區域;而虛擬機堆疊、本地方法堆疊和程式計數器,它們的生命周期與用戶執行緒相互依賴,隨著用戶執行緒的啟動和結束而對應地創建和銷毀,因此,它們也是執行緒私有的資料區域,也就是每個執行緒都有各自的虛擬機堆疊、本地方法堆疊和程式計數器。各...
uj5u.com 2021-08-23 09:09:31 morewindows安裝和使用nginx1、下載官網下載【nginx/Windows-1.20.1】下載成功后解壓,檔案如下:2、啟動nginx方式一:直接雙擊nginx.exe方式二:打開cmd命令視窗,切換到nginx解壓目錄下,輸入命令 nginx.exe 或者 start nginx ,回車即可驗證是否啟動成功:在瀏覽器輸入 http://localhost,看到以下界面則說明啟動成功:通過cmd查看nginx運行情況:打開cmd,執行:tasklist /fi "image...
uj5u.com 2021-08-23 09:09:08 more一.簡介1.什么是ansible? ansible的官方標題為:"Ansible is Simple IT Automation",也就是說ansible是一種簡單的自動化IT工具. 工具目標:1.自動化部署APP 2.自動化管理配置項 3.自動化的持續交付 4.自動化的云服務管理2.ansible特性 模塊化:呼叫特定的模塊,完成特定的任務 Paramiko (Python對ssh的實作),PyYaml,Jinja2(模板語言)三個關鍵模塊......
uj5u.com 2021-08-23 09:08:40 more文章目錄:1.容器資料卷是什么?2.容器資料卷能干嘛?3.容器內添加資料卷3.1 直接使用命令添加3.2 使用DockerFile添加4.資料卷容器1.容器資料卷是什么?先來看看Docker的理念:* 將運用與運行的環境打包形成容器運行 ,運行可以伴隨著容器,但是我們對資料的要求希望是持久化的。* 容器之間希望有可能共享資料。Docker容器產生的資料,如果不通過docker commit生成新的鏡像,使得資料做為鏡像的一部分保存下來,那么當容器洗掉后,資料自.....
uj5u.com 2021-08-23 09:08:04 more實驗步驟一根據實驗環境,本實驗的步驟如下:1、測驗環境中獲取DNS資料包。2、分析DNS資料包。任務描述:獲取兩種型別的DNS資料包(1)通過瀏覽器訪問域名(www.baidu.com)來獲取DNS資料雖然合天實驗室環境下,無法抓取此部分資料包(其實也可以自己搭建服務器,配置DNS服務器,但設計者比較懶,就將就下吧),但設計者希望學習的人能根據例子在自己的筆記本上抓取,然后分析。我們以登錄www.baidu.com來獲取DNS資料,啟動Wireshark,在Filter中輸入dns。打開瀏覽器...
uj5u.com 2021-08-23 09:07:06 more