背景：之前和同事討論一個問題，他們公司調研中發現forEach的速度比for的速度慢，當剛聽到這個結論的時候有點詫異。因為之前看過國外的文章和他們公司的結論一樣，但是測驗用例單一。今天正好在看flink相關的流處理，正好想起來了這個問題，然后簡單的寫了一個demo來進行推翻這個結論。廢話不多說直接上代碼吧。package pers.bik.flink;import java.util.ArrayList;import java.util.List;import java.util.con...
2021-08-13 more一、HDFS概述1、定義HDFS（Hadoop Distributed File System），它是一個檔案系統，用于存盤檔案，通過目錄樹來定位檔案；其次，它是分布式的，由很多服務器聯合起來實作其功能，集群中的服務器有各自的角色。HDFS的使用場景：適合一次寫入，多次讀出的場景。一個檔案經過創建、寫入和關閉之后就不需要改變。2、優缺點（1）優點：高容錯性：資料自動保存多個副本，它通過增加副本的形式來提高容錯性。在某一個副本丟失后，它可以自動恢復。 適合處理大資料：資料規模可達到G...
2021-08-13 more最近七天內連續三天活躍用戶數首先，感謝大華公司給的面試機會，非常感謝~！進入正題，建表：create table uv_detail_daycount(mid int)PARTITIONED BY(dt string);通過load將hdfs檔案加載到hive中。資料檔案名如下：里面的資料只有用戶mid。如下所示：每個日期對應的用戶mid，即為該天活躍。通過上圖可以發現，最近七天內連續三天活躍用戶數應該是001和002號用戶，最終2021-08-10這天的最近七天內連續三天活躍用...
2021-08-13 more背景：我司為解決hive資料分析慢問題，部署了presto 347版本集群。同時即席分析平臺采用開源產品superset 1.0版本。為滿足公司業務場景，需開發以下功能解決認證及審計等問題。jdbc等連接方式（開發同學專用）需驗證ranger賬號密碼并通過ranger進行庫表權限驗證。 superset登錄（資料分析同學使用）需驗證公司sso賬號，且superset端所有同學共用一個presto資料源連接，需單獨設計權限認證方式。 開發事件監聽器，用于用戶SQL查詢情況審計等。一、賬號密碼...
2021-08-13 more31.1 例外情況創建Hive表test_hive_delimiter，使用“\u001B”分隔符create external table test_hive_delimiter( id int, name string, address string)row format delimited fields terminated by '\u001B'stored as textfile location '/fayson/test_hive_delimiter&...
2021-08-13 more一.什么是Hadoop？ 誕生：為了處理大資料本質：分而治之 在我理解中是分成三大部分：存盤，計算，中間協調組件 下面這張圖（來自度娘）很好的畫出了Hadoop的生態圈二.Hadoop 經典問題來認識Hadoop的思想1.有一個非常大的檔案，計算檔案每個單詞出現的次數 眾人拾柴火焰高，面對大資料，一臺機器算不過來而且性能也差，分多臺機器算，是不是很像多執行緒的思想，如檔案是1個T，那么把1個T的檔案分成10個，由10臺機......
2021-08-13 more該系統有三個角色，分別是：普通用戶、房屋中介、管理員。普通用戶的功能：瀏覽房屋資訊、預約看房、和中介聊天、申請成為中介等等。房屋中介的功能：發布房屋資訊、和用戶聊天、回復預約資訊等等。管理員的功能：管理所有用戶資訊、管理權限資訊、管理所有房屋資訊、管理所有預約資訊等等。應用技術：SpringBoot + Redis + MySQL + Vue + SpringSecurity + JWT + ElasticSearch + WebSocket + FreeMarker + MyBatis-Plus等...
2021-08-13 more文章目錄kafka的安裝kafka的使用參考文章kafka的安裝從官網下載版本：kafka_2.13-2.8.0.tgz將壓縮包kafka_2.13-2.8.0.tgz上傳至linux服務器的/usr/local目錄下解壓kafka_2.13-2.8.0.tgz至當前目錄：tar -zxvf kafka_2.13-2.8.0.tgz-x，同--extract，extract files from an archive。-f，--force-local，archive file is loc...
2021-08-13 moreidea編譯啟動zookeeper原始碼修改組態檔1 zoo.cfg2 log4j.properties3 將檔案夾標記為Resources Root增加啟動項1 QuorumPeerMain注釋掉pom.xml的scope啟動服務端啟動客戶端java.lang.NoClassDefFoundError...
2021-08-13 more如何從xshell上傳檔案到centos linux虛擬機里及：虛擬機CentOs下執行 yum -y install lrzsz命令，出現錯誤：鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示：其實很簡單，往虛擬機上安裝一個上傳檔案的工具 ......
uj5u.com 2020-09-10 02:00:47 more一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號， sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求，SQLMAP可以從一個文本檔案中 ......
uj5u.com 2020-09-10 02:00:50 moremetasploit 簡單使用教程 浩先生， 2020-08-28 16:18:25 分類專欄： kail 網路安全 linux 文章標簽： linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么？ 二、準備作業 三、具體步驟 前言 Msfconsole ......
uj5u.com 2020-09-10 02:00:53 more驅動層代碼： #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......
uj5u.com 2020-09-10 02:00:56 more北斗電力時鐘（北斗授時服務器）讓網路資料更精準 北斗電力時鐘（北斗授時服務器）讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年，資訊技術的得了快速發展，互聯網在逐漸普及，其在人們生活和生產中都得到了廣泛應用，并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用，一方面使電力系統的運行 ......
uj5u.com 2020-09-10 02:01:03 more?碎碎念 CTFHub：https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺，后來才有了CTFHub。 感覺不論是網頁UI設計，還是題目質量，賽事跟蹤，工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......
uj5u.com 2020-09-10 02:04:05 more我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解（net user / type /md /rd/ dir /cd /net use copy、批處理 等） 利用dos命令制作 ......
uj5u.com 2020-09-10 02:04:18 more我學到了以下幾點 01Linux系統介紹02系統安裝，密碼啊破解03Linux常用命令04LAMP 01LINUX windows： win03 8 12 16 19 配置不繁瑣 Linux：redhat,centos(紅帽社區版)，Ubuntu server,suse unix:金融機構，證券，銀 ......
uj5u.com 2020-09-10 02:04:30 more信管通低代碼開發工具包括兩個大部分，一部分是公司內部使用的設計工具，負責業務系統的研發設計，另一部分是終端客戶使用的應用工具，是由公司內部業務系統開發人員使用的設計工具設計好的業務系統在終端客戶的一個交換處理軟體平臺，從而滿足用戶的不同業務要求，終端客戶應用工具又分為單機版和網路版，適應用戶的不同應用環境。信管通低代碼開發工具總體結構圖如圖所示。信管通低代碼快速開發平臺就是公司內部使用的設計系統，信管通綜合協辦公資訊管理系統就是終端用戶使用的業務系統互動資訊處理的平臺，信管通低代碼開發工具設計....
uj5u.com 2021-08-23 09:50:11 more虛擬機linux密碼忘記，通過但用戶模式修改密碼第一步：重新啟動虛擬機，再出現進度條時按e鍵（啟動編輯器），進入到以下界面，再次按下e鍵第二步：進入以下界面后，通過上下鍵選擇第二項，按下e鍵第三步：進入以下界面后，在quiet 后面輸入空格和s，然后按回車確認第四步：進入以下界面后，按b鍵（boot啟動）第五步：進入單用戶模式，輸入passwd root (root表示的是需要重置密碼的用戶名)和新密碼，按回車鍵確認第六步：輸入reboot重啟系統第七步：重新啟動后，使用新密碼登陸...
uj5u.com 2021-08-23 09:10:00 more這里寫自定義目錄標題歡迎使用Markdown編輯器新的改變功能快捷鍵合理的創建標題，有助于目錄的生成如何改變文本的樣式插入鏈接與圖片如何插入一段漂亮的代碼片生成一個適合你的串列創建一個表格設定內容居中、居左、居右SmartyPants創建一個自定義串列如何創建一個注腳注釋也是必不可少的KaTeX數學公式新的甘特圖功能，豐富你的文章UML 圖表FLowchart流程圖匯出與匯入匯出匯入歡迎使用Markdown編輯器你好！ 這是你第一次使用 Markdown編輯器 所展示的歡迎頁。如果你想學習如何使用Mar...
uj5u.com 2021-08-23 09:09:45 more1、運行時資料區域JVM虛擬機在執行Java程式時，會把它所管理的記憶體劃分為若干個不同的記憶體區域，如下圖所示。這些區域有著各自的用途，它們的生命周期也各不相同。其中，方法區和堆的生命周期與JVM虛擬機相同，隨著虛擬機行程的啟動而存在，因此，它們也是所有Java執行緒共享的資料區域；而虛擬機堆疊、本地方法堆疊和程式計數器，它們的生命周期與用戶執行緒相互依賴，隨著用戶執行緒的啟動和結束而對應地創建和銷毀，因此，它們也是執行緒私有的資料區域，也就是每個執行緒都有各自的虛擬機堆疊、本地方法堆疊和程式計數器。各...
uj5u.com 2021-08-23 09:09:31 morewindows安裝和使用nginx1、下載官網下載【nginx/Windows-1.20.1】下載成功后解壓，檔案如下：2、啟動nginx方式一：直接雙擊nginx.exe方式二：打開cmd命令視窗，切換到nginx解壓目錄下，輸入命令 nginx.exe 或者 start nginx ，回車即可驗證是否啟動成功：在瀏覽器輸入 http://localhost，看到以下界面則說明啟動成功：通過cmd查看nginx運行情況：打開cmd，執行：tasklist /fi "image...
uj5u.com 2021-08-23 09:09:08 more一.簡介1.什么是ansible? ansible的官方標題為:"Ansible is Simple IT Automation",也就是說ansible是一種簡單的自動化IT工具. 工具目標:1.自動化部署APP 2.自動化管理配置項 3.自動化的持續交付 4.自動化的云服務管理2.ansible特性 模塊化：呼叫特定的模塊，完成特定的任務 Paramiko (Python對ssh的實作)，PyYaml，Jinja2(模板語言)三個關鍵模塊......
uj5u.com 2021-08-23 09:08:40 more文章目錄：1.容器資料卷是什么？2.容器資料卷能干嘛？3.容器內添加資料卷3.1 直接使用命令添加3.2 使用DockerFile添加4.資料卷容器1.容器資料卷是什么？先來看看Docker的理念：* 將運用與運行的環境打包形成容器運行 ，運行可以伴隨著容器，但是我們對資料的要求希望是持久化的。* 容器之間希望有可能共享資料。Docker容器產生的資料，如果不通過docker commit生成新的鏡像，使得資料做為鏡像的一部分保存下來，那么當容器洗掉后，資料自.....
uj5u.com 2021-08-23 09:08:04 more實驗步驟一根據實驗環境，本實驗的步驟如下：1、測驗環境中獲取DNS資料包。2、分析DNS資料包。任務描述：獲取兩種型別的DNS資料包（1）通過瀏覽器訪問域名（www.baidu.com）來獲取DNS資料雖然合天實驗室環境下，無法抓取此部分資料包（其實也可以自己搭建服務器，配置DNS服務器，但設計者比較懶，就將就下吧），但設計者希望學習的人能根據例子在自己的筆記本上抓取，然后分析。我們以登錄www.baidu.com來獲取DNS資料，啟動Wireshark，在Filter中輸入dns。打開瀏覽器...
uj5u.com 2021-08-23 09:07:06 more