前言hadoop在大資料面試中的比重已經呈下降趨勢了,因為有spark的存在,hadoop存在感越來越低,但因為有分布式檔案系統HDFS的存在,hadoop也不會被時代所拋棄。面試程序中涉及hadoop的知識點主要集中與shuffle程序,切片機制,性能調優,以及datanode掛了怎么辦,HA高可用等這些真實場景問題,可見除了一些基本的知識基礎之外,性能調優和真實場景的相關問題是面試問的比較多的。秋招高頻題1.hadoop的各個組件2.hadoop作業提交到yarn的流程:(1)client將...
2020-10-04 moreRedis 用作資料庫文章目錄Redis 用作資料庫一、持久化之RDB1、時點性2、RDB配置3、優缺點RDB的優點RDB的缺點二、持久化之AOF1、AOF配置2、優缺點AOF 優點AOF 缺點Redis 用作快取,其特點之一就是資料可以丟,只需要保證其回應急速,性能較高!但是如果把 Redis 做資料庫:資料絕對不能丟的,所以除了保證其速度之外,還必須保證其持久性,資料一定不可以丟失而我們知道 Redis 處于記憶體,記憶體資料掉電易失!所以如果想要使用 Redis 作為資料庫,必須要保證其持久性只...
2020-10-04 more安裝mongodb本例以CentOS 7為例。1、進入官網https://www.mongodb.com/try/download/community選擇版本,選擇作業系統,選擇檔案型別,點擊Download下載安裝包也可以通過Copy Link復制下載鏈接,使用wget命令下載,在linux系統上執行如下命令下載安裝包wget https://fastdl.mongodb.org/linux/mongodb-linux-x86_70-4.4.1.tgz檔案下載或者上傳到系統上后...
2020-10-04 moreSAS EM(一)關聯分析關聯規則挖掘技術可以發現不同商品在消費者購買程序中的相關性。給定一組事務集合,其中每個事務是一個專案集;一個關聯規則是形如 X ->Y 的蘊涵式, X 和 Y 表示專案集,且 X∩ Y = Φ, X 和 Y 分別稱為關聯規則 X-> Y 的前提和結論。規則 X->Y 的支持度(Support) 是事務集中包含 X 和 Y 的事務數與所有事務數之比,記為 support(X->Y) ;規則 X->Y 的置信度(Confidence) 是指包含 X 和...
2020-10-04 more文章目錄描述性統計回歸命令結果保存描述性統計描述性統計的命令我一般使用summerize,用法為summerize加上你所想要總結的變數名稱,如果summerize后什么都不加,則表示描述所有變數。sysuse auto* 表示描述性統計所有變數 *summarize* 表示描述統計mpg,weight兩個變數 *summarize mpg weight論文中資料部分一般要報告描述性統計和資料說明。描述性統計一報告均值、標準差、最大值、最小值,而資料說明則報告資料指標說明(可省略),單位及...
2020-10-04 moreMySQL報錯Could not connect, server may not be running. Unable to connect to localhost:3306 MySQL報錯Could not connect, server may not be running. Unable to connect to localhost:3306如何解決!)MySQL報錯Could not connect, server may not be running. Unable to connect...
2020-10-04 more所需軟體下載:virtualbox(輕量的虛擬機)地址vagrant下載地址一、主機環境要求CPU虛擬化步驟:百度百科二、安裝docker官方鏡像倉庫打開window cmd運行視窗,運行vagrant init centos/7可以看出在個人用戶檔案下 出現了如下的檔案配置IP地址:通過cmd視窗輸入:ipconfig查出之后在組態檔中更改如下命令:在cmd管理員的命令視窗下 :vagrant reload(多載vagrant)vagrant up 啟動虛擬環境...
2020-10-04 more文章目錄2009年原文翻譯重點詞匯2010年原文翻譯重點詞匯2011年原文翻譯重點詞匯2012年原文翻譯重點詞匯2013年原文翻譯重點詞匯2014年原文翻譯重點詞匯2015年原文翻譯重點詞匯2016年原文翻譯重點詞匯2017年原文翻譯重點詞匯2018年原文翻譯重點詞匯2009年原文An architectural Style defines as a family of such systems in terms of a pattern、of structural organization.More...
2020-10-04 more1.為什么Nacos?Nacos是一款微服務的注冊和配置管理中心開源軟體,是阿里巴巴貢獻給開源社區的,其遵循Apache 2.0的開源協議,可以免費的使用于商業環境,而且阿里云上已經全面支持。其Github地址https://github.com/alibaba/nacos ,目前此開源專案已經有14.4k個星星了,已經非常厲害了!相對于Eureka,其不僅僅是微服務的注冊中心,還能同時擔任配置管理中心,界面也非常的友好。琦彥大神在其博客《微服務:注冊中心ZooKeeper、Eureka、Cons...
2020-10-04 more如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......
uj5u.com 2020-09-10 02:00:47 more一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......
uj5u.com 2020-09-10 02:00:50 moremetasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......
uj5u.com 2020-09-10 02:00:53 more驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......
uj5u.com 2020-09-10 02:00:56 more北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......
uj5u.com 2020-09-10 02:01:03 more?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......
uj5u.com 2020-09-10 02:04:05 more我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......
uj5u.com 2020-09-10 02:04:18 more我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......
uj5u.com 2020-09-10 02:04:30 more1.Mapmap是一種基礎的RDD轉換操作,用于將RDD中的每一個資料元素通過某種函式進行轉換并回傳新的RDD。例:val distData = https://blog.csdn.net/master_hunter/article/details/List(1, 3, 45, 3, 76)val sq_dist = distData.map(x => x * x)print(sq_dist)List(1, 9, 2025, 9, 5776)2.SortBy()sortBy()是對標準RDD進行排序...
uj5u.com 2021-04-09 11:58:23 more學個技識訓者搞副業,什么靠譜?學姐告訴你:答案是PythonPython語言是所有語言中好上手的語言,簡單易學。只要是懂一點英語,邏輯思維不是很差的人很快就能學會。學成之后能撰寫代碼爬取大量資料,制作各種專業圖表,以及資料分析報…作業.上快速提升,還能利用業余時間接點私活兒,一個月可以拿到近萬的外快。比較輕松、收入也可觀。4基礎30天入門門編程全干貨分享今天我掏出家底,給大家分享一個私藏了2年的神仙學資源,讓你盡情自學Python,從此自學不求人。Python開發環境安裝教程有Pytho.....
uj5u.com 2021-04-09 11:57:56 more1 簡介RocketMQ是一款分布式、佇列模型的訊息中間件,由阿里巴巴自主研發的一款適用于高并發、高可靠性、海量資料場景的訊息中間件。早期開源2.x版本名為Metaq,迭代3.x版本,更名為RocketMQ,16年開始貢獻到Apache。經過1年多的范訓,最終成為Apache頂級的開源專案,更新非常頻繁,社區活躍度也非常高;目前4.8.0-release版本。RocketMQ參考借鑒了優秀的開源訊息中間件Apache - Kafka,其訊息的路由集群劃分都借鑒了Kafka優秀的設計思路,并結合自身的 “...
uj5u.com 2021-04-09 11:57:26 morepython 多執行緒 多行程同時運行多任務要求python 基礎語法python 檔案目錄操作python 模塊應用開發工具pycharm實作方法多任務的實作可以用行程和執行緒來實作行程—> 執行緒----> 多任務應用多行程操作比如下載多個檔案, 利用cpu 資源 提高效率多任務: 同一時間執行多個任務, 比如windows作業系統執行方式有兩種( 表現形式 )并發在單核cpu中:在一段時間內交替執行多個任務, 例如單核cpu 處理多任務, 作業系統讓各個任務交...
uj5u.com 2021-04-09 11:57:08 moreClickHouse集群安裝部署流程(防止踩坑)ClickHouse集群安裝部署Fisrt1、安裝之前1.1、SSE 4.2 指令集1.2、設定用戶的檔案句柄數2、單節點方式2.1、yum方式安裝RPM安裝包方式一2.1.1、推薦使用CentOS、RedHat和所有其他基于rpm的Linux發行版的官方預編譯rpm包。2.1.2、查看安裝包命令:2.1.3、然后運行命令安裝:2.2、yum方式安裝RPM安裝包方式二2.2.1、安裝curl工具2.2.2、添加clickhouse的yum鏡像2.2.3、檢查...
uj5u.com 2021-04-09 11:56:57 moreHadoop集群環境搭建1環境需求本文是用過Vmware搭建的三臺linux虛擬機。Vmware安裝包自取Mac:鏈接:https://pan.baidu.com/s/1unYcc_hc9SA5O5-QvZFe-A 密碼:h20jWindows:鏈接:https://pan.baidu.com/s/1Z5y1DsnT-CmWcGHADd6WwQ 密碼:5v0w2.hadoop集群搭建2.1linux環境配置(需要三臺linux虛擬機都執行)2.1.1 關閉防火墻 (本地環境訪問更加方便,...
uj5u.com 2021-04-09 11:56:39 more當一個組件到了優化部分的時候,基本上這個組件的內容就到了結尾部分了,本文我們給HBase收收尾,來講一下HBase的優化。關注專欄《破繭成蝶——大資料篇》,查看更多相關的內容~一、HBase的高可用在HBase中HMaster負責監控Region Server的生命周期,均衡Region Server的負載,如果HMaster掛掉了,那么整個HBase集群將陷入不健康的狀態,并且此時的作業狀態并不會維持太久。所以HBase支持對HMaster的高可用配置。這里需要注意的是,如果HMaster掛掉,H...
uj5u.com 2021-04-09 11:56:07 moreC站(CSDN)軟體工程師能力認證上線35天,來自全國130所高校的同學自發組建66個學習小組,基于“明確路徑+任務領取+刻意練習+小組學習+大咖指導”的學習模型,讓更多學員,實作了面向實踐、任務驅動、共同成長的目標。今天小編就帶著大家揭秘學習小組的成長秘訣,感受屬于他們的高光時刻。實踐:66個小組自主探索、系統化持續學習經過將近1個月的更新迭代,已經有超過130所高校的同學組建了66個學習小組,越來越多小伙伴加入其中,并且取得了一些階段性成果,經過小編與小組成員的交......
uj5u.com 2021-04-09 11:54:32 more一、前言這段時間在樓下遛娃的時候,發現了一個比較奇怪的現象,我們小區的精英人士,程式員老馬竟然有空出來看孩子了。這可是從來沒有發生過的,以前都是老馬的父母或者老婆在看孩子,因為他作業實在是太忙了。老馬是做程式員作業的,而且從大學畢業開始就一直從事程式員的作業。前幾年,老馬奉行的原則是能跳槽就跳槽,跳槽一回,工資翻番。情況也確實是這樣,他29歲以前,換了3家公司,每次跳槽工資都能加點,直到最終進入了國內某知名企業,成為一名正式員工,才結束了他的跳槽生涯。二、從巔峰跌落谷底那時候老馬才29歲,進入這....
uj5u.com 2021-04-09 11:53:26 more