主頁 > 後端開發 > hadoop2.7.2搭建完全分布式集群

hadoop2.7.2搭建完全分布式集群

2020-10-12 11:13:53 後端開發

  1. 新建虛擬機

  2. 修改虛擬機的靜態IP

  3. 修改主機名,添加主機和ip的映射關系

  4. 關閉防火墻 （1-4 通過腳本完成）

  5. 創建普通用戶
    　　useradd jinghang
    　　passwd jinghang

  6. 配置普通用戶具有root權限
    　　vim /etc/sudoers
    　　　　在91行下添加如下內容：
    　　　　jinghang ALL=(ALL) NOPASSWD:ALL
    完成后:wq!

7.在/opt目錄下創建檔案夾（software存放壓縮軟體包，modul存放解壓后的軟體包）

  • 在/opt目錄下創建module、software檔案夾

     		mkdir /opt/module /opt/software

  • 修改module、software檔案夾所有者和所屬組

     	chown jinghang:jinghang /opt/module /opt/software

8、關機拍攝快照

9、從拍照位置克隆三臺虛擬機

10、克隆虛擬機有兩個網卡(三臺都需要改)：

  • 進入這個檔案 vim /etc/udev/rules.d/70-persistent-net.rules

     	　1.洗掉 NAME="eth0"這一行
 	　2.修改NAME="eth1" -> NAME="eth0" (:wq!)
 	　3.復制ADDR地址（虛擬mac地址）
 	　4.進入到　vim /etc/sysconfig/network-scripts/ifcfg-eth0
 	　	HWADDR=賦值ADDR地址（虛擬mac地址）
 	　	:wq!　
 	　5.service network restart (如果失敗，reboot)　

11、修改克隆后虛擬機的ip和主機名、ip主機的映射關系（使用腳本完成）

12、確定任務

  • 簡介

     HDFS: namenode datanode secondarynamenode
 YARN：resourcemanager nodemanager
 history: historyserver

  • master(主節點) slaves（從節點）

  • hadoop集群默認3個副本，這里集群搭建3臺服務器，對應服務器上存放的服務

     Hadoop03 　　　　	Hadoop04 　　　　	Hadoop05 
 datanode 　　 　	datanode 　　 　　   datanode 
 namenode 　　 		resourcemanager 　　 secondarynamenode
 nodemanager 　　	 nodemanager 　　 nodemanager
 historyserver

13、編輯 /etc/profile來配置環境

　　[jinghang@Hadoop02 hadoop-2.7.2]$ sudo vim /etc/profile
　　　　#配置JAVA_HOME
　　　　export JAVA_HOME=/opt/module/jdk1.8.0_144
　　　　export PATH=$ PATH:$ JAVA_HOME/bin

　　　　#配置HADOOP_HOME
　　　　export HADOOP_HOME=/opt/module/hadoop-2.7.2
　　　　export PATH=$ PATH:$ HADOOP_HOME/bin
　　　　export PATH=$ PATH:$ HADOOP_HOME/sbin

　　添加完環境source一下：
　　　　[jinghang@Hadoop02 hadoop-2.7.2]$ source /etc/profile

14、查看環境是否配置成功

　[jinghang@Hadoop02 hadoop-2.7.2]$ hadoop version
　[jinghang@Hadoop02 hadoop-2.7.2]$ java -version
　如果java不是1.8.0_144版本
　	卸載之前的版本
　　　rpm -qa | grep java  （查看java安裝包）
　　　sudo rpm -e java-1.6.0-openjdk-1.6.0.41-1.13.13.1.el6_8.x86_64      （卸載jdk安裝包）
　　　sudo rpm -e java-1.7.0-openjdk-1.7.0.181-2.6.14.10.el6.x86_64 --nodeps　　（忽略依賴卸載jdk安裝包）

15、配置集群

  • 在hadoop-2.7.2目錄下：

     vim etc/hadoop/hadoop-env.sh
 	修改JAVA_HOME路徑 export JAVA_HOME=/opt/module/jdk1.8.0_144
 vim etc/hadoop/yarn-env.sh
 	修改JAVA_HOME路徑 export JAVA_HOME=/opt/module/jdk1.8.0_144
 vim etc/hadoop/mapred-env.sh　
 	修改JAVA_HOME路徑 export JAVA_HOME=/opt/module/jdk1.8.0_144

  • 配置HDFS，在hadoop-2.7.2目錄下：
vim etc/hadoop/core-site.xml
添加設定 

<! -- 指定HDFS中NameNode的地址 -->
	<property>
 		<name>fs.defaultFS</name>
 		<value>hdfs://Hadoop03:9000</value>　
	</property>
<! -- 指定Hadoop運行時產生檔案的存盤目錄 -->
	<property>
		<name>hadoop.tmp.dir</name>
 		<value>/opt/module/hadoop-2.7.2/data/tmp</value>
 	</property>

vim etc/hadoop/hdfs-site.xml
添加配置

< !-- 指定HDFS副本的數量 -->
	<property>
		<name>dfs.replication</name>
		<value>3</value>
	</property>
< !-- 指定Hadoop輔助名稱節點主機配置 -->
	<property>
		<name>dfs.namenode.secondary.http-address</name>
		<value>Hadoop05:50090</value>
	</property>

  • 配置YARN，在hadoop-2.7.2目錄下：
vim etc/hadoop/yarn-site.xml　
 添加配置　

<!-- Reducer獲取資料的方式 -->
　　　　　　<property>
　　　　　　　　<name>yarn.nodemanager.aux-services</name>
　　　　　　　　<value>mapreduce_shuffle</value>
　　　　　　</property>

　　　　　　<!-- 指定YARN的ResourceManager的地址 -->
　　　　　　<property>
　　　　　　　　<name>yarn.resourcemanager.hostname</name>
　　　　　　　　<value>Hadoop04</value>
　　　　　　</property>

　　　　　　<!-- 日志聚集功能使能 -->
　　　　　　<property>
　　　　　　　　<name>yarn.log-aggregation-enable</name>
　　　　　　　　<value>true</value>
　　　　　　</property>
　　　　　　<!-- 日志保留時間設定7天 -->
　　　　　　<property>
　　　　　　　　<name>yarn.log-aggregation.retain-seconds</name>
　　　　　　　　<value>604800</value>
　　　　　　</property>

  • 在hadoop-2.7.2目錄下，重命名mapred-site.xml.template：mv
    etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml
然后編輯： vim etc/hadoop/mapred-site.xml 
添加配置：
	
　<!-- 指定MapReduce運行在YARN上 -->
　　　　　　　　<property>
　　　　　　　　　　<name>mapreduce.framework.name</name>
　　　　　　　　　　<value>yarn</value>
　　　　　　　　</property>

　　　　　　　　<!-- 歷史服務器端地址 -->
　　　　　　　　<property>
　　　　　　　　　　<name>mapreduce.jobhistory.address</name>
　　　　　　　　　　<value>Hadoop03:10020</value>
　　　　　　　　</property>
　　　　　　　　<!-- 歷史服務器web端地址 -->
　　　　　　　　<property>
　　　　　　　　　　<name>mapreduce.jobhistory.webapp.address</name>
　　　　　　　　　　<value>Hadoop03:19888</value>
　　　　　　　　</property>

16、分發

這時一臺服務器已經配置完成，將配置分發到其他的服務器上，
　　　　1、將Hadoop03服務器的hadoop-2.7.2分發給Hadoop04服務器
　　　　　　rsync -av /opt/module/hadoop-2.7.2 jinghang@Hadoop04:/opt/module/
　　　　2、將Hadoop03服務器的hadoop-2.7.2分發給Hadoop05服務器
　　　　　　rsync -av /opt/module/hadoop-2.7.2 jinghang@Hadoop05:/opt/module/
　　　　3、將Hadoop03服務器的 jdk1.8.0_144 分發給Hadoop04服務器
　　　　　　rsync -av /opt/module/ jdk1.8.0_144 jinghang@Hadoop04:/opt/module/
　　　　4、將Hadoop03服務器的 jdk1.8.0_144 分發給Hadoop05服務器
　　　　　　rsync -av /opt/module/ jdk1.8.0_144 jinghang@Hadoop05:/opt/module/
　　　　5、將Hadoop03服務器的 /etc/profile 分發給Hadoop04服務器的root用戶
　　　　　　rsync -av /etc/profile root@Hadoop04:/etc/profile
　　　　在Hadoop04服務器上 source /etc/profile
　　　　6、將Hadoop03服務器的/etc/hosts分發給Hadoop04服務器的root用戶
　　　　　　rsync -av /etc/hosts root@Hadoop04:/etc/hosts
　　　　7、分發完畢，檢查三臺服務器的java版本和hadoop版本

17、啟動集群（在集群的各臺服務器上啟動對應的服務行程）

　1、啟動集群之前一定要格式化(/opt/module/hadoop-2.7.2)
　　　bin/hdfs namenode -format ( has been successfully formatted)
　　　如果格式化失敗了：
　　　　1.洗掉/opt/module/hadoop-2.7.2目錄下的data logs
　　　　2.bin/hdfs namenode --format
　　　注意：格式化NameNode，會產生新的集群id,導致NameNode和DataNode的集群id不一致，
　　　集群找不到已往資料，所以，格式NameNode時，一定要先洗掉data資料和log日志，
　　　然后再格式化NameNode，

　　2 啟動HDFS服務
　　　　啟動namenode
　　　　　　sbin/hadoop-daemon.sh start/stop namenode
　　　　啟動datanode
　　　　　　sbin/hadoop-daemon.sh start/stop datanode
　　　　啟動secondarynamenode

　　　　檢查namenode的web頁面是否可以訪問
　　　　　　http://192.168.232.202:50070
　　　　　　
　　3 啟動YARN服務
　　　　啟動resourcemanager
　　　　　　sbin/yarn-daemon.sh start/stop resourcemanager
　　　　啟動nodemanager
　　　　　　sbin/yarn-daemon.sh start/stop nodemanager
　　　　檢查yarn的web頁面:http://192.168.232.201:8088
　　
　　4 開啟歷史服務
　　　　sbin/mr-jobhistory-daemon.sh start/stop historyserver

18、配置免密登錄，實作群起群停

	1、生成公鑰和私鑰
　　　　ssh-keygen -t rsa
	2、分發公鑰秘鑰
　　　　rsync -av /home/jinghang/.ssh jinghang@Hadoop04:/home/jinghang/
　　　　rsync -av /home/jinghang/.ssh jinghang@Hadoop05:/home/jinghang/

	3、在namenode所在的服務器的hadoop-2.7.2目錄下
　　　　編輯 etc/hadoop/slaves
　　　　　　刪掉其他，添加
　　　　　　Hadoop03
　　　　　　Hadoop04
　　　　　　Hadoop05

	4、將slaves檔案分發給 運行resourcemanager的服務器
　　　　rsync -av slaves jinghang@Hadoop04:/opt/module/hadoop-2.7.2/etc/hadoop/

	5、現在可以群起群停了
　　　　1、在配置namenode的服務器(03)
　　　　　　start-dfs.sh stop-dfs.sh 
　　　　2、在配置resourcemanager的服務器(04)
　　　　　　start-yarn.sh stop-yarn.sh

　　　　　　start-all.sh stop-all.sh

19、配置集群時間同步

	檢查ntp是否安裝
　　　　rpm -qa|grep ntp
　　	
　　	查看ntp的狀態：切記正在運行的狀態是不可以的，需要先停止，不然埠會被占用
　　　　[jinghang@Hadoop03 ~]$ service ntpd status

　　如果ntp服務開著，要先關閉ntpd服務
　　　　關閉
　　　　　　[jinghang@Hadoop03 ~]$ service ntpd stop
　　　　關閉開機自啟
　　　　　　[jinghang@Hadoop03 ~]$ sudo chkconfig ntpd off

　　修改 /etc/ntp.conf 組態檔
　　　　進入編輯：
　　　　　　[jinghang@Hadoop03 ~]$ sudo vim /etc/ntp.conf 
　　　　修改1（授權192.168.1.0-192.168.1.255網段上的所有機器可以從這臺機器上查詢和同步時間）
　　　　　　解開注釋 restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap
　　　　修改2（集群在局域網中，不使用其他互聯網上的時間）
　　　　　　加上注釋
　　　　　　　　#server 0.centos.pool.ntp.org iburst
　　　　　　　　#server 1.centos.pool.ntp.org iburst
　　　　　　　　#server 2.centos.pool.ntp.org iburst
　　　　　　　　#server 3.centos.pool.ntp.org iburst
　　　　添加3（當該節點丟失網路連接，依然可以采用本地時間作為時間服務器為集群中的其他節點提供時間同步）
　　　　　　server 127.127.1.0
　　　　　　fudge 127.127.1.0 stratum 10

　　修改/etc/sysconfig/ntpd 檔案
　　　　進入編輯：
　　　　　　[jinghang@Hadoop03 ~]$ sudo vim /etc/sysconfig/ntpd
　　　　增加內容如下（讓硬體時間與系統時間一起同步）
　　　　　　SYNC_HWCLOCK=yes

　　重新啟動ntpd服務
　　　　[jinghang@Hadoop03 ~]$ sudo service ntpd start
　　設定ntpd服務開機啟動
　　　　[jinghang@Hadoop03 ~]$ sudo chkconfig ntpd on

　　其他服務器配置
　　　　在其他機器配置10分鐘與時間服務器同步一次
　　　　root用戶登錄，撰寫定時任務：
　　　　　　[root@Hadoop04 jinghang]# crontab -e
　　　　　　*/10 * * * * /usr/sbin/ntpdate Hadoop03

　　現在修改任意的服務器時間，三臺服務器10分鐘后都可以實作同步時間
　　如果沒同步成功，開啟一下另外兩臺服務器的ntpd服務
　　　　service ntpd start
　　　　chkconfig ntpd on

轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/168882.html

標籤：python

上一篇：jenkins如何構建github上的代碼(ci cd)

下一篇：從歷史資料看阿里云和華為云？

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C＃(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態，例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1：當函式不可能拋出例外或不能接受拋出例外時，使用noexcept 理由 如果不打算拋出例外的話，程式就會認為無法處理這種錯誤，并且應當盡早終止，如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接：https://codeforces.com/problemset/problem/1400/E 來源：Codeforces 思路：給你一個陣列，現在你可以進行兩種操作，操作1：將一段沒有 0 的區間進行減一的操作，操作2：將 i 位置上的元素歸零。最終問：將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯，就附帶了一個自己的翻譯版本 思考 這一題，它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數，這里就不慢慢介紹了。但是，重讀題，我們突然發現反向質數都是 $7$ 位，而將它反過來后的數字卻是 $6$ 位數，這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記：C++中的 const 變數詳解，教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中，會分配記憶體（也就是說可以通過地址間接修改變數的值）。測驗代碼如下： 運行結果： 2、全域const變數存放在只讀資料段（不能通過地址修改，會發生寫入錯誤）， 默認為外部聯編，可以給其他源檔案使用（需要用extern關鍵字修飾） 運行結果： ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中，添加資源 2. 點擊新添加的資源，復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案，編輯，使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索，點擊查找全部，然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h，在其中預先定義好宏 ID（不清楚其實ID值應該設定多少，可以先新建一個相同的資源項，再在這個資源的ID值的基礎上遞增即可） 2. 在資源視圖中選中專案資源，按F7編輯資源檔案，按 ID 型別 相對路徑的形式添加 資源。（別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記：關于C++的參考型別，專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考，也叫別名。 參考就是給一個變數名取一個變數名，方便我們間接地使用這個變數。我們可以給一個變數創建N個參考，這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間，占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名，但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++：初學者完整指南

    眾所周知，C ++的學習曲線陡峭，但是花時間學習這種語言將為您的職業帶來奇跡，并使您與其他開發人員區分開。您會更輕松地學習新語言，形成真正的解決問題的技能，并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣（即清晰一致的編碼風格，在撰寫代碼時注釋代碼，并限制類內部的可見性），并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標（smart pointers）是一類資料結構，是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標（pointer）是一個包含記憶體地址的變數的通用概念。這個地址參考，或 ” 指向”（points at）一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身，參考傳遞（如果傳遞的值需要實體化到堆里）如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如： 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號：Hunter后端 原文鏈接：Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類，Extract() 和 Trunc() Extract() 函式作用是提取日期，比如我們可以提取一個日期欄位的年份，月份，日等資料 Trunc() 的作用則是截取，比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM？ JVM，全稱Java Virtual Machine（Java虛擬機），是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊，使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息！

    更新完微信服務號的模板訊息之后，我又趕緊把微信小程式的訂閱訊息給實作了！之前我一直以為微信小程式也是要企業才能申請，沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類： 位元組緩沖流：BufferedInputStream，BufferedOutputStream 字符緩沖流：BufferedReader，BufferedWriter 緩沖流的基本原理，是在創建流物件時，會創建一個內置的默認大小的緩沖區陣列，通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說，人太懶了，現在基本都不喜歡寫筆記了，但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的，寫的注釋挺全的，應該直接看得懂，就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景：視頻分段傳輸、視頻多段傳輸（理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發，從基本到高級概念，包括簡介，UWP，第一個應用程式，商店，XAML控制元件，資料系結，XAML性能，自適應設計，自適應UI，自適應代碼，檔案管理，SQLite資料庫，應用程式到應用程式通信，應用程式本地化，應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more

Copyright © 2010-2020 有解無憂