1)案例需求:實時監控 Hive 日志,并上傳到 HDFS 中
2)需求分析:

3)實作步驟:
1.Flume 要想將資料輸出到 HDFS,須持有 Hadoop 相關 jar 包 拷貝到/opt/module/flume/lib 檔案夾下,

2.創建 flume-file-hdfs.conf 檔案
創建檔案

注:要想讀取 Linux 系統中的檔案,就得按照 Linux 命令的規則執行命令,由于 Hive 日志 在 Linux 系統中所以讀取檔案的型別選擇:exec 即 execute 執行的意思,表示執行 Linux 命令來讀取檔案,
添加如下內容



3.運行 Flume

4.開啟 Hadoop 和 Hive 并操作 Hive 產生日志

5.在 HDFS 上查看檔案,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/155758.html
標籤:其他
上一篇:第四題,關于存盤器擴容問題
下一篇:python
