

各位大神,請問下我現在寫一個本地測驗連接服務器上spark的例子,
SparkSession spark = SparkSession.builder().config(conf).getOrCreate(); 執行這句話java程式和服務器錯誤資訊報錯如上圖
如果把java代碼中setmaster的地址改為local[*] 就沒問題,請各路兄臺指教
uj5u.com熱心網友回復:
沒人嗎?為什么沒人?uj5u.com熱心網友回復:
spark是分布式計算框架分布式就得需要集群
local[*]是根據cpu的核數模擬成的集群
如果配置具體的集群
則需要把你的spark程式匯出可執行jar包
然后把jar包上傳到集群內
在集群內通過/spark/bin/spark-submit的shell命令進行提交
spark程式debug除錯的意義不大
因為可debug的東西都是driver端的程式
核心部分的rdd轉換的程式都是分布式的,無法debug
因為你也不知道這些程式(job)具體被調度到哪個worker節點上去了
所以spark啟動之后默認提供了一套WEB-UI供你查看具體的job等日志
具體的UI路徑可在spark的啟動日志中查到
希望能幫到你
uj5u.com熱心網友回復:
首先確保以下問題是否做了:1.ssh免密登陸
2.防火墻是否關閉
3./etc/hosts檔案是否配了主機名
我以前也遇到過這個問題,我就這么解決的
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/34004.html
標籤:Spark
上一篇:人臉識別測驗點
下一篇:求助spark
