最近接到一個任務,是把一個hive表關聯多個其他表再生成一個通用表,sql我是寫好了。
上面要求我用spark寫出來,請問如何用spark sql實作?
我用的是scala for eclipse編輯器寫的,但是我測驗代碼就是無法連入到服務器上的hive。
我不知道這個連接要怎么連,代碼外是不是還要配很多環境?
uj5u.com熱心網友回復:
用spark sql的話,可以直接讀hive存放在hdfs上的原始資料,讀進資料,然后注冊成記憶體表,再執行sql,結果資料存放到hdfs,然后基于結果資料建立你的結果hive表uj5u.com熱心網友回復:
直接在命令列呼叫 運行spark-shellscala> import org.apache.spark.sql.SQLContext
scala> val sqlContext = new SQLContext(sc)
scala> val res = sqlContext.sql("select current_date")
scala> res.show()
轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/35055.html
標籤:數據倉庫
上一篇:Azkaban問題求助
下一篇:剛開始學習hive,資料導不進去
