如題,yarn模式下,將所有的task放在一個executor里面是不是更方便,為什么要拆分成多個executor呢,這樣做有什么好處?
uj5u.com熱心網友回復:
分布式高并發、避免單點故障(高可用)、繞開單機性能瓶頸。。。可以扯一大通出來uj5u.com熱心網友回復:
如果一個executor放不下呢。。。uj5u.com熱心網友回復:
executor就是執行者的意思,每個executor執行指定的task,然后交給driver進行匯總。uj5u.com熱心網友回復:
一個executor是一個jvm行程,而task是在excutor中的執行緒,共享一些資源,spark采用多執行緒模型,對比mapreduce中每一個task在執行完成后都會寫磁盤釋放資源,spark則是同一個excutor中的記憶體資源不釋放,直接供同一個excutor中的下一個執行緒使用。executor的劃分也是根據這個來的。 至于為什么要多個excutor,就和為什么用多行程一樣轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/12472.html
標籤:Spark
