我想通過從 apache spark github 鏈接讀取代碼檔案來了解 spark。
https://github.com/apache/spark
我在 Scala 方面有一些經驗,但我的大部分經驗都在 PySpark 中。我也了解 Spark 架構和各種優化技術,但我很好奇它們是如何在內部實作的。例如,當我呼叫 repartition() 方法時會發生什么。社區中的任何人都可以指導我如何去做。
uj5u.com熱心網友回復:
使用IntelliJ IDEA打開Apache Spark的源代碼。您可以將源代碼作為 maven 或 sbt 專案打開(只需選擇正確的構建配置)。
完成上述操作后,Cmd Option o 找到您感興趣的符號,例如repartition(). 使用 Cmd b 向下鉆取,直到您處于(呼叫鏈的)最底部,然后向上(呼吸......不要休息!)沖洗并重復。
轉載請註明出處,本文鏈接:https://www.uj5u.com/qukuanlian/332711.html
