我正在嘗試從 Spark 開始。我的庫中有 Hadoop (3.3.1) 和 Spark (3.2.2)。我已經將 SPARK_HOME、PATH、HADOOP_HOME 和 LD_LIBRARY_PATH 設定為它們各自的路徑。我也在運行 JDK 17（echo 和 -version 在終端中運行良好）。
但是，我仍然收到以下錯誤：
Using Spark's default log4j profile: org/apache/spark/log4j-defaults.properties
Setting default log level to "WARN".
To adjust logging level use sc.setLogLevel(newLevel). For SparkR, use setLogLevel(newLevel).
21/10/25 17:17:07 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
java.lang.IllegalAccessError: class org.apache.spark.storage.StorageUtils$ (in unnamed module @0x1f508f09) cannot access class sun.nio.ch.DirectBuffer (in module java.base) because module java.base does not export sun.nio.ch to unnamed module @0x1f508f09
at org.apache.spark.storage.StorageUtils$.<init>(StorageUtils.scala:213)
at org.apache.spark.storage.StorageUtils$.<clinit>(StorageUtils.scala)
at org.apache.spark.storage.BlockManagerMasterEndpoint.<init>(BlockManagerMasterEndpoint.scala:110)
at org.apache.spark.SparkEnv$.$anonfun$create$9(SparkEnv.scala:348)
at org.apache.spark.SparkEnv$.registerOrLookupEndpoint$1(SparkEnv.scala:287)
at org.apache.spark.SparkEnv$.create(SparkEnv.scala:336)
at org.apache.spark.SparkEnv$.createDriverEnv(SparkEnv.scala:191)
at org.apache.spark.SparkContext.createSparkEnv(SparkContext.scala:277)
at org.apache.spark.SparkContext.<init>(SparkContext.scala:460)
at org.apache.spark.SparkContext$.getOrCreate(SparkContext.scala:2690)
at org.apache.spark.sql.SparkSession$Builder.$anonfun$getOrCreate$2(SparkSession.scala:949)
at scala.Option.getOrElse(Option.scala:189)
at org.apache.spark.sql.SparkSession$Builder.getOrCreate(SparkSession.scala:943)
at org.apache.spark.repl.Main$.createSparkSession(Main.scala:106)
... 55 elided
<console>:14: error: not found: value spark
import spark.implicits._
^
<console>:14: error: not found: value spark
import spark.sql
^
Welcome to
____ __
/ __/__ ___ _____/ /__
_\ \/ _ \/ _ `/ __/ '_/
/___/ .__/\_,_/_/ /_/\_\ version 3.2.0
/_/
Using Scala version 2.12.15 (OpenJDK 64-Bit Server VM, Java 17.0.1)
Type in expressions to have them evaluated.
Type :help for more information.
任何想法如何解決這一問題？
uj5u.com熱心網友回復：
不支持 Java 17 - Spark 在 Java 8/11 上運行（來源：https : //spark.apache.org/docs/latest/）。
所以安裝 Java 11 并將 Spark 指向它。
警告unable to load native-hadoop library for platform很常見，并不意味著有任何問題。
uj5u.com熱心網友回復：
打開你的終端并輸入這個命令 --> gedit .bashrc
確保您在 lib 之后添加了本機，如下所示
export HADOOP_OPTS = "-Djava.library.path=$HADOOP_HOME/lib/native"
并保存檔案并在終端源 ~/.bashrc 中鍵入此命令
試試這個它可能會幫助你。
轉載請註明出處，本文鏈接：https://www.uj5u.com/shujuku/339920.html
上一篇：如何捕獲有關HDFS上檔案的資訊