六十五、Spark-綜合案例(搜狗搜索日志分析)

<dependency>
<groupId>com.hankcs</groupId>
<artifactId>hanlp</artifactId>
<version>portable-1.7.7</version>
</dependency>

package org.example.spark

import com.hankcs.hanlp.HanLP
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}
import shapeless.record
import spire.std.tuples

import scala.collection.immutable.StringOps
import scala.collection.mutable

/**
 * Author tuomasi
 * Desc 需求:對SougouSearchLog進行分詞并統計如下指標:
 * 1.熱門搜索詞
 * 2.用戶熱門搜索詞(帶上用戶id)
 * 3.各個時間段搜索熱度
 */
object SougouSearchLogAnalysis {
  def main(args: Array[String]): Unit = {
    //TODO 0.準備環境
    val conf: SparkConf = new SparkConf().setAppName("spark").setMaster("local[*]")
    val sc: SparkContext = new SparkContext(conf)
    sc.setLogLevel("WARN")
    //TODO 1.加載資料
    val lines: RDD[String] = sc.textFile("data/input/SogouQ.sample")

    //TODO 2.處理資料
    //封裝資料
    val SogouRecordRDD: RDD[SogouRecord] = lines.map(line => { //map是一個進去一個出去
      val arr: Array[String] = line.split("\\s+")
      SogouRecord(
        arr(0),
        arr(1),
        arr(2),
        arr(3).toInt,
        arr(4).toInt,
        arr(5)
      )
    })

    //切割資料
    /* val wordsRDD0: RDD[mutable.Buffer[String]] = SogouRecordRDD.map(record => {
       val wordsStr: String = record.queryWords.replaceAll("\\[|\\]", "") //360安全衛士
       import scala.collection.JavaConverters._ //將Java集合轉為scala集合
       HanLP.segment(wordsStr).asScala.map(_.word) //ArrayBuffer(360, 安全衛士)
     })*/

    val wordsRDD: RDD[String] = SogouRecordRDD.flatMap(record => { //flatMap是一個進去,多個出去(出去之后會被壓扁) //360安全衛士==>[360, 安全衛士]
      val wordsStr: String = record.queryWords.replaceAll("\\[|\\]", "") //360安全衛士
      import scala.collection.JavaConverters._ //將Java集合轉為scala集合
      HanLP.segment(wordsStr).asScala.map(_.word) //ArrayBuffer(360, 安全衛士)
    })

    //TODO 3.統計指標
    //--1.熱門搜索詞
    val result1: Array[(String, Int)] = wordsRDD
      .filter(word => !word.equals(".") && !word.equals("+"))
      .map((_, 1))
      .reduceByKey(_ + _)
      .sortBy(_._2, false)
      .take(10)

    //--2.用戶熱門搜索詞(帶上用戶id)
    val userIdAndWordRDD: RDD[(String, String)] = SogouRecordRDD.flatMap(record => { //flatMap是一個進去,多個出去(出去之后會被壓扁) //360安全衛士==>[360, 安全衛士]
      val wordsStr: String = record.queryWords.replaceAll("\\[|\\]", "") //360安全衛士
      import scala.collection.JavaConverters._ //將Java集合轉為scala集合
      val words: mutable.Buffer[String] = HanLP.segment(wordsStr).asScala.map(_.word) //ArrayBuffer(360, 安全衛士)
      val userId: String = record.userId
      words.map(word => (userId, word))
    })
    val result2: Array[((String, String), Int)] = userIdAndWordRDD
      .filter(t => !t._2.equals(".") && !t._2.equals("+"))
      .map((_, 1))
      .reduceByKey(_ + _)
      .sortBy(_._2, false)
      .take(10)

    //--3.各個時間段搜索熱度
    val result3: Array[(String, Int)] = SogouRecordRDD.map(record => {
      val timeStr: String = record.queryTime
      val hourAndMitunesStr: String = timeStr.substring(0, 5)
      (hourAndMitunesStr, 1)
    }).reduceByKey(_ + _)
      .sortBy(_._2, false)
      .take(10)

    //TODO 4.輸出結果
    result1.foreach(println)
    result2.foreach(println)
    result3.foreach(println)

    //TODO 5.釋放資源
    sc.stop()
  }
  //準備一個樣例類用來封裝資料

  /**
   * 用戶搜索點擊網頁記錄Record
   *
   * @param queryTime  訪問時間，格式為：HH:mm:ss
   * @param userId     用戶ID
   * @param queryWords 查詢詞
   * @param resultRank 該URL在回傳結果中的排名
   * @param clickRank  用戶點擊的順序號
   * @param clickUrl   用戶點擊的URL
   */
  case class SogouRecord(
                          queryTime: String,
                          userId: String,
                          queryWords: String,
                          resultRank: Int,
                          clickRank: Int,
                          clickUrl: String
                        )
}