一、背景介紹

最近幾天，谷愛凌在冬奧會賽場上奪得一枚寶貴的金牌，為中國隊貢獻了自己的榮譽！

針對此熱門事件，我用Python的爬蟲和情感分析技術，針對小破站的彈幕資料，分析了眾網友彈幕的輿論導向，下面我們來看一下，是如何實作的分析程序，

二、代碼講解-爬蟲部分

2.1 分析彈幕介面

首先分析B站彈幕介面，

經過分析，得到的彈幕地址有兩種：

第一種：http://comment.bilibili.com/{cid}.xml
第二種：https://api.bilibili.com/x/v1/dm/list.so?oid={cid}
這兩種回傳的結果一致！但都不全，都是只有部分彈幕！
以視頻 https://www.bilibili.com/video/BV1YY41157dk 為例，查看網頁源代碼，可以找到對應的cid為503862594，所以該視頻對應的彈幕介面地址是：http://comment.bilibili.com/503862594.xml

既然這樣，就好辦了，開始擼代碼！

2.2 講解爬蟲代碼

首先，匯入需要用到的庫：

import re  # 正則運算式提取文本
import requests  # 爬蟲發送請求
from bs4 import BeautifulSoup as BS  # 爬蟲決議頁面
import time
import pandas as pd  # 存入csv檔案
import os

然后，向視頻地址發送請求，決議出cid號：

r1 = requests.get(url=v_url, headers=headers)
html1 = r1.text
cid = re.findall('cid=(.*?)&aid=', html1)[0]  # 獲取視頻對應的cid號
print('該視頻的cid是:', cid)

根據cid號，拼出xml介面地址，并再次發送請求：

danmu_url = 'http://comment.bilibili.com/{}.xml'.format(cid)  # 彈幕地址
print('彈幕地址是：', danmu_url)
r2 = requests.get(danmu_url)

決議xml頁面：標簽的文本內容為彈幕，標簽內p屬性值（按逗號分隔）的第四個欄位是時間戳：

soup = BS(html2, 'xml')
danmu_list = soup.find_all('d')
print('共爬取到{}條彈幕'.format(len(danmu_list)))
video_url_list = []  # 視頻地址
danmu_url_list = []  # 彈幕地址
time_list = []  # 彈幕時間
text_list = []  # 彈幕內容
for d in danmu_list:
	data_split = d['p'].split(',')  # 按逗號分隔
	temp_time = time.localtime(int(data_split[4]))  # 轉換時間格式
	danmu_time = time.strftime("%Y-%m-%d %H:%M:%S", temp_time)
	video_url_list.append(v_url)
	danmu_url_list.append(danmu_url)
	time_list.append(danmu_time)
	text_list.append(d.text)
	print('{}:{}'.format(danmu_time, d.text))

保存時應注意，為了避免多次寫入csv標題頭，像這樣：

這里，我寫了一個處理邏輯，大家看注釋，應該能明白：

if os.path.exists(v_result_file):  # 如果檔案存在，不需寫入欄位標題
	header = None
else:  # 如果檔案不存在，說明是第一次新建檔案，需寫入欄位標題
	header = ['視頻地址', '彈幕地址', '彈幕時間', '彈幕內容']
df.to_csv(v_result_file, encoding='utf_8_sig', mode='a+', index=False, header=header)  # 資料保存到csv檔案

三、代碼講解-情感分析部分

3.1 整體思路

針對情感分析需求，我主要做了三個步驟的分析作業：

用SnowNLP給彈幕內容打標：積極、消極，并統計占比情況
用jieba.analyse分詞，并統計top10高頻詞
用WordCloud繪制詞云圖

首先，匯入csv資料，并做資料清洗作業，不再贅述，

下面，正式進入情感分析代碼部分：

3.2 情感分析打標

情感分析計算得分值、分類打標，并統計積極/消極占比，

# 情感分析打標
def sentiment_analyse(v_cmt_list):
	"""
	情感分析打分
	:param v_cmt_list: 需要處理的評論串列
	:return:
	"""
	score_list = []  # 情感評分值
	tag_list = []  # 打標分類結果
	pos_count = 0  # 計數器-積極
	neg_count = 0  # 計數器-消極
	for comment in v_cmt_list:
		tag = ''
		sentiments_score = SnowNLP(comment).sentiments
		if sentiments_score < 0.3:
			tag = '消極'
			neg_count += 1
		else:
			tag = '積極'
			pos_count += 1
		score_list.append(sentiments_score)  # 得分值
		tag_list.append(tag)  # 判定結果
	print('積極評價占比：', round(pos_count / (pos_count + neg_count), 4))
	print('消極評價占比：', round(neg_count / (pos_count + neg_count), 4))
	df['情感得分'] = score_list
	df['分析結果'] = tag_list
	# 把情感分析結果保存到excel檔案
	df.to_excel('谷愛凌_情感評分結果.xlsx', index=None)
	print('情感分析結果已生成：谷愛凌_情感評分結果.xlsx')

這里，我設定情感得分值小于0.3為消極，否則為積極，（這個分界線，沒有統一標準，根據資料分布情況和分析經驗自己設定分界線即可）
占比結果：

打標結果：（最后兩列，分別是得分值和打標結果）

3.3 統計top10高頻詞

# 2、用jieba統計彈幕中的top10高頻詞
keywords_top10 = jieba.analyse.extract_tags(v_cmt_str, withWeight=True, topK=10)
print('top10關鍵詞及權重：')
pprint(keywords_top10)

這里需要注意，在呼叫jieba.analyse.extract_tags函式時，要匯入的是import jieba.analyse 而不是 import jieba
統計結果為：（分為10組關鍵詞及其權重，權重按倒序排序）

3.4 繪制詞云圖

注意別踩坑：
想要通過原始圖片的形狀生成詞云圖，原始圖片一定要白色背景（實在沒有的話，PS修圖修一個吧），否則生成的是滿屏詞云！！

def make_wordcloud(v_str, v_stopwords, v_outfile):
	"""
	繪制詞云圖
	:param v_str: 輸入字串
	:param v_stopwords: 停用詞
	:param v_outfile: 輸出檔案
	:return: None
	"""
	print('開始生成詞云圖：{}'.format(v_outfile))
	try:
		stopwords = v_stopwords  # 停用詞
		backgroud_Image = np.array(Image.open('谷愛凌背景圖.png'))  # 讀取背景圖片
		wc = WordCloud(
			background_color="white",  # 背景顏色
			width=1500,  # 圖寬
			height=1200,  # 圖高
			max_words=1000,  # 最多字數
			font_path='/System/Library/Fonts/SimHei.ttf',  # 字體檔案路徑，根據實際情況(Mac)替換
			# font_path="C:\Windows\Fonts\simhei.ttf",  # 字體檔案路徑，根據實際情況(Windows)替換
			stopwords=stopwords,  # 停用詞
			mask=backgroud_Image,  # 背景圖片
		)
		jieba_text = " ".join(jieba.lcut(v_str))  # jieba分詞
		wc.generate_from_text(jieba_text)  # 生成詞云圖
		wc.to_file(v_outfile)  # 保存圖片檔案
		print('詞云檔案保存成功：{}'.format(v_outfile))
	except Exception as e:
		print('make_wordcloud except: {}'.format(str(e)))

得到的詞云圖：

和原始背景圖對比：

3.5 情感分析結論

打標結果中，積極評價占0.8871，遠遠大于消極評價！
top10關鍵詞統計結果中，"加油"、"厲害"、"天才"等好評詞匯占據多數！
詞云圖中，"中國"、"好"、"厲害"、"臥槽"等好評詞看上去更大（詞頻高）！

綜上所述，經分析"谷愛凌"相關彈幕，得出結論：

眾多網友對谷愛凌的評價都很高，也很喜歡她，畢竟不但年輕、顏值高、有才華，還能為祖國爭得寶貴的榮譽！

致敬！！

四、同步講解視頻

上集：（爬蟲采集）
https://www.zhihu.com/zvideo/1476299216318857217
下集：（情感分析）
https://www.zhihu.com/zvideo/1476300807759294464

by 馬哥python說

轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/470564.html

標籤：Python

上一篇：Java陣列之合并方法(世界上最簡單的方法)

下一篇：python_matplotlib基礎教程

【爬蟲+情感判定+Top10高頻詞+詞云圖】“谷愛凌”熱門彈幕python輿情分析