前言
今天給大家介紹的是Python爬取小說資料并保存txt檔案，在這里給需要的小伙伴們代碼，并且給出一點小心得，
首先是爬取之前應該盡可能偽裝成瀏覽器而不被識別出來是爬蟲，基本的是加請求頭，但是這樣的純文本資料爬取的人會很多，所以我們需要考慮更換代理IP和隨機更換請求頭的方式來對小說資料進行爬取，
在每次進行爬蟲代碼的撰寫之前，我們的第一步也是最重要的一步就是分析我們的網頁，
通過分析我們發現在爬取程序中速度比較慢，所以我們還可以通過禁用谷歌瀏覽器圖片、JavaScript等方式提升爬蟲爬取速度，
開發工具
Python版本： 3.6
相關模塊：
requests模塊
parsel模塊
tqdm模塊
pandas模塊
環境搭建
安裝Python并添加到環境變數，pip安裝需要的相關模塊即可，
文中完整代碼及小說，評論留言獲取
思路分析
瀏覽器中打開我們要爬取的頁面
按F12進入開發者工具，查看我們想要的小說資料在哪里
這里我們需要頁面資料就可以了
Cookie獲取
代碼實作
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.0.0 Safari/537.36',
#'Cookie': '你的Cookie'
}
def get_response(html_url):
"""發送請求"""
# headers 字典型別 鍵值對 :隔開
# headers 請求頭的作用: 把python代碼偽裝成瀏覽器對服務器發送請求
response = requests.get(url=html_url, headers=headers)
time.sleep(6)
return response
def save(name, title, content):
with open(name + '.txt', mode='a', encoding='utf-8') as f:
f.write(title)
f.write('\n')
f.write(content)
f.write('\n')
def get_novel_content(html_url):
response = get_response(html_url)
# parsel 決議資料 是需要把獲取到的html字串資料 轉換成 selector 物件
# selector 物件 呼叫封裝好的 css選擇器 xpath
# 決議資料 提取小說url章節地址 小說名字
selector = parsel.Selector(response.text)
# css選擇器 通過標簽屬性 提起資料
name = selector.css('#info h1::text').get()
href = https://www.cnblogs.com/guzichuan/p/selector.css('#list dd a::attr(href)').getall()
# get 獲取一個標簽內容[字串] getall 是獲取所有標簽屬性內容[串列]
# 想要把串列里面每一個元素都提取出來的話, 是需要通過遍歷
for index in href:
# https://www.biquges.com/10_10770/6896120.html
index_url = 'https://www.biquges.com' + index
response_1 = get_response(index_url)
selector_1 = parsel.Selector(response_1.text)
title = selector_1.css('.bookname h1::text').get()
print(title)
content_list = selector_1.css('#content::text').getall()
# 保存文本資料 是字串的形式
# 把串列轉換成字串 str() 強制轉換資料型別
content = ''.join(content_list)
save(name, title, content)
結果展示
最后
今天的分享到這里就結束了 ，感興趣的朋友也可以去試試哈
對文章有問題的，或者有其他關于python的問題，可以在評論區留言或者私信我哦
覺得我分享的文章不錯的話，可以關注一下我，或者給文章點贊(/≧▽≦)/
轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/540861.html
標籤：Python
上一篇：Generator(生成器),入門扯訓,Coroutine(原生協程),登峰造極,Python3.10并發異步編程async底層實作