用python實作csdn博主全部博文下載，html轉pdf，有了學習的電子書了，，，（附原始碼）
我們學習編程，在學習的時候，會有想把有用的知識點保存下來，我們可以把知識點的內容爬下來轉變成pdf格式，方便我們拿手機可以閑時翻看，是很方便的
先來一個單個的博文下載轉pdf格式的操作
python中將html轉化為pdf的常用工具是Wkhtmltopdf工具包，在python環境下，pdfkit是這個工具包的封裝類，如何使用pdfkit以及如何配置呢？分如下幾個步驟，
下載wkhtmltopdf安裝包，并且安裝到電腦上，
下載地址：https://wkhtmltopdf.org/downloads.html
我下的是這個版本，安裝的時候要記住路徑，之后呼叫要用到路徑
開發工具
python
pycharm
pdfkit （pip install pdfkit）
lxml
今天目標：博主的全部博文下載，并且轉pdf格式保存
基本思路：
1、url + headers
2、分析網頁： CSDN網頁是靜態網頁， 請求獲取網頁源代碼
3、lxml決議獲取boke_urls, author_name
4、回圈遍歷，得到 boke_url
5、xpath決議獲取檔案名
6、css選擇器獲取標簽文本的主體
7、構造拼接html檔案
8、保存html檔案
9、檔案的轉換
分析網頁： CSDN網頁是靜態網頁， 請求獲取網頁源代碼
start_url =“https://i1bit.blog.csdn.net/” 為例
確定網址為同步加載
css選擇器獲取標簽文本的主體為代碼要點部分
css語法部分
html_css = parsel.Selector(回應的資料)
html_content = html_css.css('要獲取的部分').get()
點開博主的一篇博文打開開發者工具
# css選擇器獲取標簽文本的主體
html_css = parsel.Selector(response_2)
html_content = html_css.css('article').get()
# 構造拼接html檔案
html = \
'''
<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>Title</title>
</head>
<body>
{}
</body>
</html>
'''.format(html_content)
檔案的轉換
config = pdfkit.configuration(wkhtmltopdf=r'這里為下載wkhtmltopdf.exe的路徑')
pdfkit.from_file(
第一個引數要轉變的html檔案,
第二個引數轉變后的pdf檔案,
configuration=config
)
# 上面這樣寫清楚一點，也可以直接
pdfkit.from_file(
第一個引數要轉變的html檔案,
第二個引數轉變后的pdf檔案,
configuration=pdfkit.configuration(wkhtmltopdf=r'這里為下載wkhtmltopdf.exe的路徑')
)
原始碼展示：
import parsel, os, pdfkit
from lxml import etree
from requests_html import HTMLSession
session = HTMLSession()
def main():
# 1、url + headers
start_url = input(r'請輸入csdn博主的地址：')
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 '
'(KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'
}
# 2、分析網頁： CSDN網頁是靜態網頁， 請求獲取網頁源代碼
response_1 = session.get(start_url, headers=headers).text
# 3、決議獲取boke_urls, author_name
html_xpath_1 = etree.HTML(response_1)
author_name = html_xpath_1.xpath(r'//*[@id="floor-user-profile_485"]/div/div[1]/div[2]/div[2]/div[1]/div[1]/text()')[0]
boke_urls = html_xpath_1.xpath(r'//article[@class="blog-list-box"]/a/@href')
# 4、回圈遍歷，得到 boke_url
for boke_url in boke_urls:
# 5、請求
response_2 = session.get(boke_url, headers=headers).text
# 6、xpath決議獲取檔案名
html_xpath_2 = etree.HTML(response_2)
file_name = html_xpath_2.xpath(r'//h1[@id="articleContentId"]/text()')[0]
# 7、css選擇器獲取標簽文本的主體
html_css = parsel.Selector(response_2)
html_content = html_css.css('article').get()
# 8、構造拼接html檔案
html = \
'''
<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>Title</title>
</head>
<body>
{}
</body>
</html>
'''.format(html_content)
# 9、創建兩個檔案夾， 一個用來保存html 一個用來保存pdf檔案
if not os.path.exists(r'{}-html'.format(author_name)):
os.mkdir(r'{}-html'.format(author_name))
if not os.path.exists(r'{}-pdf'.format(author_name)):
os.mkdir(r'{}-pdf'.format(author_name))
# 10、保存html檔案
try:
with open(r'{}-html/{}.html'.format(author_name, file_name), 'w', encoding='utf-8') as f:
f.write(html)
except Exception as e:
print('檔案名錯誤')
# 11、檔案的轉換
try:
config = pdfkit.configuration(wkhtmltopdf=r'C:\Program Files\wkhtmltopdf\bin\wkhtmltopdf.exe')
pdfkit.from_file(
'{}-html/{}.html'.format(author_name, file_name),
'{}-pdf/{}.pdf'.format(author_name, file_name),
configuration=config
)
a = print(r'--檔案下載成功：{}.pdf'.format(file_name))
except Exception as e:
continue
if __name__ == '__main__':
main()
代碼操作：
代碼有很多不完善的地方，歡迎評論一起討論，感謝各位支持，之后我會發很多爬蟲系列的博文，希望可以關注我哦！！！
祝大家學習python順利！
轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/287391.html
標籤：python