??大家好，我是不溫卜火，是一名計算機學院大資料專業大三的學生，昵稱來源于成語—不溫不火，本意是希望自己性情溫和，作為一名互聯網行業的小白，博主寫博客一方面是為了記錄自己的學習程序，另一方面是總結自己所犯的錯誤希望能夠幫助到很多和自己一樣處于起步階段的萌新，但由于水平有限，博客中難免會有一些錯誤出現，有紕漏之處懇請各位大佬不吝賜教！暫時只有csdn這一個平臺，博客主頁：https://buwenbuhuo.blog.csdn.net/

本片博文為大家帶來的是爬取糗事百科，我們是專業的！，

完整代碼在Github，如有需要可自行下載，

GIthub地址：https://github.com/459804692/qsbk/tree/master

一. 爬取前的準備

糗事百科官網：https://www.qiushibaike.com/

段子網址：https://www.qiushibaike.com/text/

關于決議html博主選擇的方法是使用xpath，如有不懂的同學，可看下面兩個表格，如果想要深入學習xpath的相關知識可點擊博主給的官方
檔案的鏈接進行學習，博主在此宣告是為了讓讀者們能夠理解決議式的具體含義，

官網網址：https://lxml.de/tutorial.html

• 路徑運算式

• 匹配屬性

1.1 查看網頁

根據上圖示記部分可以看到我們主要的要點如下，

1. 整體部分
2. 作者名稱
3. 文本內容
4. 標簽翻頁

1.2 標簽分析

• 1. 首先我們需要知道我們爬取的所有內容所在標簽

通過查看開發者選項，發現<div class ="coll old-style-coll">這個標簽對應的正是所有內容的整體存放位置，那么我們也可知道之后的所有內容都是從此標簽的子標簽內提取得到，

分析一番后，我們可以得到獲取所有文本內容的決議式如下:

//div[@class = 'col1 old-style-col1']/div

• 2. 作者名稱所在位置

由上圖我們可以看到作者的位置在<h2></h2>這個標簽中，

分析一番后，我們可以得到獲取作者的決議式如下:

.//h2//text()

• 3. 作者名稱所在位置

由上圖我們可以看到段子的位置在<div class ="content"></div>這個標簽中，

分析一番后，我們可以得到獲取段子的決議式如下:

.//div[@class='content']//text()

• 4. 標簽翻頁

由上圖我們可以看到頁面的位置在<ul class ="pagination"></ul>這個標簽中，

分析一番后，我們可以得到獲取頁面的決議式如下:

//ul[@class='pagination']/li[last()]/a/@href

二. 專案的具體實作

2.1 新建爬蟲專案qsbk

2.2 settings設定

在創建完成一個scrapy專案后，需要對settings進行一些修改

此處默認為True，需要修改為False，否則無法爬取內容，

取消此部分的注解并添加請求頭，偽裝自己的身份，

2.3 分別提取出作者和文本內容

• 1. 查看其型別

 duanzidivs = response.xpath("//div[@class = 'col1 old-style-col1']/div")
        print("=")
        print(type(duanzidivs))
        print("=")

通過運行我們可以發現其為SelectorList型別

• 2. 通過回圈遍歷分別列印出作者和文本內容

        for duanzidiv in duanzidivs:
            # strip() 去除前后的空白字符
            author = duanzidiv.xpath(".//h2//text()").get().strip()
            content = duanzidiv.xpath(".//div[@class='content']//text()").getall()
            content = "".join(content).strip()
            print(author)
            print(content)

2.4 通過pipeline保存資料

• 前提準備：放開ITEM_PIPELINES的限制

• 1. 第一種方式

class QsbkPipeline:
        def __init__(self):
            self.fp = open("duanzi.json","w",encoding="utf-8")


        def open_spider(self,spider):
            print('爬蟲開始了 ...')


        def process_item(self, item, spider):
            item_json = json.dumps(dict(item),ensure_ascii=False)
            self.fp.write(item_json+'\n')
            return item

        def close_spider(self,spider):
            self.fp.close()
            print('爬蟲結束了 ...')

運行結果：

• 2. 第二種方式：資料量少時使用JsonItemExporter

from scrapy.exporters import JsonItemExporter
class QsbkPipeline:
    def __init__(self):
        self.fp = open("duanzi.json","wb")
        self.exporter = JsonItemExporter(self.fp,ensure_ascii=False,encoding='utf-8')
        self.exporter.start_exporting()

    def open_spider(self,spider):
        print('爬蟲開始了 ...')


    def process_item(self, item, spider):
        self.exporter.export_item(item)
        return item

    def close_spider(self,spider):
        self.exporter.finish_exporting()
        self.fp.close()
        print('爬蟲結束了 ...')

運行結果：

• 3. 第三種方式：資料量多使用JsonLinesItemExporter

from scrapy.exporters import JsonLinesItemExporter
class QsbkPipeline:
    def __init__(self):
            self.fp = open("duanzi.json","wb")
            self.exporter = JsonLinesItemExporter(self.fp,ensure_ascii=False,encoding='utf-8')
            self.exporter.start_exporting()


    def open_spider(self,spider):
        print('爬蟲開始了 ...')

    def process_item(self, item, spider):
        self.exporter.export_item(item)
        return item

    def close_spider(self,spider):
        self.fp.close()
        print('爬蟲結束了 ...')

運行結果：

2.5 定義Item

在scrapy中不是說不能直接定義回傳字典，但是一般建議現在item中定義好然后進行呼叫

在item中分別定義author和content

class QsbkItem(scrapy.Item):
    author = scrapy.Field()
    content = scrapy.Field()

在qsbk_spider中也需要進行如下修改

2.6 爬取多個頁面的實作

• 前提準備：放開DOWNLOAD_DELAY的限制并修改為1

# See also autothrottle settings and docs
DOWNLOAD_DELAY = 1

• 2. 代碼實作

# 定義一個基本的域名
base_domain = "https://www.qiushibaike.com"


next_url = response.xpath("//ul[@class='pagination']/li[last()]/a/@href").get()
# 進行一個簡單的判斷
if not next_url:
   return
else:
  yield scrapy.Request(self.base_domain+next_url,callback=self.parse)

• 3. 運行并查看結果

三. 完整代碼(此處只提供修改部分，Github上可查看完整目錄及代碼)

• 1. qsbk_spider

import scrapy

from scrapy.http.response.html import HtmlResponse
from scrapy.selector.unified import SelectorList

# 繼承scrapy.Spider類
from scrapy_demo.qsbk.qsbk.items import QsbkItem


class QsbkSpiderSpider(scrapy.Spider):
    name = 'qsbk_spider'
    # allowed_domains 指定域名，可以限制爬蟲的范圍
    allowed_domains = ['qiushibaike.com']
    # start_urls 開始鏈接 一般一個即可
    start_urls = ['https://www.qiushibaike.com/text/page/1/']
    base_domain = "https://www.qiushibaike.com"

    def parse(self, response):
        # SelectorList
        duanzidivs = response.xpath("//div[@class = 'col1 old-style-col1']/div")
        for duanzidiv in duanzidivs:
            # Selector
            author = duanzidiv.xpath(".//h2//text()").get().strip()
            content = duanzidiv.xpath(".//div[@class='content']//text()").getall()
            content = "".join(content).strip()
            item = QsbkItem(author=author, content=content)
            yield item
        next_url = response.xpath("//ul[@class='pagination']/li[last()]/a/@href").get()
        if not next_url:
            return
        else:
            yield scrapy.Request(self.base_domain+next_url,callback=self.parse)

• 2. items

import scrapy


class QsbkItem(scrapy.Item):
    author = scrapy.Field()
    content = scrapy.Field()

• 3. pipelines

from scrapy.exporters import JsonLinesItemExporter
class QsbkPipeline:
    def __init__(self):
            self.fp = open("duanzi.json","wb")
            self.exporter = JsonLinesItemExporter(self.fp,ensure_ascii=False,encoding='utf-8')
            self.exporter.start_exporting()


    def open_spider(self,spider):
        print('爬蟲開始了 ...')

    def process_item(self, item, spider):
        self.exporter.export_item(item)
        return item

    def close_spider(self,spider):
        self.fp.close()
        print('爬蟲結束了 ...')

• 4. settings

BOT_NAME = 'qsbk'

SPIDER_MODULES = ['qsbk.spiders']
NEWSPIDER_MODULE = 'qsbk.spiders'


# Obey robots.txt rules
ROBOTSTXT_OBEY = False

# Configure a delay for requests for the same website (default: 0)
# See https://docs.scrapy.org/en/latest/topics/settings.html#download-delay
# See also autothrottle settings and docs
DOWNLOAD_DELAY = 1


# Override the default request headers:
DEFAULT_REQUEST_HEADERS = {
  'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
  'Accept-Language': 'en',
  'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.102 Safari/537.36'
}



# Configure item pipelines
# See https://docs.scrapy.org/en/latest/topics/item-pipeline.html
ITEM_PIPELINES = {
   'qsbk.pipelines.QsbkPipeline': 300,
}

美好的日子總是短暫的，雖然還想繼續與大家暢談，但是本篇博文到此已經結束了，如果還嫌不夠過癮，不用擔心，我們下篇見！

??好書不厭讀百回，熟讀課思子自知，而我想要成為全場最靚的仔，就必須堅持通過學習來獲取更多知識，用知識改變命運，用博客見證成長，用行動證明我在努力，
??如果我的博客對你有幫助、如果你喜歡我的博客內容，請“點贊” “評論”“收藏”一鍵三連哦！聽說點贊的人運氣不會太差，每一天都會元氣滿滿呦！如果實在要白嫖的話，那祝你開心每一天，歡迎常來我博客看看，
??碼字不易，大家的支持就是我堅持下去的動力，點贊后不要忘了關注我哦！