前言

有一段沒用 python 了，我也不知道自己為什么對 python 越來越淡，可能自己還是比較喜歡 android ，畢竟自己第一次接觸編程就是 android，為了android學java，然后接觸的python，這次也是因為android，我要用一次python來幫我爬資料

正文

目標網站 https://divnil.com

首先看看這網站是怎樣加載資料的;打開網站后發現底部有下一頁的按鈕，ok，爬這個網站就很簡單了;

我們目標是獲取每張圖片的高清的源地址，并且下載圖片到桌面;先隨便打開一張圖片看看詳細;emmm，只有一張圖

看起來還挺清晰的，單擊新視窗打開圖片

然后下載圖片，說實話，這圖片很小，我很擔心不是高清原圖(管他的);

PS:一定要禁用廣告攔截插件，不然加載不出圖，我就在這被坑T_T;

接著分析我們從何入手

1、先去主頁面獲取每個圖片的詳細頁面的鏈接

這鏈接還是比較好獲取的，直接 F12 審核元素，或者右鍵查看代碼，手機上chrome和firefox在url前面加上 "view-source"

比如： view-source:https://www.baidu.com/

2、從詳細頁面獲取圖片大圖地址
隨便打開一個圖片詳細頁面如圖：

接著按 F12 審核元素，我們需要定位該圖片的鏈接，首先單擊左上角的這玩意兒，像一個滑鼠的圖示：

接著只需要單擊網頁上的圖片就能定位到代碼了：

3、用大圖地址下載該圖片

這個很簡單，看代碼

先安裝 Requests 和 BeautifulSoup 庫

pip install requests bs4

匯入庫

import requestsfrom bs4 import BeautifulSoupimport sys

請求獲取網頁源代碼

url = "https://divnil.com/wallpaper/iphone8/%E3%82%A2%E3%83%8B%E3%83%A1%E3%81%AE%E5%A3%81%E7%B4%99_2.html"
headers = {
"User-Agent": "Mozilla/5.0 (X11; Linux x86_64; rv:58.0) Gecko/20100101 Firefox/58.0",
}
resp = requests.get(url, headers=headers)
if resp.status_code != requests.codes.OK:
print("Request Error, Code: %d"% resp.status_code)
sys.exit()

然后決議出所有圖片的詳細地址

soup = BeautifulSoup(resp.text, "html.parser")
contents = soup.findAll("div", id="contents")[0]
wallpapers = contents.findAll("a", rel="wallpaper")
links = []
for wallpaper in wallpapers:
 links.append(wallpaper['href'])

接著在詳細網頁里獲取那個看似高清的圖片的不確定是否為真實圖片鏈接并下載(/滑稽)

import os

head = "https://divnil.com/wallpaper/iphone8/"
if os.path.exists("./Divnil") != True:
 os.mkdir("./Divnil")

for url in links:
 url = head + url
 resp = requests.get(url, headers=headers)
 if  resp.status_code != requests.codes.OK:
   print("URL: %s REQUESTS ERROR. CODE: %d" % (url, resp.status_code))
   continue
 soup = BeautifulSoup(resp.text, "html.parser")
 img =  soup.find("div", id="contents").contents.find("img", id="main_content")
 img_url = head + img['"original'].replace("../", "")
 img_name = img['alt']
 print("start download %s ..." % img_url)

 resp = requests.get(img_url, headers=headers)
 if resp.status_code != requests.codes.OK:
   print("IMAGE %s DOWNLOAD FAILED." % img_name)

 with open("./Divnil/" + img_name + ".jpg", "wb") as f:
   f.write(resp.content)

完成，貼上所有代碼

import requests
from bs4 import BeautifulSoup
import sys
import os


class Divnil:

   def __init__(self):
       self.url = "https://divnil.com/wallpaper/iphone8/%E3%82%A2%E3%83%8B%E3%83%A1%E3%81%AE%E5%A3%81%E7%B4%99.html"
       self.head = "https://divnil.com/wallpaper/iphone8/"
       self.headers = {
           "User-Agent": "Mozilla/5.0 (X11; Linux x86_64; rv:58.0) Gecko/20100101 Firefox/58.0",
       }
   

   def getImageInfoUrl(self):

       resp = requests.get(self.url, headers=self.headers)
       if resp.status_code != requests.codes.OK:
           print("Request Error, Code: %d"% resp.status_code)
           sys.exit()

       soup = BeautifulSoup(resp.text, "html.parser")
       
       contents = soup.find("div", id="contents")
       wallpapers = contents.findAll("a", rel="wallpaper")
       
       self.links = []
       for wallpaper in wallpapers:
           self.links.append(wallpaper['href'])

   
   def downloadImage(self):

       if os.path.exists("./Divnil") != True:
           os.mkdir("./Divnil")

       for url in self.links:
           
           url = self.head + url
           
           resp = requests.get(url, headers=self.headers)
           if  resp.status_code != requests.codes.OK:
               print("URL: %s REQUESTS ERROR. CODE: %d" % (url, resp.status_code))
               continue
           
           soup = BeautifulSoup(resp.text, "html.parser")
           
           img = soup.find("div", id="contents").find("img", id="main_content")
           img_url = self.head + img['original'].replace("../", "")
           img_name = img['alt']
           
           print("start download %s ..." % img_url)

           resp = requests.get(img_url, headers=self.headers)
           if resp.status_code != requests.codes.OK:
               print("IMAGE %s DOWNLOAD FAILED." % img_name)
               continue

           if '/' in img_name:
               img_name = img_name.split('/')[1]

           with open("./Divnil/" + img_name + ".jpg", "wb") as f:
               f.write(resp.content)


   def main(self):
       self.getImageInfoUrl()
       self.downloadImage()


if __name__ == "__main__":
   divnil = Divnil()
   divnil.main()

本文的文字及圖片來源于網路,僅供學習、交流使用,不具有任何商業用途,著作權歸原作者所有,如有問題請及時聯系我們以作處理，

作者｜ zckun

來源｜簡書

標籤：Python

上一篇：Python爬蟲之Selenium的使用

下一篇：557反轉字串中的單詞III