昨天小編利用Python正則運算式爬取了京東網商品資訊,看過代碼的小伙伴們基本上都坐不住了,辣么多的規則和辣么長的代碼,悲傷辣么大,實在是受不鳥了,不過小伙伴們不用擔心,今天小編利用美麗的湯來為大家演示一下如何實作京東商品資訊的精準匹配~~
HTML檔案其實就是由一組尖括號構成的標簽組織起來的,每一對尖括號形式一個標簽,標簽之間存在上下關系,形成標簽樹;因此可以說Beautiful Soup庫是決議、遍歷、維護“標簽樹”的功能庫,

首先進入京東網,輸入自己想要查詢的商品,向服務器發送網頁請求,在這里小編仍以關鍵詞“狗糧”作為搜索物件,之后得到后面這一串網址:https://search.jd.com/Search?keyword=%E7%8B%97%E7%B2%AE&enc=utf-8,其中引數的意思就是我們輸入的keyword,在本例中該引數代表“狗糧”,具體詳情可以參考Python大神用正則運算式教你搞定京東商品資訊,所以,只要輸入keyword這個引數之后,將其進行編碼,就可以獲取到目標URL,之后請求網頁,得到回應,爾后利用bs4選擇器進行下一步的資料采集,
商品資訊在京東官網上的部分網頁原始碼如下圖所示:

仔細觀察原始碼,可以發現我們所需的目標資訊是存在
直接上代碼,如下圖所示:

通常URL編碼的方式是把需要編碼的字符轉化為%xx的形式,一般來說URL的編碼是基于UTF-8的,當然也有的于瀏覽器平臺有關,在Python的urllib庫中提供了quote方法,可以實作對URL的字串進行編碼,從而可以進入到對應的網頁中去,
之后利用美麗的湯去提取目標資訊,如商品的名字、鏈接、圖片和價格,具體的代碼如下圖所示:

在本例中,有個地方需要注意,部分圖片的鏈接是空值,所以在提取的時候需要考慮到這個問題,其解決方法有兩個,其一是如果使用img['src']會有報錯產生,因為匹配不到對應值;但是使用get['src']就不會報錯,如果沒有匹配到,它會自動回傳None,此外也可以利用try+except進行例外處理,如果匹配不到就pass,小伙伴們可以自行測驗一下,這個代碼測速程序在上圖中也有提及哈,使用get方法獲取資訊,是bs4中的一個小技巧,希望小伙伴們都可以學以致用噢~~~
最后得到的效果圖如下所示:

新鮮的狗糧出爐咯~~~
小伙伴們,有沒有發現利用BeautifulSoup來獲取目標資訊比正則運算式要簡單一些呢?
想學習更多Python網路爬蟲與資料挖掘知識,可前往專業網站:http://pdcfighting.com/
轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/143938.html
標籤:Python
