??大家好,我是不溫卜火,是一名計算機學院大資料專業大三的學生,昵稱來源于成語—
不溫不火,本意是希望自己性情溫和,作為一名互聯網行業的小白,博主寫博客一方面是為了記錄自己的學習程序,另一方面是總結自己所犯的錯誤希望能夠幫助到很多和自己一樣處于起步階段的萌新,但由于水平有限,博客中難免會有一些錯誤出現,有紕漏之處懇請各位大佬不吝賜教!暫時只在csdn這一個平臺進行更新,博客主頁:https://buwenbuhuo.blog.csdn.net/,
PS:由于現在越來越多的人未經本人同意直接爬取博主本人文章,博主在此特別宣告:未經本人允許,禁止轉載!!!
目錄
- 一、Cookie的簡單解釋
- 1、什么是Cookie
- 2、Cookie的回應程序
- 3、Cookie的核心內容
- 4、DevTools(開發人員工具)
- 二、程序分析
- 三、代碼實作
- 3.1 手動加入cookie
- 3.2 修改完善

通過前兩天的小demo,大家是不是對Spider有了進一步的了解,是不是感覺通過短短幾行代碼就能夠獲取并保存我們想要保存的內容就很神奇,其實這些都沒什么,總之,緊跟博主步伐就🆗了 -,-
當我們真正開始資料采集的操作之后,我們遇到的第一個問題就是,如何獲取登錄視窗背后的資料
許多網站的內容是需要登錄之后才能抓取的,如微博,百度云盤,知乎等,這些網站只有登錄之后才能看到想要的資訊,
- 對于需要登錄的網站,網站和用戶都不希望每打開一個新網頁就要重新登錄以下,所以這就需要記錄用戶的登錄狀態資訊
- 大多數的新式網站都用Cookie跟蹤用戶是否已登錄的狀態資訊
- 網站通過驗證用戶的的登錄權證,會將其保存在用戶瀏覽器的Cookie中
登錄權限包含什么?
1、服務器生成的令牌
2、登錄有效時限
3、狀態跟蹤資訊
- 由于HTTP本身是無狀態的,服務器需要利用Cookie保存登錄資訊
- 模擬登錄是在每次發送請求時在請求的header中帶上Cookie
- 網站會將這些Cookie作為資訊驗證的證據,在瀏覽網站的每個網頁時出示給服務器
一、Cookie的簡單解釋
1、什么是Cookie
Cookie,有時也用其復數形式Cookies,指某些網站為了辨別用戶身份、進行session跟蹤而存盤在用戶本地終端上的資料(通常經過加密),
Cookie是小量資訊,是由Web服務器創建的,將資訊存放在用戶計算機的檔案上
通過上述頁面我們可以看到,登陸上去會有提示,
- 由于HTTP是一種無狀態的協議,服務器但從網路連接上不能知道客戶身份,如果想要知道客戶身份,這是就需要一張通行證,每人一個,無論誰訪問都必須攜帶自己的通行證,這樣服務器就能通過通行證來確定客戶身份,這就是Cookie的作業原理,

上述回傳200代表成功訪問,這是為什么呢?因為我們添加了Cookie
2、Cookie的回應程序
- 客戶端發送一個http請求到服務器端,如果是登錄操作則攜帶我們的用戶名和密碼,
- 服務器端驗證后發送一個http回應到客戶端,其中包含Set-Cookie頭部,
- 客戶端發送一個http請求到服務器端,其中包含Cookie,
- 服務器端發送一個http回應到客戶端,

一個簡單的Cookie
3、Cookie的核心內容
- String name:該Cookie的名稱,Cookie一旦創建,名稱不可更改
- Object value:Cookie的值
- int maxAge:Cookie失效時間,單位為秒
- boolean secure:該Cookie是否僅被使用含權協議傳輸
- String path:Cookie的使用路徑
- String domain:可以訪問該Cookie的域名
- String comment:Cookie的使用說明
- int version:該Cookie使用的版本號
4、DevTools(開發人員工具)
Chrome DevTools是Chrome瀏覽器自帶的開發人員工具,我們檢測網路流量要用到的是其中的Network面板
默認情況下,只要DevTools在開啟狀態,DevTools會記錄所有的網路請求,記錄都是在Network中展示出來
-
1、打開方式
-
在瀏覽器內:右鍵->審查元素
對應快捷鍵:ctrl+shift+c -
點擊瀏覽器右上角設定->工具->開發者工具
對應快捷鍵:ctrl+shift+i或F12 -
直接使用快捷鍵
ctrl+shift+j打開控制臺(console面板) -
2、通過開發人員工具查看各種資訊


上述的程序都是建立在登錄有Cookie的前提下才能進行訪問查看,如果沒有登錄則不能查看及操作,
Cookie這方面博主就介紹到這里,如果想看剩下的可以看博主以往的博文,傳送門——> 快速入門網路爬蟲系列 Chapter13 | 模擬登陸
二、程序分析
我們知道有些網站登陸之后才可以顯示需要的資料,這里需要了解web中的cookie和session,
cookie是保存在瀏覽器客戶端的,session是保存在服務器端的,session依賴于cookie實作,當訪問對應網站的時候cookie是再次發回當前網站對應的服務器,cookie和session都是有有效期的,
這個時候我們需要看下下圖:

當我們添加cookie之后,相當于模擬了我們登錄賬號,這個時候就可以直接進入登錄之后的界面

至于cookie和session時效性:
cookie:一般默認為14天, session:如果沒有特殊情況,半個小時,
模擬登錄的分析就這么多,那么接下來就可以來實作了,
三、代碼實作


通過上圖分析我們可以知道
Github的GET網址為:https://github.com/login
Github的POST網址為:https://github.com/session
3.1 手動加入cookie
import requests
url = "https://github.com/session"
headers = {
"user-agent": "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36",
# 加入需要的cookie表示已經登陸了
"cookie": "_octo=GH1.1.332975439.1600306176; _ga=GA1.2.1383224642.1600306188; _device_id=b3fc5e59ed4944773db74bbfa4adafe8; has_recent_activity=1; tz=Asia%2FShanghai; tz=Asia%2FShanghai; _gat=1; logged_in=no; _gh_sess=F6769fV4FjQ9Fn%2FbXDdVeQZvq%2FxCRmVcXlS7FO3jaPp6XtEXoiqI35eogYuKa85J5gQ2LBNFK79qmJH6OTCU2U97IJHb0WanI7%2FnCe35CWsEo5D3OzQxJLeXfqm5DleVEsLcj7WzOKZngfoW30tHxPmMzcWFHO%2FwyfFhFL4w6IPdQ8tY4gg8Y4M4ugCf1sAdMSJhxwWuPFBExpfvLPVOgX4a%2FtHaVXMYUmYEdx76C512wuRiND%2FR9Yjcxz0w%2BEKzJ%2Bc6yY6hvwAUKAkLAVjVew%3D%3D--tnXOGubdyTAls3fX--TTHuSWdAkG%2Bgl%2BA9I%2B9fiw%3D%3D",
}
response = requests.get(url=url, headers=headers)
print(response)
print(response.content.decode("utf-8"))
print(response.status_code)

通過上圖,我們可以看到<Response [200]>代表登錄成功,至于是不是成功呢?我們可以查看以下

通過查找對比,我們發現登錄成功,
3.2 修改完善
- 1. 分析
上述代碼只能通過復制cookie來模擬登錄,那么能不能智能些呢?
答案是肯定的,我們可以通過獲取authenticity_token,并輸入賬號密碼進行登錄,
為什么直接就說需要這三個呢? 看下圖:

上圖為所有的parms,經過測驗,只需要最少三個即可完成登錄,那就是authenticity_token,login,password,
- 2. 實作
想要實作,我們需要先獲取authenticity_token,我們先來看網頁

我們很容易就看到了authenticity_token,找到了,接下來的提取就很簡單了,我們通過正則進行提取
#獲取token
authenticity_token = re.findall(r'name="authenticity_token" value="(.*?)"',content)[0]
- 3. 完整代碼
# encoding: utf-8
'''
@author 李華鑫
@create 2020-10-06 14:57
Mycsdn:https://buwenbuhuo.blog.csdn.net/
@contact: 459804692@qq.com
@software: Pycharm
@file: requests中的session.py
@Version:1.0
'''
import requests
import re
headers = {
"user-agent": "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36",
}
url_login = "https://github.com/login"
url_login_action = "https://github.com/session"
# url_profile = "https://github.com/settings/profile"
# 創建session物件
session = requests.session()
# 使用session發送請求,對應的回應中的cookie會自動保存到sesison物件中
response = session.get(url=url_login, headers=headers)
print("cookie:", response.cookies)
#獲取回應內容
content = response.content.decode("utf-8")
#獲取token
authenticity_token = re.findall(r'name="authenticity_token" value="(.*?)"',content)[0]
print(authenticity_token)
# 準備引數
data = {
"authenticity_token": authenticity_token,
"login": input("用戶名:"),
"password":input("密碼:"),
}
# 使用session發送請求,上次存盤的當前網站的cookie會自動發送過去
response2 = session.post(url=url_login_action, headers=headers, data=data)
#獲取回應內容
print(response2.content.decode("utf-8"))
- 4. 運行結果

- 5.對比查看是否成功

🆗,完工!
美好的日子總是短暫的,雖然還想繼續與大家暢談,但是本篇博文到此已經結束了,如果還嫌不夠過癮,不用擔心,我們下篇見!

??好書不厭讀百回,熟讀課思子自知,而我想要成為全場最靚的仔,就必須堅持通過學習來獲取更多知識,用知識改變命運,用博客見證成長,用行動證明我在努力,
??如果我的博客對你有幫助、如果你喜歡我的博客內容,請“點贊” “評論”“收藏”一鍵三連哦!聽說點贊的人運氣不會太差,每一天都會元氣滿滿呦!如果實在要白嫖的話,那祝你開心每一天,歡迎常來我博客看看,
??碼字不易,大家的支持就是我堅持下去的動力,點贊后不要忘了關注我哦!


轉載請註明出處,本文鏈接:https://www.uj5u.com/yidong/173816.html
標籤:其他
上一篇:ES6數值的擴展



