主頁 > 軟體設計 > 模擬登錄?一文為你排憂解惑!

模擬登錄?一文為你排憂解惑!

2020-10-15 14:48:24 軟體設計

??大家好,我是不溫卜火,是一名計算機學院大資料專業大三的學生,昵稱來源于成語—不溫不火,本意是希望自己性情溫和,作為一名互聯網行業的小白,博主寫博客一方面是為了記錄自己的學習程序,另一方面是總結自己所犯的錯誤希望能夠幫助到很多和自己一樣處于起步階段的萌新,但由于水平有限,博客中難免會有一些錯誤出現,有紕漏之處懇請各位大佬不吝賜教!暫時只在csdn這一個平臺進行更新,博客主頁:https://buwenbuhuo.blog.csdn.net/,
1

PS:由于現在越來越多的人未經本人同意直接爬取博主本人文章,博主在此特別宣告:未經本人允許,禁止轉載!!!

目錄

  • 一、Cookie的簡單解釋
    • 1、什么是Cookie
    • 2、Cookie的回應程序
    • 3、Cookie的核心內容
    • 4、DevTools(開發人員工具)
  • 二、程序分析
  • 三、代碼實作
    • 3.1 手動加入cookie
    • 3.2 修改完善


2


通過前兩天的小demo,大家是不是對Spider有了進一步的了解,是不是感覺通過短短幾行代碼就能夠獲取并保存我們想要保存的內容就很神奇,其實這些都沒什么,總之,緊跟博主步伐就🆗了 -,-

當我們真正開始資料采集的操作之后,我們遇到的第一個問題就是,如何獲取登錄視窗背后的資料
許多網站的內容是需要登錄之后才能抓取的,如微博,百度云盤,知乎等,這些網站只有登錄之后才能看到想要的資訊,

  • 對于需要登錄的網站,網站和用戶都不希望每打開一個新網頁就要重新登錄以下,所以這就需要記錄用戶的登錄狀態資訊
  • 大多數的新式網站都用Cookie跟蹤用戶是否已登錄的狀態資訊
  • 網站通過驗證用戶的的登錄權證,會將其保存在用戶瀏覽器的Cookie中

登錄權限包含什么?
1、服務器生成的令牌
2、登錄有效時限
3、狀態跟蹤資訊

  • 由于HTTP本身是無狀態的,服務器需要利用Cookie保存登錄資訊
  • 模擬登錄是在每次發送請求時在請求的header中帶上Cookie
  • 網站會將這些Cookie作為資訊驗證的證據,在瀏覽網站的每個網頁時出示給服務器

一、Cookie的簡單解釋

1、什么是Cookie

Cookie,有時也用其復數形式Cookies,指某些網站為了辨別用戶身份、進行session跟蹤而存盤在用戶本地終端上的資料(通常經過加密),
Cookie是小量資訊,是由Web服務器創建的,將資訊存放在用戶計算機的檔案上
3

通過上述頁面我們可以看到,登陸上去會有提示,

  • 由于HTTP是一種無狀態的協議,服務器但從網路連接上不能知道客戶身份,如果想要知道客戶身份,這是就需要一張通行證,每人一個,無論誰訪問都必須攜帶自己的通行證,這樣服務器就能通過通行證來確定客戶身份,這就是Cookie的作業原理,
    2

上述回傳200代表成功訪問,這是為什么呢?因為我們添加了Cookie

2、Cookie的回應程序

  1. 客戶端發送一個http請求到服務器端,如果是登錄操作則攜帶我們的用戶名和密碼,
  2. 服務器端驗證后發送一個http回應到客戶端,其中包含Set-Cookie頭部,
  3. 客戶端發送一個http請求到服務器端,其中包含Cookie,
  4. 服務器端發送一個http回應到客戶端,
    3

一個簡單的Cookie
5

3、Cookie的核心內容

  • String name:該Cookie的名稱,Cookie一旦創建,名稱不可更改
  • Object value:Cookie的值
  • int maxAge:Cookie失效時間,單位為秒
  • boolean secure:該Cookie是否僅被使用含權協議傳輸
  • String path:Cookie的使用路徑
  • String domain:可以訪問該Cookie的域名
  • String comment:Cookie的使用說明
  • int version:該Cookie使用的版本號

4、DevTools(開發人員工具)

Chrome DevTools是Chrome瀏覽器自帶的開發人員工具,我們檢測網路流量要用到的是其中的Network面板
默認情況下,只要DevTools在開啟狀態,DevTools會記錄所有的網路請求,記錄都是在Network中展示出來

  • 1、打開方式

  • 在瀏覽器內:右鍵->審查元素
    對應快捷鍵:ctrl+shift+c

  • 點擊瀏覽器右上角設定->工具->開發者工具
    對應快捷鍵:ctrl+shift+i或F12

  • 直接使用快捷鍵
    ctrl+shift+j打開控制臺(console面板)

  • 2、通過開發人員工具查看各種資訊

6
7

上述的程序都是建立在登錄有Cookie的前提下才能進行訪問查看,如果沒有登錄則不能查看及操作,

Cookie這方面博主就介紹到這里,如果想看剩下的可以看博主以往的博文,傳送門——> 快速入門網路爬蟲系列 Chapter13 | 模擬登陸

二、程序分析

我們知道有些網站登陸之后才可以顯示需要的資料,這里需要了解web中的cookiesession

cookie是保存在瀏覽器客戶端的,session是保存在服務器端的,session依賴于cookie實作,當訪問對應網站的時候cookie是再次發回當前網站對應的服務器,cookiesession都是有有效期的,

這個時候我們需要看下下圖:
8
當我們添加cookie之后,相當于模擬了我們登錄賬號,這個時候就可以直接進入登錄之后的界面
9

至于cookie和session時效性: cookie:一般默認為14天, session:如果沒有特殊情況,半個小時

模擬登錄的分析就這么多,那么接下來就可以來實作了,

三、代碼實作

10
11
通過上圖分析我們可以知道
Github的GET網址為:https://github.com/login
Github的POST網址為:https://github.com/session

3.1 手動加入cookie

import requests

url = "https://github.com/session"
headers = {
    "user-agent": "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36",
    # 加入需要的cookie表示已經登陸了
    "cookie": "_octo=GH1.1.332975439.1600306176; _ga=GA1.2.1383224642.1600306188; _device_id=b3fc5e59ed4944773db74bbfa4adafe8; has_recent_activity=1; tz=Asia%2FShanghai; tz=Asia%2FShanghai; _gat=1; logged_in=no; _gh_sess=F6769fV4FjQ9Fn%2FbXDdVeQZvq%2FxCRmVcXlS7FO3jaPp6XtEXoiqI35eogYuKa85J5gQ2LBNFK79qmJH6OTCU2U97IJHb0WanI7%2FnCe35CWsEo5D3OzQxJLeXfqm5DleVEsLcj7WzOKZngfoW30tHxPmMzcWFHO%2FwyfFhFL4w6IPdQ8tY4gg8Y4M4ugCf1sAdMSJhxwWuPFBExpfvLPVOgX4a%2FtHaVXMYUmYEdx76C512wuRiND%2FR9Yjcxz0w%2BEKzJ%2Bc6yY6hvwAUKAkLAVjVew%3D%3D--tnXOGubdyTAls3fX--TTHuSWdAkG%2Bgl%2BA9I%2B9fiw%3D%3D",
}
response = requests.get(url=url, headers=headers)
print(response)
print(response.content.decode("utf-8"))
print(response.status_code)

12
通過上圖,我們可以看到<Response [200]>代表登錄成功,至于是不是成功呢?我們可以查看以下
13
通過查找對比,我們發現登錄成功,

3.2 修改完善

  • 1. 分析

上述代碼只能通過復制cookie來模擬登錄,那么能不能智能些呢?

答案是肯定的,我們可以通過獲取authenticity_token,并輸入賬號密碼進行登錄,

為什么直接就說需要這三個呢? 看下圖:
14
上圖為所有的parms,經過測驗,只需要最少三個即可完成登錄,那就是authenticity_tokenloginpassword

  • 2. 實作

想要實作,我們需要先獲取authenticity_token,我們先來看網頁
15
我們很容易就看到了authenticity_token,找到了,接下來的提取就很簡單了,我們通過正則進行提取

#獲取token
authenticity_token = re.findall(r'name="authenticity_token" value="(.*?)"',content)[0]
  • 3. 完整代碼
# encoding: utf-8
'''
  @author 李華鑫
  @create 2020-10-06 14:57
  Mycsdn:https://buwenbuhuo.blog.csdn.net/
  @contact: 459804692@qq.com
  @software: Pycharm
  @file: requests中的session.py
  @Version:1.0
  
'''
import requests
import re

headers = {
    "user-agent": "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36",
}
url_login = "https://github.com/login"
url_login_action = "https://github.com/session"
# url_profile = "https://github.com/settings/profile"
# 創建session物件
session = requests.session()
# 使用session發送請求,對應的回應中的cookie會自動保存到sesison物件中
response = session.get(url=url_login, headers=headers)
print("cookie:", response.cookies)
#獲取回應內容
content = response.content.decode("utf-8")
#獲取token
authenticity_token = re.findall(r'name="authenticity_token" value="(.*?)"',content)[0]
print(authenticity_token)
# 準備引數
data = {
    "authenticity_token": authenticity_token,
    "login": input("用戶名:"),
    "password":input("密碼:"),
}
# 使用session發送請求,上次存盤的當前網站的cookie會自動發送過去
response2 = session.post(url=url_login_action, headers=headers, data=data)
#獲取回應內容
print(response2.content.decode("utf-8"))
  • 4. 運行結果

16

  • 5.對比查看是否成功
    17
    🆗,完工!

美好的日子總是短暫的,雖然還想繼續與大家暢談,但是本篇博文到此已經結束了,如果還嫌不夠過癮,不用擔心,我們下篇見!


12

??好書不厭讀百回,熟讀課思子自知,而我想要成為全場最靚的仔,就必須堅持通過學習來獲取更多知識,用知識改變命運,用博客見證成長,用行動證明我在努力,
??如果我的博客對你有幫助、如果你喜歡我的博客內容,請“點贊” “評論”“收藏”一鍵三連哦!聽說點贊的人運氣不會太差,每一天都會元氣滿滿呦!如果實在要白嫖的話,那祝你開心每一天,歡迎常來我博客看看,
??碼字不易,大家的支持就是我堅持下去的動力,點贊后不要忘了關注我哦!

21
22

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/172241.html

標籤:其他

上一篇:ES6數值的擴展

下一篇:OpenAI 發布模型實作自動定理證明,媽媽再也不用擔心我的數學?

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more