主頁 > 軟體設計 > 一起學爬蟲(Python) — 25 震驚!某媽媽竟被多次“玩弄”……

一起學爬蟲(Python) — 25 震驚!某媽媽竟被多次“玩弄”……

2021-01-05 10:43:36 軟體設計

年度催淚大劇:2020,我一定會回來的!

年度最佳拒絕白嫖獎:一起學爬蟲(Python) — 19 年輕人,進來學自動化

略顯夸張,略顯,

但是還是希望,也不是希望吧,是卑微地渴望各位姥爺,給個贊吧T-T

在這里插入圖片描述

論爬某媽媽的另一種方式

  • 前言
  • 自動化獲取cookies
    • 獲取cookies!
    • 偷偷地潛入!
  • 擴展小知識 - 快速調整字體大小

前言

在這里插入圖片描述
在這里插入圖片描述

在這里插入圖片描述

在這里插入圖片描述

我被綁架了,竟然三天沒有更新,這個…

對,就理解為我被綁架了吧!

最近不是有那個年度征文嘛,然后我就參加了一下,畢竟……

高情商:你寫的那么好,一下就吸引了一堆小學生來看,一定能獲取評委的認可的!

低情商:就你還參加個xx

在這里插入圖片描述
所以希望各位能高抬貴手,讓我輸得不要太慘,拜托啦~~

在這里插入圖片描述
就億次!!!

點這里:2020,我一定會回來的!

那么…點贊的事情,就拜托了,輕一點哦~

自動化獲取cookies

前景回顧:蟬媽媽,嘿嘿

至于為什么要用自動化,這里我們選擇selenium,不過想要實作自動化操作有很多種方法,而且最近不是新出了一個更方便的嘛,我沒記名字,你打我啊,

不過這里我們先用selenium對整體的思路進行一個理解,日后再進行新的方式的傳銷 傳播,

我們上次爬取蟬媽媽的商品資訊的時候,是分了兩大步,

第一步是獲取了登陸后的cookie,

第二步是用帶有登錄后cookie的headers進行一個post請求,然后獲取了那些我們需要的,也可以是不需要的,但是這里假裝我們是需要的,的資料,

在這里插入圖片描述
那么我們進行模擬登陸的這個操作,就是最難的了吧,相對來說嘛,

如果你要說處理那些資料是更難的操作的話…那就聽你的吧,不過處理資料的方法是可以一直用的嘛,但是不同的網站就有不同的登錄方式,是多變的,所以相對來說還是我說的比較對,你要聽話,

在這里插入圖片描述
從上一次的結果來看,大致可以推斷出,我們只要獲得登陸后的cookies,就不用進行賬號密碼的輸入了,就是可以直接繞過登錄了,也就避開了驗證碼這一個超級煩人的環節,

那就來讓我們偷偷地潛入…

獲取cookies!

這一呢,我們是用selenium進行一個cookies的獲取,

這里為什么說是cookies,而前面是cookie呢?

因為cookie是有很多的,可以理解為合起來就是一個字典!

cookies里面放的是一條一條的cookie,有的有用,有的只是說明一下ip鴨,時間鴨什么的,是屬于可有可無的,

可以選擇全都放進去,也可以選擇細一點,只放我們需要的!

在這里插入圖片描述
這里我們先用selenium進行一個模擬的登錄~

# 匯入sleep是為了等待一下,確保網頁可以加載完,避免出現還沒加載出來程式就走完了的情況
from selenium import webdriver
from time import sleep

匯入這些呢,就不多說了,關于等待其實也是有三種等待的,如果想要詳細了解可以到 一起學爬蟲(Python) — 22 自動化詳解 了解一哈~

如果你讓我推薦一個的話,做大專案肯定是要顯式等待,隨便玩玩的話sleep就夠用了,

# 初始化driver物件
driver = webdriver.Chrome(executable_path='./chromedriver.exe')
# 打開指定頁面
driver.get('https://www.chanmama.com/login')

這里有的人可能會先打開https://www.chanmama.com/然后點擊里面的登錄按鈕,其實沒必要哦,直接放登錄界面的url進去就好了,

如果初始化那里錯了,可能就是你的瀏覽器引擎版本不對,或者路徑不對,

# 這里也可以注釋掉,在下面的send_keys里面手動寫上自己的賬號密碼
tmf = input('請輸入你的手機號:')
password = input('請輸入你的密碼:')

# 等待1秒,萬一下面的東西沒加載出來就會報錯了
sleep(1)

# tmf就是手機號的縮寫,不要問我怎么知道的,我剛百度來的!
# 至于xpath里面的東西呢,是我直接復制的,就是那兩個輸入框
tmf_input = driver.find_element_by_xpath('//*[@id="app"]/div[1]/div/div[1]/div[2]/div/div[2]/div[2]/div/form/div[1]/div/div[1]/input')

# 把手機號放到手機號對應的框里
tmf_input.send_keys(tmf)

# psw就是password的縮寫
psw_input = driver.find_element_by_xpath('//*[@id="app"]/div[1]/div/div[1]/div[2]/div/div[2]/div[2]/div/form/div[2]/div/div/input')

psw_input.send_keys(password)

# dl就是登錄嘛,找到登錄按鈕的xpath復制過來
dl = driver.find_element_by_xpath('//*[@id="app"]/div[1]/div/div[1]/div[2]/div/div[2]/div[2]/div/form/div[4]/div/button')
# 點擊~
dl.click()
# 等待了3秒,因為登錄后可能會很慢才加載出來
sleep(3)

在這里插入圖片描述

如果大家輸入的賬號密碼是對的,那就順利拿到了登陸后的頁面嘛~

接下來我們就進行cookies的獲取!

當然如果報錯,就試著把等待的時間調得長一點,因為代碼是沒問題的,我是指上面這一部分,

一部分!

一!

在這里插入圖片描述
接下來就到我們的重頭戲了!

獲取cookies~

不是cookie哦,是cookies!!!

# 這里就獲取了我們的cookies!
c_cookies = driver.get_cookies()

當然想要獲取登錄后的cookies的前提是你登錄成功了哈,也就是頁面確實是加載出來了那種,

列印看一下唄~

在這里插入圖片描述
看不懂吧,看不懂沒關系,我們把上一次21天的那里的cookie也拿過來:

在這里插入圖片描述
上一次我們放進去的是這個下面的cookie吧,當時是說的token,

可以發現這個token:

在這里插入圖片描述
和我們的value:

在這里插入圖片描述
可以說是非常相似了吧~

那么這個呢,就是當前這個網頁想繞過登錄需要攜帶的cookies!

也許你要問我,那為什么他們不一樣呢???

一樣,就出問題了,

每一次的cookie都是會變得,但是格式,不會變吧,

token呢是這個網頁直接設定的吧,但是這個value是默認的,你從其他網頁獲取的cookies里面也會有這個value,因為這個是瀏覽器自帶格式,并不是說他是value就不是token了,女裝不可以嗎?

在這里插入圖片描述

偷偷地潛入!

來看一下我們上一次是怎么做的:

# 處理我們的cookies
headers['Authorization'] = res['data']['token']

res是我們請求回來的資料吧,然后我們在headers這個字典里放了一個新的鍵值對,內容就是上面選中的那些東西吧,也就是說我們只需要把這里改一下就ok了!

# 處理我們的cookies
headers['Authorization'] = c_cookies[0]['value']

后面的東西都是一模摸一樣的嘛,只不過獲取cookies的方法變了,但是很明顯,這種selenium輔助我們進行一個模擬登陸的話,肯定會更方便啊,

最后呢,把全部代碼給大家附上!

from selenium import webdriver
from time import sleep
import requests

driver = webdriver.Chrome(executable_path='./chromedriver.exe')

driver.get('https://www.chanmama.com/login')

tmf = input('請輸入你的手機號:')
password = input('請輸入你的密碼:')

sleep(1)

tmf_input = driver.find_element_by_xpath('//*[@id="app"]/div[1]/div/div[1]/div[2]/div/div[2]/div[2]/div/form/div[1]/div/div[1]/input')

tmf_input.send_keys(tmf)

psw_input = driver.find_element_by_xpath('//*[@id="app"]/div[1]/div/div[1]/div[2]/div/div[2]/div[2]/div/form/div[2]/div/div/input')

psw_input.send_keys(password)

dl = driver.find_element_by_xpath('//*[@id="app"]/div[1]/div/div[1]/div[2]/div/div[2]/div[2]/div/form/div[4]/div/button')
dl.click()

sleep(3)

c_cookies = driver.get_cookies()

print(c_cookies)

driver.quit()

headers = {
    # 登錄前的cookie
    'Cookie': 'Hm_lvt_1f19c27e7e3e3255a5c79248a7f4bdf1=1607054172,1607241195,1607485551,1609118533; Hm_lpvt_1f19c27e7e3e3255a5c79248a7f4bdf1=1609118533; Hm_lvt_ce889f3ae5bf6277ca4cbf05b940acbc=1609118534; Hm_lpvt_ce889f3ae5bf6277ca4cbf05b940acbc=1609118534',
    # 證明我們不是通過外部鏈接過來的
    'Referer': 'https://www.chanmama.com/login',
    # 瀏覽器相關的資訊啦
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36'
    }

# 處理我們的cookies
headers['Authorization'] = c_cookies[0]['value']

# 搜索界面的url
url = 'https://api-service.chanmama.com/v1/product/search'

# 發起請求時攜帶的引數
data = {
    # 要搜索的東西
    "keyword": '酒',
    "keyword_type": "",
    "page": 1,
    "price": "",
    # 數量
    "size": 50,
    "filter_coupon": 0,
    "is_aweme_goods": 0,
    "has_live": 0,
    "has_video": 0,
    "tb_max_commission_rate": "",
    "day_pv_count": "",
    "day_order_count": "",
    "big_category": "",
    "first_category": "",
    "second_category": "",
    "platform": "",
    "sort": "day_order_count",
    "order_by": "desc"
}

# 這里為什么用json=而不用data=呢,是json可以幫我們跟網頁說這個資料你需要自己弄成json串
# 使用data傳參的話,是支持嵌套字典的,兩者都可以用,當然這里你也可以選擇手動處理一下data
res = requests.post(url, json=data, headers=headers).json()
for i in res['data']['list']:
    # 這里可以用%,也可以用format等等,甚至可以手動拼接,方法很多
    print("商品:%s  價格:%s 原價:%s 昨日瀏覽:%s 昨日銷量:%s" % (
        i['title'], i['price'], i['market_price'], i['day_pv_count'], i['day_order_count'])

姥爺,如果覺得這一篇對你有一點點幫助的話,務必點個贊吧!!!

在這里插入圖片描述

擴展小知識 - 快速調整字體大小

不少小可愛應該會遇到敲代碼的時候字體大小不合適的問題,但是又不能通過快捷鍵很快速地進行調整,怎么感覺這個口吻是老營銷號了…

在這里插入圖片描述
咳咳,這里小澤就教大家一個可以一勞永逸的方法!

首先呢,找到我們File里的Settings:
在這里插入圖片描述
點進去,進入到我們的Keymap里面:

在這里插入圖片描述
在圖中畫框框的那個框框里呢,進行一個搜索:
在這里插入圖片描述
先搜Increase Font Size:
在這里插入圖片描述
Increase Font Size翻譯過來就是放大字體嘛,然后雙擊點開之后會有這樣的界面:

在這里插入圖片描述
這里我們選擇第二個,Mouse Shortcut,通過滑鼠來進行字體的放大!

在這里插入圖片描述
直到里面出現這種Ctrl + Wheel up這種提示,就可以點OK啦~

同樣的操作,我們再搜索一下Decrease Font Size(縮小字體):

在這里插入圖片描述
在這里插入圖片描述
然后…

然后就跟上面那個一樣了好吧,只不過是換成了ctrl + 滾輪往下滑,

這些操作都做完之后呢,小可愛就可以隨便打開一個專案試一試按住ctrl+滾輪亂滑,是不是超級爽!

如果覺得對你有幫助的話…

在這里插入圖片描述
當然,你也可以 選擇點一個免費的贊嘛~

在這里插入圖片描述
在這里插入圖片描述

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/244713.html

標籤:其他

上一篇:c++入門:分享一些實用的函式

下一篇:(三 Ribbon 什么是負載均衡?spring cloud如何實作負載均衡)手摸手帶你一起搭建 Spring cloud 微服務 理論+實踐+決議

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more