主頁 > 後端開發 > 【Python爬蟲】爬蟲利器 requests 庫小結(建議收藏!)

【Python爬蟲】爬蟲利器 requests 庫小結(建議收藏!)

2021-08-08 07:51:46 後端開發

requests庫

Requests 是一個 Python 的 HTTP 客戶端庫, 支持許多 HTTP 特性,可以非常方便地進行網頁請求、網頁分析和處理網頁資源,擁有許多強大的功能,

本文主要介紹 requests 庫的基礎使用,

1. 安裝與匯入

安裝requests庫:快捷鍵 Windows+r 打開運行控制框,輸入 cmd,進入命令列,輸入:

pip install requests

匯入:

import requests

2. 主要方法

七個主要方法:

方法描述
requests.request發送請求,支撐以下各方法
requests.get向網頁發送get請求,獲取網頁資訊(GET)
requests.post向網頁發送post請求(POST)
requests.put向網頁發送put請求(PUT)
requests.head獲取網頁請求頭資訊(HEAD)
requests.patch向網頁提交區域修改請求(PATCH)
requests.delete向網頁提交洗掉請求(DELETE)
requests.Session會話,相比于直接requests請求,具有保持功能

3. 主要的使用方法

3.1 requests.request(method, url, **kwargs)

  • method 設定請求方式(get、post、put、head、patch、delete)

  • url 設定請求地址

  • kwargs 控制訪問引數

request 方法中各方法的引數與以下相應的方法相同,

3.2 requests.get(url, params=None, **kwargs)

  • url 設定請求地址,一般地址中問號后面的可以省略,問號后面的即是請求引數,
  • params 設定發送請求時所帶的引數,字典或位元組流格式,作為額外引數連接到url中(問號后的部分),可選
  • kwargs 控制訪問引數,見 kwargs引數表,可選

發送請求:

url = 'https://blog.csdn.net/weixin_52132159' # 我的博客主頁
#url = 'https://blog.csdn.net/weixin_52132159?spm=1019.2139.3001.5343'
headers = {
	'cookie': '...',
	'Referer': '...'
}
params = {'spm': '1019.2139.3001.5343'}

response = requests.get(url, headers=headers, params=params) # 發送請求

3.3 requests.post(url, data=None, json=None, **kwargs)

  • url 設定請求地址
  • data 為字典、位元組序列或檔案物件,作為請求的內容,向服務器提交資源時使用,可選
  • json 為 JSON格式的資料,作為內容向服務器提交,可選
  • kwargs 控制訪問引數,見 kwargs引數表,可選

發送請求:

url = 'https://fanyi.so.com/index/search' # 360翻譯
headers = {
    'pro': 'fanyi'
}
data = {
    'eng': 0, # 是否從英文轉中文
    'query': '你好' # 翻譯的單詞
}

response = requests.post(url, headers=headers, data=data) # 發送請求

3.4 requests.Session

Session 方法可以實作回話,持續性地發送requests請求,能夠跨請求保持cookie,

經實體化后,可用 get、post 等方法發送請求,用法不變,

示例:

response = requests.Session()

response.post('https://fanyi.so.com/index/search')
response.get('https://blog.csdn.net/weixin_52132159')

3.4 其他

  • requests.put(url, data=None, **kwargs)
  • requests.head(url, **kwargs)
  • requests.patch(url, data=None, **kwargs)
  • requests.delete(url, **kwargs)

其他的方法使用程序與 get 與 post 類似,都有著kwargs引數表 中的引數,依實際情況選擇使用,

5. post 與 get 方法

接下來我們要說說 http 請求中 post 和 get 方式的異同,

post 方法,就是在你進入一個網頁后,你發送的新的請求以進行一些操作,post 方法需要兩個重要的引數 urldata,url 表示要發送請求的網址,data 則是提交的資料和資訊,網頁根據新得到的資訊,再渲染加載出新的頁面,比如爬取360翻譯,在進入翻譯界面后,通過填寫翻譯內容、點擊翻譯按鈕,網頁回傳翻譯的結果,這就是 post 請求,

get 方法,一般是直接通過發送請求,來獲取網頁資訊,比如,直接通過 get 方法獲取網頁上的豆瓣電影排行榜等,當然,也有時候 get 方法使用的情況和 post 方法相似,如用get方法搜索酷我音樂,這時候就要看網頁所規定的請求方式來選擇了,

4. kwargs 引數表

引數說明
params送請求時所帶的引數,字典或位元組流格式,作為額外引數連接到url中
data字典、位元組序列或檔案物件,作為requests的內容,向服務器提交資源時使用
jsonJSON格式的資料,作為內容向服務器提交
headers字典型別,請求頭
cookies字典或 CookieJar 物件,從HTTP協議中決議 cookie,字典形式的 cookie 也可放入 headers中
auth元組型別,支持HTTP認證功能
files字典型別,向服務器傳輸檔案時使用
timeout設定等待回應的時間,單位為秒
proxies字典型別,設定訪問代理服務器
allow_redirects布爾型別,默認為True,重定向開關
stream布爾型別,默認為True,判斷是否對獲取內容立即下載
verify布爾型別,默認為True,認證SSL證書的開關
cert保存本地SSL證書路徑的欄位

參考文章:https://blog.csdn.net/qq_43406976/article/details/104538316

5. 回應內容

發送請求后,回傳的是一個 response 物件,我們可以通過該物件的屬性和方法獲取回傳內容,

方法或屬性說明
response.url回傳請求的URL
response.text回傳headers中的編碼決議的結果,可以通過r.encoding='gbk’來變更解碼方式
response.content回傳二進制結果
response.status_code回傳回應碼,如200、404等
response.headers回傳請求頭
response.cookies回傳一個RequestsCookieJar物件
response.history回傳以串列存盤的請求歷史記錄
response.json()回傳回傳結果經json解碼后的內容,一般回傳一個字典(這是個方法,要帶括號)

6. 使用格式示例

6.1 爬取360翻譯(POST)

url = 'https://fanyi.so.com/index/search'
headers = {
    'pro': 'fanyi',
}
data = {
    'eng': 1,
    'query': 'hello'
}

r = requests.post(url, data=data, headers=headers)
print(r.url)
print(r.status_code)
print(r.json()['data']['fanyi'])

輸出:

https://fanyi.so.com/index/search
200
你好

6.2 爬取圖片/視頻

import requests
pic = requests.get('https://profile.csdnimg.cn/E/5/9/3_weixin_52132159').content
with open ('作者頭像.jpg','wb') as i:
	i.write(pic)

更多爬蟲的教學和案例可以見作者的專欄:Python爬蟲

– the End –

這篇文章就到這里了,點個贊支持一下吧!

本文收錄于專欄:Python爬蟲
關注作者,持續閱讀作者的文章,學習更多Python知識!
https://blog.csdn.net/weixin_52132159


2021/8/6

已完成的爬蟲教程:

  • Python爬蟲從0到1 | 入門實戰:360翻譯 ——requests庫之POST方法
  • Python爬蟲從0到1 | 爬取酷我音樂資訊并下載 ——requests庫之GET方法

推薦閱讀

  • Python爬蟲 | 爬取b站北京奧運會開幕式彈幕,有多少人從東京奧運會跑過來的?
  • 絕密!Python爬蟲告訴你刷分機器人背后的原理!這篇文章差點沒過審
  • Python每天一道題:昆蟲繁殖問題?我把密密麻麻的幼蟲和成蟲搞定了
  • 沒想到我連五年級的題目都解不出來?可不能被人小看,讓萬能的Python登場
  • Python:程式猿怎么追女生?教你短短幾行代碼表白,告別表白尷尬!
  • 想學Python不知從何入手?學習Python必備秘籍,附地址,速拿!
  • Python標準庫:datetime 時間和日期模塊 —— 時間的獲取和操作詳解
  • 學習筆記 | PyInstaller 使用教程——用pyinstaller打包exe應用程式【建議收藏!】

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/292351.html

標籤:python

上一篇:學習python第十五天,面對物件

下一篇:python標準庫——random模塊

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more