主頁 > 後端開發 > 教你如何爬取美團網資料，就是那么的簡單

教你如何爬取美團網資料，就是那么的簡單

2020-12-28 06:14:58 後端開發

本文的文字及圖片過濾網路，可以學習，交流使用，不具有任何商業用途，如有問題請及時聯系我們以作處理，

以下文章來源于法納斯特 ，作者法納斯特

 

 

Python爬蟲、資料分析、網站開發等案例教程視頻免費在線觀看

https://space.bilibili.com/523606542

 

1.概述

美團網的爬蟲整體其實比較簡單，通過開發者模式找到真實資料請求地址后，用requests請求的資料格式是標準的json字串，非常好處理，

 

在本文我們將介紹兩種常見的獲取資料的方式，其一是通過搜索獲取結果，其二是通過篩選獲取結果，兩種方式在獲取真實資料請求地址的方法上稍有差異，具體我們見下面章節，

2.搜索結果資料采集

如果想在PC網頁端搜索結果，需要先進行賬號登錄，然后方可進行搜索操作，

2.1. 獲取真實資料請求地址

如下圖，我們先在搜索框 輸入 搜索關鍵字如“火鍋”，然后進行以下步驟：（以谷歌瀏覽器為例）

  1. 按 F12 進入到開發者模式
  2. 在右側開發者模式頁面最上方點擊Network—>XHR
  3. 在左側搜索結果頁拖到最下方，點擊下一頁（如 2）
  4. 然后在右側的開發者模式頁面左側靠上的Name，點擊第二個uuid開頭的即可出現我們需要的資訊

 

獲取真實資料請求地址

我們可以發現Request URL即為真實資料請求地址，其基礎部分長這樣（北京）https://apimobile.meituan.com/group/v4/poi/pcsearch/1?...

最終鏈接地址還需要有以下引數：在 Query String Parameters 中可以看到哈

uuid: # 你的uuid，登錄后在開發者模式獲取

userid: # 你的userid，登錄后在開發者模式獲取

limit: 32 # 每頁的 店鋪資訊數

offset: 32 # 當前 偏移量，第1頁為0，第2頁為 (2-1)*limit

cateId: -1 # 型別

q: 火鍋 # 搜索的關鍵字

token: htN9Eu125pjzVK798YMMXMkJDi8AAAAAZgwAAAW6Dw8Qi2ZMfzNT1glWhl_WHtjjasoQfOZFt_VQdtMpw4VHEYL5DNiMixUTOVxTPw # token，經過測驗發現可以不需要

如果你在其他篩選項進行選擇時，會發現對應引數可能增加或減少，這個時候根據自己需求進行引數設定即可，

2.2. 請求資料(requests)

這里只需要用到兩個庫，requests請求資料，json決議json資料字串，

import requests
import json

# 以北京為例，其基礎鏈接如下：
base_url = 'https://apimobile.meituan.com/group/v4/poi/pcsearch/1?'

# 上海為如下，差異就在最后面問號前面的數字，上海為10，北京為1
# https://apimobile.meituan.com/group/v4/poi/pcsearch/10?

uuid = xxxx # 你的uuid，登錄后在開發者模式獲取
userid = xxx # 你的userid，登錄后在開發者模式獲取

key = '火鍋'
# 這里演示請求第一頁的資料
page = 1
# 設定請求引數
parameters = {
    'uuid': uuid, # 你的uuid，登錄后在開發者模式獲取
    'userid': userid, # 你的userid，登錄后在開發者模式獲取
    'limit':32, # 每頁的 店鋪資訊數
    'offset':32*(page - 1), # 當前 偏移量，第1頁為0，第2頁為 (2-1)*limit
    'cateId':-1, #
    'q': key, # 搜索的關鍵字
    }
# 設定請求頭
header = {
    "Accept-Encoding": "Gzip",  # 使用gzip壓縮傳輸資料讓訪問更快
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:83.0) Gecko/20100101 Firefox/83.0",
    }
# get方法請求網頁資料
re = requests.get(base_url, headers = header, params=parameters)
# re.text是我們需要的資料
text = re.text
# 由于是json格式的字串，用json.load()方法格式化
js = json.loads(text)
# 需要用到的資料在 js['data']中
data = js['data']
searchResult = data['searchResult'] # 結果串列

 

結果其實是很結構化的

2.3. 決議獲取需要的資料

由于單頁存在32組資料，且每組資料欄位較多，我們用串列來存盤單頁資料，用字典存盤單個店鋪的資訊，

考慮到我想記錄每個店鋪的優惠券銷售量資訊，又因為優惠券存盤的是串列形式，這里我單獨處理了優惠券的記錄資訊，組合其他基礎資訊后形成一條資料，因此在最終的資料中同一個店鋪會存在多條，不過其優惠券資訊是存在差異的，

# 接2.2.中結果
shops = []
for dic in searchResult:
    shop = {}
    shop['id'] = dic['id']
    shop['店鋪名稱'] = dic['title']
    shop['地址'] = dic['address']
    shop['地區'] = dic['areaname']
    shop['平均消費'] = dic['avgprice']
    shop['評分'] = dic['avgscore']
    shop['評價數'] = dic['comments'] 
    shop['型別'] = dic['backCateName']
    # shop['優惠'] = dic['deals']
    shop['經度'] = dic['longitude']
    shop['緯度'] = dic['latitude']
    shop['最低消費'] = dic['lowestprice']
    
    if dic['deals'] == None:
            shops.append(shop)   
    else:
        for deal in dic['deals']:
            # deal = dic['deals'][1]
            shop_info = shop.copy()
            shop_info['優化id'] = deal['id'] 
            shop_info['優惠券名稱'] = deal['title'] 
            shop_info['優惠券原價值'] = deal['value'] 
            shop_info['優惠券價格'] = deal['price'] 
            shop_info['優惠券銷量'] = deal['sales']
            shops.append(shop_info)  

 

店鋪資料串列

2.4. 存盤結果到本地(csv檔案)

我們每獲取一頁資料之后，立刻寫入本地，因為每頁的資料最后是由字典組成的串列，我們可以直接使用pandas的Dataframe.to_csv()方法來進行追加寫入，

# 接 2.3. 中的結果
import pandas as pd

df = pd.DataFrame(shops)
# 需要存盤表頭，所以對于第一頁的資料我們連表頭一起存盤
if page == 1:
    df.to_csv('火鍋店鋪資料.csv',index=False, mode='a+', )
# 非第一頁的資料，我們之存資料不存表頭，mode='a+'是追加模式
else:
    df.to_csv('火鍋店鋪資料.csv',header=False,index=False, mode='a+', )

 

匯出的資料表

3.分類篩選結果資料采集

在進行分類篩選的時候，我們不需要進行賬號登錄即可獲取資料，不過通過分析發現這種情況下真實資料請求地址有別的搜索結果下的真實資料請求地址，且稍微麻煩一點，具體我們見后面的分析，

3.1. 獲取真實資料請求地址

和2.搜索結果資料采集中的程序一樣，進行以下步驟：（以谷歌瀏覽器為例）

  1. 按 F12 進入到開發者模式
  2. 在右側開發者模式頁面最上方點擊Network—>XHR
  3. 重繪頁面或者點擊下一頁(如2)
  4. 然后在右側的開發者模式頁面左側靠上的Name，點擊getPolist？即可獲得我們需要的資訊

 

獲取真實資料請求地址

我們可以發現Request URL即為真實資料請求地址，其基礎部分長這樣（北京）https://bj.meituan.com/meishi/api/poi/getPoiList?

最終鏈接地址還需要有以下引數：在 **Query String Parameters **中可以看到哈

cityName: 北京 # 城市

cateId: 17 # 分類

areaId: 0 # 區域

sort: # 排序型別

dinnerCountAttrId: # 就餐人數

page: 2

userId:

uuid:

platform: 1 # 平臺

partner: 126

originUrl: https://bj.meituan.com/meishi/c17/pn2/

riskLevel: 1

optimusCode: 10

_token:

我們發現在上面引數中，隨著翻頁，page、originUrl會規律性變化，同時_token也會有所改變，而該值需要特殊處理獲取，其他引數在你確定頁面篩選項后都是固定的，

3.2. _token決議與生成

我重繪三次，獲取三個token如下，我們試著介紹一下里面分別含有啥引數資訊，

token = [
'eJx1T01vqkAU/S+zhTjDlzDusOLriLYqKkrTBTMgwyCKQBFt+t/fNGkXb/GSm5yPe3Jy7yeoSQJGGkIYIRV0aQ1GQBugwRCooG3kZogcjGyMho4lA+xfDxvSo/VuAkZvtm6p2MLv38Za6jcN60jVkIPe1V9uSq6bcr5TRIYAb9uqGUFIxaBM8/YjPg/YpYSSNzyHTLOhPOQ/ISBbyo1skVj8YPyD7a9eyIdkRZNnZ8nS2S0RTGtd4a34vuOm/wK3874mXbFih8uWbZtxJNDcw1SPRf8nyBSruhXXy9i+EC16tfFyo+DCyzo37dbR5vDKs7Xw+LHHT24HHWVvMHqf5Y9iYiPhw8VuscwpuVcnaswOxAj55slTomXY3aM01ruA6zBy58W09llw8pNhf95F3uGknSfXKrC9YxJTO5iEs+OY+c8hbaamYrrV3NKupAuzHRSY3hTRPjhqxXOkZ0bZOziaohey0OsyaZlFiL3flg9IDJTr4OsvJZyVbQ==',
'eJyFT8luo0AQ/Ze+GrkXzNKWcrABB/DYBLPYTJSDWYJpDGZYTMJo/j0dKTnkNFJJb6mnp6q/oLVSsMQIUYQEcM9asAR4juYyEEDf8Y2MVIoUKhKJYgEkPz1ZpgKI21AHy2eFSAKV6MunceD6GVOCBIxU9CJ88wXnZMHnM2XxELj0fdMtIYzZvMqKfjjX8+RWQc67SwETrMCmJpAf8/8g4KWVz0s5ll94/sL+W+/4f7ytK/Kas8we08nvnbVuuOu9psSO7tZvj5nq2TjXf2tu5Sajfh/IERNom+lhsBxp864Z4iobVskxiEkemqdx84rZSsPHabrkm9bw7hNUiiddUV/rCXqB1kQ+vpr3Yj2LZK+wTk3P4q2bGDd0HNKtiYI6W+yalLTUl8IgKhWm2PsgweJWLsPWuZVFdC1aNfe13R9GyhG9T1ulrn/tI+twTdteS+loElna3VimPs3EdGxyNpO6JH6MK5WkohedAqObzrPMwezGWHrwTLhYqSS0af7wAP59AGUUnIY=',
'eJyNT8tugkAU/ZfZQpwBxGFMuqhPQOUhYgpNFwgUUWAsDGBp+u+dJu2iuyY3OY97cnLvB6iNBEwlhAhCIujSGkyBNEKjCRABa/hmgjSCMFEnElFFEP/1ZCyJ4FQfF2D6jGVVJCp5+Tb2XD9LREaihDT0Iv7yMefymM93yuAhcGbs1kwhPF1GZZqzNqpGMS0h5805h7GE4a1SID/mP0EZAl5cHngxx+sPRj/IfvWO/8gbmzyrOEvNPhkOkv04LN1ZOsc38+I5fZUm4Symq72RG+OFbXfhfa0TCpdBfujcuC/sXq8yvTj7+L1NFcZUt9OCytiudj2m6/BkYE0T6GtHBGdQITXcGAWTIsRqFhbruV8XpU5xEczszXvmb4c1RHbUDtunxFNKIQ+8fauRfONfbSa3fq6qxeDGpnSEru4H7kUuK3J3/OHVijaLq7WyunqJ8dli/aYJnFRzBIXc89hO3oY+KZuEmUrIlFO2rKl3LLC1C99o4HtRF+tkXpjC48MD+PwC/5KgHA=='
]

對于這三個token，加密演算法比較簡單，其采用的是二進制壓縮與base64編碼，

3.2.1. 決議

我們在決議token時的操作步驟是先進行base64解碼再進行二進制解壓，這里需要用到base64庫和zlib庫，

import base64
import zlib

for s in token:
    temp = base64.b64decode(s)
    result = zlib.decompress(temp)
    print(result)
b'{"rId":100900,"ver":"1.0.6","ts":1608907906850,"cts":1608907906930,"brVD":[725,959],"brR":[[1920,1080],[1920,1040],24,24],"bI":["https://bj.meituan.com/meishi/c17/","https://bj.meituan.com/"],"mT":[],"kT":[],"aT":[],"tT":[],"aM":"","sign":"eJwdjc1tAjEQhXvh4KN/ULxrIvkQcYoUcUsBZj0LE9b2ajxGSg+5pwkqoB7oI1ZO79PT+9kEgvAevRZTYOhgRjEhfx9CAv/8+X3cbyJizkD70jK/MVMPibIyplb3JYI3WhTCE+ZPWvyZea2vSh2/ZALkFrKcSlKd6xnVZEYl1nDqpS7Efdab7SDWJfBcKHWbsF4+4ApL51qIvWgV/j9bw+jtzh0tjHZ2g3mx89ZF0NIM2rmdtc5II7XUmz/I30i2"}'
b'{"rId":100900,"ver":"1.0.6","ts":1608907932591,"cts":1608907932669,"brVD":[725,959],"brR":[[1920,1080],[1920,1040],24,24],"bI":["https://bj.meituan.com/meishi/c17/pn2/","https://bj.meituan.com/meishi/c17/"],"mT":[],"kT":[],"aT":[],"tT":[],"aM":"","sign":"eJwdzTtOBDEQBNC7bODQnxGe8SJ1gDZCQmQcwDvu2W12/JHdRuIO5FyCE3AeuAcWUb2gVHXwFf1jAC1WzzhgFrESvz/7iPD78fnz/SUCpYT1lHviB+Y6SiIXptjbKQcEo0WudKH0Une4Mpd2r9T5VUYk7j7JNUc13K6kVrOokiYlir8gTCMqj2kw0yzK7nnLNYIRldrtCd9wH265Moje8P+3dwpgj+5scbGbm82d3SYXUEsza+eO1jojjdRSH/4A82VJ9g=="}'
b'{"rId":100900,"ver":"1.0.6","ts":1608907956195,"cts":1608907956271,"brVD":[725,959],"brR":[[1920,1080],[1920,1040],24,24],"bI":["https://bj.meituan.com/meishi/c17/pn3/","https://bj.meituan.com/meishi/c17/pn2/"],"mT":[],"kT":[],"aT":[],"tT":[],"aM":"","sign":"eJwdzT1OAzEQBeC7pJjSPwnedZBcoFRIiI4DOOvZxGH9o/EYiTvQcwlOwHngHlhU7yue3tt5Qv8YnILFMw7oGZbI788+ofv9+Pz5/oIQc0Y6lZ75gZlGCUrlmHo7lYBOKygULzG/0OauzLXdS3m+iYSRu89iKUkOt2uUi55lzQcJ1V/QHUYQj2mn9xPUzfNaKDkNFNvrE77hNtwKsYPe8P+39xicOdqzwdmsdtJ3Zt3bgEroSVl7NMZqoYUSavcH9ClJ+A=="}'

根據三個token決議結果，我們發現其帶有的引數較多，但是變化的只有部分，其中ts、cts是時間戳，以第一個為例：

ts = 1608907906850

 

ts

cts = 1608907906930

 

cts

由于2個都是毫秒級的時間戳，其實都是同一個時間點，相差90毫秒左右，因此我們可以在進行請求的時候獲取當前時間然后即可獲取ts和cts引數值，

另外有變化的就是BI，其是當前網頁和前序網頁的原始地址，亦可有規律生成，

最后，我們發現sign也是變化的，而且和token很像，我們用同樣的決議方式可以發現其規律：

s = 'eJwdjc1tAjEQhXvh4KN/ULxrIvkQcYoUcUsBZj0LE9b2ajxGSg+5pwkqoB7oI1ZO79PT+9kEgvAevRZTYOhgRjEhfx9CAv/8+X3cbyJizkD70jK/MVMPibIyplb3JYI3WhTCE+ZPWvyZea2vSh2/ZALkFrKcSlKd6xnVZEYl1nDqpS7Efdab7SDWJfBcKHWbsF4+4ApL51qIvWgV/j9bw+jtzh0tjHZ2g3mx89ZF0NIM2rmdtc5II7XUmz/I30i2'
temp = base64.b64decode(s)
result = zlib.decompress(temp)
print(result)
b'"areaId=0&cateId=17&cityName=\xe5\x8c\x97\xe4\xba\xac&dinnerCountAttrId=&optimusCode=10&originUrl=https://bj.meituan.com/meishi/c17/&page=1&partner=126&platform=1&riskLevel=1&sort=&userId=&uuid=598b5e75f86145f28de0.1608895581.1.0.0"'

很巧，我們發現其實他就是一些引陣列合，其中有變化的就是originUrl和page引數，和當前訪問頁關聯，

3.2.2. 生成

我們知道token決議程序之后，逆向程序即可生成token，我們選取一個決議后的token格式化，然后構建生成方式，

# 決議后的token格式化
{'rId': 100900,
 'ver': '1.0.6',
 'ts': 1608907906850,
 'cts': 1608907906930,
 'brVD': [725, 959],
 'brR': [[1920, 1080], [1920, 1040], 24, 24],
 'bI': ['https://bj.meituan.com/meishi/c17/', 'https://bj.meituan.com/'],
 'mT': [],
 'kT': [],
 'aT': [],
 'tT': [],
 'aM': '',
 'sign': 'eJwdjc1tAjEQhXvh4KN/ULxrIvkQcYoUcUsBZj0LE9b2ajxGSg+5pwkqoB7oI1ZO79PT+9kEgvAevRZTYOhgRjEhfx9CAv/8+X3cbyJizkD70jK/MVMPibIyplb3JYI3WhTCE+ZPWvyZea2vSh2/ZALkFrKcSlKd6xnVZEYl1nDqpS7Efdab7SDWJfBcKHWbsF4+4ApL51qIvWgV/j9bw+jtzh0tjHZ2g3mx89ZF0NIM2rmdtc5II7XUmz/I30i2'}

對于sign，我們也看下其決議后的結果：

b'"areaId=0&cateId=17&cityName=\xe5\x8c\x97\xe4\xba\xac&dinnerCountAttrId=&optimusCode=10&originUrl=https://bj.meituan.com/meishi/c17/&page=1&partner=126&platform=1&riskLevel=1&sort=&userId=&uuid=598b5e75f86145f28de0.1608895581.1.0.0"'

因此，我們在構造token之前先構造sign：

s_sign = f'"areaId=0&cateId=17&cityName=北京&dinnerCountAttrId=&optimusCode=10&originUrl={Url}&page={page}&partner=126&platform=1&riskLevel=1&sort=&userId=&uuid=598b5e75f86145f28de0.1608895581.1.0.0"'

在選定城市后，sign可變引數為originUrl和page，

再生成sign：

# 構造sign
Url = 'https://bj.meituan.com/meishi/c17/'
page = 1

s_sign = f'"areaId=0&cateId=17&cityName=北京&dinnerCountAttrId=&optimusCode=10&originUrl={Url}&page={page}&partner=126&platform=1&riskLevel=1&sort=&userId=&uuid=598b5e75f86145f28de0.1608895581.1.0.0"'

# 二進制編碼
encode = s_sign.encode()
# 二進制壓縮
compress = zlib.compress(encode)
# base64編碼
b_encode = base64.b64encode(compress)
# 轉為字串
sign = str(b_encode, encoding='utf-8')

得到可以用于構造token的sign如下：

'eJwdjc1tAjEQhXvh4KN/ULxrIvkQcYoUcUsBZj0LE9b2ajxGSg+5pwkqoB7oI1ZO79PT+9kEgvAevRZTYOhgRjEhfx9CAv/8+X3cbyJizkD70jK/MVMPibIyplb3JYI3WhTCE+ZPWvyZea2vSh2/ZALkFrKcSlKd6xnVZEYl1nDqpS7Efdab7SDWJfBcKHWbsF4+4ApL51qIvWgV/j9bw+jtzh0tjHZ2g3mx89ZF0NIM2rmdtc5II7XUmz/I30i2'

再構造token：

# 接上面sign
from datetime import datetime

ts = int(datetime.now().timestamp() * 1000)
beforeUrl =  'https://bj.meituan.com/'
bI = [Url, beforeUrl]
dic_token = {
    'rId': 100900,
    'ver': '1.0.6',
    'ts': ts,
    'cts': ts+90,
    'brVD': [725, 959],
    'brR': [[1920, 1080], [1920, 1040], 24, 24],
    'bI': bI,
    'mT': [],
    'kT': [],
    'aT': [],
    'tT': [],
    'aM': '',
    'sign':sign
            } 

# 二進制編碼
encode = str(dic_token).encode()
# 二進制壓縮
compress = zlib.compress(encode)
# base64編碼
b_encode = base64.b64encode(compress)
# 轉為字串
token = str(b_encode, encoding='utf-8')

得到token如下：

'eJx1j01zqjAARf+KOxZ0TMKHMd1hxTairRUVpdMFBASCKAKNaKf//ZEufDNv5i0yc+7JnTvJt1LRSHnsIQgJhA89RcRVFxXUh/2B0uWmlrcDOCRdAcOBiTrJ/rHYkDasNuNOf2DNfOgRk3z+uqVUH4ho3TqCQ9jZezJk0gx5fstUdpW0acr6EYCQ94s4a76CY5+dCtBxnWaAIQzkw/7TUuRQsZJDkvI7BXdq/rq5/Ktcq7PkKDmeXiLOUGNx+z3ditRwXsF61lZU5O9sd1qzdT3yOZzZJNQC3j67iWqWl/x8GuETRf4bJouVSnI7EVYslv5q95YmS26n+5Y8WQIM1a3Owus0u+VjDLkD5pv5IgvptTyE+nRHdS9dPdmqv/DE1Y8DTbipBnxrlk8qh7kHJxq0x41v7w7oOD6XLrb3URBid+xN9yPmvHhhPTFUwypnJjpT4SUbwEl4UXlzS2HDX3wt0Yt2SPwJfKVzrSqihpmU4u26uAGqw0xTfv4AOoWaFA=='

3.3. 請求資料(requests)

和搜索結果資料采集一樣，用requests請求資料，json決議json資料字串，

import requests
import json
import base64
import zlib

# 以北京為例，其基礎鏈接如下：
base_url = 'https://bj.meituan.com/meishi/api/poi/getPoiList?'

uuid = '598b5e75f86145f28de0.1608895581.1.0.0' # 你的userid，登錄后在開發者模式獲取

# 這里演示請求第一頁的資料
page = 1
# 構造sign
Url = 'https://bj.meituan.com/meishi/c17/'

s_sign = f'"areaId=0&cateId=17&cityName=北京&dinnerCountAttrId=&optimusCode=10&originUrl={Url}&page={page}&partner=126&platform=1&riskLevel=1&sort=&userId=&uuid=598b5e75f86145f28de0.1608895581.1.0.0"'

# 二進制編碼
encode = s_sign.encode()
# 二進制壓縮
compress = zlib.compress(encode)
# base64編碼
b_encode = base64.b64encode(compress)
# 轉為字串
sign = str(b_encode, encoding='utf-8')

# 接上面sign
from datetime import datetime

ts = int(datetime.now().timestamp() * 1000)
beforeUrl =  'https://bj.meituan.com/'
bI = [Url, beforeUrl]
dic_token = {
    'rId': 100900,
    'ver': '1.0.6',
    'ts': ts,
    'cts': ts+90,
    'brVD': [725, 959],
    'brR': [[1920, 1080], [1920, 1040], 24, 24],
    'bI': bI,
    'mT': [],
    'kT': [],
    'aT': [],
    'tT': [],
    'aM': '',
    'sign':sign
            } 

# 二進制編碼
encode = str(dic_token).encode()
# 二進制壓縮
compress = zlib.compress(encode)
# base64編碼
b_encode = base64.b64encode(compress)
# 轉為字串
token = str(b_encode, encoding='utf-8')

# 設定請求引數
parameters = {
    'cityName': '北京'  ,# 城市
    'cateId': 17 ,# 分類
    'areaId': 0 , # 區域
    'sort': '',# 排序型別
    'dinnerCountAttrId': '' ,# 就餐人數
    'page': page,
    'userId': '',
    'uuid': uuid,
    'platform': 1 ,# 平臺
    'partner': 126,
    'originUrl': Url,
    'riskLevel': 1,
    'optimusCode': 10,
    '_token': token,
    }
# 設定請求頭
header = {
    "Accept-Encoding": "Gzip",  # 使用gzip壓縮傳輸資料讓訪問更快
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:83.0) Gecko/20100101 Firefox/83.0",
    }
# get方法請求網頁資料
re = requests.get(base_url, headers = header, params=parameters)
# re.text是我們需要的資料
text = re.text
# 由于是json格式的字串，用json.load()方法格式化
js = json.loads(text)
# 需要用到的資料在 js['data']中
data = js['data']
poiInfos = data['poiInfos'] # 結果串列

 

結果串列

3.4. 決議獲取需要的結果

到這一步及之后的資料存盤程序和 2.搜索結果資料采集的步驟大同小異，大家可以自行處理了，不過我們發現通過這種方式獲取的店鋪資訊好像更少些，哈哈哈！

 

單店鋪資訊

3.5. 存盤結果到本地

同2.4.存盤結果到本地(csv檔案)

4.總結

對于美團的這兩種資料采集方式，我們在進行處理的時候難易度不一樣，其中搜索結果資料采集相對簡單，在獲取到真實資料請求地址后，撰寫回圈腳本就能完成批量爬取；但是對于第二種分類篩選結果資料采集來說，由于其token是時刻在變化的，我們需要進行一定的生成處理后才能爬取到資料，其程序稍微復雜了些，

    'cts': ts+90,     'brVD': [725, 959],     'brR': [[1920, 1080], [1920, 1040], 24, 24],     'bI': bI,     'mT': [],     'kT': [],     'aT': [],     'tT': [],     'aM': '',     'sign':sign             }  # 二進制編碼 encode = str(dic_token).encode() # 二進制壓縮 compress = zlib.compress(encode) # base64編碼 b_encode = base64.b64encode(compress) # 轉為字串 token = str(b_encode, encoding='utf-8')

得到token如下：

'eJx1j01zqjAARf+KOxZ0TMKHMd1hxTairRUVpdMFBASCKAKNaKf//ZEufDNv5i0yc+7JnTvJt1LRSHnsIQgJhA89RcRVFxXUh/2B0uWmlrcDOCRdAcOBiTrJ/rHYkDasNuNOf2DNfOgRk3z+uqVUH4ho3TqCQ9jZezJk0gx5fstUdpW0acr6EYCQ94s4a76CY5+dCtBxnWaAIQzkw/7TUuRQsZJDkvI7BXdq/rq5/Ktcq7PkKDmeXiLOUGNx+z3ditRwXsF61lZU5O9sd1qzdT3yOZzZJNQC3j67iWqWl/x8GuETRf4bJouVSnI7EVYslv5q95YmS26n+5Y8WQIM1a3Owus0u+VjDLkD5pv5IgvptTyE+nRHdS9dPdmqv/DE1Y8DTbipBnxrlk8qh7kHJxq0x41v7w7oOD6XLrb3URBid+xN9yPmvHhhPTFUwypnJjpT4SUbwEl4UXlzS2HDX3wt0Yt2SPwJfKVzrSqihpmU4u26uAGqw0xTfv4AOoWaFA=='

3.3. 請求資料(requests)

和搜索結果資料采集一樣，用requests請求資料，json決議json資料字串，

import requests
import json
import base64
import zlib

# 以北京為例，其基礎鏈接如下：
base_url = 'https://bj.meituan.com/meishi/api/poi/getPoiList?'

uuid = '598b5e75f86145f28de0.1608895581.1.0.0' # 你的userid，登錄后在開發者模式獲取

# 這里演示請求第一頁的資料
page = 1
# 構造sign
Url = 'https://bj.meituan.com/meishi/c17/'

s_sign = f'"areaId=0&cateId=17&cityName=北京&dinnerCountAttrId=&optimusCode=10&originUrl={Url}&page={page}&partner=126&platform=1&riskLevel=1&sort=&userId=&uuid=598b5e75f86145f28de0.1608895581.1.0.0"'

# 二進制編碼
encode = s_sign.encode()
# 二進制壓縮
compress = zlib.compress(encode)
# base64編碼
b_encode = base64.b64encode(compress)
# 轉為字串
sign = str(b_encode, encoding='utf-8')

# 接上面sign
from datetime import datetime

ts = int(datetime.now().timestamp() * 1000)
beforeUrl =  'https://bj.meituan.com/'
bI = [Url, beforeUrl]
dic_token = {
    'rId': 100900,
    'ver': '1.0.6',
    'ts': ts,
    'cts': ts+90,
    'brVD': [725, 959],
    'brR': [[1920, 1080], [1920, 1040], 24, 24],
    'bI': bI,
    'mT': [],
    'kT': [],
    'aT': [],
    'tT': [],
    'aM': '',
    'sign':sign
            } 

# 二進制編碼
encode = str(dic_token).encode()
# 二進制壓縮
compress = zlib.compress(encode)
# base64編碼
b_encode = base64.b64encode(compress)
# 轉為字串
token = str(b_encode, encoding='utf-8')

# 設定請求引數
parameters = {
    'cityName': '北京'  ,# 城市
    'cateId': 17 ,# 分類
    'areaId': 0 , # 區域
    'sort': '',# 排序型別
    'dinnerCountAttrId': '' ,# 就餐人數
    'page': page,
    'userId': '',
    'uuid': uuid,
    'platform': 1 ,# 平臺
    'partner': 126,
    'originUrl': Url,
    'riskLevel': 1,
    'optimusCode': 10,
    '_token': token,
    }
# 設定請求頭
header = {
    "Accept-Encoding": "Gzip",  # 使用gzip壓縮傳輸資料讓訪問更快
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:83.0) Gecko/20100101 Firefox/83.0",
    }
# get方法請求網頁資料
re = requests.get(base_url, headers = header, params=parameters)
# re.text是我們需要的資料
text = re.text
# 由于是json格式的字串，用json.load()方法格式化
js = json.loads(text)
# 需要用到的資料在 js['data']中
data = js['data']
poiInfos = data['poiInfos'] # 結果串列

 

結果串列

3.4. 決議獲取需要的結果

到這一步及之后的資料存盤程序和 2.搜索結果資料采集的步驟大同小異，大家可以自行處理了，不過我們發現通過這種方式獲取的店鋪資訊好像更少些，哈哈哈！

 

單店鋪資訊

3.5. 存盤結果到本地

同2.4.存盤結果到本地(csv檔案)

4.總結

對于美團的這兩種資料采集方式，我們在進行處理的時候難易度不一樣，其中搜索結果資料采集相對簡單，在獲取到真實資料請求地址后，撰寫回圈腳本就能完成批量爬取；但是對于第二種分類篩選結果資料采集來說，由于其token是時刻在變化的，我們需要進行一定的生成處理后才能爬取到資料，其程序稍微復雜了些，

轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/241215.html

標籤：Python

上一篇：你所在的城市空氣質量如何？用Python可視化分析空氣質量

下一篇：老男孩最新周末班Python開發與Python爬蟲實戰視頻教程

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C＃(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態，例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1：當函式不可能拋出例外或不能接受拋出例外時，使用noexcept 理由 如果不打算拋出例外的話，程式就會認為無法處理這種錯誤，并且應當盡早終止，如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接：https://codeforces.com/problemset/problem/1400/E 來源：Codeforces 思路：給你一個陣列，現在你可以進行兩種操作，操作1：將一段沒有 0 的區間進行減一的操作，操作2：將 i 位置上的元素歸零。最終問：將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯，就附帶了一個自己的翻譯版本 思考 這一題，它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數，這里就不慢慢介紹了。但是，重讀題，我們突然發現反向質數都是 $7$ 位，而將它反過來后的數字卻是 $6$ 位數，這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記：C++中的 const 變數詳解，教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中，會分配記憶體（也就是說可以通過地址間接修改變數的值）。測驗代碼如下： 運行結果： 2、全域const變數存放在只讀資料段（不能通過地址修改，會發生寫入錯誤）， 默認為外部聯編，可以給其他源檔案使用（需要用extern關鍵字修飾） 運行結果： ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中，添加資源 2. 點擊新添加的資源，復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案，編輯，使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索，點擊查找全部，然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h，在其中預先定義好宏 ID（不清楚其實ID值應該設定多少，可以先新建一個相同的資源項，再在這個資源的ID值的基礎上遞增即可） 2. 在資源視圖中選中專案資源，按F7編輯資源檔案，按 ID 型別 相對路徑的形式添加 資源。（別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記：關于C++的參考型別，專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考，也叫別名。 參考就是給一個變數名取一個變數名，方便我們間接地使用這個變數。我們可以給一個變數創建N個參考，這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間，占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名，但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++：初學者完整指南

    眾所周知，C ++的學習曲線陡峭，但是花時間學習這種語言將為您的職業帶來奇跡，并使您與其他開發人員區分開。您會更輕松地學習新語言，形成真正的解決問題的技能，并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣（即清晰一致的編碼風格，在撰寫代碼時注釋代碼，并限制類內部的可見性），并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標（smart pointers）是一類資料結構，是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標（pointer）是一個包含記憶體地址的變數的通用概念。這個地址參考，或 ” 指向”（points at）一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身，參考傳遞（如果傳遞的值需要實體化到堆里）如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如： 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號：Hunter后端 原文鏈接：Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類，Extract() 和 Trunc() Extract() 函式作用是提取日期，比如我們可以提取一個日期欄位的年份，月份，日等資料 Trunc() 的作用則是截取，比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM？ JVM，全稱Java Virtual Machine（Java虛擬機），是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊，使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息！

    更新完微信服務號的模板訊息之后，我又趕緊把微信小程式的訂閱訊息給實作了！之前我一直以為微信小程式也是要企業才能申請，沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類： 位元組緩沖流：BufferedInputStream，BufferedOutputStream 字符緩沖流：BufferedReader，BufferedWriter 緩沖流的基本原理，是在創建流物件時，會創建一個內置的默認大小的緩沖區陣列，通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說，人太懶了，現在基本都不喜歡寫筆記了，但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的，寫的注釋挺全的，應該直接看得懂，就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景：視頻分段傳輸、視頻多段傳輸（理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發，從基本到高級概念，包括簡介，UWP，第一個應用程式，商店，XAML控制元件，資料系結，XAML性能，自適應設計，自適應UI，自適應代碼，檔案管理，SQLite資料庫，應用程式到應用程式通信，應用程式本地化，應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more

Copyright © 2010-2020 有解無憂