主頁 > 作業系統 > 網頁抓取,將多個值附加到串列中的一行

網頁抓取,將多個值附加到串列中的一行

2021-11-25 13:33:11 作業系統

我想弄清楚如何正確地將幾個值附加到串列中。我正在抓取的網頁是一個美食博客。我想檢索食譜的標題以及與該特定食譜相關的所有食譜鍵(無麩質、純素食、無乳制品、素食等)。我可以從頁面中檢索資訊,但我遇到的問題是將幾個配方鍵附加到串列的一行中,所以如果頁面上的第一個配方不含乳制品和麩質,我不是能夠附加它們,使它們與相應配方的行相匹配。我正在分享我的一段代碼,以便您可以看到我正在使用的內容。提前感謝幫助。

recipe = []
key = []


for page in pages:
page = requests.get('https://www.skinnytaste.com/page/' str(page) '/') 
soup = BeautifulSoup(page.text, 'html.parser')
recipes = soup.find_all('article', class_='post teaser-post odd')
recipes.extend(soup.find_all('article', class_='post teaser-post even'))
sleep(randint(2, 8)) 

for r in recipes:
    
    titles = r.h2.text
    recipe.append(titles)
    print(titles)
    
    
    post_meta = r.find('div', class_='post-meta')                                             
    icons = post_meta.find('div', class_='icons')
    if not (post_meta.find('div', class_='icons') is None):
        keys = icons.find_all('span')
        for k in keys:
            recipe_key = k.find('a').find('img').get('alt')
            key.append(recipe_key) 
            print(recipe_key)

uj5u.com熱心網友回復:

初始化一個名為 的空串列rows然后為 each 創建一個字典,row動態更新字典,因為有些食譜比其他食譜有更多的“鍵”。然后將該字典附加row到您的rows. 然后熊貓可以使用它來構建表格。

import requests
import pandas as pd
from bs4 import BeautifulSoup
from time import sleep
from random import randint


headers = {'user-agent': 'Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Mobile Safari/537.36'}

rows = []
pages = range(1,5)
for page in pages:
    response = requests.get('https://www.skinnytaste.com/page/' str(page) '/', headers=headers) 
    soup = BeautifulSoup(response.text, 'html.parser')
    recipes = soup.find_all('article', class_='post teaser-post odd')
    recipes.extend(soup.find_all('article', class_='post teaser-post even'))
    sleep(randint(2, 8)) 
    
    for r in recipes:
        
        titles = r.h2.text

        print(titles)
        row = {'Title':titles}
        
        
        post_meta = r.find('div', class_='post-meta')                                             
        icons = post_meta.find('div', class_='icons')
        if not (post_meta.find('div', class_='icons') is None):
            keys = icons.find_all('span')
            for count, k in enumerate(keys, start=1):
                recipe_key = k.find('a').find('img').get('alt')
                row.update({'key_%.2d' %count: recipe_key})
                print(recipe_key)
                
        rows.append(row)
        
results = pd.DataFrame(rows)

輸出:

print(results.to_string())
                                                                Title            key_01             key_02            key_03                   key_04               key_05 key_06            key_07
0   Baked Pumpkin Pasta with Pancetta, Gruyere, Kale, and White Beans       Gluten Free                NaN               NaN                      NaN                  NaN    NaN               NaN
1                                        Mom’s Stuffing, Lightened Up               NaN                NaN               NaN                      NaN                  NaN    NaN               NaN
2                         Roasted Green Beans with Caramelized Onions        Dairy Free        Gluten Free  Vegetarian Meals         Whole 30 Recipes                  NaN    NaN               NaN
3                            7 Day Healthy Meal Plan (November 22-28)               NaN                NaN               NaN                      NaN                  NaN    NaN               NaN
4                                             Makeover Spinach Gratin       Gluten Free       Kid Friendly          Low Carb         Vegetarian Meals                  NaN    NaN               NaN
5                            Turkey Pot Pie with Sweet Potato Topping       Gluten Free       Kid Friendly               NaN                      NaN                  NaN    NaN               NaN
6                     Sautéed Shredded Brussels Sprouts with Pancetta        Dairy Free        Gluten Free      Keto Recipes             Kid Friendly             Low Carb  Paleo  Under 30 Minutes
7                    Baked Brie Phyllo Cups with Craisins and Walnuts  Under 30 Minutes   Vegetarian Meals               NaN                      NaN                  NaN    NaN               NaN
8                      Chicken Cassoulet with Sausage and Swiss Chard        Dairy Free      Freezer Meals       Gluten Free                      NaN                  NaN    NaN               NaN
9                                   Drunken Style Noodles with Shrimp        Dairy Free        Gluten Free               NaN                      NaN                  NaN    NaN               NaN
10                              Chicken and Broccoli Noodle Casserole      Kid Friendly                NaN               NaN                      NaN                  NaN    NaN               NaN
11               Arugula Salmon Salad with Capers and Shaved Parmesan       Gluten Free       Keto Recipes          Low Carb         Under 30 Minutes                  NaN    NaN               NaN
12                              Roasted Acorn Squash with Brown Sugar        Dairy Free        Gluten Free  Vegetarian Meals                      NaN                  NaN    NaN               NaN
13                                 Turkey Cutlets with Parmesan Crust      Kid Friendly   Under 30 Minutes               NaN                      NaN                  NaN    NaN               NaN
14                          Butternut Squash Ravioli with Sage Butter  Vegetarian Meals                NaN               NaN                      NaN                  NaN    NaN               NaN
15                Air Fryer Chicken Milanese with Mediterranean Salad         Air Fryer        Gluten Free  Under 30 Minutes                      NaN                  NaN    NaN               NaN
16                                Salisbury Steak with Mushroom Gravy        Dairy Free      Freezer Meals      Kid Friendly                 Low Carb     Under 30 Minutes    NaN               NaN
17                                                   Huevos Rancheros       Gluten Free   Under 30 Minutes  Vegetarian Meals                      NaN                  NaN    NaN               NaN
18                Easy Black Bean Vegetarian Chili with Spiced Yogurt       Gluten Free       Kid Friendly  Under 30 Minutes         Vegetarian Meals                  NaN    NaN               NaN
19                                                      Apple Cobbler  Vegetarian Meals                NaN               NaN                      NaN                  NaN    NaN               NaN
20                Tofu Stir Fry with Vegetables in a Soy Sesame Sauce        Dairy Free        Gluten Free  Under 30 Minutes         Vegetarian Meals                  NaN    NaN               NaN
21                        Autumn Apple and Grape Medley (Fruit Salad)       Gluten Free       Kid Friendly  Under 30 Minutes         Vegetarian Meals                  NaN    NaN               NaN
22                                       Chicken Cutlet Caprese Salad       Gluten Free  Meal Prep Recipes               NaN                      NaN                  NaN    NaN               NaN
23                                             Beef Stew with Pumpkin        Dairy Free      Freezer Meals      Kid Friendly  Pressure Cooker Recipes  Slow Cooker Recipes    NaN               NaN
24                                       Pumpkin Cream Cheese Muffins     Freezer Meals       Kid Friendly  Vegetarian Meals                      NaN                  NaN    NaN               NaN
25                                         Pumpkin Pie Overnight Oats        Dairy Free        Gluten Free      Kid Friendly         Vegetarian Meals                  NaN    NaN               NaN
26                                          Strawberry Cheesecake Dip       Gluten Free       Kid Friendly  Under 30 Minutes                      NaN                  NaN    NaN               NaN

轉載請註明出處,本文鏈接:https://www.uj5u.com/caozuo/365332.html

標籤:网页抓取 美汤

上一篇:如何提取兩個元素之間的html內容(Python、BeautifulSoup)

下一篇:如何使用漂亮的湯找到具有不同選項卡的HTML表格

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • CA和證書

    1、在 CentOS7 中使用 gpg 創建 RSA 非對稱密鑰對 gpg --gen-key #Centos上生成公鑰/密鑰對(存放在家目錄.gnupg/) 2、將 CentOS7 匯出的公鑰,拷貝到 CentOS8 中,在 CentOS8 中使用 CentOS7 的公鑰加密一個檔案 gpg -a ......

    uj5u.com 2020-09-10 00:09:53 more
  • Kubernetes K8S之資源控制器Job和CronJob詳解

    Kubernetes的資源控制器Job和CronJob詳解與示例 ......

    uj5u.com 2020-09-10 00:10:45 more
  • VMware下安裝CentOS

    VMware下安裝CentOS 一、軟硬體準備 1 Centos鏡像準備 1.1 CentOS鏡像下載地址 下載地址 1.2 CentOS鏡像下載程序 點擊下載地址進入如下圖的網站,選擇需要下載的版本,這里選擇的是Centos8,點擊如圖所示。 決定選擇Centos8后,選擇想要的鏡像源進行下載,此 ......

    uj5u.com 2020-09-10 00:12:10 more
  • 如何使用Grep命令查找多個字串

    如何使用Grep 命令查找多個字串 大家好,我是良許! 今天向大家介紹一個非常有用的技巧,那就是使用 grep 命令查找多個字串。 簡單介紹一下,grep 命令可以理解為是一個功能強大的命令列工具,可以用它在一個或多個輸入檔案中搜索與正則運算式相匹配的文本,然后再將每個匹配的文本用標準輸出的格式 ......

    uj5u.com 2020-09-10 00:12:28 more
  • git配置http代理

    git配置http代理 經常遇到克隆 github 慢的問題,這里記錄一下幾種配置 git 代理的方法,解決 clone github 過慢。 目錄 git配置代理 git單獨配置github代理 git配置全域代理 配置終端環境變數 git配置代理 主要使用 git config 命令 git單獨 ......

    uj5u.com 2020-09-10 00:12:33 more
  • Linux npm install 裝包時提示Error EACCES permission denied解

    npm install 裝包時提示Error EACCES permission denied解決辦法 ......

    uj5u.com 2020-09-10 00:12:53 more
  • Centos 7下安裝nginx,使用yum install nginx,提示沒有可用的軟體包

    Centos 7下安裝nginx,使用yum install nginx,提示沒有可用的軟體包。 18 (flaskApi) [root@67 flaskDemo]# yum -y install nginx 19 已加載插件:fastestmirror, langpacks 20 Loading ......

    uj5u.com 2020-09-10 00:13:13 more
  • Linux查看服務器暴力破解ssh IP

    在公網的服務器上經常遇到別人爆破你服務器的22埠,用來挖礦或者干其他嘿嘿嘿的事情~ 這種情況下正確的做法是: 修改默認ssh的22埠 使用設定密鑰登錄或者白名單ip登錄 建議服務器密碼為復雜密碼 創建普通用戶登錄服務器(root權限過大) 建立堡壘機,實作統一管理服務器 統計爆破IP [root ......

    uj5u.com 2020-09-10 00:13:17 more
  • CentOS 7系統常見快捷鍵操作方式

    Linux系統中一些常見的快捷方式,可有效提高操作效率,在某些時刻也能避免操作失誤帶來的問題。 ......

    uj5u.com 2020-09-10 00:13:31 more
  • CentOS 7作業系統目錄結構介紹

    作業系統存在著大量的資料檔案資訊,相應檔案資訊會存在于系統相應目錄中,為了更好的管理資料資訊,會將系統進行一些目錄規劃,不同目錄存放不同的資源。 ......

    uj5u.com 2020-09-10 00:13:35 more
最新发布
  • vim的常用命令

    Vim的6種基本模式 1. 普通模式在普通模式中,用的編輯器命令,比如移動游標,洗掉文本等等。這也是Vim啟動后的默認模式。這正好和許多新用戶期待的操作方式相反(大多數編輯器默認模式為插入模式)。 2. 插入模式在這個模式中,大多數按鍵都會向文本緩沖中插入文本。大多數新用戶希望文本編輯器編輯程序中一 ......

    uj5u.com 2023-04-20 08:43:21 more
  • vim的常用命令

    Vim的6種基本模式 1. 普通模式在普通模式中,用的編輯器命令,比如移動游標,洗掉文本等等。這也是Vim啟動后的默認模式。這正好和許多新用戶期待的操作方式相反(大多數編輯器默認模式為插入模式)。 2. 插入模式在這個模式中,大多數按鍵都會向文本緩沖中插入文本。大多數新用戶希望文本編輯器編輯程序中一 ......

    uj5u.com 2023-04-20 08:42:36 more
  • docker學習

    ###Docker概述 真實專案部署環境可能非常復雜,傳統發布專案一個只需要一個jar包,運行環境需要單獨部署。而通過Docker可將jar包和相關環境(如jdk,redis,Hadoop...)等打包到docker鏡像里,將鏡像發布到Docker倉庫,部署時下載發布的鏡像,直接運行發布的鏡像即可。 ......

    uj5u.com 2023-04-19 09:26:53 more
  • 設定Windows主機的瀏覽器為wls2的默認瀏覽器

    這里以Chrome為例。 1. 準備作業 wsl是可以使用Windows主機上安裝的exe程式,出于安全考慮,默認情況下改功能是無法使用。要使用的話,終端需要以管理員權限啟動。 我這里以Windows Terminal為例,介紹如何默認使用管理員權限打開終端,具體操作如下圖所示: 2. 操作 wsl ......

    uj5u.com 2023-04-19 09:25:49 more
  • docker學習

    ###Docker概述 真實專案部署環境可能非常復雜,傳統發布專案一個只需要一個jar包,運行環境需要單獨部署。而通過Docker可將jar包和相關環境(如jdk,redis,Hadoop...)等打包到docker鏡像里,將鏡像發布到Docker倉庫,部署時下載發布的鏡像,直接運行發布的鏡像即可。 ......

    uj5u.com 2023-04-19 09:19:04 more
  • Linux學習筆記

    IP地址和主機名 IP地址 ifconfig可以用來查詢本機的IP地址,如果不能使用,可以通過install net-tools安裝。 Centos系統下ens33表示主網卡;inet后表示IP地址;lo表示本地回環網卡; 127.0.0.1表示代指本機;0.0.0.0可以用于代指本機,同時在放行設 ......

    uj5u.com 2023-04-18 06:52:01 more
  • 解決linux系統的kdump服務無法啟動的問題

    問題:專案麒麟系統服務器的kdump服務無法啟動,沒有相關日志無法定位問題。 1、查看服務狀態是關閉的,重啟系統也無法啟動 systemctl status kdump 2、修改grub引數,修改“crashkernel”為“512M(有的機器數值太大太小都會導致報錯,建議從128M開始試,或者加個 ......

    uj5u.com 2023-04-12 09:59:50 more
  • 解決linux系統的kdump服務無法啟動的問題

    問題:專案麒麟系統服務器的kdump服務無法啟動,沒有相關日志無法定位問題。 1、查看服務狀態是關閉的,重啟系統也無法啟動 systemctl status kdump 2、修改grub引數,修改“crashkernel”為“512M(有的機器數值太大太小都會導致報錯,建議從128M開始試,或者加個 ......

    uj5u.com 2023-04-12 09:59:01 more
  • 你是不是暴露了?

    作者:袁首京 原創文章,轉載時請保留此宣告,并給出原文連接。 如果您是計算機相關從業人員,那么應該經歷不止一次網路安全專項檢查了,你肯定是收到過資訊系統技術檢測報告,要求你加強風險監測,確保你提供的系統服務堅實可靠了。 沒檢測到問題還好,檢測到問題的話,有些處理起來還是挺麻煩的,尤其是線上正在運行的 ......

    uj5u.com 2023-04-05 16:52:56 more
  • 細節拉滿,80 張圖帶你一步一步推演 slab 記憶體池的設計與實作

    1. 前文回顧 在之前的幾篇記憶體管理系列文章中,筆者帶大家從宏觀角度完整地梳理了一遍 Linux 記憶體分配的整個鏈路,本文的主題依然是記憶體分配,這一次我們會從微觀的角度來探秘一下 Linux 內核中用于零散小記憶體塊分配的記憶體池 —— slab 分配器。 在本小節中,筆者還是按照以往的風格先帶大家簡單 ......

    uj5u.com 2023-04-05 16:44:11 more