我需要從以下鏈接中提取產品名稱、價格和默認顏色。 鏈接
然而,每次我加載下面的腳本時,檢索到的資訊都不一樣(有時所有三個值都被列印出來,有時是其中的1-2個或沒有)。這種情況的發生與WebDriverWait無關。
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.action_chains import ActionChains as AC
#import json[/span]。
from bs4 import BeautifulSoup as soup
browser = webdriver.Firefox()
browser.get('https://shop.mango.com/gb/women/skirts-midi/midi-satin-skirt_17042020.html?c=99')
wait = WebDriverWait(browser, 100).until(EC.existence_of_all_elements_located)
s = soup(browser.page_source, 'html.parser')
name = s.select('.product-name') [0].getText()
價格 = s.select('.product-sale') [0].getText()
color = s.select('.color-info') [0].getText()
print(name, price, color)
請告知如何提取所有三個元素?如果我試圖用request或scrapy下載該頁面,上述元素就會丟失。
uj5u.com熱心網友回復:
幾個要點:
<醇>有一個接受cookies的按鈕,你必須點擊它才能繼續前進。
在cookie按鈕之后,有一個模式關閉按鈕,我們必須點擊它才能繼續前進。
在這種情況下,使用明確的等待,元素的可見性。
首選CSS而不是xpath.
最大化瀏覽器。
代碼 :
driver = webdriver.Chrome(driver_path)
driver.maximum_window()
#driver.implicitly_wait(50)/span>
wait = WebDriverWait(driver, 20)
driver.get('https://shop.mango.com/gb/women/skirts-midi/midi-satin-skirt_17042020.html?c=99')
try:
print("to accept cookies")
wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR, "button[id='onetrust-accept-btn-handler']") ).click()
except:
pass。
try:
print("to close modal pop up windows")
wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR, "div[class*='closeModal'][class$='confirmacionPais']")) .click()
except:
通過。
name = wait.until(EC.visibility_of_element_located((By.CLASS_NAME, 'product-name')).text
價格 = wait.until(EC.visibility_of_element_located((By.CLASS_NAME, 'product-sale')).text
color = wait.until(EC.visibility_of_element_located((By.CLASS_NAME, 'color-info')).text
print(name, price, color)
匯入 :
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.common.by import By
from selenium.webdriver.support import expected_conditions as EC
輸出 :
接受cookies
關閉彈出式視窗
中型緞面裙子 £39.99 黑色
轉載請註明出處,本文鏈接:https://www.uj5u.com/gongcheng/309728.html
標籤:
