不灭的焱

革命尚未成功,同志仍须努力下载JDK17

作者:php-note.com  发布于:2021-06-04 17:05  分类:Python基础  编辑

WebDriverWait

wait模块的WebDriverWait类是显性等待类,先看下它有哪些参数与方法:

selenium.webdriver.support.wait.WebDriverWait(类)

init

  • driver: 传入WebDriver实例,即我们上例中的driver
  • timeout: 超时时间,等待的最长时间(同时要考虑隐性等待时间)
  • poll_frequency: 调用until或until_not中的方法的间隔时间,默认是0.5秒
  • ignored_exceptions: 忽略的异常,如果在调用until或until_not的过程中抛出这个元组中的异常,
                                    则不中断代码,继续等待,如果抛出的是这个元组外的异常,则中断代码,抛出异常。默认只有NoSuchElementException。

until

  • method: 在等待期间,每隔一段时间(__init__中的poll_frequency)调用这个传入的方法,直到返回值不是False
  • message: 如果超时,抛出TimeoutException,将message传入异常

until_not

与until相反,until是当某元素出现或什么条件成立则继续执行,until_not是当某元素消失或什么条件不成立则继续执行,参数也相同,不再赘述。

 

看了以上内容基本上很清楚了,调用方法如下:

WebDriverWait(driver, 超时时长, 调用频率, 忽略异常).until(可执行方法, 超时时返回的信息)

这里需要特别注意的是until或until_not中的可执行方法method参数,很多人传入了WebElement对象,如下:

WebDriverWait(driver, 10).until(driver.find_element_by_id('kw'))  # 错误

这是错误的用法,这里的参数一定要是可以调用的,即这个对象一定有 __call__() 方法,否则会抛出异常:

TypeError: 'xxx' object is not callable

在这里,你可以用selenium提供的 expected_conditions 模块中的各种条件,也可以用WebElement的 **is_displayed()is_enabled()is_selected() **方法,或者用自己封装的方法都可以,那么接下来我们看一下selenium提供的条件有哪些:

expected_conditions

expected_conditions是selenium的一个模块,其中包含一系列可用于判断的条件:

selenium.webdriver.support.expected_conditions(模块)

以下两个条件类验证title,验证传入的参数title是否等于或包含于driver.title

  • title_is
  • title_contains

以下两个条件验证元素是否出现,传入的参数都是元组类型的locator,如(By.ID, ‘kw’),顾名思义,一个只要一个符合条件的元素加载出来就通过;另一个必须所有符合条件的元素都加载出来才行

  • presence_of_element_located
  • presence_of_all_elements_located

以下三个条件验证元素是否可见,前两个传入参数是元组类型的locator,第三个传入WebElement,第一个和第三个其实质是一样的

  • visibility_of_element_located
  • invisibility_of_element_located
  • visibility_of

以下两个条件判断某段文本是否出现在某元素中,一个判断元素的text,一个判断元素的value

  • text_to_be_present_in_element
  • text_to_be_present_in_element_value

以下条件判断frame是否可切入,可传入locator元组或者直接传入定位方式:id、name、index或WebElement

  • frame_to_be_available_and_switch_to_it

以下条件判断是否有alert出现

  • alert_is_present

以下条件判断元素是否可点击,传入locator

  • element_to_be_clickable

以下四个条件判断元素是否被选中,第一个条件传入WebElement对象,第二个传入locator元组,第三个传入WebElement对象以及状态,相等返回True,否则返回False,第四个传入locator以及状态,相等返回True,否则返回False

  • element_to_be_selected
  • element_located_to_be_selected
  • element_selection_state_to_be
  • element_located_selection_state_to_be

最后一个条件判断一个元素是否仍在DOM中,传入WebElement对象,可以判断页面是否刷新了

  • staleness_of

上面是所有17个condition,与until、until_not组合能够实现很多判断,如果能自己灵活封装,将会大大提高脚本的稳定性。

爬取页面,列表的渲染使用ajax

直接加载会报错,找不到元素

需要等待元素渲染完毕之后才可以找到,分别使用三种等待方式加载渲染后的信息

from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium import webdriver
import time

options = webdriver.ChromeOptions()
options.add_argument('test-type')
options.add_experimental_option("excludeSwitches", ["ignore-certificate-errors"])
# options.add_argument('--headless')
driver = webdriver.Chrome(chrome_options=options)

driver.get('http://www.ahaoboy.cn:2222')
# 强制等待
# time.sleep(1)

# 隐性等待
# driver.implicitly_wait(1)

# 显性等待
locator = (By.CSS_SELECTOR, '.ivu-alert.ivu-alert-info')
WebDriverWait(driver, 20, 0.5).until(EC.presence_of_element_located(locator))

items = driver.find_elements_by_css_selector('.ivu-alert.ivu-alert-info')
for i in items:
    print(i.text)

输出:

1, 迷宫寻路
2, 三子棋
3, N皇后
4, 约瑟夫环
5, 哈夫曼编码
6, 拼数字小游戏
7, 简单扫雷
8, one-line-game
9, AVL树

 

 

参考:

2019-06-13 selenium 之 <显性等待> ajax加载完成后

Python selenium —— 一定要会用selenium的等待,三种等待方式解读

[Python爬虫]利用Selenium等待Ajax加载及模拟自动翻页,爬取东方财富网公司公告