WebDriverWait
wait模块的WebDriverWait类是显性等待类,先看下它有哪些参数与方法:
selenium.webdriver.support.wait.WebDriverWait(类)
init
- driver: 传入WebDriver实例,即我们上例中的driver
- timeout: 超时时间,等待的最长时间(同时要考虑隐性等待时间)
- poll_frequency: 调用until或until_not中的方法的间隔时间,默认是0.5秒
- ignored_exceptions: 忽略的异常,如果在调用until或until_not的过程中抛出这个元组中的异常,
则不中断代码,继续等待,如果抛出的是这个元组外的异常,则中断代码,抛出异常。默认只有NoSuchElementException。
until
- method: 在等待期间,每隔一段时间(__init__中的poll_frequency)调用这个传入的方法,直到返回值不是False
- message: 如果超时,抛出TimeoutException,将message传入异常
until_not
与until相反,until是当某元素出现或什么条件成立则继续执行,until_not是当某元素消失或什么条件不成立则继续执行,参数也相同,不再赘述。
看了以上内容基本上很清楚了,调用方法如下:
WebDriverWait(driver, 超时时长, 调用频率, 忽略异常).until(可执行方法, 超时时返回的信息)
这里需要特别注意的是until或until_not中的可执行方法method参数,很多人传入了WebElement对象,如下:
WebDriverWait(driver, 10).until(driver.find_element_by_id('kw')) # 错误
这是错误的用法,这里的参数一定要是可以调用的,即这个对象一定有 __call__()
方法,否则会抛出异常:
TypeError: 'xxx' object is not callable
在这里,你可以用selenium提供的 expected_conditions
模块中的各种条件,也可以用WebElement的 **is_displayed()
、is_enabled()
、is_selected()
**方法,或者用自己封装的方法都可以,那么接下来我们看一下selenium提供的条件有哪些:
expected_conditions
expected_conditions是selenium的一个模块,其中包含一系列可用于判断的条件:
selenium.webdriver.support.expected_conditions(模块)
以下两个条件类验证title,验证传入的参数title是否等于或包含于driver.title
- title_is
- title_contains
以下两个条件验证元素是否出现,传入的参数都是元组类型的locator,如(By.ID, ‘kw’),顾名思义,一个只要一个符合条件的元素加载出来就通过;另一个必须所有符合条件的元素都加载出来才行
- presence_of_element_located
- presence_of_all_elements_located
以下三个条件验证元素是否可见,前两个传入参数是元组类型的locator,第三个传入WebElement,第一个和第三个其实质是一样的
- visibility_of_element_located
- invisibility_of_element_located
- visibility_of
以下两个条件判断某段文本是否出现在某元素中,一个判断元素的text,一个判断元素的value
- text_to_be_present_in_element
- text_to_be_present_in_element_value
以下条件判断frame是否可切入,可传入locator元组或者直接传入定位方式:id、name、index或WebElement
- frame_to_be_available_and_switch_to_it
以下条件判断是否有alert出现
- alert_is_present
以下条件判断元素是否可点击,传入locator
- element_to_be_clickable
以下四个条件判断元素是否被选中,第一个条件传入WebElement对象,第二个传入locator元组,第三个传入WebElement对象以及状态,相等返回True,否则返回False,第四个传入locator以及状态,相等返回True,否则返回False
- element_to_be_selected
- element_located_to_be_selected
- element_selection_state_to_be
- element_located_selection_state_to_be
最后一个条件判断一个元素是否仍在DOM中,传入WebElement对象,可以判断页面是否刷新了
- staleness_of
上面是所有17个condition,与until、until_not组合能够实现很多判断,如果能自己灵活封装,将会大大提高脚本的稳定性。
爬取页面,列表的渲染使用ajax
直接加载会报错,找不到元素
需要等待元素渲染完毕之后才可以找到,分别使用三种等待方式加载渲染后的信息
from selenium.webdriver.support.wait import WebDriverWait from selenium.webdriver.support import expected_conditions as EC from selenium.webdriver.common.by import By from selenium import webdriver import time options = webdriver.ChromeOptions() options.add_argument('test-type') options.add_experimental_option("excludeSwitches", ["ignore-certificate-errors"]) # options.add_argument('--headless') driver = webdriver.Chrome(chrome_options=options) driver.get('http://www.ahaoboy.cn:2222') # 强制等待 # time.sleep(1) # 隐性等待 # driver.implicitly_wait(1) # 显性等待 locator = (By.CSS_SELECTOR, '.ivu-alert.ivu-alert-info') WebDriverWait(driver, 20, 0.5).until(EC.presence_of_element_located(locator)) items = driver.find_elements_by_css_selector('.ivu-alert.ivu-alert-info') for i in items: print(i.text)
输出:
1, 迷宫寻路 2, 三子棋 3, N皇后 4, 约瑟夫环 5, 哈夫曼编码 6, 拼数字小游戏 7, 简单扫雷 8, one-line-game 9, AVL树
参考:
2019-06-13 selenium 之 <显性等待> ajax加载完成后