随笔记录方便自己和同路人查阅。
#------------------------------------------------我是可耻的分割线-------------------------------------------
自动化测试用例设计
对于测试人员来说,不管是进行功能测试、自动化测试还是性能测试都需要编写测试用例,测试用例的好坏往往能准确地体现测试人员的经验、能力以及对项目需求的理解深度。所以,在正式开展自动化测试工作之前,我们有必要聊聊自动化测试用例的一些特点,以及如何编写自动化测试用例。
手动测试用例与自动化测试用例
手工测试用例针对功能测试人员的,而自动化测试用例则是针对自动化测试框架或工具的;前者是功能测试用例人员通过手工方式进行用例解析,后者是应用脚本技术进行用例解析。两者各自最大的特点在于,前者具有较好的异常处理能力,能够基于测试用例,制造各种不同的逻辑判断,而且人工测试步步跟踪,能够细致地定位问题;而后者是完全按照测试用例的步骤进行测试,只能在已知的步骤与场景中发现问题,而且往往因为网络问题或功能的微小变化导致用例执行异常,自动化的执行也很难发现新的bug。
手工测试用例与自动化测试用例对比如下。
- 手工测试用例特点:
* 较好的异常处理能力,能通过人为的逻辑判断校验当前步骤的功能是否正确实现。
* 人工执行用例具有一定的步骤跳跃性。
* 人工测试步步跟踪,能够细致地定位问题。
* 主要用来发现功能缺陷。
- 自动糊测试用例特点
* 执行对象是脚本,任何一个判断都需要编码定义。
* 用例步骤之间关联性强。
* 主要用来保证产品主体功能正确和完整,让测试人员从繁琐重复的工作中解脱出来。
* 目前自动化测试阶段定位在冒烟测试和回归测试。
通过对比我们可以看到,手工测试用例与自动化测试用例之间存在较大的差异,所以,不能直接把手工测试用例“翻译”成自动化测试脚本。
通过它们之间的特点对比也可清晰地认识到,自动化测试不能完全地代替手工测试,自动化测试的目的仅仅在于让测试人员从繁琐重复的测试过程中解脱出来,把更多的时间和精力放到更有价值的测试中,例如探索性测试。而自动化测试更多的是用来进行冒烟测试和回归测试。
- 自动化测试用例选型注意事项:
1)不是所有的手工用例都要转为自动化测试用例。
2)考虑到脚本开发的成本,不要选择流程太复杂的用例。如果有必要,可以考虑把流程拆分成多个用例来实现脚本。
3)选择的用例最好可以构建成场景。例如,一个功能模块,分多个用例,多个用例使用同一个场景。这样的好处在于方便构建关键字测试模型。
4)选择的用例可以带有目的性。例如,这部分用例作为冒烟测试,那部分用例作为回归测试等,当然,会存在重叠的关系。如果当前用例不能满足需求,那么唯有修改用例来适应脚本和需求。
5)选取的用例可以是你认为是重复执行,很繁琐的部分。例如,字段验证、提示信息验证这类,这部分适用于回归测试。
6)选取的用例可以是主体流程,这部分适用于冒烟测试。
7)自动化测试也可以用来做配置检查、数据库检查。这些可能超越了手工用例,但也算用例扩展的一部分,项目负责人也可以有选择地增加。
8)平时在手工测试时,如果需要构建一些复杂的数据或重复一些简单的机械式动作,则告诉自动化脚本,让它来帮你,或许你的效率会因此而得到提高。
测试类型
- 测试静态内容
静态内容测试是最简单的测试,用于验证静态的、不变化的UI元素的存在性。例如:
* 每个页面都有其预期的页面标题吗?这可以用来验证链接指向一个预期的页面。
* 应用程序的主页包含一个应该在页面顶部的图面吗?
* 网站的每一个页面是否都包含一个页脚区域来显示公司的联系方式、隐私政策以及商标信息?
* 每一页的标题文本都使用的<h1>标签吗?每个页面都有正确的头部文本吗?
你可能需要(也可能不需要)对页面内容进行自动化测试。如果你的页面内容是不易受到影响,则手工对内容进行测试就足够了。假设你的应用文件的位置被移动了,则内容测试就非常有价值。
- 测试连接
Web站点的一个常见错误为失效的链接或链接指向无效页。链接测试涉及各个链接和验证预期的页面是否存在。如果静态链接不经常更改,则手动测试就足够了。但是,如果你的网页设计师经常改链接,或者文件不时被重定向,则链接测试应该事先自动化。
- 功能测试
在你的应用程序中,需要测试应用的特点功能,需要一些类型的用户输入,并返回某种种类型的结果。通常一个功能测试将涉及多个页面,一个基于表单的输入页面,其中包含若干输入字段提交和取消操作,以及一个或多个响应页面。用户输入可以通过文本输入域、复选框、下拉列表,或任何其他浏览器所支持的输入。
功能测试通常是需要自动化测试的最复杂的测试类型,但通常也是最最重要的。典型的测试是登录、注册网站账户、用户账户操作、账户设置变化、复杂的数据检索操作,等等。功能测试通常对应着你的应用程序的描述应用特性或设计的使用场景。
- 测试动态元素
通常一个网页元素都有一个唯一的标识符,用于唯一地定位该网页中的元素。通常情况下,唯一标识符用HTML标记的“id”属性或“name”属性来实现。
这些标识符可以是一个静态的(既不变得)字符串常量,也可以是动态生成值,在每个页面实例上都是变化的。例如,有些Web服务器可能在一个页面实例上命名所显示的文件为doc3861,而在其他页面实例上显示为doc6148,这个取决于用户在检索的“文档”。验证文件是否存在的测试脚本可能无法找到不变的识别码来定位该文件。通常情况下,具有变化的标识符的动态元素存在于基于用户操作的结果页面上,然而,显然这取决于Web应用程序。
- Ajax的测试
Ajax是一种支持以动态改变用户界面元素的技术。页面元素可以动态更改,单不需要浏览器重新载入页面,如动画、RSS源、其他实时数据更新等。Ajax有无数更新网页上元素的方法。最简单的方法是在Ajax驱动的应用程序中,数据可以从应用服务器检索,然后显示在页面上,而不需要重新加载整个页面,只有一下部分的页面,或者只有元素本身被重新加载。
自动化测试用例编写原则
在编写自动化测试用例过程中应该遵循以下原则:
1)一个用例为一个完整的场景,从用户登录系统到最终退出并关闭浏览器。
2)一个用例只验证一个功能点,不要试图在用户登录系统后把所有的功能都验证一遍。
3)尽可能少的编写逆向逻辑用例。一方面因为逆向逻辑的用例很多(例如,手机号输错有几十种情况);另一方面自动化脚本本身比较脆弱,复杂的逆向逻辑用例实现起来较为麻烦且容易出错。
4)用例与用例之间尽量避免产生依赖。
5)一条用例完成测试之后需要对测试场景进行还远,以免影响其他用例的执行。
BBS社区项目实战
本篇以一个BBS社区项目为例,BBS社区属于互联网比较典型的应用,主要有登录、个人中心、发帖、查看帖子、搜索、签到等功能。
准备工作
- 项目开发是个循序渐进的过程
需要向读者说明的是,我接下来要介绍的这个自动化测试项目,并非项目的最初的形态,其间经历了多次代码迭代与结构的重构,并且仅仅只符合当前的项目需求。为什么要强调这些呢?
相信我们都知道一个只有几条测试用例的项目和有一个几百条测试用例的项目结构肯定不一样的。对于只有几条测试用例的项目,我不需要考虑太多结构方面的问题,甚至只用线性模型来编写用例,其维护成本也不会太高;但是,当用例达到几百条时就不得不考虑各种问题,例如,如何降低测试代码的冗余、对代码进行抽象与分层、采用哪种设计模式,等等。
自动化测试的开发,是个不断调整代码与结构的过程,也许第一天你编写了二十条用例,到第二天的时候,你需要花三分之一的时间对昨天的部分代码进行调整或忠狗。只有三分之二的时间用于编写新的用例。类、方法和函数的命名也是需要考究的方面,既要尽量保持简洁,又要见名知意,代码的编写更是如此,如何写出简洁优雅的代码是对我们变成功底的考验。遗憾的是无法带着读者去复盘这样一个过程。其实,这个过程也必须由读者自己在不断实践中积累和总结。
- 选择合适的IDE
工欲善其事,必先利其器,再开始开发自动化项目之前,我们有必要先来聊一聊Python有哪些IDE。当然关于IDE的讨论一直属于热门话题,这个不是要分辨个孰优孰劣,这里只是想告诉读者不同的编程阶段应选择适合自己的IDE。
Python IDLE:如果读者初学Python,并且不精通其他变成语言及IDE,则建议从这个IED入手,它自带的Shell模式可以帮助我们快速连写Python语法,笔者初学Python时用了半年。
UliPad:轻量级的Python IDE,有国内用户基于wsPython开发,代码着色及自动补全功能很不错,配置也相对比较简单。
Sublime:通用型轻量级IED,支持多种变成语言。有许多功能强大的快捷键(Ctrl+d),如果平时需要在多种编程语言间切换,name这将是不错的选择。这也是笔者最常用的IDE之一。
PyCharm:Python 重量级IDE,功能强大,自动检测语法,可以帮助我们写出更规范的Python代码。对于处女座的开发者来说是个不错的选择。
Eclipse + pydev:Eclipse也属于重量级IDE。相信学习Java语言的同学一般都会选择此IDE,配置pydev插件后同样可以用来编写Python程序,对于熟悉Eclipse的同学是个不错的选择。
Vim与Emacs:一直是程序员大神口中的神器,学习成本很高。
通过简单介绍,相信读者已经找到了适合自己的IED,下面就跟着笔者一起动手开发自动化项目吧。
项目结构介绍
自动化测试项目结构如下图:
下面逐级介绍此目录与文件的作用:
1.mztestpro测试项目
BBS:用于存放BBS项目的测试用例、测试报告和测试数据等。
driver:用于存放浏览器驱动。如selenium-server-standalone-2.47.0.jar、chromedriver.exe、IEDriverServer.exe等。在执行测试前根据执行场景将浏览器驱动复制到系统环境变量path目录下。
package:用于存放自动化所用到的扩展包。例如,HTMLTestRunner.py属于一个单独模块,并且对其做了修改,所以,在执行测试前需要将它复制到Python的Lib目录下。
run_bbs_test.py:项目主程序。用来运行社区(BBS)自动化用例。
start.bat:用于启动Selenium Server,默认启动driver目录下的selenium-server-standalone-2.47.0.jar。
自动化测试项目说明文档.docx:介绍当前项目的架构、配置和使用说明。
2.bbs目录
data:该目录用来存放测试相关的数据。
report:用于存放HTML测试报告。其下面创建了image目录用于存放测试过程中的截图。
test_case:测试用例目录,用于存放测试用例及相关模块。
3.test_case目录
models:该目录下存放了一些公共的配置函数及公共类。
page_obj:该目录用于存放测试用例的页面对象(Page Object)。根据自定义规则,以“*Page.py”命名的文件为封装的页面对象文件。
“*_sta.py”:测试用例文件。根据测试文件匹配规则,以“*_sta.py”命名的文件将被当做自动化测试用例执行。
编写公共模块
首先定义驱动文件
..mztestproBBS est_casemodelsdriver.py
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' from selenium.webdriver import Remote from selenium import webdriver #启动浏览器驱动 def browser(): #driver = webdriver.Chrome() host = '127.0.0.1:44444'#运行主机:端口号(本机默认:127.0.0.1:44444) dc = {'browserName':'chrome'}#指定浏览器('chrome','firefox') driver = Remote(command_executor='http://' + host + '/wd/hub', desired_capabilities=dc) return driver if __name__ == '__main__': dr = browser() dr.get('http://www.baidu.com') dr.quit()
定义浏览器驱动函数browser(),该函数可以进行设置,根据我们的需求,配置测试用例在不同的主机及浏览器下运行。如果不知道如何配置,可以看前面关于Selenium Grid2的文章。
自定义测试框架:
..mztestproBBS est_casemodelsmyunit.py
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' from .driver import browser import unittest class MyTest(unittest.TestCase): def setUp(self): self.driver = browser() self.driver.implicitly_wait(10) self.driver.maximize_window() def tearDown(self): self.driver.quit()
定义MyTest()类用于继承unittest.TestCase类,因为笔者创建的所有测试类中setUp()与tearDown()方法所做的事情相同,所以,将他们抽象为MyTest()类,好处就是在编写测试用例时不再考虑这两个方法的实现。
定义截图函数:
..mztestproBBS est_casemodelsfunction.py
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' from selenium import webdriver import os #截图函数 def insert_img(driver,file_name): base_dir = os.path.dirname(os.path.dirname(os.path.dirname(__file__))) file_path = base_dir + "/report/image/" + file_name driver.get_screenshot_as_file(file_path) print('in the insert_img') if __name__ == '__main__': driver = webdriver.Chrome() driver.get('http://www.baidu.com') insert_img(driver,'baidu.png') driver.quit()
创建截图函数insert_img(),为了保持自动化项目的移植性,采用相对路径的方式将测试截图保存到. eportimage目录中。
编写Page Object
关于Page Object设计模式,在前面文章关于“自动化测试高级应用”篇中有过介绍,这里我们将使用该设计模式来编写测试用例。
首先创建基础Page基础类:
..mztestproBBS est_casepage_objase.py
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' class Page(object): ''' 页面基础类,用于所有页面的继承 ''' bbs_url = 'http://bbs.meizu.cn' def __init__(self,selenium_driver,base_url=bbs_url,parent=None): self.base_url = base_url self.driver = selenium_driver self.parent = parent def _open(self,url): url = self.base_url + url self.driver.get(url) assert (self.on_page(),'Did not land on %s' % url) def find_element(self,*loc): return self.driver.find_element(*loc) def find_elements(self,*loc): return .self.driver.find_elements(*loc) def open(self): self._open(self.url) def on_page(self): return self.driver.current_url == (self.base_url + self.url) def script(self,src): return self.driver.execute_script(src)
创建页面基础类,通过__init__()方法初始化参数:浏览器驱动、URL地址、超时市场等。定义基本方法:open()用于打开BBS地址:find_elemnet()和find_elemnets()分别用来定位单个与多个元素;创建scrip()方法可以更简单地调用JavaScript代码。当然我们还可以对更多的WebDriver方法进行重定义。
创建BBS登录对象类:
..mztestproBBS est_casepage_objloginPage.py
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' from selenium.webdriver.common.action_chains import ActionChains from selenium.webdriver.common.by import By from .base import Page from time import sleep class login(Page) ''' 用户登录页面 ''' url = '/' #Action bbs_login_user_loc = (By.XPATH,"//div[@id='mzCust]/div/img") bbs_login_button_loc = (By.ID,"mzLogin") def bbs_login(self): self.find_element(*self.bbs_login_user_loc).click() sleep(1) self.find_element(*self.bbs_login_button_loc).click() login_username_loc = (By.ID,"account") login_password_loc = (By.ID,"password") login_button = (By.ID,"login") #登录用户名 def login_username(self,username): self.find_element(*self.login_username_loc).send_keys(username) #登录密码 def login_password(self,password): self.find_element(*self.login_password_loc).send_keys(password) #登录按钮 def login_button(self): self.find_element(*self.login_button_loc).click() #定义同意登录入口 def user_login(self,username="username",password='1111'): '''获取的用户名密码登录''' self.open() self.bbs_login() self.login_username(username) self.login_password(password) self.login_button() sleep(1) user_error_hint_loc = (By.XPATH,"//span[@for='account']") pawd_error_hint_loc = (By.XPATH,"//span[@for='password']") user_login_success_loc = (By.ID,"mzCustName") #用户名错误提示 def user_error_hint(self): return self.find_element(*self.user_error_hint_loc).text #密码错误提示 def pawd_error_hint(self): return self.find_element(*self.pawd_error_hint_loc).text #登录成功用户名 def user_login_success(self): return self.find_element(*self.user_login_success_loc).text
创建登录页面对象,对用户登录页面上的用户名/密码输入框、登录按钮和提示信息等元素的定位进行封装。除此之外,还创建user_login()方法作为系统统一登录的入口。关于对操作步骤的封装既可以放在Page Object当中,也可以放在测试用例当中,这个主要根据具体需求来衡量。这里之所以放在Page Object当中,主要考虑到还有其他用例会调用到该登录方法。为username和password入参设置了默认值为了方便其他用例在调用时也方便了在账号失效时的修改。
编写测试用例
现在开始编写测试用例程序,因为前面已经做好了基础工作,此时测试用例的编写将会简便很多,更能几种精力考虑用例的设计与实现。
创建BBS登录类:
..mztestproBBS est_caselogin_sta.py
此处需要注意文件名的创建。例如,假设登录页的对象命名为loginPage.py,那么关于测试登录的用例文件应该命名为login_sta.py这样方便后期用例报错时问题的追踪。尽量把一个页面上的元素定位封装到一个“*Page.py”文件中,把针对这个页面的测试用例集中到一个“*_sta.py”文件中。
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' from time import sleep import unittest,random,sys sys.path.append("./models") sys.path.append(",.page_obj") from models import myunit,function from page_obj.loginPage import login class loginTest(myunit.MyTest): '''社区登录测试''' #测试用户登录 def user_login_verify(self,username="",password=""): login(self.driver).user_login(username,password) def test_login(self): '''用户名,密码为空登录''' self.user_login_verify() po = login(self.driver) self.asserEqual(po.user_error_hint(),"账号不能为空") self.asserEqual(po.pawd_eeror_hint(),"密码不能为空") function.insert_img(self.driver,"user_pawd_empty.jpg") def test_login2(self): '''用户名正确,密码为空登录''' self.user_login_verify(username="pytest") po = login(self.driver) self.asserEqual(po.pawd_eeror_hint(), "密码不能为空") function.insert_img(self.driver, "pawd_empty.jpg") def test_login3(self): '''用户名为空,密码正确''' self.user_login_verify(password="abc123456") po = login(self.driver) self.asserEqual(po.user_eeror_hint(), "账号不能为空") function.insert_img(self.driver, "user_empty.jpg") def test_login4(self): '''用户名与密码不匹配''' character = random.choice('zyxwvutsrqponmlkjihgfedcba') username = "zhangsan" + character self.user_login_verify(username=username,password='123456') po = login(self.driver) self.asserEqual(po.pawd_eeror_hint(),"密码与账号不匹配") function.insert_img(self.driver,"user_pawd_error.jpg") def test_login5(self): '''用户名、密码正确''' self.user_login_verify(username="zhangsan",password="123456") sleep(2) po = login(self.driver) self.asserEqual(po.user_login_success(), "张三") function.insert_img(self.driver, "user_pawd_true.jpg") if __name__ == '__main__': unittest.main()
首先创建loginTest()类,继承myunit.MyTest()类,关于MyTest()类的实现,请翻看前面的代码。这样就省却了在每个测试类中实现一遍setUp()和tearDown()方法。
创建user_login_verify()方法,并调用loginPage.py中定义的user_login()方法。为什么不直接调用呢?因为user_login()的入参已经设置了默认值,原因前面已经解释,这里需要重新将其入参的默认值设置为空即可。
前三条测试用例很好理解,分别验证:
* 用户名密码为空,点击登录;
* 用户名正确,密码为空,点击登录;
* 用户名为空,密码正确,点击登录。
第四条用例验证错误的用户名和密码登录。在当前系统中如果反复使用固定且错误的用户名和密码,系统会弹出验证码输入框。为了避免这种情况的发生,这需要用户名进行随机变化,此处的做法用固定的前缀“zhangsan”,末尾字符从a~z中随机一个字符与前缀进行拼接。
第五条用例验证正确的用户名和密码登录,通过获取用户名作为断言信息。
在上面的测试用例中,每条测试用例结束时都调用function.py文件中的insert_img()函数进行截图。当用例运行完成后,打开.../report/image/目录将会看到用例执行的截图文件,如下图:
执行测试用例
为了在测试用例运行过程中不影响做其他事,笔者选择调用远程主机或虚拟机来运行测试用例,那么这里就需要使用Selenium Grid(其包含在Selenium Server)来调用远程节点。
创建..mztestprostartup.bat文件,用于启动..mztestprodriver目录下的Selenium Server。
java -jar ./driver/selenium-server-standalone-3.141.59.jar -role hub
双击strtup.bat文件,启动Selenium Server创建hub节点。在远程主机或虚拟机中同样需要启动Selenium Server创建node节点,创建方式参见前面关于Selenium Grid的文章。
创建用例执行程序:...mztestpro un_bbs_test.py
# !/usr/bin/env python # -*- coding: UTF-8 –*- __author__ = 'Mr.Li' from HTMLTestRunner import HTMLTestRunner from email.mime.text import MIMEText from email.header import Header import smtplib import unittest import time import os def send_mail(file_new): f = open(file_new,'rb') mail_bobd = f.read() f.close() msg = MIMEText(mail_bobd,'html','utf-8') msg['Subject'] = Header('自动化测试报告','utf-8') smtp = smtplib.SMTP() smtp.connect("smtp.qq.com") smtp.login('username@qq.com','授权码')#这个位置需要输入授权码而不是密码 smtp.sendmail('username@qq.com','receive@qq.com',msg.as_string()) smtp.quit() print('email has send out!') # ==== 查找测试报告目录,找到最新生成的测试报告文件 ==== def new_report(testreport): lists = os.listdir(testreport) lists.sort(key=lambda fn: os.path.getmtime(testreport + '\' + fn)) file_new = os.path.join(testreport, lists[-1]) print(file_new) return file_new if __name__ == '__main__': now = time.strftime("%Y-%m-%d %H_%M_%S") filename = './report/' + now + 'result.html' fp = open(filename,'wb') runner = HTMLTestRunner(stream=fp, title="魅族社区自动化测试报告", description="环境:Windows10 浏览器:Chrome") discover = unittest.defaultTestLoader.discover('./test_case', pattern='*_sta.py') runner.run(discover) fp.close()#关闭生成的报告 file_path = new_report('./report/')#查找新生成的报告 send_mail(file_path) #调用发邮件模块
执行过程中没有做任何改动,继承了HTMLTestRunner生成HTML测试报告,以及集成自动发邮件功能等。唯一需要注意的是,脚本中的路径建议使用相对路径,以便于项目被移动到任意目录下执行。
打开...modelsdriver.py文件,修改脚本运行的节点及浏览器。现在可以通过运行run_bbs_test.py来执行测试项目了。