一场竞技游戏，我们在这里稍微划分一下，将其分为局外界面和局内战斗。举个例子，比如LOL，在大厅、组队、选英雄界面这些都是局外界面。当我们等待读完长长的进度条，进入到游戏，听到"咚咚咚咚咚"的声音后英雄出现到我们眼前，这个时候，你就已经到了局内战斗的部分里了，也就是我们今天要讨论的内容。
1. 概述
本文主要对局内战斗的自动化测试进行讲解。包含如何实现战斗自动化的流程和脚本运行本身框架进行介绍，读者应具备一些python的编程经验和UI自动化的开发经验。
对于游戏的UI自动化这里采用poco的unitysdk形式进行实现。稍微介绍一下poco。这是一个类似appium的客户端UI自动化框架，利用界面元素来进行UI自动化操作。
官方文档：
https://poco-chinese.readthedocs.io/zh_CN/latest/source/doc/integration.html
元素来源于UITree,UITree源于接入unitysdk的游戏客户端。通过与外部挂载agent进行socket通信，从而将使用unity引擎游戏的UITree返回给外部供自动化相关。
UITree里面包含对应Tree中元素的所有属性信息，其中包含元素的position属性（位置信息），这也是我们得以锁定对应元素进行操作的核心依据。
通过pocosdk获取游戏客户端UI层信息，对UI信息中的具体内容做对应处理。
最后反馈对应数据给AI，由AI进行对应决策，将决策信息返回给本地后执行对应的UI自动化操作代码，从而完成决策，通过大量决策的实施，完成整局的实时操作。
再引入多轮重开检测机制，进而完成局内战斗的自动化对战。
一些简单的演示：
在unity项目中，需要在unity中安装Poco的SDK
Poco调用方法
import time
from poco.drivers.unity3d import UnityPoco
poco = UnityPoco()
poco('btn_start').click()
time.sleep(1.5)
shell = poco('shell').focus('center')
for star in poco('star'):
star.drag_to(shell)
time.sleep(1)
assert poco('scoreVal').get_text() == "100","score correct."
poco('btn_back',type = 'Button').click()
## Poco调用举例
poco = UnityPoco() #1、通过接口调用unity中的pocosdk，SDK对整个ui树进行遍历，将dump后的json信息传出以供调用。
poco('btn_start').click() #2、在得到的UI树中找到‘btn_start’的元素位置信息，通过adb进行点击操作。
2. 具体流程
流程描述：
通过每次对当前UI数据的检查，判断其在局内还是局外。局外会进入到局内对局，处于局内则会检测当前局内状态，将当前的局内UI信息做整合，提取指定信息发送给AI决策服务，再根据AI的返回来进行对应的UI自动化代码操作。
3. 实现过程
3.1 UI层数据获取
-
使用poco.freeze，利用里面的agent dump把当前的UI树保存下来（因为要用到root节点，root节点下的内容无法用children获取）。
-
其他的数据使用poco.freeze调用正常的poco方法进行提取即可。
3.2 指定数据提取
-
确认好AI一共需要我们提供哪些数据，这些数据能不能从游戏的UI信息中读取出来。确认好后，我们就可以开始进行对应项的提取了。
-
要注意提取的UI元素是不是在特定UI中才会有，他能不能被容易的获取，也就是对提取指定信息的难易度和是否需要条件构建进行判断。
-
以自走棋游戏举例，对于棋子的提取会复杂一些，因为没有对应棋盘上每个格子的坐标，只有放在根目录下的美术资源。这部分的数据一个是需要存起来自己写方法提取，一个是要根据里面属性包含的信息判断其在场上还是在手牌。
目前这一部分的判断经历过三个阶段：
-
靠pos属性判断。
-
靠对pocosdk接入unity的c++源码进行修改添加的rawpos属性进行判断。
-
靠这两者综合判断，保证不会有判断错的情况出现 。
3.3 数据接口请求过程
请求数据示范样本：
{"round_drawscount": 0,
"round_actionscount":2,
"round":17,"level":6,
"experience":2,
"money":33,
"blood":73,}
也就是包含一些基本玩家信息的json数据。
AI接口返回数据：
{'eventId': ACTION_UPGRADE}{'eventId': ACTION_DRAW}{'eventId': ACTION_PICK,'params': {'draw_cardIndex': 0}}{'eventId': ACTION_DROP,'params': {"hand_cardIndex":0}}{'eventId': ACTION_SWAP, 'params':{"hand_cardIndex":0,"play_listIndex":1}}{'eventId': ACTION_SWAP, 'params':{"hand_cardIndex":2,"play_listIndex":1}}{'eventId': ACTION_SWAP, 'params':{"hand_cardIndex":0,"play_listIndex":2}}
大致是一些游戏AI的决策内容，通过不同的事件ID告知你应该做什么样的事情。这里是以目前的自走棋游戏为例进行展示。
具体返回内容就根据实际的业务需求去制定了。
接口须知：
-
所有发送的参数需要向开发人员确认。
-
会存在后期的变动维护，例如传参要求和增删参数。
-
要注意发送的数据是经过处理为标准格式。
3.4 返回决策实施
决策实施这里以自走棋类游戏的操作为例：
-
刷棋盘：保证商店处于打开状态后刷新。
-
买棋子：保证商店处于打开后购买对应索引位置棋子。
-
升人口：随时都会有的按钮，直接用点就可以。
-
上下交换棋子：根据对应index有无棋子来判断对应上下棋子的决定。
-
卖棋子：点击对应index位置，再点击sell按钮。
#对应返回eventID执行不同操作
eventid = self.reqs_data["eventId"]
if eventid == 0:
self.round_over([])
elif eventid == 1:
self.read_chessbook()
elif eventid == 2:
self.refresh()
elif eventid == 3:
self.buy_chess(self.reqs_data["params"]["draw_cardIndex"])
elif eventid == 4:
self.sell_chess(self.reqs_data["params"]["hand_cardIndex"])
elif eventid == 5:
self.up_down_change(self.reqs_data["params"])
3.5 脚本运行框架介绍
其实这个框架归类的比较简单，就四个大块：
（1）runner：包含触发检测的触发器，用于传入指定包名，选择对应服务器等操作进行持续集成相关操作；包含动作调用，用来执行对应返回值的操作；包含日志记录，记录过程中的游戏运行日志和adb日志等；包含屏幕录制，记录游戏过程中的运行视频，提交视频数据给UI检测接口判断有无UI异常出现（多为花屏白屏和其他明显UI异常情况）。
（2）datas：游戏运行数据的记录文件，包含日志的存放和游戏对应战斗结果的存放（例如当前回合，本局战斗的排名胜负）。
（3）common_cls：一些公共模块，包含与AI的通信，数据的发送和返回；包含UI的通用操作，如自动安装对应版本游戏客户端后启动游戏，过关新手引导，生成新账号等操作；包含通过对AI决策调用对应UI操作方法的函数，也就是动作函数。
（4）requirements：整个工程是通过python完成的，这个就是帮你一键安装所有所需库的文件，其中涉及到了一些对poco框架的二次开发，需要本地修改后使用。
大致的runner流程：
确保你的设备已与电脑开通调试连接，再启动poco与adb的本地通信，对当前UI进行判断是否在局内，局内走提取指定信息，发送给ai进行决策，再执行AI的决策。通过每次检测有无战斗结束进行重开实现多轮流程，runner的流程图与具体实现流程图基本一致。
3.6 相关优化问题
关于黑名单： 比较大型的游戏，局内战斗的元素和UI的复杂程度也是很高的，保存一次UI树的信息也有2M以上的数据，而获取时间会随着UI复杂度的上升而上升。从最终效果来看，战斗从前期到后期，获取时间会由1秒到4秒逐渐上升，这样的速度是不能满足实现业务需求的，因此建议从poco的unitySDK上添加黑名单机制，以提高获取UITree的效率。
建议利用freeze函数： 多次提取会重复的获取UI元素浪费时间，目前已经解决这个问题可以只获取一次就提取出所有参数。目前较大型游戏因局内战斗UI结构复杂，获取一次UI信息在一秒到三秒内不等。
UI层操作时间问题： 需要避的坑有两个 （1）minicap截图：这个要关掉，实际会采用录屏行为，不需要截图。截图服务启动会消耗时间且截图本身也消耗性能 （2）adb本地socket通信建立：确保一次建立，这是poco click swipe等方式进行指令的必要条件，需要提前自己启动起来，让他们时刻保持通信，这样会大大降低单次操作时间。现在单次实行操作的时间已经可以控制在最快0.2秒最慢0.8秒。
获取UITree时间问题： 通过观察发现，UITree的获取时间跟界面的复杂程度是正相关的。一个比较简单的局外界面可以在0.5秒内就获取完毕，而较为复杂的局内战斗就要约2秒多的时间。对于实际操作而言，这样的过程都太长了。目前探索出的解决方法有两个：（1）利用黑名单，（2）只dump一次，更新后的数据不做重新获取，而是采用利用预期结果的数据本地维护。
有关poco的c++层sdk修改文章请尝试自行百度..
3.7 注意事项
（1）获取一次UI信息的时间会随着UI复杂度的提升而提升，局内较为复杂，到后期尤甚。通常在两秒多三秒左右,实际使用要根据项目做具体优化。
（2）处理获取出的原始数据到提取对应数据会用到0.2秒左右时间。
（3）操作间要保证存在足够时间间隔，一个是利于等待操作后UI确实刷新，一个是保证UI切换展示出内容需要时间 。
（4）双击功能需要观察能不能实现现有客户端的操作（adb和poco double click都不行），有的客户端要求双击的两次点击时间间隔太短，不一定能通过自动化实现。
4. 结论
本文主要描述了通过局内调用AI的方式实现自动打游戏。利用这个框架可以进行局内的多轮流程检测（甚至上分），从而帮助测试同学免去重复去测局内战斗的皮肉之苦，同时可以记录过程视频，交由AI或其他api判断有无花屏白屏的情况，adb报错，unity报错信息都可以进行实时收集，接下来我们也会对局外的AI探索性遍历展开研究，请大家持续关注我们，并指出我们的不足。
PS：
我们是行者AI，我们在“AI＋游戏”中不断前行。
如果你也对游戏感兴趣，对AI充满好奇，那就快来加入我们（hr@xingzhe.ai）。