前言
为满足 C++ 应用系统故障演练,阿里妈妈安全生产团队开源了 C++ 混沌实验执行器,填补了 C++ 应用混沌工程实验的空白,其遵循《混沌实验模型》,可通过 ChaosBlade 工具直接执行。项目详情点击这里! 。
本文重点介绍该执行器的架构图、支持的实验场景,并以 Demo 为例介绍具体的使用方式,附录介绍了阿里妈妈内部混沌实验流程。
新版本 chaosblade 下载地址在这里!
实验场景
目前支持的 C++ 混沌实验场景如下,具体使用方式可详见下文:
- 针对某个方法,或者某行代码注入延迟故障;
- 针对某个方法,或者某行代码注入替换变量,或者对象值,可以制造调用第三方接口返回结果中包含错误码等等故障;
- 针对某个方法,或者某行代码注入立刻退出方法并返回指定值(可以是错误值)的故障;
架构图
解释说明:
- C++ 混沌实验执行器包括 8 个模块:模型匹配器模块、应用状态获取模块、流程控制模块、在应用运行中注入故障模块、应用未启动状态启动应用并注入故障模块、故障恢复模块、卸载实验器模块 和 日志记录模块;
- 模型匹配器模块:会把用户传入的参数匹配《混沌实验模型》,发现不符合规范的参数,将停止执行,并返回用户相应提示;
- 应用状态获取模块:获取待注入故障的 C++ 应用目前的状态;
- 流程控制模块:可以控制整个实验器的运行流程;
- 在应用运行中注入故障模块:在 C++ 应用运行状态时,在不改变应用原有代码,和编译文件的情况下,直接注入故障到进程;
- 应用未启动状态启动应用并注入故障模块:在 C++ 应用未启动状态,在不改变应用原有代码,和编译文件的情况下,启动应用,并同时注入故障;
- 故障恢复模块:当某一个实验或演练场景完成,基于该模块移除该场景的故障;
- 卸载实验器模块:当所有实验或演练场景都完成,基于该模块移除应用所有故障,并退出 C++ 混沌实验执行器的进程;
- 日志记录模块:可以把 C++ 混沌实验执行器运行过程中的情况记录到日志中;
- C++ 应用:待注入故障的应用,在故障注入过程中,C++ 混沌实验执行器通过 attach 方式把 C++ 应用做为自己的子进程进行状态跟踪;
- ChaosBlade:混沌实验注入工具;
使用方法
可以通过如下三种方式对 C++ 应用注入故障:
- 登录待注入故障的机器,使用 chaosblade 提供的命令行方式实施演练;
- 登录待注入故障的机器,手动启动 C++ 应用混沌实验执行器,直接调用执行器提供的 api 实施演练;
- 通过混沌实验平台,可以很方便的对多台机器,甚至整个分组集群同时注入故障,阿里云 AHAS 后续会支持此执行器;
接下来,通过一个 C++ 应用混沌实验 DEMO 给大家介绍前两种方式怎样实现一次 C++ 应用的混沌实验。
C++ 应用混沌实验DEMO
这次实验,我们演练 linux 系统下 C++ 实现的 socket server 应用和 socket client 应用通讯的过程中,socket server 接口延迟 3 秒。接下来我们下载所需要的 Socket Demo:
Socket-server.tar.gz下载地址,详情参考这里!
下载完成后,解压并编译:
Socket-client.tar.gz下载地址,详情参考这里!
下载完成后,解压并编译:
启动 socket server:
启动 socket client:
启动成功以后会提示:"send message to server"
接下来输入想传给 socket server 内容比如:666
socket server 应用收到消息以后提示:
Received message: 666
完成以上步骤表示 socket server 应用和 socket client 应用部署成功。
通过 chaosblade 的命令行方式实施演练
接下来我们要使用 blade 工具进行混沌实验,在执行实验前,我们需要先执行 prepare 命令,挂载所需要的 c++ agent:
返回以下结果,表示实验准备成功:
我们开始实施混沌实验,调用 socket server 接口延迟 3 秒,我们执行以下命令:
返回以下结果,表示执行成功;
对实施实验的命令进行解析:
- --delayDuration: 3,表示延迟 3 s;单位是 s (delay action 特有的过滤条件)
- --breakLine: tcp_server.cpp:33, 加入断点的位置,可以是某一行,也可以是某个方法名 (对应混沌实验模型的 Matcher:实验规则匹配器)
- --fileLocateAndName: /home/admin/socketServer/server,C++应用可执行文件的位置和名字 (对应混沌实验模型的 Matcher:实验规则匹配器)
- --forkMode: child,表示我们把故障注入到子进程还是父进程 (对应混沌实验模型的 Matcher:实验规则匹配器)
- --processName: server,可以唯一标识出C++应用进程的标识,比如进程名 (对应混沌实验模型的 Matcher:实验规则匹配器)
- --initParams: 9527,C++ 进程正常启动的时候,启动命令中执行文件后面的参数 (对应混沌实验模型的 Matcher:实验规则匹配器)
- --libLoad: /home/lib,如果启动C++ 进程的时候如果需要设置类库文件夹地址,可以在这里设置(比如 /home/lib),如果启动时,不需要加载自定义类库,该项可以填入空格 (对应混沌实验模型的 Matcher:实验规则匹配器)
完成实验后,可以执行如下命令停止当前延迟的混沌实验:
ec695fee1e458fc6 是之前创建实验返回的 UID
注:接收到 destroy 请求后,会删除与 UID 相对应的混沌实验规则。
不尽兴的话,我们再实施对 server 内部变量的修改,把 server 对外开放的监听端口 9527 改成 9529。
和刚才延迟命令参数差不多,因为相同的参数是演练 C++ 应用所需要的,不同的是没有了 --delayDuration,多了个 --varaibleName 和 --varaibleValue 参数。我们模拟调用刚才的服务对外开放的监听端口 9527 改成 9529:
返回以下结果,并在 socket client 可验证端口是否被修改。
停止此次试验:
最后,我们撤销刚才的实验准备,即卸载 c++ Agent:
直接调用执行器提供的 api 实施演练
挂载所需要的 c++ agent:
开始故障注入,发送 url 请求:
其中请求参数为
这种方式增加了几个参数,解析如下:
create: 创建混沌实验请求
suid: 请求参数,实验的 ID,后续停止实验会用到此 ID
target: 请求参数,实验的组件目标,cplus 代表 针对 C++ 应用的实验
action: 请求参数,执行实验的场景,delay
注:
suid、target、action 是 create 请求的必要参数, breakLine、fileLocateAndName、forkMode、processName、delayDuration、initParams、libLoad 参数根据 target 和 action 的不同而不同。
接收到请求,会根据 target 和 action 调用参数校验器,验证参数值是否合法,如果合法,则记录此次试验;
对应组件埋点触发时,如果查询到有此组件的实验,则获取匹配器所需参数,和下发的实验规则进行匹配,匹配成功,则调用场景执行器触发实验。
停止此次试验,通过发url 请求:chaosblade/destroy?suid=ec695fee1e458fc6
其中请求参数是:
suid: 请求参数,之前创建实验返回的 UID
最后,我们撤销刚才的实验准备,即卸载 c++ Agent,通过发url 请求:chaosblade/remove
后续规划
后续会加入更多混沌实验场景,也欢迎大家试用,提 issue、pr,star, 一起交流、探索和完善。
chaosblade github 地址点击这里!
github 地址点击这里!
附录
实验流程 & 原理
解释说明:
以上流程中,在实际的故障模拟演练,或突袭演练中,实验准备阶段,故障注入阶段,故障恢复阶段 和 实验器卸载阶段,为故障注入方(或蓝军)操作,故障效果采集监控项有效性验证,故障处置阶段为故障模拟成功以后,故障注入方(或蓝军)确认故障注入效果,也是故障处置方(或红军)接收报警,定位,并处置故障的阶段;
实验执行器底层基于 GDB 实现,故障注入阶段有提到启动 gdb 一步。
本文作者:周鹏飞,花名鹏毅(@leonardo669),C++混沌实验执行器作者,阿里巴巴技术专家。
本文为云栖社区原创内容,未经允许不得转载。