zoukankan      html  css  js  c++  java
  • 以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

    既有的Telegraf 关于MongoDB的输入插件很难实现对副本集节点状态的监控,副本集节点状态有 PRIMARY、SECONDARY、RECOVERYING、ARBITER 等。现在我们尝试通过 Exec Input Plugin 来实现对MongoDB状态的的监控。

    第一部分 简单回顾下Zabbix的监控实现

    1. Zabbix 执行的文件脚本如下:

    #!/bin/bash
    command_linebin="mongodb可执行文件路径/bin/mongo"
    replstatus="PRIMARY SECONDARY ARBITER"
    username="user"
    password="pwd"
    
    command_line="${command_linebin} localhost:$1/admin -u$username -p$password"
    mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
    if [ $mcount -ge 3 ]  ;then 
       ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
       ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
       ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)
    
    
      if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
            echo "The Status OK "
       else 
             echo "The status of mongo replica is unnormal.port is " $1 
       fi 
    
    else
         ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
         ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
        
        if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
            echo "The Status OK "
       else
             echo "The status of mongo replica is unnormal.port is " $1 
       fi
    
    
    fi

     (文件中的执行输入参数是MongoDB的端口号)

    2.异常告警界面;

    第二部分 Telegraf 收集代理关于exec插件的实现

    1.可执行命名文件为 test_mongodb.sh,具体脚本简化调整

    #!/bin/bash
    command_linebin="MongoDB可执行文件/bin/mongo"
    username="User"
    replstatus="PRIMARY SECONDARY ARBITER"
    password="PWD"
    port=27017
    
    command_line="${command_linebin} localhost:$port/admin -u$username -p$password"
    mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
    if [ $mcount -ge 3 ]  ;then 
       ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
       ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
       ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)
    
    
      if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
            echo "ReplStatus,tag=mongodb Status=1i"
       else 
             echo "ReplStatus,tag=mongodb Status=2i" 
       fi 
    
    else
         ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
         ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
        
        if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
            echo "ReplStatus,tag=mongodb Status=1i"
       else
              echo 'ReplStatus,tag=mongodb Status=2i'
      
       fi
    
    
    fi

     文件所处的路径为  /etc/telegraf/test_mongodb.sh

    2. telegraf.conf中关于exec input的配置如下;

    3. 通过test命令测试,运行正常

     telegraf --config telegraf.conf --test

    4.启动服务

    service telegraf start

    5.登入到InfluxDB下查询验证收集的数据

     (以上看似部署完毕,实际.....)

    第三部 权限设置问题导致数据错误的分析与探究

    仔细看上面的截图数据,问题出来了,明明调试过程中是 status为1,而保存到InfluxDB中status为2 了呢???

    本来集群状态是OK的,结果判断为Error!!!! 针对此问题在网上搜索原因及方案,聚焦如下:

    即怀疑为权限问题。

    下面为具体的探究测试过程

    step 1 我们从root 账号切换到 telegraf账号

    但是 切换 不成功。

    Step 2 查看telegraf账号信息

    cat /etc/passwd

    (/bin/false什么也不做只是返回一个错误状态,然后立即退出。将用户的shell设置为/bin/false,用户会无法登录,并且不会有任何提示。)

    Step 3 将登入属性设置为 /bin/bash,修改后如下;

     step 4 再次 su 为 telegraf账号 ,查询当前连接的账号

     

    此时切换成功了。

    Step 5 在 telegraf 账号下,测试 

    此时 status=2 和我们开始在root 账号下此测试(status=1)是不一样的,也理解了为什么InfluxDB中数据为2的根源,确实和账号有关。

    Step 6 调试 telegraf 调用的 test_mongodb.sh 文件

    sh -x test_mongodb.sh

    部分报错信息如下:

    + ms2='SECONDARY
    2019-07-02T20:24:59.596+0800 E -        [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error'
    + [[ PRIMARY SECONDARY ARBITER =~ PRIMARY
    2019-07-02T20:24:59.468+0800 E -        [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error ]]
    + echo 'ReplStatus,tag=mongodb Status=2i'
    ReplStatus,tag=mongodb Status=2i

    从上面的异常信息得知,直接错误原因是 不能在文件 /etc/telegraf/.dbshell 中保存历史数据。

    其实在/etc/telegraf 没有看到这个 .dbshell 这个文件。查看显示所有的文件(包含隐藏文件)的 命令如下

    ll -a

     那么如果我们手动创建.dbshell呢? 

    以下操作是在root账号下创建.dbshell 文件,并且将文件的拥有者调整为telegraf账号,具体的的命令如截图:

    step 7 再次用telegraf账号运行  test_mongodb.sh 可执行文件

     sh -x test_mongodb.sh 

     此时没有出现异常,数据也正常了。

     step 8 在telegraf账号下 用 telegraf 服务调试,此次运行和root账号一样了。

    此时没有出现异常,数据也正常了。)

     Step 9 登入到InfluxDB中查看,由错误的2恢复了1。

     

    第四部分 思考优化

    (1)为什么root账号不需要手动创建.dbshel? 是不需要这个文件吗?如果需要有在那个目录下呢?

    首先了解下 .dbshell 文件,它的基本解释是:“When you run the mongo client, it stores a history of commands in $HOME/.dbshell.”

    从上面的解释可以看出,root账号应该也会产生.dbshell文件。

    我们通过以下几步去找到root账号对应的.dbsehll 文件。

    (2)如何优化telegraf的账号,不再需要手动创建文件?

     推测:是不是给telegraf 账号赋予自身对应$HOME足够的权限就可以了。

    测试如下;

    step 1 找到账号对应的$home

    step 2 删除前面测试创建的.dbshell 文件

    Step 3 执行验证telegraf 测试命令,此时应该数据异常(切记;切换到telegraf 账号下执行)

    step 4 在root账号将 $home 对应的目录(/etc/telegaf)拥有者转换给telegraf账号

    step 5 再次执行 telegraf 测试命令

    以上,测试验证数据给账号相应的$home文档服务相应的权限,也可以解决问题。

    第五部分  告警展示

    我们在Grafana中配置后,其显示界面如下:

     

    第六部分 补充说明;

    1.$HOME代表的路径是什么?

    可以简单的理解为 :home是用户的主目录,登录后缺省进入的目录,提供一个用户专属的启动文件来定义该用户所用到的一些环境变量。

    可用命令:

    echo $HOME

    2.写入InfluxDB,应遵循以下格式:

    <measurement>[,<tag-key>=<tag-value>...] <field-key>=<field-value>[,<field2-key>=<field2-value>...] [unix-nano-timestamp]

    如果格式不对,常见的错误如下:

    2019-05-02T08:04:13Z E! Error in plugin [inputs.exec]: metric parse error: expected field at offset 37: "XXXXXXXXXXXXXXXXXXXX
    "

    第七部分延伸拓展

     上面介绍了这么多,我们需要动手实践一下,目标是实现MySQL MHA Manager 状态的监控。主要用到的MHA监控脚本是 masterha_check_status。

    telegraf.conf 增加的脚本如下

    [[inputs.exec]]
      ##Commands array
      commands = ["bash /data/checkmha/scripts/masterha_checkstatus_alarm.sh",]
      timeout='15s'
      data_format="influx"

    被驱动的masterha_checkstatus_alarm.sh

    ######
    #!/bin/sh
    
    mha_conf=/etc/mha/mhaqqshanxi.cnf
    mha_check_result=`/usr/local/bin/masterha_check_status --conf=/etc/mha/mhaqqshanxi.cnf  | grep "stopped" | wc -l`
    #conf_server1=`grep  "server1" $mha_conf`
    conf_server1=`cat $mha_conf|grep "server1" -A 1| grep "17."|cut -d '=' -f 2`
    conf_server2=`cat $mha_conf|grep "server2" -A 3| grep "17."|cut -d '=' -f 2`
    conf_server3=`cat $mha_conf|grep "server3" -A 2| grep "17."|cut -d '=' -f 2`
    
    if [ "$mha_check_result" == "1" ];then
         echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=0i'
         echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=0i'
         echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=0i'
    else
         echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=1i'
         echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=1i'
         echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=1i'
    fi

    查看influxdb数据库关于此measurement的数据

     grafana 中关于此监控项的panel

    本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!

    本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!

    本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!

  • 相关阅读:
    React 懒加载组件
    按键精灵Q语言基础
    zookeeper安装和配置(单机+伪集群+集群)
    hbase-site.xml 配置详解
    MySQL主从复制与读写分离概念及架构分析
    mysql 主从复制原理
    Struts2教程
    广告点击率预测(CTR) —— 在线学习算法FTRL的应用
    搭建git服务器
    git常用命令
  • 原文地址:https://www.cnblogs.com/xuliuzai/p/11121086.html
Copyright © 2011-2022 走看看