zoukankan      html  css  js  c++  java
  • 谈服务可用性监控

    谈服务可用性监控

    一个服务的监控从整体考虑,要达到哪些才能算是完善的?我想,如果没有一个全局性的监控思考,一个服务的监控即使加的再多也是会有监控盲区的。

    监控的层次

    从基础机器到上层业务,分为三个不同层次:系统,应用,业务。不同的层次都应该有其不同的监控目的。

    系统监控

    这个层次监控服务所在服务器的可用性。服务器的各项基本指标是否正常。包括服务器的CPU,服务器的磁盘,服务器的内存等。

    有的服务器会进行服务混布,这种监控更为重要。因为其他服务导致的服务器问题只能通过系统监控层面得到反馈。

    操作系统层面的监控也是最为基础的了。如果我们购买云服务器,阿里云或者腾讯云上都会有对应的监控设置,但如果是自有的虚拟化集群,集群管理也有对应的开源实现,比如 prometheus + node_exporter 的形式。

    这类监控报警通常关注的就是机器CPU负载,空闲内存,网络带宽,磁盘空间等。

    应用监控

    这个层次监控当前服务进程的可用性。分析当前服务进程与业务无关的各项指标。把一个应用(进程)当作是黑盒,不管其中的业务逻辑正确与否,只观察这个应用的健康状态。大致应用状态包含:

    • 进程数
    • CPU占用
    • 内存占用
    • Coredump情况
    • fd打开数

    对于这个级别的监控,prometheus 也有一个 process_exporter 是专门做这个事情的。

    在应用监控的时候,对于 Golang 项目,需要监控进程的runtime信息。

    这个runtime信息包括:

    • gorutine个数
    • gc暂停时间
    • gc次数
    • 内存分配

    Go 的 runtime 的基本监控方法都是在 Golang 的进程中插入一个包,这个包负责监控 runtime, 并且打点到 metric 系统。

    prometheus 也提供了这样一个库: github.com/prometheus/client_golang

    能打出这样一些关于runtime的数据:

    go_gc_duration_seconds{quantile="0"} 0
    go_gc_duration_seconds{quantile="0.25"} 0
    go_gc_duration_seconds{quantile="0.5"} 0
    go_gc_duration_seconds{quantile="0.75"} 0
    go_gc_duration_seconds{quantile="1"} 0
    go_gc_duration_seconds_sum 0
    go_gc_duration_seconds_count 0
    # HELP go_goroutines Number of goroutines that currently exist.
    # TYPE go_goroutines gauge
    go_goroutines 8
    # HELP go_info Information about the Go environment.
    # TYPE go_info gauge
    go_info{version="go1.14.2"} 1
    # HELP go_memstats_alloc_bytes Number of bytes allocated and still in use.
    # TYPE go_memstats_alloc_bytes gauge
    go_memstats_alloc_bytes 2.563056e+06
    

    业务监控

    这个层次监控具体的业务了。这个层次的监控关注的是业务是否可用,业务是否有走入异常分支,业务哪些服务是比较慢的。

    关于业务监控,个人的感觉是尽量不要使用metric监控,因为业务的问题一旦报警,排查是需要分析的,这个时候如果仅仅是告诉开发有异常了,但是没有对应的日志,或者查找日志需要去线上机器一个个捞,是一件很痛苦的事情。

    所以业务监控的实现方式,基本上都是落盘日志 + 日志文件采集 + 结构化处理 + 分布式日志存储 + 分析报警。

    标准的 ELK 三件套非常适合进行实操部署这套。

    业务监控应该从三个方面进行报警:

    性能监控

    监控每个业务请求的性能指标,可以对具体的业务请求的性能进行完整的展示。

    我们应该对整体请求的请求时长,所有网络调用的请求时长,所有数据操作的网络时长,以及关键函数的请求时长都有记录。最后在具体分析的时候就能有所抓手。

    链路监控

    监控每个业务请求的完成链路,这个包括对上游和下游的链路日志,也包括在当前业务中各个模块的日志记录。

    对于微服务架构,链路监控是非常重要的。服务与服务间的链路需要通过一个 trace 进行串联。

    关于链路监控,已经有很多开源成熟方案可以部署,大都都是基于 Dapper 理论进行实现的。

    错误监控

    业务中不仅仅只有正常流程的逻辑,也有很多各种各样的错误分支逻辑。对于这些务请求中非正常的错误信息。往往是很有用的。特别是能弥补测试人员没有测试到的一些分支异常。

    错误信息必须要保留的应该有错误请求体、错误堆栈、错误触发条件等信息。

    监控的数据源

    关于监控的数据源,无非就分为两类:日志 和 metric(统计)

    日志数据源比metric数据源的优势是能有更强大的数据结构,可以进行更为复杂的日志搜索,可以存储更多的信息。缺点则是存储量比metric数据大很多,在大流量业务场景下,很难做到全量采集。很经常采用的是抽样采集记录。这里面就有一个抽样采集策略。

    另一方面 metric 数据源理论上比日志数据源有更强的实时性。也可以通过各种环比来得出趋势的变化。

    日志又分为几个类型的日志

    • 错误日志:记录错误信息
    • 运行日志:记录内部运行和数据流转的各种日志记录
    • 访问日志:记录请求进出服务的访问入口日志

    如何衡量监控系统的完整性?

    摘抄自 Google SRE:

    监控系统的衡量指标:

    • 速度:需要保证数据的新鲜度和数据获取速度。需要很快获取到最新的数据指标。
    • 计算:对数据进行计算可以支持各种复杂的查询需求。
    • 接口:既有精确的图表展示,又提供开放的接口查询。
    • 告警:灵活的告警系统,可以消除不必要的噪音。

    总结

    感觉基本每个公司差不多都是这些思路,只是在每个具体实现上,可能会针对不同的业务进行不同的定制化。

    基本上从不同层面,不同数据源,对某个服务搭建起来完整的监控链路,这个服务的可用性就能得到很好的保证了。

  • 相关阅读:
    vue多项目的工程化部署
    vue+element项目部署到线上,icon图标不显示
    elementui的表格嵌套表单及校验demo
    借鉴微信小程序表单校验wxValidate的源码里边的正则
    vue中el-upload上传多图片且携带参数,批量而不是一张一张的解决方案
    Maven笔记
    《图解HTTP》摘要
    Java面向对象
    MySQL数据库学习记录
    Python二维数组操作
  • 原文地址:https://www.cnblogs.com/yjf512/p/14182770.html
Copyright © 2011-2022 走看看