zoukankan      html  css  js  c++  java
  • 日志分析工具ELK(五)

    八.Kibana实践

    选择绝对时间和相对时间

    搜索

    还可以添加相关信息

    自动刷新页面时间,也可以关闭

    创建图像,可视化

    编辑Markdown,创建一个值班联系表

    值班联系表

    保存

    再创建一个饼图;查看下状态码

    保存

    再来一个柱状图

    保存为访问IP TOP5

    添加展示

    再添加一个折线图

    保存为HTTP响应时间,Dashboard添加,然后保存

    再添加一个统计,统计数量

    选择system-syslog

    保存为日志数据统计

    Dashboard添加,然后保存

    生产最好加一个Nginx用户认证,不能谁都能访问

    管理监控和部署elasticsearch指南

    https://www.elastic.co/guide/en/elasticsearch/guide/current/administration.html

    生产建议在每个elasticsearch上跑一个kibana,每个kibana连接自己的elasticsearch,再搞一个Nginx,前端负载,做好会话保持

    九.ElkStack上线规划

    上线ELKstack前,先做好如下规范能更好的开启ELKstack之旅。

    1.标准化:

    1.路径规划:/data/logs/,/data/logs/access,/data/logs/error,/data/logs/run

    2.格式要求:严格要求使用json

    3.命名规则: access_log error_log runtime_log system_log

    4.日志切割:按天,按小时。访问,错误,程序日志按小时,系统日志按天收集。

    5.原始文本: rsync推送NAS,后删除最近三天前。

    5.消息队列:访问日志,写入Redis_DB6,错误日志Redis_DB7,程序日志Redis_DB8

    2.工具化:

    1.访问日志  Apache、Nginx、Tomcat       (使用file插件)

    2.错误日志  java日志、异常日志(使用mulitline多行插件)

    3.系统日志/var/log/*、rsyslog         (使用syslog)

    4.运行日志程序写入的日志文件(可使用file插件或json插件)

    5.网络日志防火墙、交换机、路由器(syslog插件)

    3.集群化:

    1.每台ES上面都启动一个Kibana

    2.Kibana都连自己的ES

    3.前端Nginx负载均衡+验证,代理至后端Kibana

    4.通过消息队列来实现程序解耦以及高可用等扩展

    4.监控化:

    1.对ES以及Kibana、进行监控。如果服务DOWN及时处理。

    2.使用Redis的list作为ELKstack消息队列。

    3.Redis的List Key长度进行监控(llen key_name)。例:超过"10万"即报警(根据实际情况以及业务情况)

    5.迭代化:

    1.开源日志分析平台:ELK、EFK、EHK、

    2.数据收集处理:Flume、heka

    3.消息队列:Redis、Rabbitmq、Kafka、Hadoop、webhdfs

  • 相关阅读:
    图解Go里面的互斥锁mutex了解编程语言核心实现源码
    day04 NTFS安全权限 | 文件共享服务器
    day03 用户与组管理 | 远程管理
    关于VMware的一些资源|IOS|序列号
    day03 批处理
    day02-IP地址详解
    test1
    simulink产生周期矩形波和8421码
    矩阵连乘问题的算法复杂度的计算--卡塔兰数(Catalan数)的数学推导和近似公式
    找出"吸血鬼数"(Java)
  • 原文地址:https://www.cnblogs.com/w787815/p/6676339.html
Copyright © 2011-2022 走看看