zoukankan      html  css  js  c++  java
  • 轻量日志系统Loki

    一、简 介

    Loki是受Prometheus启发由Grafana Labs团队开源的水平可扩展,高度可用的多租户日志聚合系统。 开发语言: Google Go。它的设计具有很高的成本效益,并且易于操作。使用标签来作为索引,而不是对全文进行检索,也就是说,你通过这些标签既可以查询日志的内容也可以查询到监控的数据签,极大地降低了日志索引的存储。系统架构十分简单,由以下3个部分组成 :

    • Loki 是主服务器,负责存储日志和处理查询 。
    • promtail 是代理,负责收集日志并将其发送给 loki 。
    • Grafana 用于 UI 展示。

    只要在应用程序服务器上安装promtail来收集日志然后发送给Loki存储,就可以在Grafana UI界面通过添加Loki为数据源进行日志查询(如果Loki服务器性能不够,可以部署多个Loki进行存储及查询)。作为一个日志系统不关只有查询分析日志的能力,还能对日志进行监控和报警

    二、系 统 架 构

    在这里插入图片描述

    1. promtail收集并将日志发送给loki的 Distributor 组件

    2. Distributor会对接收到的日志流进行正确性校验,并将验证后的日志分批并行发送到Ingester

    3. Ingester 接受日志流并构建数据块,压缩后存放到所连接的存储后端

    4. Querier 收到HTTP查询请求,并将请求发送至Ingester 用以获取内存数据 ,Ingester 收到请求后返回符合条件的数据 ;

      如果 Ingester 没有返回数据,Querier 会从后端存储加载数据并遍历去重执行查询 ,通过HTTP返回查询结果

    三、与 ELK 比 较

    • ELK虽然功能丰富,但规模复杂,资源占用高,操作苦难,很多功能往往用不上,有点杀鸡用牛刀的感觉。
    • 不对日志进行全文索引。通过存储压缩非结构化日志和仅索引元数据,Loki 操作起来会更简单,更省成本。
    • 通过使用与 Prometheus 相同的标签记录流对日志进行索引和分组,这使得日志的扩展和操作效率更高。
    • 安装部署简单快速,且受 Grafana 原生支持。

    四、安 装 示 例

    1、示例安装环境:

    服务器 系统 IP
    loki主机 Centos 7.6 10.0.0.171
    promtail主机 Centos 7.6 10.0.0.175

    2、下载安装软件

     

    curl -O -L "https://github.com/grafana/loki/releases/download/v1.5.0/loki-linux-amd64.zip" 
    curl -O -L "https://github.com/grafana/loki/releases/download/v1.5.0/promtail-linux-amd64.zip"
    wget https://dl.grafana.com/oss/release/grafana-6.7.4-1.x86_64.rpm

    3、自定义配置文件(loki.yaml和promtail.yaml),由自己创建:

    loki.yaml:

    auth_enabled: false
    
    server:
      http_listen_port: 3100
    
    ingester:
      lifecycler:
        address: 127.0.0.1
        ring:
          kvstore:
            store: inmemory
          replication_factor: 1
        final_sleep: 0s
      chunk_idle_period: 5m
      chunk_retain_period: 30s
    
    schema_config:
      configs:
        - from: 2018-04-15
          store: boltdb
          object_store: filesystem
          schema: v9
          index:
            prefix: index_
            period: 168h
    
    storage_config:
      boltdb:
        directory: /tmp/loki/index
    
      filesystem:
        directory: /tmp/loki/chunks
    
    limits_config:
      enforce_metric_name: false
      reject_old_samples: true
      reject_old_samples_max_age: 168h
    
    #chunk_store_config:
    #  max_look_back_period: 0
    
    #table_manager:
    #  chunk_tables_provisioning:
    #    inactive_read_throughput: 0
    #    inactive_write_throughput: 0
    #    provisioned_read_throughput: 0
    #    provisioned_write_throughput: 0
    #  index_tables_provisioning:
    #    inactive_read_throughput: 0
    #    inactive_write_throughput: 0
    #    provisioned_read_throughput: 0
    #    provisioned_write_throughput: 0
    #  retention_deletes_enabled: false
    #  retention_period: 0

    promtail.yaml:

    # Promtail Server Config
    server:
      http_listen_port: 9080
      grpc_listen_port: 0
    
    # Positions
    positions:
      filename: /tmp/positions.yaml
    
    # Loki服务器的地址
    clients:
      - url: http://127.0.0.1:3100/loki/api/v1/push
    
    scrape_configs:
      - job_name: linux
        static_configs:
          - targets:
              - localhost
            labels:
              job: messages
              host: localhost
              __path__: /var/log/messages*
     

    4、安装Grafana

    #安装依赖
    yum install initscripts fontconfig  
    yum install freetype
    yum install urw-fonts
    
    #安装
    rpm -ivh grafana-6.7.4-1.x86_64.rpm

    5、启动loki

    systemctl start grafana-server.service
    nohup ./loki-linux-amd64 -config.file=/etc/loki/loki.yaml & 

     6、启动promtail

    nohup ./promtail-linux-amd64 -config.file=/etc/loki/config.yaml &

     7、重启Grafana

    systemctl restart grafana-server.service

    8、从浏览器打开grafana:http:IP:3000

     点击”Greate a data source“

     添加HTTP的参数,然后”Save & Test“.然后进入"Explore:

     五、在被监控机(10.0.0.175)安装promtail日志采集系统,并采集 Tomcat运行日志和Web访问日志

    修改配置文件config.yaml

    # Promtail Server Config
    server:
      http_listen_port: 9080
      grpc_listen_port: 0
    
    # Positions
    positions:
      filename: /tmp/positions.yaml
    
    # Loki服务器的地址
    clients:
      - url: http://10.0.0.141:3100/loki/api/v1/push
    
    scrape_configs:
      - job_name: WEB
        static_configs:
          - targets:
              - localhost
            labels:
              job: tomcat
              host: localhost
              __path__: /application/tomcat/logs/*.log,/application/tomcat/logs/catalina.out

    启动promtail

    nohup ./promtail-linux-amd64 -config.file=/etc/loki/config.yaml &

     

    接着在loki主机重启grafana

    systemctl start grafana-server.service

     至此,LOKI日志聚合系统安装和配置完成。

    注:如有需要LOKI的软件和配置文件的请留言。

  • 相关阅读:
    转傻逼是傻逼的通行证,苦逼是苦逼的墓志铭 简单
    css 表格底边框在ie6下不显示 简单
    cookie设置、读取,domain、path、expires 简单
    js事件作用域问题 简单
    js鼠标事件定位 简单
    报到证的作用 简单
    转白领一族预防空调病全攻略 简单
    The "External World" is Inside the Brain
    [转]DllMain详解
    Drill Into .NET Framework Internals to See How the CLR Creates Runtime Objects
  • 原文地址:https://www.cnblogs.com/eeexu123/p/13441149.html
Copyright © 2011-2022 走看看