zoukankan      html  css  js  c++  java
  • 容器网络(十一)万能数据收集器 Fluentd【84】

    (五)万能数据收集器 Fluentd

    前面的 ELK 中我们是[用 Filebeat 收集 Docker 容器日志],利用的是 Docker 默认的 logging driver json-file,本节我们将使用 fluentd 来收集容器的日志。

    Fluentd 是一个开源的数据收集器,它目前有超过 500 种的 plugin,可以连接各种数据源和数据输出组件。在接下来的实践中,Fluentd 会负责收集容器日志,然后发送给 Elasticsearch。日志处理流程如下:

    这里我们用 Filebeat 将 Fluentd 收集到的日志转发给 Elasticsearch。这当然不是唯一的方案,Fluentd 有一个 plugin fluent-plugin-elasticsearch 可以直接将日志发送给 Elasticsearch。条条道路通罗马,开源世界给予了我们多种可能性,可以根据需要选择合适的方案。

    (1)安装 Fluentd

    同样的,最高效的实践方式是运行一个 fluentd 容器。

    docker run -d -p 24224:24224 -p 24224:24224/udp -v /data:/fluentd/log fluent/fluentd
    
    

    fluentd 会在 TCP/UDP 端口 24224 上接收日志数据,日志将保存在 Host 的 /data 目录中。

    fluentd 会在 TCP/UDP 端口 24224 上接收日志数据,日志将保存在 Host 的 /data 目录中。

    (2)重新配置 Filebeat

    编辑 Filebeat 的配置文件 /etc/filebeat/filebeat.yml,将 /data 添加到监控路径中。

    重启 Filebeat。

    systemctl restart filebeat.service
    
    

    (3)监控容器日志

    启动测试容器。

    docker run -d 
               --log-driver=fluentd 
               --log-opt fluentd-address=localhost:24224 
               --log-opt tag="log-test-container-A" 
               busybox sh -c 'while true; do echo "This is a log message from container A"; sleep 10; done;'
    
    docker run -d 
               --log-driver=fluentd 
               --log-opt fluentd-address=localhost:24224 
               --log-opt tag="log-test-container-B" 
               busybox sh -c 'while true; do echo "This is a log message from container B"; sleep 10; done;'
    
    

    --log-driver=fluentd 告诉 Docker 使用 Fluentd 的 logging driver。

    --log-opt fluentd-address=localhost:24224 将容器日志发送到 Fluentd 的数据接收端口。

    --log-opt tag="log-test-container-A"--log-opt tag="log-test-container-B" 在日志中添加一个可选的 tag,用于区分不同的容器。

    容器启动后,Kibana 很快就能够查询到容器的日志。

  • 相关阅读:
    Visual Studio Installer打包安装项目VS2015
    在WinCE上播放声音、设置透明图片、系统音量 C#
    虚函数、抽象函数以及接口的区别
    Type 'System.IO.FileStream' with data contract name 'FileStream:http://schemas.datacontract.org/2004/07/System.IO' is not expected.
    项目中重新引用WCF报错
    为什么0.1+0.2=0.30000000000000004
    MVC自定义错误页404静态页
    DP 网易内推:合唱团
    TFBOY 养成记 一些比较好多文章。
    机器学习笔记:为什么要对数据进行归一化处理?
  • 原文地址:https://www.cnblogs.com/cuiyongchao007/p/14237186.html
Copyright © 2011-2022 走看看