CentOs 7.3下ELK日志分析系统搭建

zoukankan html css js c++ java

CentOs 7.3下ELK日志分析系统搭建
系统环境
为了安装时不出错，建议选择这两者选择一样的版本，本文全部选择5.3版本。
- System: Centos release 7.3
- Java: openjdk version "1.8.0_131"
- ElasticSearch: 5.3.1
Elasticsearch是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。
- Logstash: 5.3.1
Logstash是一个完全开源的工具，他可以对你的日志进行收集、过滤，并将其存储供以后使用（如，搜索）。
- Kibana: 5.3.1
Kibana 也是一个开源和免费的工具，它Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面，可以帮助您汇总、分析和搜索重要数据日志。

ELK 关系:

LEK：logstatsh 收集日志，存到elasticserach （存储，产生索引，搜索）到kibana展现（view）

在官网首页下载tar源码包
将以上的源码包上传至centos服务器上/usr/local/src目录下
tips： Logstash 的运行依赖于 Java 运行环境， Logstash 1.5 以上版本不低于 java 7 推荐使用最新版本的 Java 。由于我们只是运行 Java 程序，而不是开发，下载 JRE 即可。首先，在 Oracle 官方下载新版 jre ，下载地址： http://www.oracle.com/technetwork/java/javase/downloads/jre8-downloads-2133155.html

一、准备

1. 下载jdk-8u131-linux-x64.tar，上传至CentOS上。

2. 解压源码包

通过终端新建java文件夹，并解压至/usr/local/java文件夹下
```
 # mkdir -pv /usr/local/java
 # tar -zxvf /usr/local/src/jdk-8u131-linux-x64.tar.gz -C /usr/local/java
```
3. 设置jdk环境变量

这里采用全局设置方法，就是修改etc/profile，它是是所有用户的共用的环境变量
```
 # vi /etc/profile
```
在末尾添加如下图所示：

请记住，在上述添加过程中，等号两侧不要加入空格，不然会出现“不是有效的标识符”，因为source /etc/profile 时不能识别多余到空格，会理解为是路径一部分。

然后保存使profile生效
```
source /etc/profile
```
4. 检验是否安装成功
```
java -version
```
成功则显示如下

二、Elasticsearch安装配置

1. 解压elasticsearch-5.3.1.tar源码包

下载链接：https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.3.1.tar.gz
解压至/usr/local/目录下
```
 tar -zxvf /usr/local/src/elasticsearch-5.3.1.tar.gz  -C /usr/local/
```
2. 修改配置文件

修改 /usr/local/elasticsearch-5.3.1/config/elasticsearch.yml
配置文件。
以下供参考配置，实际以需求为准：
```
 vi /usr/local/elasticsearch-5.3.1/config/elasticsearch.yml 
 # 这里指定的是集群名称，需要修改为对应的，开启了自发现功能后，ES会按照此集群名称进行集群发现
cluster.name: skynet_es_cluster
node.name: skynet_es_cluster_dev1 

 # 数据目录
path.data: /data/elk/data

 # log 目录
path.logs: /data/elk/logs

 # 修改一下ES的监听地址，这样别的机器也可以访问
network.host: 0.0.0.0

# 默认的端口号
http.port: 9200
discovery.zen.ping.unicast.hosts: ["172.18.5.111", "172.18.5.112"]
 # discovery.zen.minimum_master_nodes: 3
 # enable cors，保证_site类的插件可以访问es
http.cors.enabled: true
http.cors.allow-origin: "*"

 # Centos6不支持SecComp，而ES5.2.0默认bootstrap.system_call_filter为true进行检测，所以导致检测失败，失败后直接导致ES不能启动。
bootstrap.memory_lock: false
bootstrap.system_call_filter: false
```
注意，设置参数的时候:后面要有空格！
tips：ElasticSearch 配置文件译文解析

3. 修改系统参数

确保系统有足够资源启动ES

设置内核参数
```
vi /etc/sysctl.conf
# 增加以下参数
vm.max_map_count=655360
```
执行以下命令，确保生效配置生效：
```
sysctl -p
```
设置资源参数
```
vi /etc/security/limits.conf
# 修改
* soft nofile 65536
* hard nofile 131072
* soft nproc 65536
* hard nproc 131072
```
设置用户资源参数
```
vi /etc/security/limits.d/20-nproc.conf
# 设置elk用户参数
elk    soft    nproc     65536
```
4. 添加启动用户，设置权限

启动ElasticSearch5版本要非root用户，需要新建一个用户来启动ElasticSearch
```
useradd elk         #创建用户elk
groupadd elk        #创建组elk
useradd elk -g elk  #将用户添加到组

mkdir  -pv  /data/elk/{data,logs} # 创建数据和日志目录

# 修改文件所有者
chown -R elk:elk /data/elk/
chown -R elk:elk /usr/local/elasticsearch-5.3.1/
```
5. 启动ES

查看内存剩余
```
free -g
```
使用elk用户启动elasticsearch服务
切换至elk用户
```
su elk
/usr/local/elasticsearch-5.3.1/bin/elasticsearch
```
检查elasticsearch服务，如下图所示，即成功开启服务了，这就意味着你现在已经启动并运行一个Elasticsearch节点了。

tips：

单个节点可以作为一个运行中的Elasticsearch的实例。而一个集群是一组拥有相同cluster.name的节点，（单独的节点也可以组成一个集群）可以在elasticsearch.yml配置文件中修改cluster.name,该节点启动时加载（需要重启服务后才会生效）。

客户端网页访问：
服务器要关闭防火墙
```
systemctl stop firewalld.service
```
网页访问如下所示：即成功了

6.插件

参考链接：
Elasticsearch 5.0 —— Head插件部署指南
 ElasticSearch 5.0的head插件安装

三、安装 Logstash

下载并安装 Logstash ，安装 logstash 只需将它解压的对应目录即可，例如： /usr/local 下：
官网下载地址：https://artifacts.elastic.co/downloads/logstash/logstash-5.3.1.tar.gz

1.解压源码包
```
tar /usr/local/src/logstash-5.3.1.tar.gz -C /usr/local/
```
首先，我们通过运行最基本的Logstash管道来测试您的Logstash安装。
Logstash管道有两个必需的元素，input并且output，以及一个可选的元素，filter。输入插件消耗来自源的数据，过滤器插件会按照您指定的方式修改数据，并且输出插件将数据写入到目的地。

2.安装完成后运行如下命令：
```
/usr/local/logstash-5.3.1/bin/logstash -e 'input { stdin { } } output { stdout {} }'
Sending Logstash's logs to /usr/local/logstash-5.3.1/logs     which is now configured via log4j2.properties
[2017-04-25T06:07:10,900][INFO ][logstash.pipeline        ]     Starting pipeline {"id"=>"main", "pipeline.workers"=>1,       "pipeline.batch.size"=>125, "pipeline.batch.delay"=>5,         "pipeline.max_inflight"=>125}
The stdin plugin is now waiting for input:
[2017-04-25T06:07:10,968][INFO ][logstash.pipeline        ]         Pipeline main started
[2017-04-25T06:07:11,064][INFO ][logstash.agent           ]        Successfully started Logstash API endpoint {:port=>9600}
hello world
2017-04-25T10:07:41.447Z yyp hello world
```
我们可以看到，我们输入什么内容logstash按照某种格式输出，其中-e参数参数允许Logstash直接通过命令行接受设置。这点尤其快速的帮助我们反复的测试配置是否正确而不用写配置文件。使用ctrl-c命令可以退出之前运行的Logstash。

使用-e参数在命令行中指定配置是很常用的方式，不过如果需要配置更多设置则需要很长的内容。这种情况，我们首先创建一个简单的配置文件，并且指定logstash使用这个配置文件。例如：在 logstash 安装目录下(/usr/local/logstash-5.3.1/config)创建一个“基本配置”测试文件 logstash-simple.conf，文件内容如下：

3.创建配置文件
```
cat logstash-simple.conf
input { stdin { } }
output {
    stdout { codec=> rubydebug }
}
```
Logstash 使用 input 和 output 定义收集日志时的输入和输出的相关配置，本例中 input 定义了一个叫 "stdin" 的 input ， output 定义一个叫 "stdout" 的 output 。无论我们输入什么字符， Logstash 都会按照某种格式来返回我们输入的字符，其中 output 被定义为 "stdout" 并使用了 codec 参数来指定 logstash 输出格式。

使用logstash的-f参数来读取配置文件，执行如下开始进行测试：

4.启动
```
/usr/local/logstash-5.3.1/bin/logstash -f     /usr/local/logstash-5.3.1/config/logstash-simple.conf 

Sending Logstash's logs to /usr/local/logstash-5.3.1/logs which is now configured via log4j2.properties
[2017-04-25T06:18:43,294][INFO ][logstash.pipeline        ] Starting pipeline {"id"=>"main", "pipeline.workers"=>1, "pipeline.batch.size"=>125, "pipeline.batch.delay"=>5, "pipeline.max_inflight"=>125}
[2017-04-25T06:18:43,939][INFO ][logstash.pipeline        ] Pipeline main started
The stdin plugin is now waiting for input:
[2017-04-25T06:18:44,674][INFO ][logstash.agent           ] Successfully started Logstash API endpoint {:port=>9600}
hello world!
{
"@timestamp" => 2017-04-25T12:21:21.526Z,
  "@version" => "1",
      "host" => "yyp",
   "message" => "hello world!"
}
```
如上显示，说明成功了。

4.测试Elasticsearch 和 Logstash 来收集日志数据

接下来我们在 logstash 安装目录下创建一个用于测试 logstash 使用 elasticsearch 作为 logstash 的后端的测试文件 logstash-test.conf，该文件中定义了stdout和elasticsearch作为output，这样的“多重输出”即保证输出结果显示到屏幕上，同时也输出到elastisearch中。
前提要保证elasticsearch和logstash都正常启动（需要先启动elasticsearch，再启动logstash）
```
cat logstash-test.conf
input { stdin { } }
output {
    elasticsearch {hosts => "192.168.30.132:9200" } #elasticsearch服务地址
    stdout { codec=> rubydebug }
}
```
开启服务，执行如下命令：
```
 /usr/local/logstash-5.3.1/bin/logstash  -f /usr/local/logstash-5.3.1/config/logstash-test.conf 
```
我们可以使用 curl 命令发送请求来查看 ES 是否接收到了数据：
```
curl 'http://192.168.30.132:9200/_search?pretty'
```
返回结果：
```
{
"took" : 13,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"failed" : 0
},
"hits" : {
    "total" : 1,
    "max_score" : 1.0,
    "hits" : [
  {
        "_index" : ".kibana",
        "_type" : "config",
        "_id" : "5.3.1",
        "_score" : 1.0,
        "_source" : {
        "buildNum" : 14844
        }
    }
  ]
}
}
```
至此，你已经成功利用 Elasticsearch 和 Logstash 来收集日志数据了。

四、kibana的安装

1. 解压kibana-5.3.1-linux-x86_64源码包

下载地址：https://artifacts.elastic.co/downloads/kibana/kibana-5.3.1-linux-x86_64.tar.gz
```
解压至/usr/local/下
tar -zxvf /usr/local/src/kibana-5.3.1-linux-x86_64.tar.gz  -C /usr/local/
```
2.配置kibana
```
编辑kibana.yml配置文件
vi /usr/local/kibana-5.3.1-linux-x86_64/config/kibana.yml 

修改以下参数：
server.port: 5601           #开启默认端口5601
server.host: “192.168.30.132”   #站点地址
elasticsearch.url: http://192.168.30.132:9200   #指向elasticsearch服务的ip地址
kibana.index: “.kibana”
```
3.启动
```
执行以下命令启动：
/usr/local/kibana-5.3.1-linux-x86_64/bin/kibana
```
4.测试浏览器访问

访问：http://192.168.30.132:5601
如下图所示，说明成功访问了

5.配置ES索引

kibana第一次使用时，会要求创建index，只要按照默认值即可。

注意：
首次会提示没有索引。。。。

首先需要加上我们刚刚建立的索引index => "logstash--%{+YYYY-MM}" 点击setting->indices, 在这里我们可以Configure an index pattern, 也就是说可以配置正则匹配的index,
```
cat logstash-simple.conf
input {
    stdin{}
}

output {
    elasticsearch {
        action => "index"            # 在ES上操作index
        hosts  => "192.168.30.132:9200"   # ES地址
        index  => "logstash-%{+YYYY-MM}"   #索引名
    }
}
```
可以看到默认的index是"logstash-*", 默认是从logstash导出的数据, 因为我们在logstash中配置的索引就是logstash开头的，所以这里我们保持默认不变.

下面还有一个Time-field name, 一般来说time都是一个必要的字段, 并且这个字段的类型是date类型! 不是string!!! 如果没有时间字段, 那么将上面的" Index contains time-based events" 取消就OK.

问题
1、出现Configure an index pattern create是灰色的的问题

这个问题是配置文件的问题，修改logstash的配置文件，使其输出到elasticsearch，其中的index选项配置为kibana上的index，比如我是index => "logstash-%{+YYYY-MM}" ，这个时候重启logstash，kibana就保持默认的logstash-*索引既可，应该能够看到Create按钮了

参考资料：第一次接触elk日志系统，搭建过程中遇到种种问题，借鉴网上分享的知识，终于成功搭建elk日志系统，好记性不如烂笔头！
Galle，斯里兰卡
你手里的光阴是无限的，你的世纪，一个接着一个。
别问丧钟为谁而鸣，明天的太阳照常升起。
查看全文

相关阅读:
[LeetCode] 75. Sort Colors 颜色排序
 [LeetCode] 76. Minimum Window Substring 最小窗口子串
 OpenCV 2.4.10 Linux Qt Conifguration
OpenCV2.4.10 Mac Qt Configuration
[LeetCode] Combinations 组合项
 [LeetCode] 79. Word Search 词语搜索
 OpenCV count the number of connected camera 检测连接的摄像头的数量
 OpenCV 2.4.11 VS2010 Configuration
Qt 程序和窗口添加图标
 [LeetCode] 80. Remove Duplicates from Sorted Array II 有序数组中去除重复项之二