阿里云日志服务采集自建Kubernetes日志(标准输出日志)

日志服务支持通过Logtail采集Kubernetes集群日志，并支持CRD（CustomResourceDefinition）进行采集配置管理。本文主要介绍如何安装并使用Logtail采集Kubernetes集群日志。

采集流程

1. 安装alibaba-log-controller Helm包。
2. 创建采集配置。

   根据您的需求选择使用控制台或CRD（CustomResourceDefinition）创建采集配置，本文以控制台为例。

图 1. 采集流程

视频教程：http://cloud.video.taobao.com/play/u/3220778205/p/1/e/6/t/1/50145086346.mp4

步骤1 安装软件包

1. 登录您的阿里云容器服务Kubernetes的Master节点。

   如何登录参考SSH密钥对访问Kubernetes集群。

2. 替换参数后执行以下安装命令。
   将下述命令中的 ${your_k8s_cluster_id}替换为您的Kubernetes集群ID，并执行此命令。

   试用

    

    wget http://logtail-release-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/kubernetes/alicloud-log-k8s-install.sh -O alicloud-log-k8s-install.sh; chmod 744 ./alicloud-log-k8s-install.sh; sh ./alicloud-log-k8s-install.sh ${your_k8s_cluster_id}

安装示例

执行安装命令，回显信息如下：

试用

 

[root@iZbp******biaZ ~]# wget http://logtail-release-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/kubernetes/alicloud-log-k8s-install.sh -O alicloud-log-k8s-install.sh; chmod 744 ./alicloud-log-k8s-install.sh; sh ./alicloud-log-k8s-install.sh c12ba20**************86939f0b
....
....
....
alibaba-cloud-log/Chart.yaml
alibaba-cloud-log/templates/
alibaba-cloud-log/templates/_helpers.tpl
alibaba-cloud-log/templates/alicloud-log-crd.yaml
alibaba-cloud-log/templates/logtail-daemonset.yaml
alibaba-cloud-log/templates/NOTES.txt
alibaba-cloud-log/values.yaml
NAME: alibaba-log-controller
LAST DEPLOYED: Wed May 16 18:43:06 2018
NAMESPACE: default
STATUS: DEPLOYED


RESOURCES:
==> v1beta1/ClusterRoleBinding
NAME AGE
alibaba-log-controller 0s


==> v1beta1/DaemonSet
NAME DESIRED CURRENT READY UP-TO-DATE AVAILABLE NODE SELECTOR AGE
logtail 2 2 0 2 0  0s


==> v1beta1/Deployment
NAME DESIRED CURRENT UP-TO-DATE AVAILABLE AGE
alibaba-log-controller 1 1 1 0 0s


==> v1/Pod(related)
NAME READY STATUS RESTARTS AGE
logtail-ff6rf 0/1 ContainerCreating 0 0s
logtail-q5s87 0/1 ContainerCreating 0 0s
alibaba-log-controller-7cf6d7dbb5-qvn6w 0/1 ContainerCreating 0 0s


==> v1/ServiceAccount
NAME SECRETS AGE
alibaba-log-controller 1 0s


==> v1beta1/CustomResourceDefinition
NAME AGE
aliyunlogconfigs.log.alibabacloud.com 0s


==> v1beta1/ClusterRole
alibaba-log-controller 0s




[SUCCESS] install helm package : alibaba-log-controller success.

您可以使用helm status alibaba-log-controller查看Pod当前状态，若状态全部成功后，表示安装成功。

安装成功后，日志服务会自动为您创建k8s-log开头的Project，在日志服务控制台搜索k8s-log关键字即可查看。

步骤2 创建采集配置

在该步骤中为您演示如何使用控制台创建Logstore并采集K8S所有容器的stdout标准输出。

1. 进入Logstore列表。

   单击步骤1中自动创建的Project，进入Logstore列表页面。

2. 创建Logstore。
   单击右上角的 创建按钮，在弹出的页面中创建一个Logstore。图 2. 创建Logstore
   
   
3. 创建采集配置。
   1. 创建Logstore后，根据提示进入数据接入向导。
   2. 选择自建软件中的Docker标准输出。

      在配置页面中直接单击下一步。无需做任何修改，即可实现采集所有容器的stdout文件。

      图 3. Docker标准输出
      
      
4. 将配置应用到机器组。
   在 机器组配置页面，勾选机器组并单击 下一步。图 4. 应用到机器组
   
   

数据采集配置已经完成，如您需要配置索引和数据投递，请根据页面提示在后续步骤中填写配置。您也可以直接退出当前页面，结束配置。

查看采集到的日志数据

完成数据采集配置后，若您的集群中有容器在输入stdout，则一分钟后即可采集到stdout日志。在 Logstore列表页面中单击 预览可以快速预览当前采集到的日志数据；或者单击 查询对采集到的日志数据进行自定义查询和分析。图 5. 预览和查询

如下图所示，查询页面中可直接单击日志中的关键字进行快速查询，也可以再查询输入框中输入指定的关键字进行查询。

图 6. 查询日志

实例配置：

 

{
  "inputs": [
    {
      "detail": {
        "IncludeLabel": {
          "io.kubernetes.pod.namespace": "data-infra"
        },
        "ExcludeLabel": {}
      },
      "type": "service_docker_stdout"
    }
  ]
}