zoukankan      html  css  js  c++  java
  • iLogtail使用入门K8S环境日志采集到SLS

    简介:iLogtail是阿里云中简单日志服务又名“SLS”的采集部分。 它用于收集遥测数据,例如日志、跟踪和指标,目前已经正式开源(https://github.com/alibaba/ilogtail)。本文通过介绍ilogtail如何在K8S环境进行安装、配置、使用的最简流程,帮助用户使用预编译版本快速上手ilogtail日志采集。

    使用前准备

    创建日志配置

    1.跳转到日志服务控制台(sls.console.aliyun.com),点击上一节中已经创建的project。

    2.进入Project查询页面后,点击左侧边栏的“放大镜”图标,展开logstore管理界面,点击“+”,弹出“创建Logstore”右侧边栏。按照提示进行配置,输入logstore名称后,点击“确认”。

    3.logstore创建成功后,取消数据接入向导。点击左侧边栏中的“立方体”按钮,在弹出的“资源”浮层中选择“机器组”。在展开的“机器组”左边栏中,点击右上角的“四方格”图标,在弹出的浮层中选择“创建机器组”。

    4.在“创建机器组”有侧边栏中按提示配置,“机器组标识”选择“用户自定义标识”,“名称”、“机器组Topic”、“用户自定义标识”建议保持一致。“用户自定义标识”是其中最为重要的一个配置,本教程中使用“my-k8s-group”,后续在安装ilogtail时会再次用到。“点击”确认保存机器组。

    5.再次点击左侧边栏的“放大镜”图标,展开logstore管理界面,点击第2步中创建的logstore的“向下展开”图标,弹出“配置Logstore”菜单。点击“logtail配置”的“+”按钮。

    6.在弹出的“快速接入数据”对话框中搜索“kube”,并选择“Kubernertes-文件”。在弹出的“提示”框中单机“继续”。

    7.在“Kubernertes文件”配置界面,直接选择“使用现有机器组”。

    8.跳转到“机器组配置”界面,选择第4步中创建的机器组,点击“>”按钮将其加入到“应用机器组”中,然后点击“下一步”。

    9.在ilogtail配置中仅修改“配置名称”和“日志路径”两个必填项,点击“下一步”确认。

    10.完成索引配置。这一步不对任何选项进行修改,直接点击下一步完成配置。

    此时,整个日志配置已经完成。请保持页面打开。

    安装ilogtail

    1.登陆可以控制K8S集群的中控机。编辑ilogtail的ConfigMap YAML。

    $ vim alicloud-log-config.yaml

    在Vim中粘贴如下内容并保存(注意,修改注释中提示的字段,7-11行)。

    apiVersion: v1
    kind: ConfigMap
    metadata:
      name: alibaba-log-configuration
      namespace: kube-system
    data:
        log-project: "my-project" #修改为实际project名称
        log-endpoint: "cn-wulanchabu.log.aliyuncs.com" #修改为实际endpoint
        log-machine-group: "my-k8s-group" #可以自定义机器组名称
        log-config-path: "/etc/ilogtail/conf/cn-wulanchabu_internet/ilogtail_config.json" #修改cn-wulanchabu为实际project地域
        log-ali-uid: "*********" #修改为阿里云UID
        access-key-id: "" #本教程用不上
        access-key-secret: "" #本教程用不上
        cpu-core-limit: "2"
        mem-limit: "1024"
        max-bytes-per-sec: "20971520"
        send-requests-concurrency: "20"

    2.计算alicloud-log-config.yaml的sha256 hash,并编辑ilogtail的DaemonSet YAML。

    $ sha256sum alicloud-log-config.yaml
    f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214  alicloud-log-config.yaml
    $ vim logtail-daemonset.yaml

    在Vim中粘贴如下内容并保存(注意,修改注释中提示的字段,21、25行)。

    apiVersion: apps/v1
    kind: DaemonSet
    metadata:
      name: logtail-ds
      namespace: kube-system
      labels:
        k8s-app: logtail-ds
    spec:
      selector:
        matchLabels:
          k8s-app: logtail-ds
      updateStrategy:
        type: RollingUpdate
      template:
        metadata:
          labels:
            k8s-app: logtail-ds
            kubernetes.io/cluster-service: "true"
            version: v1.0
          annotations:
            checksum/config: f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214 #必须修改为alicloud-log-config.yaml的hash
        spec:
          containers:
          - name: logtail
            image: registry.cn-wulanchabu.aliyuncs.com/log-service/logtail:latest #可以修改为距离k8s集群最近的地域
            resources:
              limits:
                cpu: 2
                memory: 1024Mi
              requests:
                cpu: 100m
                memory: 256Mi
            livenessProbe:
              httpGet:
                path: /liveness
                port: 7953
                scheme: HTTP
              initialDelaySeconds: 30
              periodSeconds: 60
            securityContext:
              privileged: true
            env:
              - name: HTTP_PROBE_PORT
                value: "7953"
              - name: "ALIYUN_LOGTAIL_CONFIG"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: log-config-path
              - name: "ALIYUN_LOGTAIL_USER_ID"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: log-ali-uid
              - name: "ALIYUN_LOGTAIL_USER_DEFINED_ID"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: log-machine-group
              - name: "ALICLOUD_LOG_ACCESS_KEY_ID"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: access-key-id
              - name: "ALICLOUD_LOG_ACCESS_KEY_SECRET"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: access-key-secret
              - name: "ALICLOUD_LOG_DOCKER_ENV_CONFIG"
                value: "true"
              - name: "ALICLOUD_LOG_ECS_FLAG"
                value: "false"
              - name: "ALICLOUD_LOG_DEFAULT_PROJECT"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: log-project
              - name: "ALICLOUD_LOG_ENDPOINT"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: log-endpoint
              - name: "ALICLOUD_LOG_DEFAULT_MACHINE_GROUP"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: log-machine-group
              - name: "ALIYUN_LOG_ENV_TAGS"
                value: "_node_name_|_node_ip_"
              - name: "_node_name_"
                valueFrom:
                  fieldRef:
                    fieldPath: spec.nodeName
              - name: "_node_ip_"
                valueFrom:
                  fieldRef:
                    fieldPath: status.hostIP
              # resource limit for logtail self process
              - name: "cpu_usage_limit"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: cpu-core-limit
              - name: "mem_usage_limit"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: mem-limit
              - name: "max_bytes_per_sec"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: max-bytes-per-sec
              - name: "send_request_concurrency"
                valueFrom:
                  configMapKeyRef:
                    name: alibaba-log-configuration
                    key: send-requests-concurrency
            volumeMounts:
            - name: sock
              mountPath: /var/run/
            - name: root
              mountPath: /logtail_host
              readOnly: true
              mountPropagation: HostToContainer
          terminationGracePeriodSeconds: 30
          tolerations:
          - operator: "Exists"
          hostNetwork: true
          dnsPolicy: "Default"
          volumes:
          - name: sock
            hostPath:
              path: /var/run/
          - name: root
            hostPath:
              path: /

    3.应用YAML配置,创建ConfigMap和DaemonSet。

    $ kubectl apply -f alicloud-log-config.yaml
    configmap/alibaba-log-configuration created
    $ kubectl apply -f logtail-daemonset.yaml
    daemonset.apps/logtail-ds created

    4.等待1分钟,检查DeamonSet是否正常运行

    $ kubectl get -f logtail-daemonset.yaml

    这个时候控制台应该打印出类似以下的消息,代表安装成功

    NAME         DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
    logtail-ds   3         3         3       3            3           <none>          2m1s

    上报日志并查看

    1.创建一个用于持续生成日志的Pod。

    $ vim demo-pod.yaml

    在Vim中粘贴如下内容并保存(注意,可能需要修改注释中提示的字段,8-9行)。

    apiVersion: v1
    kind: Pod
    metadata:
      labels:
        name: demo-pod
      name: demo-pod
    spec:
    #  imagePullSecrets:          # Comment out to enable specific image pull secret
    #    - name: myregistrykey    # repleace it to specific registry key containers
    containers:
        - image: busybox
          imagePullPolicy: IfNotPresent
          name: demo-pod
          command: ["/bin/sh"]
          args: ["-c", "while true; do echo $(date) >>/tmp/demo.log; sleep 10; done"]
          resources: {}
          securityContext:
            capabilities: {}
            privileged: false
          terminationMessagePath: /dev/termination-log
      dnsPolicy: ClusterFirst
      restartPolicy: Always

    应用YAML配置,创建Pod

    $ kubectl apply -f demo-pod.yaml
    pod/demo-pod created

    2.回到Web控制台,点击配置完成界面的“查询日志”跳转到日志查询界面。点击页面左侧的“放大镜”图标,选中logstore,点击“眼睛”图标,在左侧出现的“消费预览”侧边栏中尝试调整Shard和时间范围,点击预览查看上报的日志。

    What's Next

    你可以进入下一节学习《ilogtail使用入门-iLogtail本地部署方案

    了解容器采集原理《通过DaemonSet-控制台方式采集容器标准输出

    也可以学习ilogtail采集的更多用法:

    原文链接

    本文为阿里云原创内容,未经允许不得转载。 

  • 相关阅读:
    HTML页引用CSS
    C#反射
    Marshal.SecureStringToBSTR
    SQL语句创建表和数据库
    抽象类和抽象方法
    3 Sum Closest
    Chapter 2: Binary Search & Sorted Array
    Spiral Matrix
    Pascal's Triangle
    Plus One
  • 原文地址:https://www.cnblogs.com/yunqishequ/p/15784226.html
Copyright © 2011-2022 走看看