[译] 在Kubernetes生产环境中运行Istio

本文翻译自 https://www.tigera.io/blog/running-istio-on-kubernetes-in-production-part-i/，作者 Alexander Lukyanchenko，发表于2019年5月。

什么是Istio？ Istio是一种服务网格（service mesh）技术，它为网络添加了一个抽象层。它拦截K8S集群中的全部或部分流量，并对其进行处理。它支持哪些操作呢？ 例如，设置智能路由（smart routing）或实现断路器（circuit breaker）或金丝雀部署（Canary deployment）。此外，Istio还可以限制外部交互，并控制群集和外部网络之间的所有路由。此外，它支持设置策略规则以控制不同微服务之间的交互。最后，我们可生成一个完整的网络交互图，采用统一度量，并对应用程序完全透明。

Istion的详细介绍可以访问其官方文档https://istio.io/docs/concepts/。本文中，我会介绍基于Istio的微服务之间交互的基本原理，你将会看到Istio是一个非常强大的能解决很多问题的工具。我还会尝试着回答一些初学者经常问到的问题。我相信这些能帮助你高效地使用Istio。

在安装Istio之前，我想介绍一些基本概念、主要组件和组件之间交互的基本原理。

1. 运行原理

Istio包括两个主要组件：控制平面和数据平面。控制平面包括若干基础组件，用于控制其它组件之间能正确地交互。在当前1.0版本中，控制平面有三个主要组件：Pilot、Mixer和Citadel。文中不会介绍Citadel，它主要用于产生服务间通信所使用的TLS证书。我们现在来看下Polit和Mixer组件的用途和设计。

 Pilot是主要的控制组件，它分发集群中的有关信息，包括服务、端点和路由规则等。Mixer是一个可选控制平面组件，用于收集性能数据、日志和其它有关网络交互的信息。它还负责监视策略规则（policy rule）的合法性。 

数据平面使用边车代理容器（sidecar proxy container）实现，默认使用Envoy。为了确保Istio对应用完全透明，还实现了自动插入机制。最新的实现支持K8S 1.9和更新版本。对于老K8S版本，可以使用初始化器（Initializer）。 

边车容器通过GRPC协议连接到Pilot，该协议优化了对集群变化的推送实现机制。从Envoy 1.6版本就开始使用GPRC了。Istio从0.8版本起就实现了一个 pilot-agent，它是一个用Go语言实现的Envoy的封装，用于配置启动参数。 

Pilot和Mixer是完全无状态组件，所有状态都保存在内存中。它们的配置保存在K8S CRD 中。Istio-agent获取Pilot地址，然后打开GPRC流。

 如上述介绍的，Istio实现了一种对应用完全透明的机制。过程如下：

1. 部署一个服务的新版本。
2. 根据不同的边车容器插入方式，在配置阶段，一个istio-init容器和istio-agent容器（envoy）被自动或手动插入服务pod。
3. Istio-init容器是一个脚本，用于设置pod的iptables规则。有两种方式可配置将网络流量导入istio-agent容器：使用redirect iptables规则或TPROXY。本文写作时默认采用redirect iptables规则。在istio-init中，可配置哪些网络流量会被截取并发送到istio-agent。比如，为了截取所有进出的流量，你需要添加参数 –i和-b 到*。你可以配置只截取特定端口的流量。要避免截取特定子网的流量，可以使用-x标志。
4. Istio-init容器执行完毕后，包括pilot-agent和业务容器在内的所有容器都会被启动。Pilot-agent通过GRPC连接到Pilot，获取集群的有关信息。根据所收到的数据，它进行相关配置，其中，envoy会动态配置监听器，并开始监听。因此，当请求进入pod后，它会被redirect iptables规则导给边车容器，envoy处理这些流量并进行转发。本步中，会有数据被发给Mixer，下文会进行介绍。

到此为止，我们了解了envoy代理所组成的完整网络，它能被从一个中心点（Pilot）上进行配置。现在，所有进出的请求都会经过Envoy。而且，只有TCP流量会被截取。这意味着K8S服务的DNS请求不会受到影响。当出去的流量被截取后，Envoy会处理它，并决定发往哪里。 

2. Mixer组件 

下面我们会介绍Mixer的原理及用途。官方文档在https://istio.io/docs/concepts/policies-and-telemetry/overview/。Mixer有两个组件：istio-telemetry和istio-policy（0.8版本之前，只有一个组件istio-mixer）。istio-telemetry通过GRPC从边车容器收取有关服务交互的计量信息，istio-policy收取并处理策略校验请求，并超检查策略规则的合法性。这些策略会在边车容器中被缓存一段时间。Mixer是一个高可用组件，采用多级缓存。一开始数据被缓存在边车容器中，然后在mixer侧，最后被发到所谓的mixer后端。结果，如果有某个组件故障，缓存会一直增长；如果组件重启，则缓存会被刷新。Mixer后端是一些发送计量数据的端点，比如statsd和newrelic之类。写这种后端也很容器，后文会做介绍。

总结一下，istio-telemetry的工作流如下：

1. 服务1给服务2发一个请求。
2. 在服务1中，请求会被边车容器截取。它监控发给服务2的请求，会准备一些信息，封装成报告请求（Report reques）发给istio-telemetry。
3. istio-telemetry决定是否向其后端发送这些请求。

3. 使用Pilot和Envoy搭建Istio系统

我们来看看如何使用Pilot和Envoy组件搭建Istio系统。首先来看下Pilot所用到的配置：

apiVersion: v1

kind: ConfigMap

metadata:

  name: istio

  namespace: istio-system

  labels:

    app: istio

    service: istio

data:

  mesh: |-

# disable tracing mechanism for now

    enableTracing: false

# do not specify mixer endpoints, so that sidecar containers do not send the information

    #mixerCheckServer: istio-policy.istio-system:15004

    #mixerReportServer: istio-telemetry.istio-system:15004

# interval for envoy to check Pilot

    rdsRefreshDelay: 5s

# default config for envoy sidecar

    defaultConfig:

      # like rdsRefreshDelay

      discoveryRefreshDelay: 5s

# path to envoy executable

      configPath: "/etc/istio/proxy"

      binaryPath: "/usr/local/bin/envoy"

# default name for sidecar container

      serviceCluster: istio-proxy

# time for envoy to wait before it shuts down all existing connections

      drainDuration: 45s

      parentShutdownDuration: 1m0s

# by default, REDIRECT rule for iptables is used. TPROXY can be used as well.

      #interceptionMode: REDIRECT

# port for sidecar container admin panel

      proxyAdminPort: 15000

# address for sending traces using zipkin protocol (not used as turned off in enableTracing option)

      zipkinAddress: tracing-collector.tracing:9411

# statsd address for envoy containers metrics

      # statsdUdpAddress: aggregator:8126

# turn off Mutual TLS

      controlPlaneAuthPolicy: NONE

# istio-pilot listen port to report service discovery information to sidecars

      discoveryAddress: istio-pilot.istio-system:15007

我们把Istio所有组件都放到istio-sytem命名空间中。最小配置只需要Pilot。我们使用如下的配置。我们会手动进行边车容器插入。

初始容器配置：

initContainers:

 - name: istio-init

   args:

   - -p

   - "15001"

   - -u

   - "1337"

   - -m

   - REDIRECT

   - -i

   - '*'

   - -b

   - '*'

   - -d

   - ""

   image: istio/proxy_init:1.0.0

   imagePullPolicy: IfNotPresent

   resources:

     limits:

       memory: 128Mi

   securityContext:

     capabilities:

       add:

       - NET_ADMIN

　　

边车容器配置：

- name: istio-proxy

         command:

         - "bash"

         - "-c"

         - |

           exec /usr/local/bin/pilot-agent proxy sidecar 

           --configPath 

           /etc/istio/proxy 

           --binaryPath 

           /usr/local/bin/envoy 

           --serviceCluster 

           service-name 

           --drainDuration 

           45s 

           --parentShutdownDuration 

           1m0s 

           --discoveryAddress 

           istio-pilot.istio-system:15007 

           --discoveryRefreshDelay 

           1s 

           --connectTimeout 

           10s 

           --proxyAdminPort 

           "15000" 

           --controlPlaneAuthPolicy 

           NONE

         env:

         - name: POD_NAME

           valueFrom:

             fieldRef:

               fieldPath: metadata.name

         - name: POD_NAMESPACE

           valueFrom:

             fieldRef:

               fieldPath: metadata.namespace

         - name: INSTANCE_IP

           valueFrom:

             fieldRef:

               fieldPath: status.podIP

         - name: ISTIO_META_POD_NAME

           valueFrom:

             fieldRef:

               fieldPath: metadata.name

         - name: ISTIO_META_INTERCEPTION_MODE

           value: REDIRECT

         image: istio/proxyv2:1.0.0

         imagePullPolicy: IfNotPresent

         resources:

           requests:

             cpu: 100m

             memory: 128Mi

           limits:

             memory: 2048Mi

         securityContext:

           privileged: false

           readOnlyRootFilesystem: true

           runAsUser: 1337

         volumeMounts:

         - mountPath: /etc/istio/proxy

           name: istio-envoy

一个完整的安装还需要创建服务账户、集群角色、集群角色绑定和CRD。更多信息请阅读https://github.com/istio/istio/tree/release-1.0/install/kubernetes/helm/istio/charts/pilot/templates。安装好以后，边车容器会被注入服务pod，Envoy会被启动起来，从Pilot接受数据并开始处理请求。

这里关键的一点是，所有控制平面组件都是无状态的，因此很容器水平扩展。所有数据都以CRD被保存在etcd中。

而且，还可以将Istio安装在集群之外，并用于多个K8S集群。更多信息可阅读https://istio.io/docs/setup/kubernetes/multicluster-install/。在多集群部署中，需要考虑以下限制：

• CIDR Pod和服务CIDR必须是集群间唯一，而且不能重叠。
• 所有CIDR Pod都能在集群内被访问。
• 所有K8S API 服务器都能被互访。 

感谢您的阅读，欢迎关注我的微信公众号：