KubernetesノードのローカルDNSキャッシュとしてNetScaler CPXを展開する

Kubernetesクラスター内のアプリケーションポッドは、他のアプリケーションポッドと通信するためにDNSに依存しています。Kubernetesクラスター内のアプリケーションからのDNS要求は、Kubernetes DNS (kube-dns) によって処理されます。マイクロサービスアーキテクチャの採用が広がるにつれて、Kubernetesクラスター内のDNS要求レートが増加しています。その結果、Kubernetes DNS (kube-dns) は過負荷になっています。NetScaler CPXを各KubernetesノードにローカルDNSキャッシュとして展開し、ノード内のアプリケーションポッドからのDNS要求をNetScaler CPXに転送できるようになりました。これにより、DNS要求をより迅速に解決し、Kubernetes DNSの負荷を大幅に軽減できます。

NetScaler CPXを展開するには、Kubernetes DaemonSetエンティティを使用して、Kubernetesクラスター内の各ノードにNetScaler CPXポッドをスケジュールします。Kubernetes DaemonSetは、クラスター内の各KubernetesノードにNetScaler CPXのインスタンスがあることを保証します。 アプリケーションポッドがCPX DNSポッドにトラフィックを直接送信するようにするには、エンドポイントとしてNetScaler CPXポッドを持つKubernetesサービスを作成する必要があります。このサービスのクラスターIPは、アプリケーションポッドのDNSエンドポイントとして使用されます。アプリケーションポッドがDNS解決のためにNetScaler CPXサービスクラスターIPアドレスを使用するようにするには、各ノードのkubelet構成ファイルをNetScaler CPXサービスクラスターIPで更新する必要があります。

NetScaler CPXをNodeLocal DNSキャッシュとして展開するために、以下の環境変数が導入されました。

  • KUBE_DNS_SVC_IP: NetScaler CPXポッドで構成をトリガーするための必須引数であるkube-dnsサービスのクラスターIPアドレスを指定します。NetScaler CPXキャッシュにDNSクエリ応答がない場合、NetScaler CPXポッドはこのIPアドレスにDNSクエリを転送します。

  • CPX_DNS_SVC_IP: NetScaler CPXサービスのクラスターIPアドレスを指定します。CPX_DNS_SVC_IP環境変数は、ノード上のローカルDNSを構成するために使用されます。この変数を構成すると、アプリケーションポッドから発信されるDNS要求をノード内のローカルNetScaler CPXポッドに転送するためのiptablesルールが追加されます。

  • NS_DNS_FORCE_TCP: この環境変数は、クエリがUDP経由で受信された場合でも、DNS要求にTCPの使用を強制します。

  • NS_DNS_EXT_RESLV_IP: 特定のドメインのDNS要求を転送する外部ネームサーバーのIPアドレスを指定します。

  • NS_DNS_MATCH_DOMAIN: クエリを外部ネームサーバーに転送するために照合する外部ドメイン文字列を指定します。

ノードにDNSキャッシュとしてNetScaler CPXを展開する

KubernetesクラスターのローカルDNSキャッシュとしてNetScaler CPXを展開するには、次のタスクが含まれます。

マスターノードで:

  • エンドポイントとしてNetScaler CPXポッドを持つKubernetesサービスを作成する

  • NetScaler CPXポッドの環境変数を定義するためのConfigMapを作成する

  • Kubernetes DaemonSetを使用して、Kubernetesクラスター内の各ノードにNetScaler CPXポッドをスケジュールする。

ワーカーノードの場合:

  • DNSリクエストをNetScaler CPXに転送するように、NetScaler CPXサービスのクラスターIPアドレスを使用してkubelet設定ファイルを変更します。

Kubernetesマスターノードでの設定

ノードのローカルDNSキャッシュとしてNetScaler CPXを展開するには、Kubernetesマスターノードで次の手順を実行します。

  1. cpx_dns_svc.yamlファイルを使用して、NetScaler CPXポッドをエンドポイントとするサービスを作成します。

    kubectl apply -f cpx_dns_svc.yaml
    

    cpx_dns_svc.yamlファイルは次のとおりです。

            apiVersion: v1
            kind: Service
            metadata:
              name: cpx-dns-svc
              labels:
                app: cpxd
            spec:
              ports:
              - protocol: UDP
                port: 53
                name: dns
              - protocol: TCP
                port: 53
                name: dns-tcp
              selector:
                app: cpx-daemon
    
  2. NetScaler CPXサービスのIPアドレスを取得します。

    kubectl get svc cpx-dns-svc
    
  3. Kube DNSサービスのIPアドレスを取得します。

    kubectl get svc -n kube-system
    
  4. NetScaler CPXポッドの環境変数を定義するためのConfigMapを作成します。これらの環境変数は、NetScaler CPXサービスとKube DNSサービスのIPアドレスを渡すために使用されます。この手順では、ファイル内でデータ(キーと値のペア)として指定された環境変数を使用して、サンプルConfigMap cpx-dns-cacheが作成されます。

    kubectl create configmap cpx-dns-cache --from-file <path-to-file>
    

    以下は、環境変数をキーと値のペアとして含むサンプルファイルです。

      CPX_DNS_SVC_IP: 10.111.95.145
      EULA: "yes"
      KUBE_DNS_SVC_IP: 10.96.0.10
      NS_CPX_LITE: "1"
      NS_DNS_EXT_RESLV_IP: 10.102.217.142
      NS_DNS_MATCH_DOMAIN: citrix.com
      PLATFORM: CP1000
    

    以下はサンプルConfigMapです。

    apiVersion: v1
    data:
      CPX_DNS_SVC_IP: 10.111.95.145
      EULA: "yes"
      KUBE_DNS_SVC_IP: 10.96.0.10
      NS_CPX_LITE: "1"
      NS_DNS_EXT_RESLV_IP: 10.102.217.142
      NS_DNS_MATCH_DOMAIN: citrix.com
      PLATFORM: CP1000
    kind: ConfigMap
    metadata:
      creationTimestamp: "2019-10-15T07:45:54Z"
      name: cpx-dns-cache
      namespace: default
      resourceVersion: "8026537"
      selfLink: /api/v1/namespaces/default/configmaps/cpx-dns-cache
      uid: 8d06f6ee-133b-4e1a-913c-9963cbf4f48
    
  5. マスターノードでNetScaler CPX用のKubernetes DaemonSetを作成します。

    kubectl apply -f cpx_daemonset.yaml
    

    cpx_daemonset.yamlファイルは次のとおりです。

    apiVersion: apps/v1
    kind: DaemonSet
    metadata:
      name: cpx-daemon
      labels:
            app: cpxd
    spec:
       selector:
            matchLabels:
              app: cpx-daemon
    template:
       metadata:
            labels:
              app: cpx-daemon
       spec:
           containers:
           - name: cpxd
            imagePullPolicy: IfNotPresent
            image: localhost:5000/dev/cpx
            volumeMounts:
             - mountPath: /netns/default/
            name: test-vol
            ports:
            - containerPort: 53
       envFrom:
           - configMapRef:
           name: cpx-dns-cache
       securityContext:
       privileged: true
       allowPrivilegeEscalation: true
       capabilities:
        add: ["NET_ADMIN"]
       volumes:
          -  name: test-vol
          hostPath:
          path: /proc/1/ns
          type: Directory
    

Kubernetesクラスター内のワーカーノードでの設定

マスターノードでの設定が完了したら、ワーカーノードで次の手順を実行します。

  1. アプリケーションPodがDNS解決のためにNetScaler CPXサービスクラスターIPを使用できるように、kubelet設定ファイルを以下のいずれかの手順で変更します。

    • ノードのkubeletを再構成するの手順に従い、--cluster-dns引数の値を以下の形式で変更します。

           --cluster-dns=<CPX_DNS_SVC_IP>,<KUBE_DNS_SVC_IP>
      

      または

    • /etc/systemd/system/kubelet.service.d/10-kubeadm.confファイルを編集し、以下の手順で--cluster-dns引数を変更します。

      1. kubelet設定を編集し、NetScaler CPXサービスのクラスターIPアドレスとkube-dnsサービスIPアドレスを--cluster-dns引数に指定します。

         root@node:~# cat /etc/systemd/system/kubelet.service.d/10-kubeadm.conf | grep KUBELET\_DNS\_ARGS
        
         Environment="KUBELET_DNS_ARGS=--cluster-dns=10.111.95.145,10.96.0.10 --cluster-domain=cluster.local"
         ExecStart=/usr/bin/kubelet $KUBELET_KUBECONFIG_ARGS $KUBELET_CONFIG_ARGS $KUBELET_DNS_ARGS
        
      2. 以下のコマンドを使用して、ノードのkubeletをリロードします。

         # systemctl daemon-reload
         # service kubelet restart
        
KubernetesノードのローカルDNSキャッシュとしてNetScaler CPXを展開する