K8S深入学习 K8S包管理器Helm

一、关于Helm

1.1 为何需要Helm？

虽然K8S能够很好地组织和编排容器，但是缺少一个更高层次的应用打包工具，而Helm就是专门干这个事的。

通过Helm能够帮助开发者定义、安装和升级Kubernetes中的容器云应用。同时，也可以通过Helm进行容器云应用的分享。

1.2 Helm的架构

Helm的整体架构如下图所示：

Helm架构由Helm客户端、Tiller服务器端和Chart仓库所组成；

两个重要概念：
  （1）Chart是创建一个应用的信息集合，包括各种K8S对象的配置模板、参数定义等，可以理解为是apt、yum中的软件安装包；
  （2）Release是Chart的运行实例，代表了一个正在运行的应用。

Tiller部署在Kubernetes中，Helm客户端从Chart仓库中获取Chart安装包，并通过与Tiller服务器的交互将其安装部署到Kubernetes集群中。

简单说来，Helm客户端负责管理Chart，而 Tiller服务器则负责管理Release。

二、Helm的安装和使用

执行以下命令将Helm客户端安装在能够执行kubectl命令的节点上，这里假设我们安装在k8s-master节点上进行示例演示：

curl https://raw.githubusercontent.com/kubernetes/helm/master/scripts/get | bash

也可以通过下面的方式安装：

wget https://storage.googleapis.com/kubernetes-helm/helm-v2.11.0-linux-amd64.tar.gz
tar -zxvf helm-v2.11.0-linux-amd64.tar.gz
cd linux-amd64/
cp helm /usr/local/bin/

验证：查看helm版本

helm version

补充：为了提高使用命令行的效率，建议安装helm命令补全脚本，命令如下：

cd ~ && helm completion bash > .helmrc echo "source .helmrc" >> .bashrc

重新登录后，就可以方便地通过tab键来补全helm子命令和参数了，如下图所示，当我们输入helm install –之后按下Tab键，就会给我们参数提示了：

2.2 Tiller服务器的安装

Tiller服务器本身也是作为容器化的一个应用运行在K8S集群中，这里我们简单执行下面的命令即可安装Tiller服务：

helm init

执行以上命令，会如下图所示：

看到上图中的提示信息，代表Helm服务端已经安装成功。

这时，我们可以看看Tiller的Service、Deployment和Pod有没有启动起来：

（1）Service & Deployment

（2）Pod

如果看到其Status不是Running，那么很有可能是镜像没有拉取下来，可以曲线救国：即下载可访问的镜像然后修改Tag！

docker pull fishead/gcr.io.kubernetes-helm.tiller:v2.11.0
docker tag fishead/gcr.io.kubernetes-helm.tiller:v2.11.0 gcr.io/kubernetes-helm/tiller:v2.11.0

这时再次通过helm version命令验证一下：

2.3 Helm的使用准备

Helm安装好后，我们可以通过以下helm search来查看当前可安装的Chart：

Note：Helm安装时会为我们配置好两个仓库，一个是stable官方仓库，另一个是local本地仓库，上图中显示的都是stable官方仓库中的Chart。　

为了能够执行install安装，我们还需要事先为Tiller服务器添加集群权限，防止因Tiller服务器的权限不足而无法install。

# 创建serviceaccount资源tiller，属于kube-system命名空间
kubectl create serviceaccount -n kube-system tiller
# 创建 clusterrolebinding资源tiller-cluster-rule，集群角色为cluster-admin，用户为kube-system:tiller
kubectl create clusterrolebinding tiller-cluster-rule --clusterrole=cluster-admin --serviceaccount=kube-system:tiller
# 修改deployment tiller-deploy的配置，增加字段spec.template.spec.serviceAccount
kubectl patch deploy -n kube-system tiller-deploy -p '{"spec":{"template":{"spec":{"serviceAccount":"tiller"}}}}'

至此，使用Helm的准备工作就到此结束，后面我们就可以开始实践安装Chart了！

三、MySQL Chart实践

3.1 初步安装MySQL Chart

这里我们通过以下命令来通过官方仓库安装mysql：

helm install stable/mysql -n=edc-mysql --namespace=edc-charts

其中，-n 代表 release的名字，–namespace 指定了其所在namespace。

执行成功之后，会显示一屏幕的提示信息，其中Notes部分包含了release的使用方法，可以重点关注一下。

这里我们通过以下命令来看看已经部署的release：

helm list

可以看到，该release的状态已经是DEPLOYED，也可以看到其版本号是5.7.27。

下面再看看service、deployment、pod以及pvc的情况：

从上图可以看到，由于还没有位mysql准备PV（PersistentVolume，不了解此概念的童鞋可以参考这一篇《K8S数据管理》），导致当前release不可用，处于Pending状态。接下来我们就要先解决PV的问题，让release能够正常运行起来！在此之前，为了后续方便演示，这里现将此chart删除：

helm delete edc-mysql

3.2 为MySQL Chart准备PV

首先，按照约定准备一个edc-mysql-pv.yml，如下所示：

apiVersion: v1
kind: PersistentVolume
metadata:
  name: edc-mysql-pv
spec:
  capacity:
    storage: 8Gi
  accessModes:
    - ReadWriteOnce
  persistentVolumeReclaimPolicy: Retain
  #storageClassName: nfs
  nfs:
    path: /edc/k8s/nfsdata/edc-mysql-pv
    server: k8s-master

这里申请了一个8G的PV，用于适配mysql chart的默认配置要求，当然我们也可以通过修改自定义values.yaml来修改。

3.3 定制化安装MySQL Chart

Helm有两种方式传递配置参数实现定制化安装，一种是指定自定义的values文件，另一种是通过–set直接传入参数值。这里我们演示通过第二种，这里我们重新安装mysql chart：

helm install stable/mysql -namespace=edc-charts --set mysqlRootPassword=edc123456 -n edison

验证结果如下图所示：

3.4 升级和回滚Release

这里假设我安装的版本是5.7.14，这里我将其先升级为5.7.26来演示：

helm upgrade --set imageTag=5.7.26 edison stable/mysql

通过查看可以看到image已经换为了5.7.26：

通过helm history可以查看release的所有历史版本：

Note：这里Revision 1是5.7.14版本，Revision 2是5.7.26版本，Revision 3是5.7.27版本。

这里我们通过helm rollback回退到Revision 1版本（即5.7.14版本），可以看到已经成功回退到了5.7.14版本：

四、自定义Chart实践

4.1 创建Chart

首先，通过以下命令创建一个chart命名为mychart：

helm create mychart

Helm会帮我们创建目录mychart，并生成各种chart文件。

这里我们需要关注的是values.yaml，修改其中的内容为我们之前演示的ASP.NET Core WebAPI应用镜像：

# Default values for mychart.
# This is a YAML-formatted file.
# Declare variables to be passed into your templates.

replicaCount: 1

image:
  repository: edisonsaonian/k8s-demo
  tag: latest
  pullPolicy: IfNotPresent

service:
  type: NodePort
  port: 80
  nodePort: 31000

ingress:
  enabled: false

resources:
  limits:
    cpu: 1
    memory: 228Mi
  requests:
    cpu: 100m
    memory: 128Mi

这里我们选择NodePort的方式让外部可以通过31000端口访问到API，也设置了资源限制。

此外，我们再修改一下Templates目录下的deployment和service两个模板文件：

（1）deployment模板：重点关注两个探针的配置

apiVersion: apps/v1beta2
kind: Deployment
metadata:
  name: {{ include "mychart.fullname" . }}
  labels:
    app.kubernetes.io/name: {{ include "mychart.name" . }}
    helm.sh/chart: {{ include "mychart.chart" . }}
    app.kubernetes.io/instance: {{ .Release.Name }}
    app.kubernetes.io/managed-by: {{ .Release.Service }}
spec:
  replicas: {{ .Values.replicaCount }}
  selector:
    matchLabels:
      app.kubernetes.io/name: {{ include "mychart.name" . }}
      app.kubernetes.io/instance: {{ .Release.Name }}
  template:
    metadata:
      labels:
        app.kubernetes.io/name: {{ include "mychart.name" . }}
        app.kubernetes.io/instance: {{ .Release.Name }}
    spec:
      containers:
        - name: {{ .Chart.Name }}
          image: "{{ .Values.image.repository }}:{{ .Values.image.tag }}"
          imagePullPolicy: {{ .Values.image.pullPolicy }}
          ports:
            - name: http
              containerPort: 80
              protocol: TCP
          # 探针  检测项目是否存活
          livenessProbe:
            httpGet:
              path: /api/values
              port: http
          # 探针  检测项目是否启动成功
          readinessProbe:
            httpGet:
              path: /api/values
              port: http
            initialDelaySeconds: 30
            periodSeconds: 60
          resources:
{{ toYaml .Values.resources | indent 12 }}
    {{- with .Values.nodeSelector }}
      nodeSelector:
{{ toYaml . | indent 8 }}
    {{- end }}
    {{- with .Values.affinity }}
      affinity:
{{ toYaml . | indent 8 }}
    {{- end }}
    {{- with .Values.tolerations }}
      tolerations:
{{ toYaml . | indent 8 }}
    {{- end }}

（2）service模板：重点关注NodePort的配置

apiVersion: v1
kind: Service
metadata:
  name: {{ include "mychart.fullname" . }}
  labels:
    app.kubernetes.io/name: {{ include "mychart.name" . }}
    helm.sh/chart: {{ include "mychart.chart" . }}
    app.kubernetes.io/instance: {{ .Release.Name }}
    app.kubernetes.io/managed-by: {{ .Release.Service }}
spec:
  type: {{ .Values.service.type }}
  ports:
    - port: {{ .Values.service.port }}
      targetPort: http
      # 添加nodePort
      nodePort: {{ .Values.service.nodePort }}
      protocol: TCP
      name: http
  selector:
    app.kubernetes.io/name: {{ include "mychart.name" . }}
    app.kubernetes.io/instance: {{ .Release.Name }}

编写完成后，通过 helm lint 可以帮助我们快速验证是否有语法错误：

4.2 安装Chart

没有语法错误检测之后，便可以开始安装Chart了，正式安装之前我们可以通过以下命令来模拟安装，它会输出每个模板生成的yaml内容，帮助你检查生成的yaml内容是否是你想要的或者正确的。

helm install --dry-run --debug

然后，这里我们选择本地安装Chart：

helm install mychart -n edc-api-release --namespace=aspnetcore

只需要简单的一句话，就可以将chart部署到K8S集群中了，下面我们通过在外部访问NodePort 31000端口来验证一下是否部署成功：

（1）Node 1

（2）Node 2

两个Node节点都可以访问到，证明部署成功！

4.3 添加Chart到仓库

通过测试之后，我们的Chart就可以发布到仓库中供团队成员使用了，像阿里云、腾讯云等云服务商都已经提供了完善的Helm远程仓库，我们也可以自己搭建一个仓库，任何的Web Server其实都可以作为一个chart仓库。

下面我们在k8s-master上启动给一个httpd容器，让它来作为我们的本地chart仓库。

docker run -d -p 8080:80 -v /var/www:/usr/local/apache2/htdocs/ httpd

然后，我们将mychart进行打包，helm会将其打包为一个tgz包：

helm package mychart

然后，我们为mychart包生成仓库的index文件，并将其推送到本地chart仓库中：

mkdir myrepo
mv mychart-0.1.0.tgz myrepo/
helm repo index myrepo/ --url http://192.168.2.100:8080/charts

这里我们将httpd容器中的charts目录作为chart仓库，因此需要提前创建charts目录，并将打好的包和index.yaml文件也上传到该目录中：

最后，我们将新仓库添加到helm：

helm repo add edc-repo http://192.168.2.100:8080/charts
helm repo list

可以看到，edc-repo已经添加到了helm中，代表可以从新的本地仓库中下载和安装mychart了！

4.4 使用自定义Chart

现在我们来从本地的新仓库中下载和安装mychart：

helm install edc-repo/mychart -n mychart-release --namespace=aspnetcore

安装完成后再次验证：

（1）Node 1

（2）Node 2

如果以后仓库添加了新的chart，需要使用以下命令来更新本地的index文件：

helm repo update

五、小结

本文介绍了K8S的包管理器Helm的基本概念与安装和使用，Helm能够帮助我们像使用apt或yum那样管理安装、部署、升级和删除容器化应用，最后演示了如何为我们的ASP.NET Core API应用开发自己的chart，并在团队中共享chart。当然，关于Helm，笔者也是初学，还有很多地方没有研究，希望此文能给初学者一点帮助，谢谢！

92IT

Just love IT.

K8S深入学习 K8S包管理器Helm