在 K8S 集群中分布构建 Docker 镜像

镜像更新

最近给我的 Jenkins 镜像 做了一些更新:

  • 加入了基于 RunC 的镜像操作工具:IMG。在特权模式下,可以方便的使用命令行创建和操作 Docker 镜像。
  • 更新 Jenkins 以及 Remoting 版本。
  • 修复一些初始化问题。

下面根据这一版本的镜像简单说说分布式构建过程中的一些要点。

Jenkins 镜像的一些值得注意的东西

  • Jenkins 在启动 Slave 节点时,会设置下面三个环境变量,所以在 run.sh 就可以引用这几个环境变量启动 Worker 节点:
    • JENKINS_URL:MASTER 服务的地址。
    • JENKINS_NAME:为 Worker 节点分配的名称
    • JENKINS_SECRET:Worker 节点和 Master 节点通信时所使用的认证密钥。
    java \
    -cp /usr/share/jenkins/slave.jar hudson.remoting.jnlp.Main \
    -headless -url $JENKINS_URL $JENKINS_SECRET $JENKINS_NAME
  • img 工具依赖于 runc,因此也需要把 runc 加入到镜像之中。
  • config.xml 中:
    • 直接设置了 8081 作为 jnlp 端口,因此在 Dockerfile 中也进行了 EXPOSE 声明。
    • 开启 CSRF 选项,并设置代理服务器兼容,防止在 Kube-Proxy 的情况下无法提供服务。

Jenkins 在 Kubernetes 中的启动:

  • RBAC:因为要启动 Worker 节点,因此在开启了 RBAC 的集群上,要给 Jenkins 的 Service Account 进行授权,允许进行 Pod 的操作。
  • Service:需要暴露 jnlp 端口到集群内部,无需为其提供 loadbalancer 以及 nodePort 等形式的外网接入能力。
  • 可以根据需要提供加载卷,用于保存配置等。

分布式构建的配置

  • 首先需要安装 Kubernetes 插件。
  • 插件安装后,就可以在 Jenkins 的 credentials 中加入 Kubernetes ServiceAccount 类型的凭据,用于连接和操作 Kubernetes 集群。
  • 容器模板设置中,系统缺省会提供一个名为 jnlp 的容器模板,要想使用自己的镜像,需要进行同名覆盖。
    • 容器模板中可以按需设置加载卷等,例如要进行镜像的 PUSH 操作,就需要将 CA 证书通过一定方法加入到容器的信任列表之中。
    • 如果要进行 IMG 的操作,需要选中容器的 Run in privileged mode 选项,开启特权模式。

任务的设置

  • 要进行镜像的构建,就非常的容易,加入几行简单的 Shell 命令,例如:
    mkdir tmp
    # 生成一个 Dokerfile
    echo "FROM registry.docker-cn.com/library/alpine" > tmp/Dockerfile
    # 构建镜像
    img build -t 10.211.55.19:5000/alpine:163 tmp
    # 更新证书信任列表
    update-ca-certificates
    # 把镜像推送到私库
    img push 10.211.55.19:5000/alpine:163

相关

comments powered by Disqus