经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置：技术经验 » 数据库/运维 » Kubernetes » 查看文章
Kubernetes 使用 Kubevirt 运行管理 Windows 10 操作系统
来源：cnblogs　　作者：米开朗基杨　　时间：2020/12/8 8:50:47　　对本文有异议

原文链接：https://fuckcloudnative.io/posts/use-kubevirt-to-manage-windows-on-kubernetes/

最近我发现我的 Kubernetes 集群资源实在是太多了，有点浪费，不信你看：

既然闲置资源那么多，那我何不想办法利用一下。怎么用，用来干什么又是一个问题，想到我手中只有 MacBook，缺少 Windows 操作系统，那就先想办法用 Kubernetes 创建个 Windows 虚拟机用用吧，毕竟很多场景只能用 Windows（比如突破某盘的限速、Xshell 一把梭连接所有服务器）。于是我将目光转向了 Kubevirt。

Kubevirt 是 Red Hat 开源的以容器方式运行虚拟机的项目，通过 CRD 的方式来管理虚拟机实例，它的所有概念都和一般的 Kubernetes 容器应用差不多，不需要增加学习成本，对于咱玩烂了容器的 YAML 工程师来说没有任何压力，我们可以直接用它来创建虚拟机啊。

1. Kubevirt 架构设计

Kubevirt 主要实现了下面几种资源，以实现对虚拟机的管理：

  • VirtualMachineInstance（VMI） : 类似于 kubernetes Pod，是管理虚拟机的最小资源。一个 VirtualMachineInstance 对象即表示一台正在运行的虚拟机实例，包含一个虚拟机所需要的各种配置。
  • VirtualMachine（VM） : 为群集内的 VirtualMachineInstance 提供管理功能，例如开机/关机/重启虚拟机，确保虚拟机实例的启动状态，与虚拟机实例是 1:1 的关系，类似与 spec.replica 为 1 的 StatefulSet。
  • VirtualMachineInstanceReplicaSet : 类似 ReplicaSet，可以启动指定数量的 VirtualMachineInstance，并且保证指定数量的 VirtualMachineInstance 运行，可以配置 HPA。

Kubevirt 的整体架构如图：

  • virt-api : 负责提供一些 KubeVirt 特有的 api，像是 console, vnc, startvm, stopvm 等。
  • virt-controller : 管理和监控 VMI 对象及其关联的 Pod，对其状态进行更新。
  • virt-handler : 以 DaemonSet 运行在每一个节点上，监听 VMI 的状态向上汇报，管理 VMI 的生命周期。
  • virt-launcher : 以 Pod 方式运行，每个 VMI Object 都会对应一个 virt-launcher Pod，容器内有单独的 libvirtd，用于启动和管理虚拟机。

如果你嫌上面的架构图太繁琐，这里还有一个简化版：

这个图里的 Agent 其实就是 virt-handler。

2. 磁盘和卷

虚拟机镜像（磁盘）是启动虚拟机必不可少的部分，KubeVirt 中提供多种方式的虚拟机磁盘，虚拟机镜像（磁盘）使用方式非常灵活。这里列出几种比较常用的：

  • PersistentVolumeClaim : 使用 PVC 做为后端存储，适用于数据持久化，即在虚拟机重启或者重建后数据依旧存在。使用的 PV 类型可以是 block 和 filesystem，使用 filesystem 时，会使用 PVC 上的 /disk.img，格式为 RAW 格式的文件作为硬盘。block 模式时，使用 block volume 直接作为原始块设备提供给虚拟机。
  • ephemeral : 基于后端存储在本地做一个写时复制（COW）镜像层，所有的写入都在本地存储的镜像中，VM 实例停止时写入层就被删除，后端存储上的镜像不变化。
  • containerDisk : 基于 scratch 构建的一个 docker image，镜像中包含虚拟机启动所需要的虚拟机镜像，可以将该 docker image push 到 registry，使用时从 registry 拉取镜像，直接使用 containerDisk 作为 VMI 磁盘，数据是无法持久化的。
  • hostDisk : 使用节点上的磁盘镜像，类似于 hostpath，也可以在初始化时创建空的镜像。
  • dataVolume : 提供在虚拟机启动流程中自动将虚拟机磁盘导入 pvc 的功能，在不使用 DataVolume 的情况下，用户必须先准备带有磁盘映像的 pvc，然后再将其分配给 VM 或 VMI。dataVolume 拉取镜像的来源可以时 http，对象存储，另一块 PVC 等。

3. 准备工作

在安装 Kubevirt 之前，需要做一些准备工作。先安装 libvrt 和 qemu 软件包：

  1. # Ubuntu
  2. $ apt install -y qemu-kvm libvirt-bin bridge-utils virt-manager
  4. # CentOS
  5. $ yum install -y qemu-kvm libvirt virt-install bridge-utils

查看节点是否支持 kvm 硬件辅助虚拟化

  1. $ virt-host-validate qemu
  2.   QEMU: Checking for hardware virtualization                                 : PASS
  3.   QEMU: Checking if device /dev/kvm exists                                   : PASS
  4.   QEMU: Checking if device /dev/kvm is accessible                            : PASS
  5.   QEMU: Checking if device /dev/vhost-net exists                             : PASS
  6.   QEMU: Checking if device /dev/net/tun exists                               : PASS
  7.   QEMU: Checking for cgroup 'memory' controller support                      : PASS
  8.   QEMU: Checking for cgroup 'memory' controller mount-point                  : PASS
  9.   QEMU: Checking for cgroup 'cpu' controller support                         : PASS
  10.   QEMU: Checking for cgroup 'cpu' controller mount-point                     : PASS
  11.   QEMU: Checking for cgroup 'cpuacct' controller support                     : PASS
  12.   QEMU: Checking for cgroup 'cpuacct' controller mount-point                 : PASS
  13.   QEMU: Checking for cgroup 'cpuset' controller support                      : PASS
  14.   QEMU: Checking for cgroup 'cpuset' controller mount-point                  : PASS
  15.   QEMU: Checking for cgroup 'devices' controller support                     : PASS
  16.   QEMU: Checking for cgroup 'devices' controller mount-point                 : PASS
  17.   QEMU: Checking for cgroup 'blkio' controller support                       : PASS
  18.   QEMU: Checking for cgroup 'blkio' controller mount-point                   : PASS
  19.   QEMU: Checking for device assignment IOMMU support                         : PASS
  20.   QEMU: Checking if IOMMU is enabled by kernel                               : PASS

如果不支持，则先生成让 Kubevirt 使用软件虚拟化的配置：

  1. $ kubectl create namespace kubevirt
  2. $ kubectl create configmap -n kubevirt kubevirt-config     --from-literal debug.useEmulation=true

4. 安装 Kubevirt

部署最新版本的 Kubevirt

  1. $ export VERSION=$(curl -s https://api.github.com/repos/kubevirt/kubevirt/releases | grep tag_name | grep -v -- '-rc' | head -1 | awk -F': ' '{print $2}' | sed 's/,//' | xargs)
  2. $ kubectl apply -f https://github.com/kubevirt/kubevirt/releases/download/${VERSION}/kubevirt-operator.yaml
  3. $ kubectl apply -f https://github.com/kubevirt/kubevirt/releases/download/${VERSION}/kubevirt-cr.yaml

查看部署结果：

  1. $ kubectl -n kubevirt get pod
  2. NAME                               READY   STATUS    RESTARTS   AGE
  3. virt-api-64999f7bf5-n9kcl          1/1     Running   0          6d
  4. virt-api-64999f7bf5-st5qv          1/1     Running   0          6d8h
  5. virt-controller-8696ccdf44-v5wnq   1/1     Running   0          6d
  6. virt-controller-8696ccdf44-vjvsw   1/1     Running   0          6d8h
  7. virt-handler-85rdn                 1/1     Running   3          7d19h
  8. virt-handler-bpgzp                 1/1     Running   21         7d19h
  9. virt-handler-d55c7                 1/1     Running   1          7d19h
  10. virt-operator-78fbcdfdf4-sf5dv     1/1     Running   0          6d8h
  11. virt-operator-78fbcdfdf4-zf9qr     1/1     Running   0          6d

部署 CDI

Containerized Data Importer（CDI）项目提供了用于使 PVC 作为 KubeVirt VM 磁盘的功能。建议同时部署 CDI：

  1. $ export VERSION=$(curl -s https://github.com/kubevirt/containerized-data-importer/releases/latest | grep -o "v[0-9]\.[0-9]*\.[0-9]*")
  2. $ kubectl create -f https://github.com/kubevirt/containerized-data-importer/releases/download/$VERSION/cdi-operator.yaml
  3. $ kubectl create -f https://github.com/kubevirt/containerized-data-importer/releases/download/$VERSION/cdi-cr.yaml

5. 客户端准备

Kubevirt 提供了一个命令行工具 virtctl，可以直接下载：

  1. $ export VERSION=$(curl -s https://api.github.com/repos/kubevirt/kubevirt/releases | grep tag_name | grep -v -- '-rc' | head -1 | awk -F': ' '{print $2}' | sed 's/,//' | xargs)
  2. $ curl -L -o /usr/local/bin/virtctl https://github.com/kubevirt/kubevirt/releases/download/$VERSION/virtctl-$VERSION-linux-amd64
  3. $ chmod +x /usr/local/bin/virtctl

也可以通过 krew 安装为 kubectl 的插件：

  1. $ kubectl krew install virt

6. 虚拟机镜像准备

Windows 镜像下载

这里推荐两个 Windows 镜像下载站：

① MSDN I Tell You。该网站提供的链接是 ed2k 格式，需要通过特殊下载工具进行下载，比如百度网盘离线下载、迅雷、eMule 等，其中百度网盘离线下载最好使，但下载限速又是个大问题，开了超级会员的当我没说。

② TechBench by WZT。该网站提供的是直链下载方式，可以用任意下载工具进行下载，比上面的网站方便多了，不过资源没有上面的网站丰富。

我推荐通过第二个网站来下载 Windows 镜像。

上传镜像

KubeVirt 可以使用 PVC 作为后端磁盘，使用 filesystem 类型的 PVC 时，默认使用的时 /disk.img 这个镜像，用户可以将镜像上传到 PVC，在创建 VMI 时使用此 PVC。使用这种方式需要注意下面几点：

  • 一个 PVC 只允许存在一个镜像，只允许一个 VMI 使用，要创建多个 VMI，需要上传多次
  • /disk.img 的格式必须是 RAW 格式

CDI 提供了使用使用 PVC 作为虚拟机磁盘的方案，在虚拟机启动前通过下面方式填充 PVC：

  • 通过 URL 导入虚拟机镜像到 PVC，URL 可以是 http 链接，s3 链接
  • Clone 一个已经存在的 PVC
  • 通过 container registry 导入虚拟机磁盘到 PVC，需要结合 ContainerDisk 使用
  • 通过客户端上传本地镜像到 PVC

通过命令行 virtctl，结合 CDI 项目，可以上传本地镜像到 PVC 上，支持的镜像格式有：

  • .img
  • .qcow2
  • .iso
  • 压缩为 .tar，.gz，.xz 格式的上述镜像

我们的目标是安装 Windows 10 虚拟机，所以需要将上面下载好的 Windows 镜像上传到 PVC：

  1. $ virtctl image-upload   --image-path='Win10_20H2_Chinese(Simplified)_x64.iso'   --storage-class csi-rbd-sc   --pvc-name=iso-win10   --pvc-size=7G   --uploadproxy-url=https://<cdi-uploadproxy_svc_ip>   --insecure   --wait-secs=240
  3. PersistentVolumeClaim default/iso-win10 created
  4. Waiting for PVC iso-win10 upload pod to be ready...
  5. Pod now ready
  6. Uploading data to https://10.111.29.156
  8.  5.63 GiB / 5.63 GiB [======================================================================================================================================================] 100.00% 27s
  10. Uploading data completed successfully, waiting for processing to complete, you can hit ctrl-c without interrupting the progress
  11. Processing completed successfully
  12. Uploading Win10_20H2_Chinese(Simplified)_x64.iso completed successfully

参数解释：

  • --image-path : 操作系统镜像地址。
  • --pvc-name : 指定存储操作系统镜像的 PVC，这个 PVC 不需要提前准备好，镜像上传过程中会自动创建。
  • --pvc-size : PVC 大小，根据操作系统镜像大小来设定，一般略大一个 G 就行。
  • --uploadproxy-url : cdi-uploadproxy 的 Service IP，可以通过命令 kubectl -n cdi get svc -l cdi.kubevirt.io=cdi-uploadproxy 来查看。

7. 增加 hostDisk 支持

Kubevirt 默认没有开启对 hostDisk 的支持，需要手动开启。步骤也很简单，只需新建个 ConfigMap，增加 hostDisk 的特性：

kubevet-config.yaml

  1. apiVersion: v1
  2. data:
  3.   feature-gates: LiveMigration,DataVolumes,HostDisk
  4. kind: ConfigMap
  5. metadata:
  6.   labels:
  7.     kubevirt.io: ""
  8.   name: kubevirt-config
  9.   namespace: kubevirt

7. 创建虚拟机

创建 Windows 虚拟机的模板文件如下：

win10.yaml

  1. apiVersion: kubevirt.io/v1alpha3
  2. kind: VirtualMachine
  3. metadata:
  4.   name: win10
  5. spec:
  6.   running: false
  7.   template:
  8.     metadata:
  9.       labels:
  10.         kubevirt.io/domain: win10
  11.     spec:
  12.       domain:
  13.         cpu:
  14.           cores: 4
  15.         devices:
  16.           disks:
  17.           - bootOrder: 1
  18.             cdrom:
  19.               bus: sata
  20.             name: cdromiso
  21.           - disk:
  22.               bus: virtio
  23.             name: harddrive
  24.           - cdrom:
  25.               bus: sata
  26.             name: virtiocontainerdisk
  27.           interfaces:
  28.           - masquerade: {}
  29.             model: e1000 
  30.             name: default
  31.         machine:
  32.           type: q35
  33.         resources:
  34.           requests:
  35.             memory: 16G
  36.       networks:
  37.       - name: default
  38.         pod: {}
  39.       volumes:
  40.       - name: cdromiso
  41.         persistentVolumeClaim:
  42.           claimName: iso-win10
  43.       - name: harddrive
  44.         hostDisk:
  45.           capacity: 50Gi
  46.           path: /data/disk.img
  47.           type: DiskOrCreate
  48.       - containerDisk:
  49.           image: kubevirt/virtio-container-disk
  50.         name: virtiocontainerdisk

这里用到了 3 个 Volume：

  • cdromiso : 提供操作系统安装镜像，即上文上传镜像后生成的 PVC iso-win10。
  • harddrive : 虚拟机使用的磁盘，即操作系统就会安装在该磁盘上。这里选择 hostDisk 直接挂载到宿主机以提升性能，如果使用分布式存储则体验非常不好。
  • containerDisk : 由于 Windows 默认无法识别 raw 格式的磁盘，所以需要安装 virtio 驱动。 containerDisk 可以将打包好 virtio 驱动的容器镜像挂载到虚拟机中。

关于网络部分，spec.template.spec.networks 定义了一个网络叫 default，这里表示使用 Kubernetes 默认的 CNI。spec.template.spec.domain.devices.interfaces 选择定义的网络 default，并开启 masquerade，以使用网络地址转换 (NAT) 来通过 Linux 网桥将虚拟机连接至 Pod 网络后端。

使用模板文件创建虚拟机：

  1. $ kubectl apply -f win10.yaml

启动虚拟机实例：

  1. $ virtctl start win10
  2. # 如果 virtctl 安装为 kubectl 的插件，命令格式如下：
  3. $ kubectl virt start win10

查看实例运行状态：

  1. $ kubectl get pod
  2. NAME                              READY   STATUS    RESTARTS   AGE
  3. virt-launcher-win10-s742j         2/2     Running   0          15s

然后就可以通过 VNC 工具来访问 Windows 虚拟机了。首先需要在本地安装一个 VNC 客户端，对于 macOS 来说，可以安装 Tiger VNC 或者 Real VNC。我选择安装 Real VNC：

  1. $ brew cask install vnc-viewer

连接到 Windows 虚拟机：

  1. $ virtctl vnc win10
  2. # 如果 virtctl 安装为 kubectl 的插件，命令格式如下：
  3. $ kubectl virt vnc win10

执行完上面的命令后，就会打开本地的 VNC 客户端连接到虚拟机：

下面就是安装正常的安装步骤往下进行，到选择硬盘那一步的时候，你会发现没有一个硬盘可供使用，这时就需要安装 virtio 驱动了。

不过不用担心，virtio 驱动已经被挂载进来了，直接点击加载驱动程序就可以安装驱动了：

安装好驱动后，硬盘就能正确显示了：

下面就可以继续安装了。

安装成功后会自动重启进行初始化设置，那个熟悉的“海内存知己，天涯若比邻”又回来了：

设置完成后，进入系统，打开设备管理器，可以看到有几个未配置的设备。选择其中一个右键单击，然后选择“更新驱动程序”。

选择“浏览我的电脑以查找驱动程序”。

选择“CD 驱动器（E:）virtio-win-0.1.1”，然后点击确定。

设备管理器将自动找到正确的驱动程序，不需要指定驱动程序的路径。

在提示符下，单击“安装”。

其他的设备驱动可以复制上面的步骤一一安装。

8. CNI 插件问题解决

如果你的 Kubernetes 集群 CNI 插件用的是 Calico，这里会遇到虚拟机无法联网的问题。因为 Calico 默认禁用了容器的 ip forward 功能，而 masquerade 需要开启这个功能才能生效。

我们只需要修改 Calico 的 ConfigMap 就可以启用容器的 ip forward 功能了，执行以下命令打开 configmap calico-config：

  1. $ kubectl -n kube-system edit cm calico-config

在 CNI 配置文件中加上以下的内容：

  1. "container_settings": {
  2.     "allow_ip_forwarding": true
  3. },

修改完的配置文件内容：

  1.   cni_network_config: |-
  2.     {
  3.       "name": "k8s-pod-network",
  4.       "cniVersion": "0.3.1",
  5.       "plugins": [
  6.         {
  7.           "type": "calico",
  8.           "log_level": "info",
  9.           "log_file_path": "/var/log/calico/cni/cni.log",
  10.           "etcd_endpoints": "__ETCD_ENDPOINTS__",
  11.           "etcd_key_file": "__ETCD_KEY_FILE__",
  12.           "etcd_cert_file": "__ETCD_CERT_FILE__",
  13.           "etcd_ca_cert_file": "__ETCD_CA_CERT_FILE__",
  14.           "mtu": __CNI_MTU__,
  15.           "ipam": {
  16.               "type": "calico-ipam"
  17.           },
  18.           "container_settings": {
  19.               "allow_ip_forwarding": true
  20.           },
  21.           "policy": {
  22.               "type": "k8s"
  23.           },
  24.           "kubernetes": {
  25.               "kubeconfig": "__KUBECONFIG_FILEPATH__"
  26.           }
  27.         },
  28.         {
  29.           "type": "portmap",
  30.           "snat": true,
  31.           "capabilities": {"portMappings": true}
  32.         },
  33.         {
  34.           "type": "bandwidth",
  35.           "capabilities": {"bandwidth": true}
  36.         }
  37.       ]
  38.     }

然后重启 calico-node 容器：

  1. $ kubectl -n kube-system delete pod -l k8s-app=calico-node

8. 远程连接

在系统未安装好之前，只能用 VNC 来远程控制，但 VNC 的体验实在让人难受。现在系统装好了，就可以使用 Windows 的远程连接协议 RDP（Remote Desktop Protocol） 了。选择开始 >设置 >系统>远程桌面，打开启用远程桌面就好了。

现在可以通过 telnet 来测试一下 RDP 端口（3389）的连通性：

  1. $ kubectl get pod -owide
  2. NAME                              READY   STATUS    RESTARTS   AGE     IP               NODE    NOMINATED NODE   READINESS GATES
  3. virt-launcher-win10-s742j         2/2     Running   0          139m    100.92.235.131   k8s03   <none>           <none>
  5. $ telnet 100.92.235.131 3389
  6. Trying 100.92.235.131...
  7. Connected to 100.92.235.131.
  8. Escape character is '^]'.

如果你的本地电脑能够直连 Pod IP 和 SVC IP，现在就可以直接通过 RDP 客户端来远程连接 Windows 了。如果你的本地电脑不能直连 Pod IP 和 SVC IP，但可以直连 Kubernetes 集群的 Node IP，可以通过 NodePort 来暴露 RDP 端口。具体操作是创建一个 Service，类型为 NodePort：

  1. $ kubectl virt expose vm win10 --name win10-rdp --port 3389 --target-port 3389 --type NodePort
  3. $ kubectl get svc
  4. NAME                     TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)          AGE
  5. kubernetes               ClusterIP   10.96.0.1       <none>        443/TCP          17d
  6. win10-rdp                NodePort    10.98.20.203    <none>        3389:31192/TCP   20m

然后就可以通过 Node IP 来远程连接 Windows 了。

如果你的本地操作系统是 Windows 10，可以在任务栏的搜索框中，键入“远程桌面连接”，然后选择“远程桌面连接”。在“远程桌面连接”中，键入你想要连接的电脑的名称（从步骤 1），然后选择“连接”。

如果你的本地操作系统是 macOS，需要在 App Store 中安装 Microsoft Remote Desktop。

安装完之后打开应用，选择 Add PC：

在 PC name 一栏中输入 NodeIP+NodePort，然后点击 Add。

然后右击创建好的配置，选择 Connect：

输入账号密码后就可以连接到 Windows 了。

全屏之后就可以获得完美的远程桌面体验了，尽情玩耍吧！

9. 参考

Kubernetes 1.18.2 1.17.5 1.16.9 1.15.12离线安装包发布地址http://store.lameleg.com ，欢迎体验。 使用了最新的sealos v3.3.6版本。 作了主机名解析配置优化，lvscare 挂载/lib/module解决开机启动ipvs加载问题， 修复lvscare社区netlink与3.10内核不兼容问题,sealos生成百年证书等特性。更多特性 https://github.com/fanux/sealos 。欢迎扫描下方的二维码加入钉钉群 ，钉钉群已经集成sealos的机器人实时可以看到sealos的动态。

原文链接：http://www.cnblogs.com/ryanyangcs/p/14079144.html

 友情链接：直通硅谷 　点职佳 　北美留学生论坛

Kubernetes热门文章

  • 【Azure K8S | AKS】在AKS集群中创建 PVC(PersistentVolumeClaim)和 PV(PersistentVolume) 示例
  • 无法访问k8s.gcr.io下载镜像问题解决办法
  • Kubernetes(k8s)访问控制：身份认证
  • Prometheus服务发现之kubernetes_sd_config
  • Arthas排查Kubernetes中应用频繁挂掉重启异常
  • Kubernetes客户端认证——基于CA证书的双向认证方式
  • k8s中kubeconfig的配置以及使用详解
  • Centos7 安装部署 Kubernetes(k8s) 高可用集群
  • Kubernetes 证书详解
  • 案例分享-full gc导致k8s pod重启

    • Kubernetes推荐文章

  • 修改kubeadm证书过期时间及更新k8s集群证书
  • 探究kubernetes 探针参数periodSeconds和timeoutSeconds
  • 从 Helm 到 Operator：Kubernetes应用管理的进化
  • 深入理解Prometheus: Kubernetes环境中的监控实践
  • k8s集群搭建及对一些组件的简单理解（二）
  • K8s高可用集群二进制部署-V1.20
  • Kubernetes容器生命周期 —— 钩子函数详解（postStart、preStop）
  • Kubernetes 审计（Auditing）
  • Thanos解码：打造企业级云原生监控解决方案
  • k8s使用rbd作为存储

    • 本站QQ群：前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

    W3xue 的所有内容仅供测试，对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
    关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接（目前9元/月）请联系QQ：27243702 沸活量
    皖ICP备17017327号-2　皖公网安备34020702000426号