这里通过OpenStack的horizon组件来创建一个m1.small的virtual machine,来详细分析下镜像格式的变化以及glance底层具体执行的哪些操作。
(1)首先看一下Glance管理的镜像,如果采用local storage,glance将镜像文件默认存储到/var/lib/glance/image目录下,这里我们选择c036d689-0336-4fcd-a8e0-4aed4dd5e420这个镜像来作为创建虚拟机的模板,此镜像是通过如下命令添加的,因此在horizon中显示的名称为:Precise x86_64。
- glance add name="Precise x86_64" is_public=true
- container_format=ovf disk_format=qcow2
- < ubuntu-12.04-server-cloudimg-amd64-disk1.img
-
- [email protected]:/var/lib/glance/images$ ll -alh
- total 2.5G
- drwxr-xr-x 2 glance glance 4.0K Jan 30 01:30 ./
- drwxr-xr-x 6 glance glance 4.0K Dec 27 21:11 ../
- -rw-r----- 1 glance glance 768M Dec 27 04:31 5b298155-8bcf-442f-bc83-bc52f3fe5be9
- -rw-r----- 1 glance glance 712M Jan 30 01:31 8760d55b-0d91-4987-8980-d6659c7856ab
- -rw-r----- 1 glance glance 223M Dec 25 03:58 c036d689-0336-4fcd-a8e0-4aed4dd5e420
- -rw-r----- 1 glance glance 768M Dec 27 04:44 d771b2ce-9310-4757-8ec5-d80f8d1e1712
通过qemu-img info命令,先看一下镜像文件的大小和格式如下:
- [email protected]:/var/lib/glance/images$ sudo qemu-img info c036d689-0336-4fcd-a8e0-4aed4dd5e420
- image: c036d689-0336-4fcd-a8e0-4aed4dd5e420
- file format: qcow2 //qcow2格式的镜像
- virtual size: 2.0G (2147483648 bytes) //镜像文件大小的上限为2G,实际使用了223M
- disk size: 223M
- cluster_size: 65536
(2)通过horizon创建m1.small(具体配置为:1vcpu,2G memory,10G root disk,20G extra volume)的virtual machine
- 新创建的虚拟机存放在/var/lib/nova/instances目录下,该目录的大体结构如下:
-
- [email protected]:/var/lib/nova/instances$ ll
- total 32
- drwxr-xr-x 8 nova nova 4096 Feb 28 21:39 ./
- drwxr-xr-x 10 nova nova 4096 Dec 25 01:07 ../
- drwxrwxr-x 2 nova nova 4096 Feb 28 21:39 _base/ //相当于镜像文件的cache目录,在此host上创建的所有的vm,都会先cacha到这里
- drwxrwxr-x 2 nova nova 4096 Jan 8 05:56 instance-00000022/ //instance-xxxxx新创建的虚拟机
- drwxrwxr-x 2 nova nova 4096 Feb 28 03:40 instance-00000034/
- drwxrwxr-x 2 nova nova 4096 Feb 28 04:02 instance-00000037/
- drwxrwxr-x 2 nova nova 4096 Feb 28 21:39 instance-0000003a/
- drwxrwxr-x 2 nova nova 4096 Jan 30 01:30 snapshots/ //此host上虚拟机对应的快照文件
-
通过查看nova-compute.log可以看到vm创建过程中,镜像文件格式的变化过程,下面总结了下,具体参见下图。
从glance中得知,有个virtual size =2G的qcow2格式的镜像文件Precise x86_64,它在glance中的ID=c036d689-0336-4fcd-a8e0-4aed4dd5e420。
- 当Nova Compute接收到vm创建的请求时,通过以下步骤完成一个VM的创建过程:
- (1)步:
- 从vm的描述文件中获得所使用的image文件的ID,然后向Glance发起索取image文件的HTTP请求,结果是image文件从Glance的存储节点下载到发起请求的host机器上,即:/var/lib/nova/instances/_base目录下:
- [email protected]:/var/lib/nova/instances/_base$ ll -alh
- total 4.0G
- drwxrwxr-x 2 nova nova 4.0K Feb 28 21:39 ./
- drwxr-xr-x 8 nova nova 4.0K Feb 28 21:39 ../
- -rw-r--r-- 1 nova kvm 2.0G Mar 1 02:06 d265f9d66b8be65448e6c9147a83d65a300e1852
- -rw-r--r-- 1 nova kvm 10G Mar 1 02:06 d265f9d66b8be65448e6c9147a83d65a300e1852_10
- -rw-rw-r-- 1 nova nova 223M Feb 28 03:17 d265f9d66b8be65448e6c9147a83d65a300e1852.part
- -rw-r--r-- 1 nova nova 20G Feb 28 04:01 ephemeral_0_20_None
- -rw-r--r-- 1 libvirt-qemu kvm 20G Feb 28 04:01 ephemeral_0_20_None_20
- -rw-r--r-- 1 nova nova 40G Feb 28 21:39 ephemeral_0_40_None
- -rw-r--r-- 1 libvirt-qemu kvm 40G Feb 28 21:39 ephemeral_0_40_None_40
即从:c036d689-0336-4fcd-a8e0-4aed4dd5e420 ---> d265f9d66b8be65448e6c9147a83d65a300e1852.part
- 通过qemu-img info,可以发现d265f9d66b8be65448e6c9147a83d65a300e1852.part仍为qcow2格式的镜像,且大小与glance上的大小一致。
-
- [email protected]:/var/lib/nova/instances/_base$ sudo qemu-img info d265f9d66b8be65448e6c9147a83d65a300e1852.part
- image: d265f9d66b8be65448e6c9147a83d65a300e1852.part
- file format: qcow2
- virtual size: 2.0G (2147483648 bytes)
- disk size: 223M
- cluster_size: 65536
(2)步:
- 镜像下载成功后,openstack先去判断image文件的类型是否为qcow2,如果是,则现将其转化为raw格式,否则,直接进入(3)
- 这里通过qemu-img convert命令,将qcow2格式转化为raw格式,转化完的镜像为:d265f9d66b8be65448e6c9147a83d65a300e1852,通过qemu-imag info查看其information。
- [email protected]:/var/lib/nova/instances/_base$ sudo qemu-img info d265f9d66b8be65448e6c9147a83d65a300e1852
- image: d265f9d66b8be65448e6c9147a83d65a300e1852
- file format: raw
- virtual size: 2.0G (2147483648 bytes)
- disk size: 659M
(3)(4)两步:
- 由于所请求的vm的类型为m1.small,其root disk的大小为10G,所以需要resize image fille to 10G。
- 这里比较奇怪的是,在resize之前,openstack会将d265f9d66b8be65448e6c9147a83d65a300e1852拷贝一份d265f9d66b8be65448e6c9147a83d65a300e1852_10,然后对d265f9d66b8be65448e6c9147a83d65a300e1852_10进行resize操作,将其变成10G的raw,这可能与vm的备份有关,暂时还没有理解为什么这么做。
- cp /var/lib/nova/instances/_base/d265f9d66b8be65448e6c9147a83d65a300e1852 /var/lib/nova/instances/_base/d265f9d66b8be65448e6c9147a83d65a300e1852_10 (raw -->raw 2G-->2G)
- qemu-img resize /var/lib/nova/instances/_base/d265f9d66b8be65448e6c9147a83d65a300e1852_10 10737418240 (raw--> raw 2G -->10G)
(5) 步:
- 以(3)中创建的d265f9d66b8be65448e6c9147a83d65a300e1852_10作为base创建qcow2格式的overlay,可以理解为以d265f9d66b8be65448e6c9147a83d65a300e1852_10为base,创建了一个快照disk,具体看对应虚拟机目录下的文件:
- [email protected]:/var/lib/nova/instances/instance-0000003a$ ll -alh
- total 417M
- drwxrwxr-x 2 nova nova 4.0K Feb 28 21:39 ./
- drwxr-xr-x 8 nova nova 4.0K Feb 28 21:39 ../
- -rw-rw---- 1 libvirt-qemu kvm 23K Feb 28 21:40 console.log
- -rw-r--r-- 1 libvirt-qemu kvm 417M Mar 1 02:36 disk
- -rw-r--r-- 1 libvirt-qemu kvm 576K Mar 1 01:35 disk.local
- -rw-rw-r-- 1 nova nova 1.6K Feb 28 21:38 libvirt.xml
现在来总结下镜像文件的变化过程:
- c036d689-0336-4fcd-a8e0-4aed4dd5e420 (223M -- qcow2)
- -->d265f9d66b8be65448e6c9147a83d65a300e1852.part (223M -- qcow2)
- --> d265f9d66b8be65448e6c9147a83d65a300e1852 (2G -- raw)
- -->d265f9d66b8be65448e6c9147a83d65a300e1852_10 (10G -- raw)
- --> disk (417M -- qcow2)
3. cache机制
如果之后创建的vm的类型也是m1.small,并且是同一个image,将不会再去glance下载image文件,而是直接利用本地_base下的d265f9d66b8be65448e6c9147a83d65a300e1852_10来直接创建vm的disk文件,大大减少的vm的部署时间。