与过去的数据中心相比，云最大的优势在于云管理的优越性。云管理层也是三层云服务的基础，并且为这三层提供多种管理和维护等方面的功能和技术。
云管理层一般分为九个模块，这九个模块又可以分为三层，它们分别是用户层、机制层和检测层。
用户层主要包括四个部分：
(1)用户管理。对任何的系统而言，用户的管理都是必需的。运方面的用户管理主要有三种功能，其一是账号管理，包括对用户身份及其访问权限进行有效的管理，还包括对用户组的管理。其二是单点登录，英文为Single Sign On，其意义是在多个应用系统中，用户只需要登录一次就可以访问所有相互信任的应用系统，这个机制可以极大的方便用户在云服务之间进行切换。其三是配置管理，对与用户相关的配置信息进行记录、管理和跟踪，配置信息包括虚拟机的部署、配置和应用的设置信息等等。
(2)客户支持。通过一套完整的客户支持系统，能够按照其严重程度或者优先级来解决，来决绝用户的疑难问题，能够提升客户支持的效率和效果。
(3)计费管理。利用底层监控系统所采集的数据来对每个用户所使用的资源(比如消耗的CPU时间和网络宽带)和服务(比如调用某个付费API的次数)进行统计，来准确的向用户索取费用，并提供完善和详细的报表。
(4)服务管理。大多数云都在一定程度上遵循SOA(Service-Oriented Architecture，面向服务的架构)的设计规范。SOA的意思是将应用不同的功能拆分为多个服务，并且通过定义良好的接口和契约来将这些服务连接起来，这样的好处是能够使得整个系统松耦合，从而使得整个系统都能够不断演化来更好地为客户服务。而一个普通的云也同样由很多的服务组成，比如部署虚拟机的服务、启动或者关闭虚拟机的服务等等，管理好这些服务对于云而言是很重要的。服务管理主要有如下五个：管理接口、自定义服务、服务调度、监控服务、流程管理
机制层：
(1)运维管理。云的运行是否出色，往往取决于其运维系统的强健和自动化程度，而和运维管理相关的功能主要包括三个方面：①首先是自动维护，运维操作尽可能的专业和自动化，从而降低云计算中心的运维成本。②能源管理，它包括自动关闭闲置的资源，根据负载来调节CPU的频率以降低功耗并且提供关于数据中心整体功耗的统计图以及与机房温度的分布图来提升能源的管理，并且降低浪费。③事件监控，它是通过对在数据中心发生的各项事件进行监控，以确保在云中发生的任何异常事件都会被管理系统捕捉到。
(2)资源管理。这个模块和物理节点的管理相关，比如服务器、存储设备和网络设备等等。它主要涉及三个方面：①资源池。通过使用资源池这种资源抽象方法，能够将具有庞大数量的物理资源集中到一个虚拟池中，以便于管理。②自动部署。也就是将资源从创建到使用的整个流程自动化。③资源调度。它不仅能够更好的利用系统资源，而且能够自动调整云中的资源来帮助运行于其上的应用来更好地应对突发流量，从而起到负载均衡的作用。
(3)安全管理：安全管理是对数据、应用和账号等IT资源采取全面保护，它可以使得免受犯罪分子和恶意程序的侵害，并且保证云基础设施及其提供的资源能够被合法地访问和使用。它主要包括7种机制：访问授权、安全策略、安全审计、物理安全、网络隔离、数据加密、数据备份。
(4)容灾支持：在容灾方面，主要是两个层面：数据中心级别和物理节点级别。所谓数据中心级别，就是如果数据中心的外部环境出现了类似断电、火灾、地震或者网络中断等问题，它们很可能导致整个数据中心不可用，我们需要在异地建立一个备份数据中心来保证整个云服务持续运行。这个备份数据中心会实时或者异步地与主数据中心进行同步，当主数据中心发生问题的时候，备份数据中心会自动接管在主数据中心运行的服务。对于物理节点级别，系统需要检测每个物理节点的运行情况，如果一个物理节点出现问题，系统会试图恢复它或者将其屏蔽，以确保相关云服务正常运行。