CacheTier是ceph服务端缓存的一种方案，简单来说就是加一层Cache层，客户端直接跟Cache层打交道，提高访问速度，后端有一个存储层，实际存储大批量的数据。
分层存储的原理，就是存储的数据的访问是有热点的，数据并非均匀访问。有个通用法则叫做二八原则，也就是80%的应用只访问20%的数据，这20%的数据成为热点数据，如果把这些热点数据保存性能比较高的SSD磁盘上，就可以提高响应时间。
性能较高的存储，一般由SSD 磁盘组成，称之为Cache 层，hot层，Cache pool 或者 hot pool，访问性能比较低的存储层就称为 base pool 或者 data pool，cold pool 等。
一、ceph cache mode
1、WriteBack模式：
客户端写入cache层，cache层应答，并且及时的写入back层，并删除掉cache层数据。客户端读取时，如果cache层不存在该数据，则从back层迁移数据过来，服务读取请求，一直可以服务到有效期内，适合于大量修改的数据应用场景（例如图片视频编辑, 联机事务处理类应用），适合”热”数据。
2、Read-only模式：
读请求直接发送给cache pool，写请求并不经过cache pool,而是直接发送给back_pool.客户端写数据时，直接写入到back层，客户端读取时，cache层从back层拷贝数据，并在有效期内服务，过期的数据会被删除，这种方式的优点就是，cache pool 设置为单副本就可以了，即使cache pool 层失效，也不会有数据的丢失。这种模式比较适合数据一次写入，多次读取的应用场景。例如图片，视频, 音频等。适合”冷”数据。
3、Read-forward模式：
写的时候，和WriteBack模式一样；读的时候，如果cache层不存在该对象，则会转发读请求到back层。
4、Read-proxy模式：
和Read-forward模式相似，读取的时候不是转发客户端的请求，而是代表客户端去读取back层的数据。
二、使用Cache Tier步骤
1、创建2个pool
ceph osd poolcreate cachepool 150 150 ceph osd poolcreate backpool 150 150
2、关联2个pool
cephosd tier add backpool cachepool
3、设置cache模式
ceph osd tiercache-mode cachepool writeback #writeback|forward|readonly|readforward四种模式根据需求选择
4、设置over-lay
所谓overlay，即所有发送到后端存储层的请求会被转发到cache层。
ceph osd tierset-overlay backpool cachepool
三、配置cache tier
cephosd pool set foo-hot hit_set_type bloom cephosd pool set foo-hot hit_set_count 1 cephosd pool set foo-hot hit_set_period 3600 # 1 hour ceph osd pool set foo-hot target_max_bytes1000000000000 # 1 TB ceph osd pool set foo-hottarget_max_objects 1000000 # 1million objects ceph osd pool set foo-hotcache_min_flush_age 600 # 10 minutes ceph osd pool set foo-hotcache_min_evict_age 1800 # 30 minutes
Cache层的阈值
ceph osd pool set cachepooltarget_max_bytes 1099511627776 ceph osd pool set cachepooltarget_max_objects 1000000 ceph osd pool set cachepoolcache_target_dirty_ratio 0.4 ceph osd pool set cachepoolcache_target_full_ratio 0.8 ceph osd pool set cachepool cache_min_flush_age 600 ceph osd pool set cachepoolcache_min_evict_age 1800
删除cache tier(Read-only)
ceph osd tier cache-mode cachepool none ceph osd tier remove backpool cachepool
删除cache tier(Write-back)
ceph osd tier cache-mode cachepool forward rados -p cachepool ls rados -p cachepool cache-flush-evict-all ceph osd tier remove-overlay backpool ceph osd tier remove backpool cachepool