一文搞懂LSM-Tree
LSM-Tree简介
LSM Tree（Log Structure Merge Tree）是一种数据结构
从字面意思理解，是一种基于日志追加写、有一定结构、并且会merge合并的树（数据结构）
特点是：
①利用磁盘批量的顺序写要远比随机写性能高出很多来支持随机读写操作 ②更适用于写多读少类型的场景 ③广泛应用在各大 NoSQL 中。比如基于 LSM 树实现底层索引结构的 RocksDB，就是 Facebook 用 Golang 对 LevelDB 的实现，Hbase也是用LSM-Tree的数据结构实现的LSM-Tree一种比较完善的原理图
写操作
write1：WAL
把操作同步到磁盘中WAL做备份（追加写、性能极高）write2：Memtable
完成WAL后将(k,v)数据写入内存中的Memtable，Memtable的数据结构一般是跳表或者红黑树 内存内采用这种数据结构一方面支持内存内高速增删改查（时间复杂度O(logM)），另一方面可以保持有序，为写入磁盘中的SSTable打基础write3：Immutable Memtable
Memtable存储的元素达到一定数量后，就会把它拷贝一份出来成为Immutable Memtable （不可变的Memtable）并且不能对其修改了，新增的数据都写入新的Memtable，这么做的好处是当需要将Memtable转化为Immutable Memtable时无需暂停工作，至于为什么要拷贝一个Immutable Memtable ，这主要是为了后续落盘时做准备write4：Minor Compaction
内存中的数据不可能无线的扩张下去，需要把内存里面Immutable Memtable 定期dump到到硬盘上的SSTable level 0层中，此步骤也称为Minor Compaction SSTable的数据结构是LSM-Tree设计的精髓，他一方面可以保持有序，一方面又能利用磁盘追加写的高性能SSTable的数据结构为两部分，前半部分是key与value成对的数据连续存储，这部分数据的key是有序的，后半部分是前半部分的索引，值存储的是key所对应的offset，也是有序的，每次打开这个SSTable需要把索引加载到内存并利用二分搜索可以很快查找出要访问的key的值
dump的过程中每个Immutable Memtable会对应一个SSTable的segment且不会对多个Immutable Memtable进行合并，而是直接将Immutable Memtable中有序的跳表或者红黑树遍历并追加写入到segment，这个过程速度很快。由于不会合并level 0层中的SSTable可能会出现相同的key。write5、write6：Major Compaction merge
当level 0中的segment越来越多，查询需要遍历的segment也就会越来越多，并且随着时间的推移，重复的key也会越来越多，在后面的步骤就需要对level 0层的segment进行合并merge 合并的过程中是吧多个有序的segment进行归并合并，所以性能不会很差，多个老的segment会合并成一个更长的同样有序的segment并设置到下一层 每一层的segment的数量和大小都会有限制，每当超出限制后，就会做合并操作虽然定期合并可以有效的清除无效数据，缩短读取路径提升查询效率，提高磁盘利用空间。但Compaction操作是非常消耗CPU和磁盘IO的，尤其是在业务高峰期，如果发生了Major Compaction，则会降低整个系统的吞吐量，这也是一些NoSQL数据库，比如Hbase里面常常会禁用Major Compaction，并在凌晨业务低峰期进行合并的原因。