缓存设计的一些思考
缓存就像清凉油，哪里不舒服抹一下就好了——这个比喻生动地道出了缓存在互联网架构中的核心价值：以较小容量、较高成本的存储，为系统“扩容”。这篇文章围绕缓存设计，从算法、锁优化到硬件演进，展开了一系列扎实的思考。 作者首先拆解了最常用的LRU算法，对比了Memcache基于Slab的分块内存管理与Oceanbase以2MB整块为单位的回收策略，两者各有工程取舍。面对多线程下的锁冲突，文章梳理了四种优化思路：从细粒度加锁、多LRU链表分片，到牺牲精确性换取无锁操作（如Oceanbase后续的访问计数策略），以及批量更新。这些实践揭示了高并发缓存设计中“精度”与“并发度”的权衡。 文章进而引入了LIRS算法，它通过区分LIR（热点）与HIR（冷数据）两级，解决了LRU在顺序扫描和循环数据集大于缓存时的命中率难题，Oracle的Touch Count算法也采用了类似分级思想。最后，作者将视野扩展至SSD存储，探讨了在write-back和write-through两种模式下，缓存角色可能发生的演变。 作者坦言当前工作尚浅，并提供了LIRS论文与Oracle算法文档等一手资料，为想深入探究的读者指明了方向。