专题：Cache -- IT技术博客大学习 -- 共学习共进步！

今天有同学跟我讨论了一下最近发现的一个 bug ，我觉得挺有意思的。需求是这样的：我们的系统中，有一些数据是从外存（数据库）加载进来的，由于性能考虑，并不需要每次修改这些数据就写回外存。希望在数据变冷后，定期落地即可。典型的场景是一个 cache 模块，cache 的是一些玩家的业务数据，可以通过 uuid 从数据库索引到。一旦业务需要访问玩家数据，cache 模块会从数据库加载对应数据，然后把数据表交出去。当业务再次需要这些数据的时候，cache 模块一旦发现数据存在于 cache 中，就直接交给玩家。 cache 模块还希望在数据很久没有被业务访问时，将这些数据写回数据库。我们的系统是基于 lua 构建的，数据 cache 模块和修改这些数据的逻辑在同一个 vm 里。难点在于，修改数据的业务逻辑是可以长期持有数据的，cache 模块需要正确感知这点。

Linux内存中的Cache真的能被回收么？

根据目前网络上技术文档的内容，我相信绝大多数了解一点Linux的人应该处在第二种层次。大家普遍认为，buffers和cached所占用的内存空间是可以在内存压力较大的时候被释放当做空闲空间用的。但真的是这样么？

YYCache 设计思路

iOS 开发中总会用到各种缓存，最初我是用的一些开源的缓存库，但到总觉得缺少某些功能，或某些 API 设计的不够好用。YYCache 是我新造的一个轮子，下面说一下这个轮子的设计思路。

git术语解释staging，index，cache

当我在使用git的时候，有三个东西的出现，一度让我非常困扰，就如题所述，staging，index，和cache。比如，当我阅读git官网提供的电子书《Pro Git》的时候，最初一章里，就提到，文件在git里面，有三种状态，working copy，staging area，和 in repository。而在读一些man pages的时候，比如git-reset命令，又会看到index，这非常让人困扰。而git-rm 指令又有一个参数叫 –cached，其作用是”unstage and remove paths only from the index”，更加奇怪了，同时提到了stage和index，而参数名竟然是cached！！！

7个示例科普CPU Cache

CPU cache一直是理解计算机体系架构的重要知识点，也是并发编程设计中的技术难点，而且相关参考资料如同过江之鲫，浩瀚繁星，阅之如临深渊，味同嚼蜡，三言两语难以入门。正好网上有人推荐了微软大牛Igor Ostrovsky一篇博文《漫游处理器缓存效应》，文章不仅仅用7个最简单的源码示例就将CPU cache的原理娓娓道来，还附加图表量化分析做数学上的佐证，个人感觉这种案例教学的切入方式绝对是俺的菜，故而忍不住贸然译之，以飨列位看官。

由原子操作引起的关于Cache的讨论

最近MPI集群有用户抛出这样一个问题，当MLR算法或PLSA算法与PLDA同时运行在某个节点时，MLR的效率会降低二十倍，PLSA的效率也会下降非常厉害，而与其它的算法重合时，即使两个算法的程序都可以所有CPU吃满，效率也未必会下降如此厉害，用户怀疑是我的PLDA代码设计的问题，这个问题也引起了大家比较激烈的讨论。

有关Cache 2 - 基本结构

周末花了一个下午看了一下《计算机体系结构量化方法》的附录B，是有关Cache原理的介绍。这本书写的还真是好啊，看似一块大砖头，本以为废话很多，其实多数描述很简练，微言大义。例如前些日子写了一个带宽和时延的关系，这本书一句话就写明白了：“时延决定数据第一个接收Bit的时间，带宽决定接收剩余数据的时间”，真实很牛X啊。画了一张小图总结Cache的基本结构。 CPU的处理器地址(我理解就是经过转换后的最终的硬件地址了)被划分为三个部分，Tag，Index，Offset。寻址的时候，首先用Index寻址Cache Set(这个是Cache相关性的产物)。Tag用作Key在Cache Line Set之中匹配Cache Line。Offset用于得到最终对象地址。其他很多概念和Cache Policy就是基于这个简单的数据结构图演化出来的。

Google Guava V11 中的Cache操作

Google Guava cache的主要功能点： * 你需要给现有系统加速； * 有些key需要不知一次的查询获取； * 从策略上讲，你的应用需要从策略上把所有的value从cache中清理出来 — 你试图减少重复的工作；[注：weakKey , weakValue] * cache仅仅存储在内存中，没有在文件中或者其他的server上面，如果不满足你的需求，可以考虑Memcached API的两种调用方式 1：普通的调用方式，通过key得到value的时间较短

多核环境下编写程序需注意Cache

前阵子接触到一道关于数组内部链表(多用于内存池技术)的数据结构的题, 这种数据结构能够比普通链表在cache中更容易命中, 理由很简单, 就是因为其在地址上是连续的(=.=!), 借这个机会, 就对cpu cache进行了一个研究, 今天做一个简单的分享, 首先先来普及一下cpu cache的知识, 这里的cache是指cpu的高速缓存. 在我们程序员看来, 缓存是一个透明部件. 因此, 程序员通常无法直接干预对缓存的操作. 但是, 确实可以根据缓存的特点对程序...

Library cache内部机制详解II

我之前曾经写过一篇Library cache内部机制详解，但是遗留了一些关于11g中mutex的改进的问题，最近因为有些11g的数据库频频发生mutex相关的等待事件，所以我又多这个问题做了一些探讨。关于Mutex，可以参考ORACLE mutex实现机制这篇文章，mutex是从10g开始引入的，在library cache中有大量的使用，它的主要作用有两个：一是用来替换library cache pin，二是作为更轻量级的latch使用。

两层CACHE的分配

在搜索引擎(SE)里BS一般对结果作CACHE，同时OS也会对倒排拉链作CACHE，也就是系统CACHE。这样可控性不强，可以考虑把两层CACHE都由BS控制，这样又带来一个问题，怎么分配两种CACHE的大小(之前也有这个问题，只是很难控制，所以就不管了)。实践中的做法，是不停地调整两者的比例，然后测试效果。这种方法的问题在于，单次测试代价很大，而解的空间很大，这样很难找到最优解。现在一般是默认，中间有一个最优解，然后向两边递...

Web性能优化中的CPP方法

毋庸置疑，Web性能优化是最近几年非常热门的话题。从Yahoo!在2006年推出YSlow以及相应的14的军规，到今年领军人物Steve Souder提出WPO的概念。几年时间里，网站性能重要性的概念已经深入人心，除一线的工程师，包括产品经理以及管理层纷纷加入其中，推进页面性能优化。大家普遍认为：性能好的网站，能吸引更多的用户，提供更好的用户体验，增加收入，并且降低成本。那么如何才能做好性能优化工作？Steve的两本书：《High Performa...

为什么程序员需要关心顺序一致性（Sequential Consistency）而不是Cache一致性（Cache Coherence？）

本文所讨论的计算机模型是Shared Memory Multiprocessor，即我们现在常见的共享内存的多核CPU。本文适合的对象是想用C++或者Java进行多线程编程的程序员。本文主要包括对Sequential Consistency和Cache Coherence的概念性介绍并给出了一些相关例子，目的是帮助程序员明白为什么需要在并行编程时关注Sequential Consistency。

Cache 文件是否存在的查询

当我们使用 Squid 是不是常常会有个问题，就是怎么查文件是否存在。大家是怎么查的。。。我想大多都是使用 wget 来查。wget -S 如果显示 HIT 就是文件从 Cache 中取的，不是从源网站取的。但这个过程非常慢，因为如果是大量的文件，比如 100W 的文件要查怎么办。。。都下载一次？

关于页面的cache控制

工作中遇到一个页面，该页面是不能cache的，但是其http头是这么写的：Cache-Control: max-age=0Pragma: no-cacheCache-Control: post-check=0, pre-check=0在我的IE8中，该页面是被cache了一小段时间的，不知道是按照时间还是命中次数cache的，反正访问几次（5/6次吧）cache之后，就重新请求了。通过fiddler添加cache-control来调试（这个页面不是我们自己的），发现添加了：Cache-control: no-cache或Cache-control: no-store或...

谈冷热数据

web产品最重要的核心单元无疑是数据,而主流的存储容器则是Mysql,对于快速增长的数据,其性能可能会呈指数级的递减,为解决该问题,主流的做法基本是水平和垂直拆分,根据数据的特性将数据进行库和表级的拆分,实际上的理论还是数据分割,但是终有一天你会发现单表的数据还是越来越大,也许你可以说我再拆分,可拆分的代价可能就是部署多次方的辅库.存储容量可能会让你很吃惊,而且这样的做法有没有人真正去想有用吗?很多人说,我们用缓...

一个cache的改造过程

在分布式的程序中，cache的合理使用可以带来性能上的极大提升，尤其是在资源创建需要昂贵的开销时。cache的设计最重要的是要保证线程安全和高效性。下面以代码为例，介绍了三种cache的写法。 1. 粗放的加锁 public class Cache1 { private HashMap route2SG = null; public Cache1() { route2SG = new HashMap(); } public synchronized ServerGroup get(String routeK...

浅谈数据库系统中的cache

Cache和Buffer是两个不同的概念，简单的说，Cache是加速“读”，而buffer是缓冲“写”，前者解决读的问题，保存从磁盘上读出的数据，后者是解决写的问题，保存即将要写入到磁盘上的数据。在很多情况下，这两个名词并没有严格区分，常常把读写混合类型称为buffer cache，本文后续的论述中，统一称为cache。 Oracle中的log buffer是解决redo写入的问题，而data buffer cache则解决data block的读写问题。对于Oracle来说，如果IO没有...

学习：一个并发的Cache

MySQL Query Cache 小结

最近经常有人问我 MySQL Query Cache 相关的问题，就整理一点 MySQL Query Cache 的内容，以供参考。顾名思义，MySQL Query Cache 就是用来缓存和 Query 相关的数据的。具体来说，Query Cache 缓存了我们客户端提交给 MySQL 的 SELECT 语句以及该语句的结果集。大概来讲，就是将 SELECT 语句和语句的结果做了一个 HASH 映射关系然后保存在一定的内存区域中。在大部分的 MySQL 分发版本中，Query Cache 功能默认都是打开的，我们...