[资料]关于CPU2级缓存

老猫

来自WINZHENG
AMD、Intel CPU之二级缓存


现代桌面级PC的CPU二级缓存容量大多数在64KB到2MB之间。因为CPU二级缓存容量对CPU性能有不小的影响，所以低端CPU和中高端CPU在物理结构上的差异主要就是二级缓存容量的大小。那么二级缓存容量为什么如此重要？它对CPU性能有什么样的影响呢？

CPU二级缓存作为一级缓存的“后备仓库”，用于为一级缓存存储更多的数据，减少CPU直接访问内存 的次数。理论上，CPU访问并调用缓存的数据所占的比重越大，则CPU访问并调用内存的数据所占的比重就越小，那么因访问内存而耽误的时间 就越少。所以缓存的容量越大，CPU的实际效率也就越高，性能就越强。

Intel和AMD处理器在一级缓存的逻辑结构设计上有所不同，所以二级缓存对CPU性能的影响也不尽相同。因为CPU读取的 数据（包括指令）中有80%的数据来自一级缓存，所以一级缓存的逻辑结构决定了CPU二级缓存容量对CPU性能的影响。Intel的Pentium 4及Celeron系列处理器的一级数据缓存被称为“数据代码指令追踪（读写）缓存”；AMD的Athlon 64/Athlon XP/Sempron/Duron系列处理器 的一级数据缓存叫作“实数据读写缓存”。
类CPU一级缓存不同的逻辑结构有什么不同？

假设有一个运算任务，要从“1”一直递加到“999999”。在传统的“实数据读写缓存”架构下，这一系列数据中最先用到的数据（如 “1、2……449、450”）将存储在CPU一级数据缓存中，更多的数据（如“451、452……899999、900000”）存储在CPU二级缓存中，其余的数 据（如“900001、999002……999998、999999”）暂存在内存中，CPU将按照一级数据缓存、二级缓存和内存的顺序读取这些数据。

但是在“数据代码指令追踪缓存”架构的CPU中，一级数据缓存并不存储这些最先用到的数据（“1、2……449、450”），而是将这些 数据存储到二级缓存中，一级数据缓存仅仅存储这些数据在二级缓存中的起止地址（又称为：指令代码）。例如，数据“1、2……449、450” 顺序存储在二级缓存中，数据“1”所在地址为“00001F”，数据“450” 所在地址为“00451F”，实际上一级数据缓存只需要存储“00001F”和“00451F”这两个地址就可以了，而不需要存储大量的数据。
由于Intel 一级数据缓存不存储数据，数据存储在二级缓存中，因此对二级缓存容量的依赖非常大，所以CPU需要更大的二级缓存容量 才能发挥出应有的性能。在实际应用中，CPU处理的数据中大多数都是0KB～128KB大小的数据，128KB～256KB的数据约有10％，256KB～512KB的 数据有5％，512KB～1MB的数据仅有3％左右。所以对于这种CPU来说，二级缓存容量从0KB增加到256KB对CPU性能的提高几乎是直线性的；增加 到512KB对CPU性能的提高稍微小一些；从512KB增加到1MB，普通用户就很难体会到CPU性能有提高了。正因为如此，大家能感受到Pentium 4 C（512KB二级缓存）与Celeron（128KB二级缓存）的性能差异，却很难感受到Pentium 4 C(512KB二级缓存)与Pentium 4 E（1MB二级缓存）的性能差异了。
例如，同为2.8GHz主频的Celeron D（256KB二级缓存）和Pentium 4 E(1MB二级缓存)运算super π 104万位的耗时分别为56秒和48秒 ，除去外频（前者为133MHz，后者为200MHz）的差异和超线程技术的影响，两者的性能差距只有10％左右，对于普通用户而言这样的性能差距 是微不足道的；只有对CPU运算性能要求“苛刻”的玩家来说更大的二级缓存容量才是必须的。
对的，由于AMD的Athlon 64/Athlon XP/Sempron/Duron系列产品的一级数据缓存直接存储数据，而且128KB的容量在大多数情况下就 可以承担CPU所急需的数据，所以其二级缓存对CPU性能的影响并没有那么大。这也就解释了为什么主频和外频相同的Athlon XP（256KB或512KB二级缓存）和Duron（64KB二级缓存）虽然二级缓存容量差异巨大，但实际性能差距不大的原因。而且Athlon 64/Sempron 系列CPU在内存控制器、流水线长度、频率、总线架构和扩展指令集等诸多方面与以前的产品都有差异，因此在性能上受二级缓存容量的影响就 更小了。
综上所述，在CPU性能方面，并非只从二级缓存容量上作对比就可以得到准确的答案，实际上还要考虑到缓存的总体设计结构、一级数 据缓存容量等因素。虽然从总体上来讲，二级缓存容量越大越好，但是并不是二级缓存容量提高一倍就能使CPU性能提升一倍。因此对于一般家 庭用户来说，电脑主要是用来上网、欣赏音乐和电影以及文字处理，二级缓存为256KB的Celeron D或Sempron已经足够了。只有对3D游戏、办公软件和多媒体编辑性能要求较高的用户才需要更大二级缓存的CPU。

老猫

来自IT168

CPU缓存（Cache Memory）是位于CPU与内存之间的临时存储器，它的容量比内存小的多但是交换速度却比内存要快得多。缓存的出现主要是为了解决CPU运算速度与内存读写速度不匹配的矛盾，因为CPU运算速度要比内存读写速度快很多，这样会使CPU花费很长时间等待数据到来或把数据写入内存。在缓存中的数据是内存中的一小部分，但这一小部分是短时间内CPU即将访问的，当CPU调用大量数据时，就可避开内存直接从缓存中调用，从而加快读取速度。由此可见，在CPU中加入缓存是一种高效的解决方案，这样整个内存储器（缓存+内存）就变成了既有缓存的高速度，又有内存的大容量的存储系统了。缓存对CPU的性能影响很大，主要是因为CPU的数据交换顺序和CPU与缓存间的带宽引起的。
    缓存的工作原理是当CPU要读取一个数据时，首先从缓存中查找，如果找到就立即读取并送给CPU处理；如果没有找到，就用相对慢的速度从内存中读取并送给CPU处理，同时把这个数据所在的数据块调入缓存中，可以使得以后对整块数据的读取都从缓存中进行，不必再调用内存。
    正是这样的读取机制使CPU读取缓存的命中率非常高（大多数CPU可达90%左右），也就是说CPU下一次要读取的数据90%都在缓存中，只有大约10%需要从内存读取。这大大节省了CPU直接读取内存的时间，也使CPU读取数据时基本无需等待。总的来说，CPU读取数据的顺序是先缓存后内存。
    目前缓存基本上都是采用SRAM存储器，SRAM是英文Static RAM的缩写，它是一种具有静志存取功能的存储器，不需要刷新电路即能保存它内部存储的数据。不像DRAM内存那样需要刷新电路，每隔一段时间，固定要对DRAM刷新充电一次，否则内部的数据即会消失，因此SRAM具有较高的性能，但是SRAM也有它的缺点，即它的集成度较低，相同容量的DRAM内存可以设计为较小的体积，但是SRAM却需要很大的体积，这也是目前不能将缓存容量做得太大的重要原因。它的特点归纳如下：优点是节能、速度快、不必配合内存刷新电路、可提高整体的工作效率，缺点是集成度低、相同的容量体积较大、而且价格较高，只能少量用于关键性系统以提高效率。
    按照数据读取顺序和与CPU结合的紧密程度，CPU缓存可以分为一级缓存，二级缓存，部分高端CPU还具有三级缓存，每一级缓存中所储存的全部数据都是下一级缓存的一部分，这三种缓存的技术难度和制造成本是相对递减的，所以其容量也是相对递增的。当CPU要读取一个数据时，首先从一级缓存中查找，如果没有找到再从二级缓存中查找，如果还是没有就从三级缓存或内存中查找。一般来说，每级缓存的命中率大概都在80%左右，也就是说全部数据量的80%都可以在一级缓存中找到，只剩下20%的总数据量才需要从二级缓存、三级缓存或内存中读取，由此可见一级缓存是整个CPU缓存架构中最为重要的部分。
    一级缓存（Level 1 Cache）简称L1 Cache，位于CPU内核的旁边，是与CPU结合最为紧密的CPU缓存，也是历史上最早出现的CPU缓存。由于一级缓存的技术难度和制造成本最高，提高容量所带来的技术难度增加和成本增加非常大，所带来的性能提升却不明显，性价比很低，而且现有的一级缓存的命中率已经很高，所以一级缓存是所有缓存中容量最小的，比二级缓存要小得多。
    一般来说，一级缓存可以分为一级数据缓存（Data Cache，D-Cache）和一级指令缓存（Instruction Cache，I-Cache）。二者分别用来存放数据以及对执行这些数据的指令进行即时解码，而且两者可以同时被CPU访问，减少了争用Cache所造成的冲突，提高了处理器效能。目前大多数CPU的一级数据缓存和一级指令缓存具有相同的容量，例如AMD的Athlon XP就具有64KB的一级数据缓存和64KB的一级指令缓存，其一级缓存就以64KB+64KB来表示，其余的CPU的一级缓存表示方法以此类推。
    Intel的采用NetBurst架构的CPU（最典型的就是Pentium 4）的一级缓存有点特殊，使用了新增加的一种一级追踪缓存（Execution Trace Cache，T-Cache或ETC）来替代一级指令缓存，容量为12KμOps，表示能存储12K条即12000条解码后的微指令。一级追踪缓存与一级指令缓存的运行机制是不相同的，一级指令缓存只是对指令作即时的解码而并不会储存这些指令，而一级追踪缓存同样会将一些指令作解码，这些指令称为微指令（micro-ops）,而这些微指令能储存在一级追踪缓存之内，无需每一次都作出解码的程序，因此一级追踪缓存能有效地增加在高工作频率下对指令的解码能力，而μOps就是micro-ops，也就是微型操作的意思。它以很高的速度将μops提供给处理器核心。Intel NetBurst微型架构使用执行跟踪缓存，将解码器从执行循环中分离出来。这个跟踪缓存以很高的带宽将uops提供给核心，从本质上适于充分利用软件中的指令级并行机制。Intel并没有公布一级追踪缓存的实际容量,只知道一级追踪缓存能储存12000条微指令（micro-ops）。所以，我们不能简单地用微指令的数目来比较指令缓存的大小。实际上，单核心的NetBurst架构CPU使用8Kμops的缓存已经基本上够用了，多出的4kμops可以大大提高缓存命中率。而如果要使用超线程技术的话，12KμOps就会有些不够用，这就是为什么有时候Intel处理器在使用超线程技术时会导致性能下降的重要原因。
    例如Northwood核心的一级缓存为8KB+12KμOps，就表示其一级数据缓存为8KB，一级追踪缓存为12KμOps；而Prescott核心的一级缓存为16KB+12KμOps，就表示其一级数据缓存为16KB，一级追踪缓存为12KμOps。在这里12KμOps绝对不等于12KB，单位都不同，一个是μOps，一个是Byte（字节），而且二者的运行机制完全不同。所以那些把Intel的CPU一级缓存简单相加，例如把Northwood核心说成是20KB一级缓存，把Prescott核心说成是28KB一级缓存，并且据此认为Intel处理器的一级缓存容量远远低于AMD处理器128KB的一级缓存容量的看法是完全错误的，二者不具有可比性。在架构有一定区别的CPU对比中,很多缓存已经难以找到对应的东西,即使类似名称的缓存在设计思路和功能定义上也有区别了，此时不能用简单的算术加法来进行对比；而在架构极为近似的CPU对比中，分别对比各种功能缓存大小才有一定的意义。