高速緩沖存儲器部件結構及原理解析

高速緩存 CACHE用途
設置在 CPU 和 主存儲器之間，完成高速與 CPU交換信息，盡量避免 CPU不必要地多次直接訪問慢速的主存儲器，從而提高計算機系統的運行效率。

高速緩存 CACHE實現原理
把CPU最近最可能用到的少量信息（數據或指令）從主存復制到CACHE中，當CPU下次再用到這些信息時，它就不必訪問慢速的主存，而直接從快速的CACHE中得到，從而提高了速度。

評價CACHE性能的關鍵指標
要有足夠高的命中率，當CPU需用主存中的數據時，多數情況下可以直接從CACHE中得到，盡量少讀主存儲器。稱二者之比為命中率。

一、CACHE的基本運行原理

1、 CACHE的存儲單元的組成

CACHE的存儲單元是由三部分組成的
1位有效位：“0”表示該單元尚未使用，“1”表示數據有效

(1) CACHE單元不一定以字為單位與主存實現相互對應，因為存儲一個完整的主存地址占用位數太多。

(2) CACHE與主存交換信息時，不一定每次以一個主存字為單位進行交換，常用的是以字塊的形式（cache line size）進行數據傳送。

二、CACHE的3種映像方式

地址映像：把主存地址的數據復制到cache時，還要把該主存的地址經過某種函數關系處理后寫進CACHE的標志字段，這一過程稱為CACHE的地址映像。

地址變換：在程序執行時，要把主存地址變換為訪問CACHE的地址，這一過程稱為CACHE的地址變換。
這二者的處理方案是密切相關的。

1、全相聯映像方式

全相聯映像方式的優缺點
地址映像：寫入CACHE時，要將主存的全部地址寫入CACHE的標志字段

地址變換：用讀主存的整個地址去與CACHE中的每一個單元的標志字段進行比較。

優點：使用靈活、方便
缺點：比較地址字段必須與整個CACHE中每一個單元的標志字段都進行比較，所以線路復雜，成本太高，難以實現，只是適用于容量小的CACHE。
2、直接映射方式

直接映射方式
地址映像：寫入CACHE時，僅將主存的區段號寫入CACHE的標志字段

地址變換：要將讀主存地址中的區段內偏移地址去訪問CACHE的一個單元，只需用主存地址的區段號與標志字段內容進行比較。

3、多路（兩路）組相聯方式

多路（兩路）組相聯方式實現原理
把 CACHE存儲器組織為同等容量的多體結構，例如2個存儲體。主存仍然劃分成容量等于每個CACHE存儲體的多個區段。
主存地址格式如下：

多路（兩路）組相聯方式
地址映像：寫入CACHE時，僅將主存的區段號寫入CACHE的標志字段

地址變換：要將讀主存地址中的區段內偏移地址去訪問每一個CACHE體的一個單元，只需用主存地址的區段號與標志字段內容進行比較。

三、 CACHE存儲器實用中的幾個問題

CACHE存儲器的重要技術指標是它的命中率，影響 CACHE 命中率的因素有：
1.CACHE 的容量與命中率的關系
雖然容量大一些好，但CACHE 容量達到一定大小之后，再增加其容量對命中率的提高并不明顯。

2、 Cache Line Size ( CACHE每次與內存交換信息的單位量)與命中率的關系：
每次交換信息的單位量適中，不是以一個字為單位，而是以幾個字（稱為CACHE行容量，通常為4～32個字節）在主存與CACHE之間實現信息傳送。

4.CACHE的不同映像方式與命中率的關系：
全相聯映像方式不適用
直接映像方式命中率低
多路組相聯方式性能/價格比更好
直接映像方式中CACHE容量為8K字，被分成1024組，每組8個字，同時，主存也分成8個字的組，1024組構成一頁。主存的0組只能映射到CACHE的0組，主存的1組只能映射到CACHE的1組，依次類推。地址結構如下：

5、寫CACHE的策略和對系統的影響
（1）一個外設向主存寫入了一個數據，該主存單元原先的副本在CACHE中，出現不一致，此時最簡單的辦法就是把CACHE中相應單元的有效位清除掉，當CPU再次需這一主存單元時，只能從主存重新取得而不會使用CACHE中的舊值。

（2）改寫主存儲器的策略
若CPU改寫了 CACHE 一單元內容后且尚未改變主存相應單元內容，則出現數據不一致性。兩種解決辦法：

第1.接下來直接改寫主存單元內容。簡便易行, 但可能帶來系統運行效率不高的問題，該后未被使用。

第2.拖后改寫主存單元內容，一直拖到有另外的設備要讀該內容過時的主存單元時。首先停止這一讀操作，接下來改寫主存內容，之后再起動已停下來的讀操作，否則不必改寫。
矛盾是如何檢查是否應該改寫，通過監視地址總線完成，記下無效單元地址用于比較。 控制復雜些，但可以提供更高系統的運行效率。