內(nèi)存中的數(shù)據(jù)被劃分成若干個(gè)緩存塊，每個(gè)緩存塊的大小正好對(duì)應(yīng)著一整個(gè)三級(jí)緩存的大小。如此一來(lái)，數(shù)據(jù)在內(nèi)存中緩存塊里的偏移量正好就對(duì)應(yīng)著該數(shù)據(jù)應(yīng)該存在于緩存中的位置。舉個(gè)例子，假設(shè)內(nèi)存中一共有四個(gè)緩存塊，記為00，01，10，11四塊。每個(gè)緩存塊又可以劃分成四個(gè)緩存行，記為00，01，10，11四行。結(jié)合起來(lái)，最上面緩存塊的最上面的緩存行就可以寫成0000，則這個(gè)部分的數(shù)據(jù)應(yīng)該存在于緩存中的第一個(gè)緩存行的位置即00位置。如果1000號(hào)緩存行需要寫入，那么就要把0000號(hào)緩存行擦除再寫入，不能存儲(chǔ)在緩存中別的地方即使還有空間存放。

從內(nèi)存到緩存的分類規(guī)則

我們會(huì)發(fā)現(xiàn)一個(gè)問(wèn)題，就是如果我們持續(xù)需要0000號(hào)緩存行和1000號(hào)緩存行中的數(shù)據(jù)，那么這倆緩存行會(huì)被互相擦除寫入，就像打乒乓球一樣，擦了又寫，寫了又擦，而緩存中可能別的位置還空著，造成浪費(fèi)資源，效率低下的乒乓效應(yīng)。

解決的辦法之一就是加大緩存容量。很好理解，緩存變大了，取一個(gè)極限，假設(shè)緩存和內(nèi)存一樣大了，那肯定就不存在乒乓效應(yīng)了，但是這幾乎不可能。

還有一個(gè)有意思的思路是，設(shè)置一個(gè)受害者緩存，（哈哈，這個(gè)英文名是我自己亂翻譯的）。這個(gè)受害者緩存會(huì)暫時(shí)保留一下不久前剛被擦除的數(shù)據(jù)，緩存控制器在讀取緩存時(shí)就捎帶看看這個(gè)受害者緩存里有沒(méi)有想要的數(shù)據(jù)，如果真的碰到了，那這個(gè)數(shù)據(jù)真就是受害了，冤的很。這個(gè)電路實(shí)現(xiàn)也很簡(jiǎn)單，沒(méi)啥難度，就是效果可能有點(diǎn)玄學(xué)。

有沒(méi)有什么不那么玄學(xué)的方法呢？于是前人提出了多路組關(guān)聯(lián)。既然前文如此粗暴的分割方式會(huì)造成乒乓效應(yīng)，那么我們干脆多來(lái)幾個(gè)可替換的位置。還是以上面的例子，假設(shè)內(nèi)存中一共有四個(gè)緩存塊，記為00，01，10，11四塊。每個(gè)緩存塊又可以劃分成四個(gè)緩存行，記為00，01，10，11四行。現(xiàn)在不同的是我們把緩存劃分成兩路，暫且叫做A路和B路吧。保持和上文中的緩存容量大小一致，那么每路緩存中現(xiàn)在只夠存儲(chǔ)兩個(gè)緩存行了，記為0號(hào)和1號(hào)緩存行。總結(jié)一下，現(xiàn)在緩存方面有AB兩路，每路有01兩行。內(nèi)存方面則一共有四個(gè)緩存塊，每個(gè)緩存塊有四個(gè)緩存行。現(xiàn)在規(guī)定內(nèi)存中緩存行編號(hào)最后一位是0的可以存在緩存的A或B路的0號(hào)緩存行中，內(nèi)存中緩存行編號(hào)最后一位是1的可以存在緩存的A或B路的1號(hào)緩存行中。發(fā)現(xiàn)問(wèn)題沒(méi)有？因?yàn)槟┪矠橥痪幪?hào)的緩存行可以同時(shí)存在于A或者B中，因此乒乓效應(yīng)會(huì)有所改善。

上述例子展示的是兩路組關(guān)聯(lián)，目前主流使用的是四路組關(guān)聯(lián)，但實(shí)際上路的個(gè)數(shù)要結(jié)合緩存與內(nèi)存的比例來(lái)綜合判斷，例如上述例子，兩路組關(guān)聯(lián)就不太合適，單路的容量被壓縮得太小了。

另外，上文所講的是內(nèi)存和三級(jí)緩存之間的關(guān)聯(lián)情況，該情況可以推廣至三級(jí)緩存和二級(jí)緩存之間以及二級(jí)緩存和一級(jí)緩存之間。在此就不再贅述了。

這里還是要注意一個(gè)之前說(shuō)過(guò)的細(xì)節(jié)，CPU并不會(huì)主動(dòng)控制緩存寫入內(nèi)存中的數(shù)據(jù)的，也就是說(shuō)緩存對(duì)于CPU來(lái)講是透明的（這個(gè)詞不是很容易理解，但是這就是之前人們翻譯的，我建議翻譯成無(wú)感知）。CPU只是說(shuō)我要讀這塊內(nèi)存里的數(shù)據(jù)，它甚至不知道這個(gè)內(nèi)存數(shù)據(jù)在哪里，它只負(fù)責(zé)宣布這件事，而緩存和內(nèi)存則負(fù)責(zé)把它要的數(shù)據(jù)喂給它而已。緩存在喂給它之后留了個(gè)“心眼”——“咱家主子（CPU）最近偏愛(ài)000110100這塊內(nèi)存數(shù)據(jù)，我就把這塊數(shù)據(jù)留在我這里，到時(shí)候要的時(shí)候拿著方便“。看懂了嗎？一切都是奴才自作主張。

再打個(gè)比方，CPU和緩存的關(guān)系就像我和我的胃。我不用控制我的胃蠕動(dòng)消化，我不用控制神經(jīng)元突觸釋放神經(jīng)遞質(zhì)，我只負(fù)責(zé)做最高級(jí)，最抽象的工作，比如控制我的手寫下這篇文章。我不知道我有胃這種東西，也不知道什么神經(jīng)遞質(zhì)、細(xì)胞、組織啥的，就像CPU不知道緩存一樣，我之所以知道這些是因?yàn)橛腥俗隽巳梭w解剖等生物研究，CPU想了解這些可能得等人工智能解剖另一個(gè)人工智能的時(shí)候，或者——用它的意識(shí)來(lái)讀讀我這篇文章。

話說(shuō)回來(lái)，各級(jí)緩存之間有兩種不太相同的緩存策略，分別是Inclusive和Exclusive。

前者意思是包含，后者意思是不包含。包含的意思是，三級(jí)緩存中一定會(huì)存在著二級(jí)緩存和一級(jí)緩存里的數(shù)據(jù)，二級(jí)緩存一定會(huì)存在著一級(jí)緩存的數(shù)據(jù)，其實(shí)質(zhì)就是數(shù)據(jù)從三級(jí)往一級(jí)走的過(guò)程中用的是“復(fù)制”。

而不包含的意思是，三級(jí)緩存中必不存在二級(jí)緩存和一級(jí)緩存里的數(shù)據(jù)，二級(jí)緩存中必不存在一級(jí)緩存的數(shù)據(jù)，其實(shí)質(zhì)就是數(shù)據(jù)從三級(jí)往一級(jí)走的過(guò)程中用的是“剪切”。這兩種緩存策略的優(yōu)劣應(yīng)該一眼能看出：包含策略會(huì)造成緩存空間浪費(fèi)，并且各級(jí)之間的數(shù)據(jù)更新需要保持同步，優(yōu)點(diǎn)則是數(shù)據(jù)的廢除很直接，還有一個(gè)優(yōu)點(diǎn)這里先挖個(gè)坑吧。而不包含策略則不會(huì)造成緩存浪費(fèi)，并且具有很好的緩存一致性（即不需要同步），但是數(shù)據(jù)交換量會(huì)變得很大。

這里分別用緩存寫入數(shù)據(jù)的例子說(shuō)說(shuō)包含和不包含兩種緩存策略。一開(kāi)始，CPU首先發(fā)出一個(gè)讀內(nèi)存指令，該指令會(huì)附帶著該內(nèi)存地址從CPU內(nèi)核轉(zhuǎn)發(fā)至一級(jí)緩存控制器，假設(shè)一級(jí)緩存沒(méi)有在本級(jí)緩存找到想要的數(shù)據(jù)，那么就會(huì)將讀內(nèi)存指令的請(qǐng)求往二級(jí)緩存控制器轉(zhuǎn)發(fā)，以此類推，如果都沒(méi)能找到數(shù)據(jù)，那么最后內(nèi)存控制器會(huì)得到這條讀內(nèi)存指令，并將數(shù)據(jù)返回至CPU內(nèi)核，同時(shí)該條數(shù)據(jù)會(huì)在CPU的一級(jí)緩存上得到保存（如果是使用Inclusive緩存策略，那么該數(shù)據(jù)也同時(shí)會(huì)在二級(jí)和三級(jí)緩存上得到保存），以便于下次再次使用。然而緩存在電腦開(kāi)機(jī)之后不久肯定就被填滿了，這時(shí)候要有新的數(shù)據(jù)要寫入緩存那么肯定需要把一些過(guò)時(shí)的數(shù)據(jù)給替換出去。那么具體是怎么個(gè)替換策略呢？這就考驗(yàn)奴才們對(duì)于主子心思的把控了。這時(shí)候有個(gè)聰明的奴才在總結(jié)了多次經(jīng)驗(yàn)后，提出了LRU替換策略，中文名譯為最近最少使用替換策略，很容易理解，就是最近最少使用的數(shù)據(jù)將會(huì)被新數(shù)據(jù)替換掉。

而包含和不包含的區(qū)別在這里就會(huì)有所體現(xiàn)。如果是包含策略，那么新數(shù)據(jù)直接覆蓋舊數(shù)據(jù)即可，舊數(shù)據(jù)等于直接作廢，除非這個(gè)數(shù)據(jù)最近在CPU中被改寫過(guò)，需要返回到內(nèi)存中進(jìn)行保存，那么才需要將該緩存行刷回內(nèi)存（那么如何確定該緩存行是否被改寫過(guò)呢？可以用一個(gè)名為dirty的標(biāo)志位注明）。而如果是不包含策略，那么一級(jí)緩存淘汰下來(lái)的數(shù)據(jù)就要放置到二級(jí)緩存，如果不巧二級(jí)緩存也滿了，那么仍需淘汰一個(gè)緩存下來(lái)。當(dāng)然，你也可以選擇如果二級(jí)緩存或者三級(jí)緩存沒(méi)空位，那么就直接把淘汰下來(lái)的數(shù)據(jù)扔回內(nèi)存，但是這樣命中率就會(huì)嚴(yán)重下降（等于整個(gè)緩存體系的容量和一級(jí)緩存是一樣大的）。并且如果是二級(jí)緩存或者三級(jí)緩存中的數(shù)據(jù)要寫入到一級(jí)緩存中，那么需要把該二級(jí)或者三級(jí)緩存的緩存行與一級(jí)緩存做一個(gè)交換，而不是覆蓋。

那究竟是用Inclusive還是Exclusive呢？各大CPU廠商給出了答案，Exclusive成為目前主流使用的緩存策略。Intel前幾年還在用Inclusive來(lái)著，最近這幾年也轉(zhuǎn)而使用了Exclusive，說(shuō)明Exclusive的優(yōu)勢(shì)比我們想象的大。


審核編輯：劉清