作者：Akhilesh Kumar，Skylake-SP CPU架構師

英特爾?至強?可擴展處理器平臺，代表這十年中數據中心平臺領域最大技術進步。在它發布前夕，CPU架構師Akhilesh Kumar分享了自己對于英特爾滿足數據中心需求的架構方案及其如何通過可擴展處理器系列最新的“網格”片上互聯來體現這一方案的見解。

數據中心架構的一個重點就是提高效率，以便獲得最佳資本回報并在有限的空間和電力下最大程度提高數據中心的輸出。處理器在數據中心優化中起著根本性作用，處理器架構的選擇對可擴展性和效率有著巨大的影響。要想在這些因素之間達到理想的平衡，就需要遠見、創造性和創新，而這些并不能一蹴而就。

英特爾廣泛的產品組合中體現了其數十年設計專用數據中心CPU和平臺的豐富經驗。一代又一代，英特爾不斷創新核心計算功能，以期提高處理器性能。但是我們的工作并未止步于此。所有內核的連接和可擴展性的改進、對內存層次結構進行微調、增強I/O也同樣重要，這些因素將確保組成數據中心主要構建模塊的計算、網絡和存儲系統的可擴展性和效率。

成長的煩惱：規模所帶來的挑戰

添加更多內核并將其連接，以便創建一個多核數據中心處理器，這個任務聽上去可能很簡單，但是CPU內核、內存層次結構和I/O子系統在這些需要周密架構子系統的連接提供了關鍵路徑。這些互聯就像一個精心設計的高速公路一樣，在關鍵位置設有合適數量的車道和坡道，以便讓交通一路暢通，而不是讓人們和貨物閑坐在路上浪費時間。

增加處理器內核的數量并提高內存和每個處理器的I/O帶寬，以滿足大量數據中心負載的需求——這構成了一些必須通過創造性架構技術才能解決的挑戰。這些挑戰包括：

· 提高內存、片上緩存層級架構、內存控制器和I/O控制器之間的帶寬。如果可用互聯帶寬并不能隨處理器上的其它資源適當擴展，那么互聯就會像令人沮喪的高峰期交通擁堵一樣，成為限制系統效率的瓶頸。。

· 降低訪問來自芯片緩存、主內存或其它內核數據時的延遲。訪問延遲取決于芯片實體之間的距離、發送請求和響應的路徑，以及互聯操作的速度。這相當于在擴張型城市vs緊湊型城市的通勤時間、可用路徑的數量，以及高速公路上的限速。

· 創造高能效的方式，把數據從芯片緩存和內存提供到內核和I/O。由于每個組件之間更遠的距離和更高的帶寬，當添加更多內核時，完成相同任務的數據遷移所需的能量就會相應地增加。以交通為例，隨著城市成長和通勤距離的增加，通勤期間所浪費的時間和能量會讓用于生產工作的可用資源變得更少。

英特爾致力于創新架構解決方案，以便在創建更強大、高效的處理器時走在挑戰的前面，從而滿足現有和新興工作負載——例如人工智能和深度學習的需求。

架構未來的數據中心處理器

英特爾運用其經驗和創新技術，為即將推出的英特爾? 至強?可擴展處理器開發了新架構，以便為現代數據中心奠定可擴展的基礎。這些新架構提供一種新的方式來互聯片上組件，以便提高多核處理器的效率和擴展性。

英特爾? 至強?可擴展處理器采用一個創新的“網格”片上互聯拓撲結構 （Mesh），可在內核、內存和I/O控制器之間提供低延遲和高帶寬。圖1顯示了該網格架構的示意圖，內核、芯片緩存庫、內存控制器和I/O控制器是按照行和列而組織的，在每個交叉口通過線和交換機而把它們連接在一起，以便允許轉彎。通過提供一個比之前環形架構更加直接的路徑，以及更多通道來盡量減少瓶頸，網格可在更低的頻率和電壓下工作，并仍能實現非常高的帶寬和低延遲。這使性能得以提高、能效得以增強，就像一個精心設計的高速公路系統，讓交通能夠在不擁堵的前提下以最佳速度流通。

Figure 1： Mesh architecture conceptual representation

圖1：網格結構概念示意圖

除了改進片上互聯的連接和拓撲，英特爾? 至強?可擴展處理器還采用一個帶有可擴展資源的模塊化架構，以便訪問片上緩存、內存、IO和遠程CPU。這些資源分布在整個芯片上，這樣就能最大程度減少“熱點”或其它子系統的資源限制。該架構的模塊化和分布式特性讓可用資源能夠隨處理器內核數量的增加而擴展。

這些可擴展和低延遲的片上互聯框架也對共享的最后一級緩存架構非常重要。這些大型共享緩存對于復雜的多線程服務器應用——例如數據庫、復雜的物理模擬、高吞吐量網絡應用，以及托管多個虛擬機——非常寶貴。訪問不同緩存庫時可忽略的延遲差異讓軟件能夠把分布式緩存庫當作一個大型、統一的最后一級緩存。因此，應用開發者不必擔心訪問不同緩存庫時不同的延遲，他們也不需要優化或重新編譯代碼即可使其應用的性能得到大幅提升。統一低延遲訪問的好處也能惠及內存和IO訪問，多線程或分布式應用（涉及不同內核上的執行之間的互動，以及來自IO設備的數據）不需要仔細映射一個插槽內的內核上的協作線程即可獲得最佳性能。因此，這種應用可充分利用大量內核，并且仍能實現良好的可擴展性。

總結

采用Mesh的片上互聯的新架構提供非常強大的框架來集成英特爾? 至強?可擴展處理器的各種組件——內核、緩存、內存和I/O子系統。這種創新架構能夠在最廣泛的使用場景中提高性能和效率，并為英特爾及其無與倫比的全球生態系統所帶來的持續改進奠定基礎，從而交付可提供數據中心客戶所期待的計算能力和效率的解決方案。