您是否注意到，盡管我們的個人設備加載了多個應用程序，但我們幾乎可以不間斷地觀看喜歡的比賽，這背后是服務質量 （QoS） 功能在支持。QoS確保系統資源在后臺運行時，在重要的和不那么重要的關鍵應用程序之間得以充分平衡。QoS 功能提供的緩存容量和內存帶寬使系統機制能夠確保系統資源（如緩存容量和內存帶寬）在資源密集型和非資源密集型工作負載之間實現平衡。

在多租戶 IaaS/PaaS 環境中，第三方和首要工作負載運行在 Ampere SOC 上，QoS 功能可確保將共享微架構資源的最低閾值分配給更高優先級的軟件，例如虛擬機 （VM）、容器和進程，還可以限制較低優先級軟件對較高優先級軟件性能的影響。

QoS 允許在相互競爭的虛擬機之間有效地分配共享內存資源，例如系統級緩存 （SLC） 容量和內存帶寬。QoS 功能提供了一種機制，通過這些機制，諸如虛擬機之類的軟件實體可以與稱為分區 ID （PARTID） 的唯一標識符相關聯，然后分配給 PARTID 使用的共享 SLC 容量和內存帶寬的最小容量或最大容量。

這使系統軟件能夠有效地識別優先級更高的軟件，并確保將共享資源分配給該軟件。例如，SLC 和內存帶寬的最高優先級將提供給在 SOC 上運行的操作系統和虛擬機管理程序。在此過程中，它使用 PARTID 識別該軟件，并對 SLC 和內存帶寬 QoS 控制進行編程以提供內存訪問，PARTID 可以根據需要完全訪問 SLC 和內存帶寬。

同樣，使用此機制，當多個虛擬機爭奪資源時，QoS 功能通過 SLA（服務級別協議）將共享資源的必要容量提供給優先級較高的虛擬機，而優先級較低的虛擬機可以限制為緩存和內存帶寬容量，因此它不會影響優先級較高的虛擬機。

QoS 是如何工作的？AmpereOne QoS 支持兩種方法，在系統軟件控制下協同工作，以分配內存系統的性能資源：

內存系統資源（內存帶寬、緩存容量）分區

內存系統資源使用監控

通過使用狀態監控，系統軟件可以確定更高優先級的虛擬機需要的緩存和帶寬容量，然后將其與資源分區功能相結合，以確保虛擬機獲得可用容量。因此，具有 SLA 的高優先級虛擬機可以保證內存帶寬和對 SLC 容量的訪問，因為 QoS 可確保對共享資源（緩存、內存 BW）所需的訪問。相反，可以限制低優先級虛擬機以限制對共享資源（緩存容量、內存帶寬）的訪問。將較低優先級的 VM 限制為較低的使用率也會限制由于應用程序爭用資源而對高優先級虛擬機產生的任何性能影響。

在兩個不同核心上共同執行延遲敏感型的視頻服務和帶寬密集型的郵件服務，這種場景將會導致爭用訪問共享 SLC 和內存。在沒有 QoS 的情況下，由于 BW 密集型郵件應用程序不受限制地共享緩存和/或很高的內存帶寬占用率，延遲敏感型應用的響應時間可能會受到影響。QoS 感知系統可確保分配共享資源的最小閾值，從而將內存帶寬劃分到一定限制，以確保對延遲敏感的應用程序的響應時間不會受到負面影響。

對于 Ampere 生態系統合作伙伴來說，QoS在工作負載整合密度、性能一致性和可預測的服務交付方面實現了飛躍，并為云服務提供商（CSP）的最終客戶提供了更好的SLA，這確實令人興奮。此外，高效和優化的資源利用率還降低了 CSP 的總體總擁有成本，使他們能夠提高 IaaS/PaaS 利潤率。最后，由于某些應用程序可以優先訪問內存/SLC，因此它允許在整個堆棧中實現更大的靈活性和可調性，并保證在高負載情況下為某些關鍵任務應用程序/線程和進程提供更快的響應速度和性能。

對于那些想要使用它的人來說，好消息是：Linux 對此功能的支持將很快被廣泛推廣。QoS 功能在固件設置中啟用。無需對應用程序或虛擬機進行任何更改或重新編譯。

這只是我即將分享的眾多 AmpereOne 云原生功能之一。敬請期待更多后續內容！

關于 Ampere Computing

Ampere Computing 是一家現代化半導體企業，致力于塑造云計算的未來，并推出了世界上首款云原生處理器。為可持續云而生，Ampere 云原生處理器兼具最高性能和最佳每瓦性能，助力加速多種云計算應用的交付，為云提供行業領先的性能、能效和可擴展性。