作者：Arm 基礎(chǔ)設(shè)施事業(yè)部服務(wù)器生態(tài)系統(tǒng)開(kāi)發(fā)總監(jiān) Bhumik Patel

云計(jì)算需求在人工智能 (AI) 時(shí)代的爆發(fā)式增長(zhǎng)，推動(dòng)了開(kāi)發(fā)者尋求性能優(yōu)化且高能效的解決方案，以降低總體擁有成本 (TCO)。Arm 致力于通過(guò) Arm Neoverse 平臺(tái)滿足不斷變化的需求，Neoverse 也正因此迅速成為開(kāi)發(fā)者作為構(gòu)建未來(lái)的云基礎(chǔ)設(shè)施的首選計(jì)算平臺(tái)。

Google Cloud 攜手 Arm，設(shè)計(jì)了針對(duì)實(shí)際性能進(jìn)行調(diào)優(yōu)的定制芯片。作為其首款基于 Neoverse 平臺(tái)的定制 CPU，Google Axion 的性能優(yōu)于傳統(tǒng)處理器，并具有更出色的性能、效率與擴(kuò)展性。雙方的合作為開(kāi)發(fā)者帶來(lái)了更優(yōu)選擇，并共同推動(dòng)了云計(jì)算創(chuàng)新。

在 Google Cloud 內(nèi)外均備受青睞

Google Axion 處理器基于 Arm Neoverse V2 平臺(tái)構(gòu)建，可為各種工作負(fù)載提供卓越性能和能效，包括云原生應(yīng)用、高要求的 AI 模型以及大量 Google Cloud 服務(wù)，例如 Compute Engine、Google Kubernetes Engine (GKE)、Batch、Dataproc 、Dataflow，以及目前處于預(yù)覽階段的 AlloyDB 和 Cloud SQL。

從內(nèi)容流媒體到企業(yè)級(jí)數(shù)據(jù)服務(wù)，各行業(yè)的企業(yè)都在使用基于 Arm 架構(gòu)的 Axion 處理器，并在計(jì)算效率、可擴(kuò)展性和 TCO 方面實(shí)現(xiàn)了顯著改進(jìn)。ClickHouse、Dailymotion、Databricks、Elastic、loveholidays、MongoDB、Palo Alto Networks、Paramount Global、Redis Labs 和 Starburst 等 Google Cloud 的客戶都已取得了變革性的成果。例如，Spotify 通過(guò)使用基于 Axion 的 C4A 虛擬機(jī)，使其性能提高了約 250%。

突破性能局限

Google Axion 處理器在 AI 推理工作負(fù)載和通用計(jì)算方面均有出色表現(xiàn)。針對(duì) AI 推理，Axion 的專(zhuān)用優(yōu)化可顯著提高性能，使 AI 工作負(fù)載能夠更快、更高效地運(yùn)行。自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和推薦系統(tǒng)等應(yīng)用均可得益于此。AI 開(kāi)發(fā)者可以利用到 Arm Kleidi 的優(yōu)勢(shì)，這是一組輕量級(jí)、高性能的開(kāi)源庫(kù)。Kleidi 通過(guò)與熱門(mén)框架集成，使得開(kāi)發(fā)者無(wú)需額外的開(kāi)發(fā)工作，即可顯著提升在 Arm 平臺(tái)上運(yùn)行的 AI 應(yīng)用的性能。

Axion 處理器利用 Arm 平臺(tái)的先進(jìn)架構(gòu)功能，使開(kāi)發(fā)者能夠在不犧牲速度或性能的情況下規(guī)?；渴饛?fù)雜的 AI 模型。

例如，與基于 x86 架構(gòu)的方案相比，針對(duì) Axion 的 MLPerf DLRMv2 基準(zhǔn)測(cè)試的全精度性能提高了三倍，展示了其在推薦系統(tǒng)中的卓越能力。許多用戶更青睞 FP32 精度，以避免因采用 INT8 等低精度格式而導(dǎo)致的準(zhǔn)確性問(wèn)題，從而減少因這類(lèi)問(wèn)題引起的銷(xiāo)售損失、客戶滿意度降低以及品牌聲譽(yù)受損。

另一個(gè)示例則是，AI 聊天機(jī)器人有時(shí)會(huì)提供過(guò)時(shí)或不準(zhǔn)確的答案，檢索增強(qiáng)生成 (RAG) 方法提供了功能強(qiáng)大的解決方案來(lái)提高其準(zhǔn)確性和相關(guān)性。測(cè)試顯示，與 x86 架構(gòu)方案相比，當(dāng) RAG 應(yīng)用在 Axion 處理器上運(yùn)行時(shí)，其性能可最高提升 2.5 倍。（有關(guān)該示例的詳細(xì)內(nèi)容，敬請(qǐng)期待后續(xù)文章?。?/p>

從下圖可以看到，Axion 處理器使通用工作負(fù)載實(shí)現(xiàn)了顯著的性能提升。通過(guò)優(yōu)化高吞吐量和低延遲，Axion 處理器實(shí)現(xiàn)了更快的應(yīng)用響應(yīng)時(shí)間、增強(qiáng)用戶體驗(yàn)，并提高資源利用率，是 Web 服務(wù)器、數(shù)據(jù)庫(kù)、分析和容器化微服務(wù)的理想選擇。

與此同時(shí)，得益于基于 Axion 的 C4A 虛擬機(jī)將原生 Neoverse 核心的性能與每個(gè) vCPU 的充足內(nèi)存帶寬相結(jié)合，其特別適用于高性能計(jì)算 (HPC) 工作負(fù)載。HPC 開(kāi)發(fā)者可以充分利用 Neoverse 平臺(tái)上所提供的開(kāi)源及商用科學(xué)計(jì)算應(yīng)用和框架的豐富生態(tài)系統(tǒng)，包括 Arm Compiler for Linux 和 Arm Performance Libraries。Arm 在行業(yè)標(biāo)準(zhǔn)的碰撞和沖擊仿真應(yīng)用 Altair OpenRadioss 上的測(cè)試顯示，在基于 Axion 的 C4A 虛擬機(jī)上運(yùn)行具有顯著的性能優(yōu)勢(shì)。

加速云遷移進(jìn)程

為了支持和加速開(kāi)發(fā)者在云端采用 Arm 架構(gòu)，Arm 近期發(fā)布了全面的云遷移資源。其核心是新的 Cloud Migration Resource Hub（云遷移資源中心），其中涵蓋了超過(guò) 100 個(gè)詳細(xì)的 Learning Path 教程，旨在指導(dǎo)開(kāi)發(fā)者如何跨多個(gè)平臺(tái)無(wú)縫遷移常見(jiàn)工作負(fù)載。與此同時(shí)，支持 Axion 的獨(dú)立軟件供應(yīng)商 (ISV) 也在不斷增加，包括 Applause、Couchbase、Honeycomb、IBM Instana Observability、Verve 和 Viant 等知名企業(yè)。Arm Software Ecosystem Dashboard 可以讓開(kāi)發(fā)者更易了解適用于 Neoverse 平臺(tái)的主要開(kāi)源和商用軟件的可用版本和推薦版本。并在其軟件開(kāi)發(fā)的伊始，便能確保軟件的兼容性和平穩(wěn)運(yùn)行。

這些資源使有興趣采用或遷移到基于 Axion 的 C4A 虛擬機(jī)的開(kāi)發(fā)者能夠獲得 Arm 的社區(qū)支持，例如專(zhuān)為遷移而設(shè)的 GitHub 代碼倉(cāng)庫(kù)等。Arm 的云遷移專(zhuān)家還可提供直接的工程協(xié)助和個(gè)性化支持，尤其是對(duì)于企業(yè)級(jí)遷移，以便助力遷移項(xiàng)目順利且成功的過(guò)渡到基于 Axion 的解決方案。

寫(xiě)在最后

Google Cloud 推出 Axion 處理器意在為客戶提供更多樣化、更高性能的計(jì)算選擇。得益于 Arm 架構(gòu)和 Google 的定制芯片設(shè)計(jì)，Axion 可為從高要求的 AI 推理和 HPC 應(yīng)用到通用和云原生服務(wù)等各種工作負(fù)載提供卓越性能和效率，通過(guò)與 Arm 的云遷移資源和強(qiáng)大的軟件生態(tài)系統(tǒng)相結(jié)合，全方位賦能開(kāi)發(fā)者在 Arm 平臺(tái)上構(gòu)建計(jì)算的未來(lái)！