如果你想知道人工智能服務器和人工智能工作站有何不同，你不是唯一一個。假設嚴格的人工智能用例具有最小的圖形工作量，那么明顯的差異可以是最小到零。從技術(shù)上講，你可以用一個作為另一個。然而，根據(jù)要求每個人執(zhí)行的工作量，每個人的結(jié)果將完全不同。因此，清楚地了解人工智能服務器和人工智能工作站之間的差異非常重要。

暫時撇開人工智能不談，服務器通常都是聯(lián)網(wǎng)的，可以作為一種共享資源來運行跨網(wǎng)絡訪問的服務。工作站通常用于執(zhí)行特定用戶、應用程序或用例的請求。

工作站可以作為服務器，還是服務器可以作為工作站？答案是“是的”，但忽略工作站或服務器的設計目的通常沒有意義。例如，工作站和服務器都可以支持多線程工作負載，但如果服務器可以支持比工作站多 20 倍的線程（其他所有線程都相同），那么服務器將更適合為處理器同時處理創(chuàng)建多個線程的應用程序。

服務器經(jīng)過優(yōu)化，可以作為客戶端的網(wǎng)絡資源進行擴展。工作站通常沒有針對大規(guī)模、共享、并行和網(wǎng)絡能力進行優(yōu)化。

具體區(qū)別：人工智能的服務器和工作站

服務器通常運行專為服務器用例設計的操作系統(tǒng)，而工作站運行專為工作站用例設計的操作系統(tǒng)。例如，考慮將 Microsoft Windows 10 用于桌面和個人使用，而 Microsoft Windows Server 在專用服務器上運行，用于共享網(wǎng)絡服務。

AI 服務器和工作站的原理相同。用于機器學習、深度學習和人工智能開發(fā)的大多數(shù)人工智能工作站都是基于 Linux 的。人工智能服務器也是如此。由于工作站和服務器的預期用途不同，服務器可以配備處理器集群、更大的 CPU 和 GPU 內(nèi)存資源、更多的處理核心以及更大的多線程和網(wǎng)絡能力。

請注意，由于對作為共享資源的服務器的極端需求，通常對存儲容量、閃存性能和網(wǎng)絡基礎設施的需求更大。

圖形處理器：一個必不可少的組成部分

GPU 已成為現(xiàn)代人工智能工作站和人工智能服務器中的一個基本元素。與 CPU 不同， GPU 能夠增加應用程序內(nèi)的數(shù)據(jù)吞吐量和并發(fā)計算數(shù)量。

GPU 最初設計用于加速圖形渲染。由于 GPU 可以同時處理許多數(shù)據(jù)，因此它們在機器學習、視頻編輯、自動駕駛等方面有了新的現(xiàn)代用途。

雖然人工智能工作負載可以在 CPU 上運行，但使用 GPU 產(chǎn)生結(jié)果的時間可能要快 10 到 100 倍。例如，自然語言處理、推薦引擎和圖像分類中深度學習的復雜性，從 GPU 加速中受益匪淺。

機器學習和深度學習模型的初始訓練需要性能。當實時響應（如會話人工智能）在推理模式下運行時，性能也是必需的。

企業(yè)使用

重要的是，人工智能服務器和工作站在企業(yè)內(nèi)以及與云的無縫協(xié)作。每一個都在企業(yè)組織中占有一席之地。

AI 服務器

對于人工智能服務器，在支持 GPU 的服務器和服務器集群上更有效地訓練大型模型。它們還可以使用支持 GPU 的云實例進行有效訓練，特別是對于需要極高分辨率的海量數(shù)據(jù)集和模型。人工智能服務器的任務通常是作為各種人工智能應用的專用人工智能推斷平臺運行。

人工智能工作站

個人數(shù)據(jù)科學家、數(shù)據(jù)工程師和人工智能研究人員通常在構(gòu)建和維護人工智能應用程序的過程中使用個人人工智能或數(shù)據(jù)科學工作站。這往往包括數(shù)據(jù)準備、模型設計和初步模型訓練。 GPU 加速工作站使使用大型數(shù)據(jù)集的適當子集構(gòu)建完整的模型原型成為可能。這通常在幾個小時到一兩天內(nèi)完成。

經(jīng)過認證的硬件兼容性以及跨人工智能工具的無縫兼容性非常重要。 NVIDIA 認證的工作站和服務器 跨認證平臺提供經(jīng)測試的企業(yè)無縫性和魯棒性。

關于作者

André Franklin 是 NVIDIA 數(shù)據(jù)科學營銷團隊的一員，專注于 NVIDIA 支持的工作站和服務器的基礎設施解決方案。他在多個企業(yè)解決方案方面擁有豐富的經(jīng)驗，包括 NetApp 、 Hewlett-Packard enterprise 和具有預測分析功能的靈活存儲陣列。安德烈居住在加利福尼亞州北部，以駕駛無線電控制的模型飛機、滑冰和拍攝大自然遠足而聞名。

審核編輯：郭婷