谷歌云端可搶占GPU(最右邊一列),普遍降價40%
還愁用不起GPU?今天谷歌宣布云端可搶占GPU大幅降價,P100的價格每小時0.43美元,換算成人民幣只需2.77元。
不是每個人工作的時候都需要GPU,但對于那些需要的人來說,GPU是必不可少,越多越好。
但是,GPU很貴啊。此前谷歌、Facebook等巨頭開展了不少令人印象深刻的工作,其中不乏使用成百乃至上千GPU的例子,讓人望塵莫及。
不過,就像很多研究者預(yù)測的那樣,硬件的價格會不斷降低。今天,谷歌就宣布,他們整個GPU產(chǎn)品組合的可搶占價格大幅降低,比連接到按需GPU的降低了70%。
今年早些時候,谷歌云平臺宣布,可以將你的GPU連接到谷歌云計引擎(Google Compute Engine)和Google Kubernetes Engine上的可搶占虛擬機(Preemptible VMs)上——谷歌云端搶占式虛擬機的每小時的固定費用只要0.015美元,將GPU的使用價格降低了50%。今天,這個價格再往下走了40%。
谷歌表示,搶占式GPU(Preemptible GPUs)非常適合短期、容錯和批處理工作負載,比如機器學(xué)習(xí)(ML)和高性能計算(HPC)的客戶。使用搶占式GPU,你可以訪問大規(guī)模GPU基礎(chǔ)架構(gòu),只需支付可預(yù)測的低價格,無需對容量競標(biāo)。
連接到可搶占虛擬機的GPU跟按需GPU基本相同,但有兩點重要的不同:因為是可搶占的,計算引擎可能會停止服務(wù),停止服務(wù)前30秒會提前給你發(fā)送警告;你最多可以使用它們24小時。
任何連接到可搶占虛擬機實例的GPU都將被視為是可搶占的,并將以較低的價格進行計費。
現(xiàn)在,谷歌云平臺提供3種GPU,可以根據(jù)你的需要選擇使用。
GPU價格為每小時費率,每個連接到虛擬機的GPU都按秒計費。列出的價格適用于美國地區(qū)。其他地區(qū)的價格可能會有不同。額外的持續(xù)使用折扣(最高30%)僅適用于不可搶占GPU。
谷歌打起價格戰(zhàn)?
很多網(wǎng)友紛紛表示,谷歌這一大降價的背后,是對亞馬遜AWS的沖擊。
有人推測是因為谷歌推出了TPU 3.0,替換下來一大批不用的GPU。
也有人推測,是谷歌有一個新的產(chǎn)品要出現(xiàn),降低舊產(chǎn)品市場的利潤率將使其他公司無法足夠盈利去投資研發(fā)并趕上自己。
總之,無論如何,這對于廣大群眾來說,是件好事。
如何使用云端可搶占GPU
結(jié)合自定義機器類型,具有可搶占GPU的搶占式虛擬機,讓你可以根據(jù)自己需要的資源構(gòu)建計算堆棧,而不再需要其他資源。將可搶占GPU連接到自定義可搶占虛擬機(VM)中,你可以減少GPU VM的虛擬CPU或主機內(nèi)存量。此外,你還可以使用可搶占本地SSD與谷歌的可搶占GPU進行低成本、高性能存儲選擇。
可搶占GPU的情況
進行機器學(xué)習(xí)研究的創(chuàng)新者、研究人員和學(xué)者,對硬件加速基礎(chǔ)設(shè)施的需求非常高,可搶占GPU具有可預(yù)測的低價格,因此兩者得到了很好的結(jié)合。
斯坦福大學(xué)助理教授Kayvon Fatahalian表示:“可搶占GPU有助于我們的研究小組使用我們的Scanner開源平臺大規(guī)模處理大型視頻集合。可預(yù)測的低成本使得單個研究生可以重復(fù)部署數(shù)百個GPU來處理基于機器學(xué)習(xí)的100,000小時電視新聞視頻分析。這個價格的下降使我們能夠以相同的預(yù)算執(zhí)行兩倍的處理量。”
機器學(xué)習(xí)訓(xùn)練和可搶占式GPU
訓(xùn)練ML workloads非常適合使用帶有GPU的可搶占虛擬機。谷歌Kubernetes引擎和計算引擎的受管實例組(managed instance groups)讓你能為大型計算作業(yè)創(chuàng)建動態(tài)可擴展的帶GPU的可搶占虛擬機群集。你可以使用Tensorflow的檢查點功能(checkpointing)保存和恢復(fù)工作進度。
開始使用
要開始使用Google Compute Engine中的可搶占GPU,只需在gcloud中添加--preemptible到你的實例創(chuàng)建命令中,在REST API中指定scheduling.preemptible為true,或在Google Cloud Platform Console中將搶占性設(shè)置為“On”,然后像平時一樣添加GPU就行了。
你可以使用普通的GPU配額啟動可搶占GPU,或者,你可以申請?zhí)厥獾目蓳屨糋PU配額(https://cloud.google.com/compute/quotas),這個配額僅適用于與可搶占虛擬機相連的GPU。
-
谷歌
+關(guān)注
關(guān)注
27文章
6219瀏覽量
107221 -
gpu
+關(guān)注
關(guān)注
28文章
4886瀏覽量
130436 -
機器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8481瀏覽量
133878
原文標(biāo)題:【GPU陷入價格戰(zhàn)】谷歌云可搶占GPU降價40%,P100每小時不到3塊錢
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
搶占人工智能云端市場 AMD/亞馬遜動作頻頻
華強降價
檢測行業(yè)降價行為的博弈分析
pcb打樣批量 大降價了!!!
VMware GPU分配/在GPU 1之前首先使用GPU 0
可與NvFBC一起使用的GPU
NVIDIA Tesla P40動態(tài)GPU內(nèi)存分配可能嗎?
Linux內(nèi)核搶占和用戶搶占的概念和區(qū)別
谷歌發(fā)布的云端SQL數(shù)據(jù)庫服務(wù)簡要分析

免費GPU哪家強?谷歌Kaggle vs和Colab
谷歌推出Android GPU檢查器工具,可優(yōu)化GPU在游戲上的表現(xiàn)
谷歌推出Android GPU檢查器工具,優(yōu)化可將GPU壓力降低40%
Imagination將支持谷歌的Android GPU Inspector
NVIDIA發(fā)布 GeForce RTX 40 系列 GPU
數(shù)字人才短缺難覓?谷歌助力企業(yè)招募,搶占先機未來 "有數(shù)"!

評論