據悉,亞馬遜云服務部門于5月23日宣布,與人工智能新貴Hugging Face達成合作協議,在定制化計算芯片Inferentia2上以更優惠價格運行上千種AI模型。
Hugging Face作為一家估值為45億美元的公司現已成為了眾多AI研究員和開發者分享Chatbot和相關軟件的核心平臺,受到亞馬遜、谷歌、英偉達等巨頭的青睞。
據了解,Hugging Face是開發者獲取和調整諸如Meta Platforms的Llama 3等開源AI模型的首選平臺。
當開發者完成對開源AI模型的調整后,往往希望能利用此模型驅動軟件。因此,亞馬遜和Hugging Face決定聯手,通過在Inferentia2定制化亞馬遜網絡服務(AWS)芯片上實現這一目標。
Hugging Face的產品及增長主管Jeff Boudier表示,對于他們而言,效率至關重要——即確保盡可能多的用戶能夠運行模型,且以最具性價比的方式進行。
盡管英偉達在訓練模型領域處于領先地位,但AWS堅信其芯片有能力以更低成本運行已訓練好的模型。
AWS人工智能產品負責人Matt Wood指出,用戶可能每月僅需訓練一次這些模型,而實際應用中,可能需要每小時對其進行數萬次推理,這正是Inferentia2的獨特優勢所在。
-
AI
+關注
關注
87文章
30887瀏覽量
269066 -
模型
+關注
關注
1文章
3243瀏覽量
48836 -
英偉達
+關注
關注
22文章
3776瀏覽量
91081 -
亞馬遜
+關注
關注
8文章
2666瀏覽量
83350
發布評論請先 登錄
相關推薦
LG AI Research使用亞馬遜云科技開發AI模型 加快癌癥診斷速度
![LG <b class='flag-5'>AI</b> Research使用<b class='flag-5'>亞馬遜</b><b class='flag-5'>云</b>科技開發<b class='flag-5'>AI</b><b class='flag-5'>模型</b> 加快癌癥診斷速度](https://file1.elecfans.com//web3/M00/02/80/wKgZO2df0yuAGrTwAABkKWhp4aE739.jpg)
亞馬遜轉向Trainium芯片,全力投入AI模型訓練
GE醫療與亞馬遜云科技達成戰略合作,通過生成式AI加速醫療健康領域轉型
亞馬遜達成收購協議,擬整合芯片制造商與AI模型壓縮專家Perceive
Hugging Face科技公司推出SmolLM系列語言模型
涂鴉智能攜手亞馬遜云科技,以生成式AI重塑智慧開發新紀元
亞馬遜云科技與SAP攜手云ERP體驗,引領AI新紀元
亞馬遜云科技攜手SAP通過生成式AI解鎖創新潛力
亞馬遜云科技中國峰會聚焦AI與數字化轉型
Hugging Face提供1000萬美元免費共享GPU
ServiceNow、Hugging Face 和 NVIDIA 發布全新開放獲取 LLM,助力開發者運用生成式 AI 構建企業應用
![ServiceNow、<b class='flag-5'>Hugging</b> <b class='flag-5'>Face</b> 和 NVIDIA 發布全新開放獲取 LLM,助力開發者運用生成式 <b class='flag-5'>AI</b> 構建<b class='flag-5'>企業</b>應用](https://file1.elecfans.com/web2/M00/C2/0B/wKgZomXf9qGAW44zAAB3CO-K2X8824.jpg)
![](https://file1.elecfans.com/web2/M00/BB/24/wKgaomWTvjKAfPpDAAWrpACxLMQ967.png)
評論