微軟已經為深度學習優化庫 DeepSpeed 申請了商標保護。該商標于2020年12月8日提交,其中提到“為人工智能處理和深度學習提供臨時使用的在線不可下載的計算機軟件”,這表明微軟可能在考慮通過在線云服務提供 DeepSpeed。
該庫于今年 2 月發布,可以在適度的硬件上訓練大規模的人工智能模型。它只需要使用 800 塊 Nvidia V100 顯卡就可以創建具有萬億參數的深度學習模型,是目前世界上最大的模型的 5 倍多。如果沒有DeepSpeed,同樣的任務需要 4000 塊 Nvidia A100(性能比 V100 快2.5倍),而且事件縮短了 100 多天。
在 GPT-3 顯示模型在神經網和數據集越大的情況下繼續改進后,這個工具特別有用。然而,這確實有可能將最新的創新推到資源較少的小型團隊的范圍之外,但DeepSpeed已經允許這些團隊以最小的硬件與更大的服務競爭。轉移到云處理可能會使大型模型AI訓練更容易獲得。
責任編輯:haq
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
相關推薦
現在遇到這樣問題:ads8568采集基本正常,但可能在某一次上電后,出現不工作的狀態(busy為高),必須重新上電才能正常,CONVST、RD、CS等輸入正常
說明:此AD芯片掛在fpga上,供電電壓HVDD和HVSS連接+5v,-5v,與模擬電壓共用
DVDD:+3.3v 數字
發表于 02-06 08:00
給大家帶來一些微軟的最新消息: 微軟入歐洲云服務提供商協會 據外媒報道,Microsoft將加入歐洲云
發表于 01-24 15:49
?1889次閱讀
微軟近日宣布了一項重要調整,與其長期合作伙伴OpenAI的協議內容發生了顯著變化。根據新的協議,微軟將不再作為OpenAI的獨家云提供商,而是允許這家人工智能初創公司使用競爭對手
發表于 01-24 10:18
?304次閱讀
微軟近日宣布了一項關于與OpenAI合作的重要調整。根據新的協議,微軟將不再作為OpenAI的獨家云提供商,而是允許這家人工智能初創公司使用競爭對手
發表于 01-23 11:18
?450次閱讀
和可靠性來搭建 Laverna 在線筆記,為用戶提供便捷、安全的筆記服務。 一、華為 Flexus 云服務器:網站安全的堅實基石 在當今數字
發表于 01-13 15:52
?524次閱讀
微軟Azure IoT 中心是一個基于Azure云服務構建的端到端IoT SaaS(軟件及服務)平臺,可以為企業及個人用戶提供實現靈活、輕松
發表于 11-15 17:17
?568次閱讀
美國云服務器價格因配置、地理位置、服務商等因素而異,月租費用大致在10美元至數百美元不等,年租費用則在120美元至數千美元之間?;A配置月租可能在20至50美元,高性能配置則高達數百美
發表于 11-13 11:01
?467次閱讀
超享云服務器是一種基于云計算技術,提供高性能、高可靠性和可擴展性的虛擬化服務器服務。它是
發表于 10-08 10:17
?363次閱讀
要通過內網IP安全訪問云服務器,您需要考慮以下幾個步驟: 1、獲取內網IP地址:首先,您需要確定云服務
發表于 09-23 13:36
?918次閱讀
和維護這些數據。
**在線視頻和流媒體:**云計算提供高性能的存儲和計算資源,用于存儲和傳輸大量的音視頻數據,并支持高質量的流媒體服務。用戶可以通過
發表于 08-16 17:02
。
(摘自https://www.ethercat.org/download/documents/ESC_Overview.pdf)
是否有可能在軟件中重新配置 XMC4800 的兩個 MII 端口,使其用于 E-BUS 通信,還是這一配置已在硬件中固定,因此無法更改?
發表于 07-19 07:02
美國VPS云服務器是位于美國數據中心的虛擬專用服務器,它們通過虛擬化技術在物理服務器上提供獨立
發表于 07-17 15:43
?468次閱讀
我對 CYUSB2014-BZXC 有疑問。
是否有可能在固件上更改邏輯插座和 EP 之間的對應關系? 如果是這樣,您能告訴我應該參考哪些示例代碼嗎?
發表于 07-03 07:54
是否有可能在支持 gdb 的第三方集成開發環境中使用 DAS 配置調試?
發表于 07-02 07:29
微軟將大規模采用AMD的旗艦產品MI300X,并通過Azure云計算平臺向用戶提供計算集群服務。鑒于Nvidia的H100和H200芯片供應
發表于 05-17 16:38
?995次閱讀
評論