91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Facebook開源服務(wù)27億用戶的硬件3件套

DPVg_AI_era ? 來源:lp ? 2019-03-16 09:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

面對每個月27億活躍用戶產(chǎn)生的數(shù)據(jù)量,F(xiàn)acebook將重心從通用硬件轉(zhuǎn)向AI專用硬件。在今天的開放計算項目全球峰會上,發(fā)布并開源了3款A(yù)I硬件,分別是面向訓(xùn)練的Zion、面向推理的Kings Canyon及面向視頻轉(zhuǎn)碼的Mount Shasta。

一個全家桶app,每個月要服務(wù)27億人,不容易吶!不信你問Facebook。

為了應(yīng)對大量的算力要求,這家位于Menlo Park的技術(shù)巨頭,硬是從通用硬件轉(zhuǎn)移到了專用加速器。這些加速器的作用,是保證其數(shù)據(jù)中心的性能,功耗和效率,特別是在AI領(lǐng)域。

今天,F(xiàn)acebook一口氣推出了3款硬件產(chǎn)品,分別是用于AI模型培訓(xùn)的“下一代”硬件平臺Zion;以及針對AI推理優(yōu)化的定制專用集成電路Kings Canyon;以及視頻轉(zhuǎn)碼Mount Shasta。并捐贈給旗下的開放計算項目使用。

Open Compute Project(OCP)是Facebook在2011年4月發(fā)起的一個數(shù)據(jù)中心開放架構(gòu)技術(shù)發(fā)展組織,目前成員包括Intel、Red Hat、Facebook、Mozilla、Rackspace、NTT Data、百度、高盛以及Google等。https://benchlife.info/8597-2/

Facebook稱這三款硬件產(chǎn)品將大大加速AI的訓(xùn)練和推理。“人工智能用于各種服務(wù),以幫助人們進行日常互動,并為他們提供獨特的個性化體驗,” Facebook工程師Kevin Lee,Vijay Rao和William Christie Arnold在博客文章中寫道,“在整個Facebook的基礎(chǔ)設(shè)施中使用人工智能工作負載,能夠增強各服務(wù)之間的相關(guān)性,并改善我們的用戶體驗。”

Zion

Zion為AI訓(xùn)練創(chuàng)建Block

和Block之間通信

Zion專為處理包括CNN,LSTM和SparseNN在內(nèi)的神經(jīng)網(wǎng)絡(luò)架構(gòu)的“頻譜”而量身定制。包括三個部分:擁有8個NUMA CPU插槽的服務(wù)器;配備了8加速器芯片組,以及一個廠商中立(vendor-agnostic )的OCP加速器模塊(OAM)。

Zion的高內(nèi)存容量和高帶寬,得益于兩個高速fabric,一個用來連接所有的CPU,另一個用來連接所有的加速器。除此之外,還得益于其靈活的架構(gòu),可以使用頂部擴展到單個機架中的多個服務(wù)器機架式(TOR)網(wǎng)絡(luò)交換機

“加速器內(nèi)存帶寬高但容量低,所以我們通過對模型進行分區(qū)來解決這個問題:將頻繁訪問的數(shù)據(jù)駐留在加速器上,而訪問頻率較低的數(shù)據(jù)駐留在帶有CPU的DDR內(nèi)存里,“Lee,Rao和Arnold解釋道,“所有CPU和加速器的計算和通信都是平衡的,并通過高速和低速互連,極大地提高了效率。”

Kings Canyon

Zion為AI推理創(chuàng)建Block

和Block之間通信

至于專為推理任務(wù)而設(shè)計的Kings Canyon共分四個部分:Kings Canyon推理M.2模塊;Twin Lakes單插槽服務(wù)器;Glacier Point v2載卡;以及Facebook的Yosemite v2機箱。Facebook表示正在與Esperanto、Habana,英特爾,Marvell和高通公司合作,開發(fā)能夠同時支持INT8和高精度FP16工作負載的ASIC芯片。

ASIC不運行通用代碼,需要專門的編譯器將圖形轉(zhuǎn)換為在這些加速器上執(zhí)行的指令。Glow編譯器的目標是從更高級別的軟件堆棧中抽象出特定于供應(yīng)商的硬件,以使基礎(chǔ)架構(gòu)與供應(yīng)商無關(guān)。它接受來自PyTorch 1.0等框架的計算圖,并為這些ML加速器生成高度優(yōu)化的代碼。

Glow編譯器

Kings Canyon中的每臺服務(wù)器都結(jié)合了M.2 Kings Canyon加速器,以及一個連接Twin Lakes服務(wù)器的Glacier Point v2載卡。其中兩個被安裝到Y(jié)osemite v2 sled中,并通過NIC鏈接到TOR開關(guān)。Kings Canyon模塊包括一個ASIC,一個內(nèi)存及其他支持組件,比如通過PCIe通道與加速器模塊通信的CPU。而Glacier Point v2包含一個集成的PCIe交換機,允許服務(wù)器同時訪問所有模塊。

“通過適當(dāng)?shù)膶⒛P瓦M行分割,我們得以運行非常大的深度學(xué)習(xí)模型。例如,對于SparseNN模型,如果單個節(jié)點的內(nèi)存容量不夠用,就在兩個節(jié)點之間對模型進行分片,從而增加模型可用的內(nèi)存量。“Lee,Rao和Arnold說過,“這兩個節(jié)點通過多主機NIC連接,允許高速交換。”

Mount Shasta

Mount Shasta是與Broadcom和Verisilicon合作開發(fā)的ASIC,專為視頻轉(zhuǎn)碼而開發(fā)。在Facebook的數(shù)據(jù)中心內(nèi),它將被安裝在帶有集成散熱器的M.2模塊上,位于可容納多個M.2模塊的Glacier Point v2(GPv2)載板中。

Facebook表示,平均而言,預(yù)計這些芯片的效率會比目前的服務(wù)器“高出許多倍”。它的目標是在10W功率范圍內(nèi),以60fps速度輸入流編碼效率至少比4K高出一倍。

“我們希望Zion、Kings Canyon和Mount Shasta的設(shè)計,能夠滿足我們在AI訓(xùn)練、AI推理和視頻轉(zhuǎn)碼方面不斷增長的工作量。”Lee,Rao和Arnold寫道,“我們將采取硬件和軟件協(xié)同設(shè)計,不斷改進硬件產(chǎn)品的效率。但一家廠商的能力終歸有限,希望更多的廠商都能夠進入Facebook的生態(tài)中,共同努力。“

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    827

    瀏覽量

    39100
  • Facebook
    +關(guān)注

    關(guān)注

    3

    文章

    1432

    瀏覽量

    56667
  • ai硬件
    +關(guān)注

    關(guān)注

    0

    文章

    23

    瀏覽量

    2511

原文標題:Facebook開源AI硬件,一口氣推出“三件套”

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    火爆開發(fā)中 | 開源FPGA硬件板卡,硬件第一期發(fā)布

    開源FPGA項目自發(fā)布以來,得到了眾多開發(fā)者的關(guān)注,涉及工業(yè)、通信、車載等多個行業(yè)的100+位工程師報名參與設(shè)計,并分為:硬件組、FPGA組、linux組。其中硬件組率先開始啟動項目,經(jīng)過和所有報名
    發(fā)表于 07-09 13:54

    開源分享】:開源小巧的FPGA開發(fā)板——Icepi Zero

    核心芯片設(shè)計一款滿足工業(yè)和音視頻等領(lǐng)域的FPGA開發(fā)板,配套數(shù)十原始開發(fā)案例、開源所有原理圖及PCB文件。 Icepi Zero - 便攜式 FPGA 開發(fā)板。 什么是 Icepi Zero
    發(fā)表于 06-09 14:01

    【RA4L1-SENSOR】之 RA4L1-SENSOR開發(fā)版開箱評測視頻

    是瑞薩RA生態(tài)工作室的微信號和公眾號以及視頻號二維碼。 拿出里面的開發(fā)板,可以看到3件套,一個排針,一個RA4L1開發(fā)板,一個USB線,組成了“上海廚房3件套”!!!!! 接上USB線
    發(fā)表于 06-08 14:30

    開源鴻蒙硬件生態(tài)分論壇圓滿舉辦

    近日,開源鴻蒙開發(fā)者大會2025(OHDC.2025)硬件生態(tài)分論壇在深圳圓滿舉辦。本次論壇主題為“開源鴻蒙硬件新生態(tài)”,特邀行業(yè)技術(shù)領(lǐng)袖、專家、開發(fā)者和生態(tài)伙伴,從芯片平臺、
    的頭像 發(fā)表于 06-05 15:35 ?479次閱讀

    從四件套到七件套:醫(yī)院隔離電源系統(tǒng)的多樣化產(chǎn)品選型方案

    IT系統(tǒng)應(yīng)配置一個符合IEC 61557-8的絕緣監(jiān)測器。 3、對于每個醫(yī)療IT系統(tǒng),配備聲光報警系統(tǒng)應(yīng)裝設(shè)在適應(yīng)的地
    的頭像 發(fā)表于 05-28 16:51 ?215次閱讀
    從四<b class='flag-5'>件套</b>到七<b class='flag-5'>件套</b>:醫(yī)院隔離電源系統(tǒng)的多樣化產(chǎn)品選型方案

    明晚開播 | 開源芯片系列講座第27期:RISC-V AI指令集的標準化與開源實現(xiàn)

    鷺島論壇開源芯片系列講座第27期「RISC-VAI指令集的標準化與開源實現(xiàn)」明晚(26日)21:00精彩開播期待與您云相聚,共襄學(xué)術(shù)盛宴!|直播信息報告題目RISC-VAI指令集的標準化與開源
    的頭像 發(fā)表于 03-25 08:12 ?307次閱讀
    明晚開播 | <b class='flag-5'>開源</b>芯片系列講座第<b class='flag-5'>27</b>期:RISC-V AI指令集的標準化與<b class='flag-5'>開源</b>實現(xiàn)

    直播預(yù)約 | 開源芯片系列講座第27期:RISC-V AI指令集的標準化與開源實現(xiàn)

    鷺島論壇開源芯片系列講座第27期「RISC-VAI指令集的標準化與開源實現(xiàn)」3月26日(周三)21:00精彩開播期待與您云相聚,共襄學(xué)術(shù)盛宴!|直播信息報告題目RISC-VAI指令集的
    的頭像 發(fā)表于 03-10 17:55 ?650次閱讀
    直播預(yù)約 | <b class='flag-5'>開源</b>芯片系列講座第<b class='flag-5'>27</b>期:RISC-V AI指令集的標準化與<b class='flag-5'>開源</b>實現(xiàn)

    ADS1299套件單次采樣最多可以采集多少個點?

    想知道ADS1299套件單次采樣最多可以采集多少個點
    發(fā)表于 12-26 08:28

    ADS1299套件的PGA型號是什么呀?

    想知道ADS1299套件的PGA型號是什么呀 想看看工作原理和要求 我現(xiàn)在單端輸入信號調(diào)節(jié)PGA,PGA增大但是信號反而變小,是因為我的輸入信號超過什么范圍了嗎 我用的信號發(fā)生器,最小產(chǎn)生 20mV的電壓信號,還是不能實現(xiàn)增益的功能
    發(fā)表于 12-26 06:31

    3D打印汽車零部模型定制服務(wù),多種材料、快速打印-CASAIM

    在汽車行業(yè)中,3D打印技術(shù)正以其獨特的優(yōu)勢,推動著從設(shè)計到快速制造的革命性變化。3D打印技術(shù)不僅加快了原型制作的流程,還為最終零部的生產(chǎn)提供了新的可能性。以下是CASAIM的3D打印
    的頭像 發(fā)表于 11-20 16:21 ?742次閱讀
    <b class='flag-5'>3</b>D打印汽車零部<b class='flag-5'>件</b>模型定制<b class='flag-5'>服務(wù)</b>,多種材料、快速打印-CASAIM

    華云服務(wù)器怎么樣靠譜嗎?

    廣大用戶的青睞。公司采用企業(yè)級硬件及網(wǎng)絡(luò)架構(gòu),為用戶提供極致性能、安全可靠的云服務(wù)。無論是從性能穩(wěn)定性、安全防護、產(chǎn)品線豐富度還是客戶服務(wù)
    的頭像 發(fā)表于 11-20 09:44 ?573次閱讀

    服務(wù)器數(shù)據(jù)恢復(fù)—EXT3系統(tǒng)下誤刪除數(shù)據(jù)的恢復(fù)案例

    服務(wù)器數(shù)據(jù)恢復(fù)環(huán)境: 郵件服務(wù)器中有一組由8塊盤組成的RAID5陣列, 上層是Linux操作系統(tǒng)+EXT3系統(tǒng)。 服務(wù)器故障:
    的頭像 發(fā)表于 10-23 15:11 ?464次閱讀
    <b class='flag-5'>服務(wù)</b>器數(shù)據(jù)恢復(fù)—EXT<b class='flag-5'>3</b>文<b class='flag-5'>件</b>系統(tǒng)下誤刪除數(shù)據(jù)的恢復(fù)案例

    蘋果2024年硬件服務(wù)雙輪驅(qū)動,有望突破4000美元大關(guān)

    8月28日,知名市場調(diào)查機構(gòu)Counterpoint Research發(fā)布了最新預(yù)測報告,指出蘋果公司憑借其硬件服務(wù)的強勁增長勢頭,預(yù)計將在2024年實現(xiàn)全球收入的歷史性突破,首次邁過4000美元大關(guān)(當(dāng)前約合2.85萬億元
    的頭像 發(fā)表于 08-28 16:22 ?909次閱讀

    3D打印汽車零部建模設(shè)計3D打印服務(wù)

    傳統(tǒng)的汽車零制造過程需要經(jīng)過多個環(huán)節(jié),包括設(shè)計、制造、裝配等,耗時且復(fù)雜。而采用3D打印技術(shù)制造汽車零可以大幅度縮短生產(chǎn)周期。設(shè)計人員可以通過CAD軟件直接進行零設(shè)計,并將設(shè)計文
    的頭像 發(fā)表于 07-21 15:01 ?1085次閱讀
    <b class='flag-5'>3</b>D打印汽車零部<b class='flag-5'>件</b>建模設(shè)計<b class='flag-5'>3</b>D打印<b class='flag-5'>服務(wù)</b>

    tcp方式連接不了服務(wù)器了,服務(wù)器代碼還能開源嗎?

    是在維護服務(wù)器嗎?已經(jīng)兩天了。http方式還可以連接上,就tcp的方式不行了.服務(wù)器代碼能開源嗎?讓我們自己搭建服務(wù)器用。
    發(fā)表于 07-15 06:53
    主站蜘蛛池模板: 免费国产午夜在线观看 | 亚洲精品视频专区 | 午夜不卡影院 | 国产香蕉98碰碰久久人人 | 欧美性野久久久久久久久 | 亚洲www美色 | 国产成人精品曰本亚洲 | 久久国产福利 | 国产午夜免费视频片夜色 | 欧美色图亚洲 | 五月天丁香婷婷综合 | 久久人成| 国产精品乳摇在线播放 | 免费视频精品 | 5151四虎永久在线精品免费 | 精品日韩一区二区三区 | 欲色影视香色天天影视来 | 亚洲一区免费在线 | 射在老师的里面真爽 | 国产成人综合一区人人 | 亚洲免费福利视频 | 欧美一级黄色影片 | 你懂得在线播放 | 美女把尿口扒开让男人桶出水 | 国产一区二区三区 韩国女主播 | 黄色在线 | 日韩精品网址 | bt在线天堂 | 久久黄色精品视频 | 2021最新国产成人精品视频 | 一级片在线免费观看 | 日韩欧美在线第一页 | 欧美性黑人极品1819hd | 甘婷婷一级毛片免费看 | 老色批软件 | 欧美在线天堂 | 国产一区二区高清在线 | 免费看性 | 国产成人亚洲影视在线 | 国产在线高清精品二区色五郎 | 小说老卫陈红张敏陈法蓉 |