在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

又一大廠發(fā)力RISC-V,Meta第一代自研AI加速器MTIA

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2023-05-23 01:49 ? 次閱讀

不久之前,Meta公開了他們在自研芯片上的進展,包括其第一代AI加速器MTIA,以及用于視頻轉碼的MSVP。作為有些“下坡路”傾向的互聯(lián)網(wǎng)大廠,Meta依然選擇自研硬件和芯片,可見Meta對AI的重視。

自研AI加速器MTIA

Meta過去的服務器架構主要依靠CPU來運行AI負載,但隨著AI模型對算力和內存的要求不斷提高,致使其不得不開始轉向特化的方案,比如GPU和NNPI之類的其他硬件加速器。可由于高性能GPU的成本持續(xù)走高,Meta很快就轉向了自研ASIC方案。

其實早在2020年,他們就設計了第一代的MTIA ASIC,不過當時僅僅只是用于MTIA的部分內部工作負載,主要是為Pytorch和Meta的推薦模型聯(lián)合設計出來的,用于推理加速。第一代MTIA基于臺積電7nm工藝打造,性能達到了102.4TOPS@INT8和51.2 TFLOPS@FP16,功耗僅有25W。

MTIA v1裸片 / Meta

單個MTIA加速器集成了64個處理單元(PE),最高128GB的片外LPDDR5內存和128MB的片上SRAM。值得一提的是,每個處理單元都由兩個RISC-V處理器核心構成,其中一個還配備了向量擴展。

從Meta公布的v1版系統(tǒng)設計上可以看出,MTIA加速器裝在了一個小型的雙M.2主板上,方便設計者輕松地集成在服務器中,通過PCIe 4.0 x8接口與主CPU相連,板卡功耗僅有35W。

當然了,作為OCP的創(chuàng)始者,Meta也在服務器的設計上采用了OCP的Yosemite V3規(guī)范,每個服務器包含12個加速器,并使用PCIe Switch相連,根據(jù)Meta的說法,加速器的數(shù)目和服務器的配置參數(shù)是為了優(yōu)化目前及未來的負載而精心選擇的。

自研視頻轉碼芯片MSVP

值得注意的是,MTIA v1還只是他們在2020年開發(fā)的第一代AI加速器,Meta的目標是設計一系列推薦用MTIA ASIC。不過,MTIA v1在自研程度上或許沒有我們想象得那么深入,比如其RISC-V核心很可能是來自第三方IP廠商的。

而與MTIA一并公開的MSVP,卻是Meta首個真正意義上的內部自研ASIC方案,專為解決Meta的視頻點播和直播負載而設計,甚至考慮到了其AR/VR業(yè)務。Meta認為,這類轉碼芯片的存在,會為Meta未來在元宇宙上布局的生成式AI短視頻,提供更多支持。



MSVP / Meta


據(jù)Meta強調,F(xiàn)acebook網(wǎng)站上的視頻流量每天就有40億播放量,所以提升壓縮效率,提供更高的穩(wěn)定性、可靠性以及近乎無限的擴展性,就成了他們對自研視頻轉碼芯片的要求。從MSVP的設計架構上來看,除了多處理器的CPU子系統(tǒng)外,芯片大部分由轉碼核心構成。

在解碼性能上,MSVP支持主流的H.264、HEVC、VP9和AV1編碼,最大支持10bit色深和YUV420色度采樣。而在編碼性能上,MSVP僅支持H.264和VP9編碼,最大支持8bit色深。

Meta給出的數(shù)據(jù)中,每個MSVP可以在最高圖像質量輸出時實現(xiàn)4K 15FPS的峰值轉碼速度,在標準圖像質量下實現(xiàn)4K 60FPS的轉碼速度,且單個PICe模塊的功耗只有10W左右。由于采用了硬件轉碼加速,MSVP是ibx264軟件編碼速度的9倍,是libVPX軟件編碼速度的50倍。

寫在最后

Meta最重要的一大營收來源就是廣告業(yè)務,所以相對其他互聯(lián)網(wǎng)公司,他們會將深度學習推薦模型(DLRM)放在第一位。隨著模型大小和復雜程度不斷增加,如何跟上這股趨勢同時保證ROI,就成了他們的主要問題。MTIA代表了他們在自研AI基礎設施上走出的重要一步。至于MSVP,則代表了Meta想要進一步發(fā)展短視頻、AR/VR內容的同時,減少網(wǎng)絡帶寬提高傳播力度的解決方案。未來Meta要想逆流而上,這些自研芯片無疑會提供不小的助力。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • Meta
    +關注

    關注

    0

    文章

    299

    瀏覽量

    11678
  • RISC-V
    +關注

    關注

    46

    文章

    2463

    瀏覽量

    48099
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    大象機器人攜手進迭時空推出 RISC-V 全棧開源六軸機械臂產品

    識別聯(lián)調。 進迭時空致力于為智能機器人提供完整全棧優(yōu)化的RISC-V AI軟硬件解決方案,第一代RISC-V AI CPU芯片K1已完成
    發(fā)表于 04-25 17:59

    思爾芯與玄鐵合作IP評測,加速RISC-V生態(tài)發(fā)展

    引言隨著近來Deepseek的橫空出世,降低算需求,為RISC-V帶來了更多的創(chuàng)新機遇。RISC-V計算架構搭乘上AI時代的快車,成為新一代
    的頭像 發(fā)表于 04-09 09:24 ?304次閱讀
    思爾芯與玄鐵合作IP評測,<b class='flag-5'>加速</b><b class='flag-5'>RISC-V</b>生態(tài)發(fā)展

    端側AI、數(shù)據(jù)中心,RISC-V已“上桌”

    電子發(fā)燒友網(wǎng)報道(文/梁浩斌)從低功耗、低成本應用,邁向高性能、高算,是RISC-V發(fā)展過程中的必經之路。隨著RISC-V生態(tài)的發(fā)展,包括工具鏈、IP核的進步完善,
    的頭像 發(fā)表于 03-21 00:04 ?1403次閱讀

    首款RISC-V架構服務,助力行業(yè)精準適配AI場景

    加速,支持多精度計算。可適用于大模型推理、深度學習、智算中心、科學計算、隱私計算等應用場景。RISC-V特性國產主控搭載國產處理,行
    的頭像 發(fā)表于 02-28 16:34 ?633次閱讀
    首款<b class='flag-5'>RISC-V</b>架構服務<b class='flag-5'>器</b>,助力行業(yè)精準適配<b class='flag-5'>AI</b>場景

    關于RISC-V芯片的應用學習總結

    電子、醫(yī)療設備等領域,對處理的可靠性、實時性和低功耗有較高要求。RISC-V芯片通過提供豐富的外設接口和高效的指令集,滿足了嵌入式系統(tǒng)的多樣化需求。同時,其開源特性降低了開發(fā)成本,加速了產品上市時間
    發(fā)表于 01-29 08:38

    RISC-V能否復制Linux 的成功?》

    型的內核、加速器以及所需的各種模塊匯集在起。”他表示,“RISC-V ISA在此發(fā)揮了關鍵作用,它開拓了個創(chuàng)新的領域”。任何人只需下載ISA規(guī)范就可以在設計中使用內核,而無需與任何
    發(fā)表于 11-26 20:20

    RISC-V,即將進入應用的爆發(fā)期

    RISC-V種開放標準指令集架構 (ISA),最初由加州大學伯克利分校的研究人員于2010年開發(fā)。業(yè)界稱,這種開源特性為芯片設計者提供了極大的靈活性,可以根據(jù)具體需求定制AI加速器
    發(fā)表于 10-31 16:06

    RISC-VAI算法能加速嗎?

    現(xiàn)在好多ARM單片機都帶機器學習加速RISC-V有這方面的硬件加速嗎?
    發(fā)表于 10-10 22:14

    RISC-V擁有巨大市場潛力的原因

    旬發(fā)布了第三“香山”開源高性能RISC-V處理核,其性能水平已進入全球第一梯隊,可廣泛應用于服務芯片、
    發(fā)表于 09-30 14:20

    RISC-V Summit China 2024 | 青稞RISC-V+接口PHY,賦能RISC-V高效落地

    RISC-V內核+接口底層根技術”的體系,深度剖析了全棧研發(fā)模式在推動RISC-V應用落地上的原生優(yōu)勢。 青稞RISC-V將芯片技術自
    發(fā)表于 08-30 17:37

    2024 RISC-V 中國峰會:華秋電子助力RISC-V生態(tài)!

    掌握RISC-V芯片的應用與開發(fā),電子發(fā)燒友作為緊密合作伙伴,依托650萬+開發(fā)者用戶,全力構建包含RISC-V開發(fā)者社區(qū)、RISC-V技術商業(yè)生態(tài)圈及RISC-V創(chuàng)新
    發(fā)表于 08-26 16:46

    RISC-V適合什么樣的應用場景

    設計使得開發(fā)者可以靈活選擇所需的指令集和模塊,以滿足嵌入式系統(tǒng)的各種性能要求。 3. 人工智能(AI)和機器學習(ML) 高性能計算:RISC-V結合AI加速器或協(xié)處理
    發(fā)表于 07-29 17:16

    RISC-V在中國的發(fā)展機遇有哪些場景?

    RISC-V結合AI加速器,可以在AI領域提供高效的計算解決方案。 定制化需求:RISC-V允許添加專門的
    發(fā)表于 07-29 17:14

    RISC-V的MCU與ARM對比

    擴展,實現(xiàn)特定功能或加速器。 性能與功耗 RISC-VRISC-V適合用于高效設計實現(xiàn),其全部RISC-V指令不超過50個,因此其內核面積更小,相應的功耗更低。此外,
    發(fā)表于 05-27 15:58

    瑞薩電子推出業(yè)界首款通用型32位RISC-V MCU內核

    近期,瑞薩隆重推出基于RISC-V架構的通用型32位微控制,標志著公司首款采用RISC-V CPU內核的商用MCU產品落地。
    的頭像 發(fā)表于 05-17 18:11 ?1510次閱讀
    瑞薩電子推出業(yè)界首款<b class='flag-5'>自</b><b class='flag-5'>研</b>通用型32位<b class='flag-5'>RISC-V</b> MCU內核
    主站蜘蛛池模板: 四虎影视4hu4虎成人 | 四虎sihu新版影院亚洲精品 | 亚洲国产系列 | 国产视频分类 | 欧美日本俄罗斯一级毛片 | 亚洲天天综合网 | 久久久久88色偷偷 | 99精品在线| 狠狠插综合网 | 欧美成人精品一级高清片 | 99久久国产免费 - 99久久国产免费 | 欧美一卡二三卡四卡不卡 | 如色网| 特黄大片aaaaa毛片 | 在线观看精品视频看看播放 | 丁香五月缴情综合网 | 亚洲区在线播放 | 在线免费看高清视频大全 | 午夜视频在线网站 | 亚州色吧 | 国产精品久久久久久久久免费观看 | 视频在线观看网站 | 亚洲高清免费视频 | 一级特黄aaa大片免费看 | 亚洲欧美色中文字幕 | 夜夜欢视频 | 五月天婷婷在线视频 | 黄色网页在线观看 | aa视频免费 | 黄色特级录像 | 免费看黄在线观看 | 日本高清视频色wwwwww色 | 日本极度另类网站 | 欧亚激情偷乱人伦小说视频 | 欧美性xxxx巨大黑人猛 | 俺去俺来也www色官网免费的 | 深爱五月网 | 久久久久久亚洲精品 | 免费观看a毛片一区二区不卡 | 视频免费观看网址 | 男人和女人做爽爽视频在线观看 |