在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

類ChatGPT訓(xùn)練需高性能芯片大規(guī)模并聯(lián),高速接口IP迎紅利時(shí)代

lPCU_elecfans ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 2023-03-10 09:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近段時(shí)間,ChatGPT的火熱重新掀起人工智能產(chǎn)業(yè)熱潮,尤其是AIGC(指利用人工智能技術(shù)來(lái)生成內(nèi)容)領(lǐng)域,已經(jīng)進(jìn)入到狂飆姿態(tài),頭部科技企業(yè)爭(zhēng)分奪秒地尋求搶先發(fā)布類ChatGPT應(yīng)用。

眾所周知,類ChatGPT應(yīng)用是一個(gè)吞金獸,微軟公司為了訓(xùn)練ChatGPT使用了1萬(wàn)張英偉達(dá)的高端GPU。“從訓(xùn)練的角度來(lái)看,計(jì)算性能再好的GPU芯片比如A100如果無(wú)法集群在一起去訓(xùn)練,那么訓(xùn)練一個(gè)類ChatGPT的大模型可能需要上百年。因此,AI大模型的訓(xùn)練對(duì)高速接口IP是一個(gè)巨大的挑戰(zhàn),也是一個(gè)巨大的機(jī)遇。”奎芯科技市場(chǎng)及戰(zhàn)略副總裁唐睿在接受電子發(fā)燒友網(wǎng)采訪時(shí)表示。

奎芯科技成立于2021年,該公司的口號(hào)是“芯粒高速互聯(lián),海量算力源泉 ”。目前,奎芯科技已經(jīng)推出的高速接口IP組合包括USB、PCIe、SATA、SerDes、MIPIDDRHDMI、DP、HBM等豐富的類型。

類ChatGPT帶動(dòng)接口IP發(fā)展

半導(dǎo)體產(chǎn)業(yè)分布來(lái)看,IP是底層技術(shù),接口IP同樣如此,因此關(guān)鍵性和重要性是不言而喻的。那么在AIGC產(chǎn)業(yè)里,接口IP能夠發(fā)揮哪些作用呢?唐睿提到了以下幾點(diǎn)。

首先是芯片上的互聯(lián)接口,也就是Die to Die類型的互聯(lián)接口IP,包括UCIe等,用以擴(kuò)充單芯片的計(jì)算能力;其次是Chip to Chip類型的互聯(lián)接口IP,包括SerDes/PCIe/CXL等,能夠加快芯片之間的互聯(lián)和數(shù)據(jù)交換,滿足更高帶寬的需求;此外還有內(nèi)存接口IP,包括SATA、DDR、HBM等,能夠用于打造更高性能的存儲(chǔ)產(chǎn)品,幫助類ChatGPT存儲(chǔ)和交換大規(guī)模的數(shù)據(jù);再上一層就是數(shù)據(jù)通訊接口的接口IP。因此,從訓(xùn)練的角度來(lái)看,類ChatGPT應(yīng)用的爆發(fā),能夠帶來(lái)非常大的接口IP需求。

在此前的預(yù)測(cè)里,有市場(chǎng)調(diào)研機(jī)構(gòu)的數(shù)據(jù)顯示,2022年至2026年高速互聯(lián)IP的市場(chǎng)規(guī)模有望以75%的年復(fù)合增長(zhǎng)率快速成長(zhǎng)。“接口IP市場(chǎng)的增長(zhǎng)一定是跟隨整個(gè)高性能計(jì)算芯片大趨勢(shì)的,包括芯片運(yùn)算性能、內(nèi)存和帶寬方面的提升都需要接口IP的幫助,因此芯片用量的提升一定會(huì)帶來(lái)更大的接口IP用量。”唐睿認(rèn)為,“同時(shí)計(jì)算芯片性能的提升已經(jīng)受限于摩爾定律放緩的影響,單芯片的性能會(huì)逐漸遇到瓶頸,那么互聯(lián)組成算力集群就是一個(gè)有效的手段,這也會(huì)加快推動(dòng)接口IP的發(fā)展。”

雖然產(chǎn)業(yè)熱潮來(lái)臨,不過(guò)唐睿并不擔(dān)心一下子會(huì)涌入很多同行或者友商,造成國(guó)內(nèi)接口IP產(chǎn)業(yè)內(nèi)卷。“市場(chǎng)競(jìng)爭(zhēng)的激烈程度會(huì)增加,但接口IP是高門檻的領(lǐng)域,目前國(guó)內(nèi)做高速混合電路的人才其實(shí)并不多,特別是在先進(jìn)制程上做高速模擬電路設(shè)計(jì)的人才更少,因此從零組建團(tuán)隊(duì)進(jìn)入這個(gè)領(lǐng)域是非常困難的。”他對(duì)此講到。

國(guó)產(chǎn)廠商的布局和追趕

從全球產(chǎn)業(yè)格局來(lái)看,在接口IP方面,目前新思科技和楷登電子等EDA廠商以及其他國(guó)際上的接口IP廠商還處于領(lǐng)先位置。相關(guān)數(shù)據(jù)顯示,截止到2021年,國(guó)產(chǎn)接口IP的自給率還不足10%。

“目前,從技術(shù)上來(lái)看,國(guó)產(chǎn)接口IP廠商確實(shí)還處于追趕的位置,不過(guò)這種差距已經(jīng)越來(lái)越小。”唐睿指出,“2023年,奎芯科技將會(huì)推出一系列性能達(dá)到國(guó)際領(lǐng)先水平的接口IP產(chǎn)品,包括HBM3以及其他領(lǐng)先的D2D類型的互聯(lián)接口IP。”

同時(shí),他還講到,在服務(wù)國(guó)內(nèi)客戶方面,實(shí)際上也會(huì)存在很多本地化的需求,需要根據(jù)這些需求結(jié)合晶圓廠的工藝特色,提供IP解決方案。奎芯科技很多IP產(chǎn)品,在研發(fā)的過(guò)程中或者研發(fā)之前,就得到了客戶方的問(wèn)詢,圍繞客戶的芯片架構(gòu),有非常清晰的需求。奎芯科技聯(lián)合自己的下游客戶成立了多個(gè)產(chǎn)業(yè)聯(lián)盟,通過(guò)這些聯(lián)盟將不同類型的計(jì)算芯片公司聯(lián)合在一起,協(xié)同發(fā)展,圍繞數(shù)據(jù)中心應(yīng)用把國(guó)產(chǎn)方案搭建好,彌補(bǔ)國(guó)內(nèi)這一塊的空白。

當(dāng)前,AI大模型訓(xùn)練所用到的算力集群基本上都是基于英偉達(dá)通用算力芯片來(lái)打造,在這方面國(guó)產(chǎn)通用算力芯片還存在一定的性能差距。唐睿表示,國(guó)產(chǎn)高性能計(jì)算芯片還是有機(jī)會(huì)的,AI大模型并不是一個(gè)近期出現(xiàn)的新鮮事物,近些年國(guó)內(nèi)AI產(chǎn)業(yè)已經(jīng)在跟進(jìn)這一趨勢(shì),只是類ChatGPT類型應(yīng)用背后的大模型參數(shù)規(guī)模更大。針對(duì)這方面的需求,國(guó)內(nèi)芯片產(chǎn)業(yè)也早就啟動(dòng)了這方面的布局,包括奎芯科技所在的接口IP賽道,都在向這個(gè)方向努力。不過(guò),從IP研發(fā)到芯片設(shè)計(jì),再到應(yīng)用落地,這中間會(huì)有一個(gè)時(shí)間差。實(shí)際上,國(guó)外的公司也是在用之前的芯片通過(guò)互聯(lián)在做這方面的硬件支持。

“還需要特別提出的是,AIGC是一個(gè)軟硬件結(jié)合的應(yīng)用。軟件方面,算法模型的體量也是一個(gè)值得研究去突破的方向。目前,國(guó)外開源的AIGC算法里,也并非只有Open AI的GPT算法,通過(guò)介紹信息來(lái)看,也有一些參數(shù)更小的模型能夠?qū)崿F(xiàn)類ChatGPT應(yīng)用。我們實(shí)際上可以借鑒這些模型,以減少軟件對(duì)硬件的需求壓力。”唐睿最后講到。

小結(jié)

IP對(duì)半導(dǎo)體產(chǎn)業(yè)有巨大的撬動(dòng)力量,在全球范圍內(nèi),約60多億美元的IP銷售額,帶動(dòng)的是5000億美元的全球半導(dǎo)體市場(chǎng)銷售額。對(duì)于***而言,短期內(nèi)實(shí)現(xiàn)單芯片性能暴增的難度非常大,不過(guò)通過(guò)高速接口IP,用算力集群的方式,也能夠逐步進(jìn)入類ChatGPT的紅利市場(chǎng)。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴

原文標(biāo)題:類ChatGPT訓(xùn)練需高性能芯片大規(guī)模并聯(lián),高速接口IP迎紅利時(shí)代

文章出處:【微信號(hào):elecfans,微信公眾號(hào):電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    IBM Spectrum LSF如何助力半導(dǎo)體企業(yè)應(yīng)對(duì)AI時(shí)代高性能芯片需求

    上萬(wàn)個(gè)作業(yè),可能會(huì)瞬間擠爆計(jì)算資源。那如何把成千上萬(wàn)個(gè)作業(yè)有序的調(diào)度到大規(guī)模的集群中呢?這時(shí)候,就得請(qǐng)出 HPC(高性能計(jì)算)調(diào)度界的“大宗師”—— IBM Spectrum LSF!
    的頭像 發(fā)表于 05-27 15:18 ?414次閱讀

    大模型時(shí)代的深度學(xué)習(xí)框架

    作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 在 CNN時(shí)代 ,AI模型的參數(shù)規(guī)模都在百萬(wàn)級(jí)別,僅在單張消費(fèi)顯卡上即可完成訓(xùn)練。例如,以業(yè)界
    的頭像 發(fā)表于 04-25 11:43 ?237次閱讀
    大模型<b class='flag-5'>時(shí)代</b>的深度學(xué)習(xí)框架

    AI原生架構(gòu)升級(jí):RAKsmart服務(wù)器在超大規(guī)模模型訓(xùn)練中的算力突破

    近年來(lái),隨著千億級(jí)參數(shù)模型的崛起,AI訓(xùn)練對(duì)算力的需求呈現(xiàn)指數(shù)級(jí)增長(zhǎng)。傳統(tǒng)服務(wù)器架構(gòu)在應(yīng)對(duì)分布式訓(xùn)練、高并發(fā)計(jì)算和顯存優(yōu)化等場(chǎng)景時(shí)逐漸顯露瓶頸。而RAKsmart為超大規(guī)模模型訓(xùn)練提供
    的頭像 發(fā)表于 04-24 09:27 ?268次閱讀

    大規(guī)模硬件仿真系統(tǒng)的編譯挑戰(zhàn)

    引言隨著集成電路設(shè)計(jì)復(fù)雜度的不斷提升,硬件仿真系統(tǒng)在現(xiàn)代芯片設(shè)計(jì)流程中扮演著越來(lái)越重要的角色。基于FPGA(現(xiàn)場(chǎng)可編程門陣列)的商用硬件仿真系統(tǒng)因其靈活性、全自動(dòng)化、高性能和可重構(gòu)性,成為驗(yàn)證
    的頭像 發(fā)表于 03-31 16:11 ?838次閱讀
    <b class='flag-5'>大規(guī)模</b>硬件仿真系統(tǒng)的編譯挑戰(zhàn)

    適用于數(shù)據(jù)中心和AI時(shí)代的800G網(wǎng)絡(luò)

    ,成為新一代AI數(shù)據(jù)中心的核心驅(qū)動(dòng)力。 AI時(shí)代的兩大數(shù)據(jù)中心:AI工廠與AI云 AI時(shí)代催生了兩數(shù)據(jù)中心架構(gòu): AI工廠:用于大規(guī)模模型
    發(fā)表于 03-25 17:35

    高性能計(jì)算,名副其實(shí)的“算力皇冠”

    近年來(lái),從金融到汽車、從教育到醫(yī)療,人工智能技術(shù),特別是以ChatGPT為代表的生成式人工智能,正在給整個(gè)世界帶來(lái)顛覆性體驗(yàn)。在如今這個(gè)“人工智能時(shí)代”,人工智能技術(shù)的發(fā)展離不開服務(wù)于AI算法訓(xùn)練
    的頭像 發(fā)表于 02-08 14:27 ?807次閱讀
    <b class='flag-5'>高性能</b>計(jì)算,名副其實(shí)的“算力皇冠”

    乾瞻科技發(fā)布車用高速接口IP系列,助力AI與自動(dòng)駕駛

    神盾集團(tuán)旗下子公司乾瞻科技(InPsytech, Inc.),作為高速接口IP領(lǐng)域的全球領(lǐng)導(dǎo)者,近日同步發(fā)布了兩項(xiàng)具有劃時(shí)代意義的技術(shù)成果,旨在推動(dòng)車用半導(dǎo)體與AI
    的頭像 發(fā)表于 12-25 16:06 ?530次閱讀

    【「大模型啟示錄」閱讀體驗(yàn)】+開啟智能時(shí)代的新鑰匙

    那些擁有數(shù)十億甚至數(shù)千億參數(shù)的大規(guī)模模型成為了現(xiàn)實(shí)可能。Transformer 等機(jī)制模型架構(gòu)的橫空出世,徹底改變了模型訓(xùn)練的效率和性能。 我有時(shí)在想國(guó)外為何能夠在大模型上能有這樣的突破,除了漂亮國(guó)
    發(fā)表于 12-24 13:10

    使用EMBark進(jìn)行大規(guī)模推薦系統(tǒng)訓(xùn)練Embedding加速

    推薦系統(tǒng)是互聯(lián)網(wǎng)行業(yè)的核心系統(tǒng),如何高效訓(xùn)練推薦系統(tǒng)是各公司關(guān)注的核心問(wèn)題。目前,推薦系統(tǒng)基本上都是基于深度學(xué)習(xí)的大規(guī)模 ID 模型,模型包含數(shù)十億甚至數(shù)百億級(jí)別的 ID 特征,典型結(jié)構(gòu)如圖 1 所示。
    的頭像 發(fā)表于 10-31 14:46 ?714次閱讀
    使用EMBark進(jìn)行<b class='flag-5'>大規(guī)模</b>推薦系統(tǒng)<b class='flag-5'>訓(xùn)練</b>Embedding加速

    什么是協(xié)議分析儀和訓(xùn)練

    長(zhǎng)時(shí)間、大規(guī)模的分析。 軟件型協(xié)議分析儀:基于計(jì)算機(jī)軟件的工具,通過(guò)安裝在計(jì)算機(jī)上實(shí)現(xiàn)網(wǎng)絡(luò)數(shù)據(jù)包的捕獲、解析和分析,靈活且便于擴(kuò)展。 二、訓(xùn)練器在電子設(shè)計(jì)和測(cè)試領(lǐng)域,訓(xùn)練器通常與協(xié)議分析儀結(jié)合使用,用于對(duì)特定
    發(fā)表于 10-29 14:33

    端到端InfiniBand網(wǎng)絡(luò)解決LLM訓(xùn)練瓶頸

    ChatGPT對(duì)技術(shù)的影響引發(fā)了對(duì)人工智能未來(lái)的預(yù)測(cè),尤其是多模態(tài)技術(shù)的關(guān)注。OpenAI推出了具有突破性的多模態(tài)模型GPT-4,使各個(gè)領(lǐng)域取得了顯著的發(fā)展。 這些AI進(jìn)步是通過(guò)大規(guī)模模型訓(xùn)練實(shí)現(xiàn)
    的頭像 發(fā)表于 10-23 11:26 ?1472次閱讀
    端到端InfiniBand網(wǎng)絡(luò)解決LLM<b class='flag-5'>訓(xùn)練</b>瓶頸

    SiFive發(fā)布MX系列高性能AI加速器IP

    在AI技術(shù)日新月異的今天,RISC-V IP設(shè)計(jì)領(lǐng)域的領(lǐng)軍企業(yè)SiFive再次引領(lǐng)行業(yè)潮流,正式推出了其革命性的SiFive Intelligence XM系列高性能AI加速器IP。這一創(chuàng)新產(chǎn)品專為加速各類
    的頭像 發(fā)表于 09-24 14:46 ?796次閱讀

    克服設(shè)計(jì)難題-實(shí)現(xiàn)高性能接口

    電子發(fā)燒友網(wǎng)站提供《克服設(shè)計(jì)難題-實(shí)現(xiàn)高性能接口.pdf》資料免費(fèi)下載
    發(fā)表于 08-28 09:41 ?0次下載
    克服設(shè)計(jì)難題-實(shí)現(xiàn)<b class='flag-5'>高性能接口</b>

    飛凌 Elfboard硬件分享-高速 PCB 設(shè)計(jì)考慮因素

    Quad Flat Package”的縮寫,即塑封四角扁平封裝。PQFP封裝的芯片引腳之間距離很小,管腳很細(xì)。一般大規(guī)模或超大規(guī)模集成電路采用這種封裝形式,其引腳數(shù)一般都在100以上。 TSOP是英文
    發(fā)表于 08-06 09:30

    Xilinx NVMe AXI4主機(jī)控制器,AXI4接口高性能版本介紹

    NVMe AXI4 Host Controller IP可以連接高速存儲(chǔ)PCIe SSD,無(wú)需CPU,自動(dòng)加速處理所有的NVMe協(xié)議命令,具備獨(dú)立的數(shù)據(jù)寫入和讀取AXI4接口,不但適用高性能
    的頭像 發(fā)表于 07-18 09:17 ?1038次閱讀
    Xilinx NVMe AXI4主機(jī)控制器,AXI4<b class='flag-5'>接口</b><b class='flag-5'>高性能</b>版本介紹
    主站蜘蛛池模板: 亚洲一区二区三区四区在线 | 欧美猛交xxxx乱大交 | 国产欧美日韩视频免费61794 | 日韩在线视频一区二区三区 | 色噜噜在线视频 | 国产又粗又大又爽又免费 | 美国一区二区三区 | 久久午夜免费视频 | 欧美色图综合 | 69女poren18中国 | 国产日本三级 | 免费我看视频在线观看 | 中文在线天堂网www 中文在线资源链接天堂 | 日日天天夜夜 | 日本一区二区三区不卡在线看 | 亚洲成人伊人网 | freesex性欧美炮机喷潮 | 在线观看一区二区三区四区 | 亚洲精品456人成在线 | 久久青草精品一区二区三区 | 一级片免费视频 | 亚洲va久久久噜噜噜久久狠狠 | 日日操日日爽 | 伊人一区二区三区 | 最新亚洲人成网站在线影院 | 国产女同视频 | 午夜精品视频在线观看美女 | 午夜无遮挡怕怕怕免费视频 | 欧洲成品大片在线播放 | 康熙古代高h细节肉爽文全文 | 久操视频在线播放 | 91国内在线观看 | 色噜噜综合网 | 精品福利视频网 | 国产一区二区三区四卡 | 视频在线观看免费播放www | 日韩在线视频一区 | 天天干天天干天天天天天天爽 | 4444狠狠 | 日本69xxxxxxxx69| 日本三级在线观看免费 |