在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

類ChatGPT訓練需高性能芯片大規模并聯,高速接口IP迎紅利時代

Felix分析 ? 來源:電子發燒友網 ? 作者:吳子鵬 ? 2023-03-06 09:18 ? 次閱讀

電子發燒友網報道(文/吳子鵬)近段時間,ChatGPT的火熱重新掀起人工智能產業熱潮,尤其是AIGC(指利用人工智能技術來生成內容)領域,已經進入到狂飆姿態,頭部科技企業爭分奪秒地尋求搶先發布類ChatGPT應用。

眾所周知,類ChatGPT應用是一個吞金獸,微軟公司為了訓練ChatGPT使用了1萬張英偉達的高端GPU?!皬挠柧毜慕嵌葋砜矗嬎阈阅茉俸玫腉PU芯片比如A100如果無法集群在一起去訓練,那么訓練一個類ChatGPT的大模型可能需要上百年。因此,AI大模型的訓練對高速接口IP是一個巨大的挑戰,也是一個巨大的機遇?!笨究萍际袌黾皯鹇愿笨偛锰祁T诮邮茈娮影l燒友網采訪時表示。

奎芯科技成立于2021年,該公司的口號是“芯粒高速互聯,海量算力源泉 ”。目前,奎芯科技已經推出的高速接口IP組合包括USB、PCIe、SATA、SerDes、MIPI、DDR、HDMI、DP、HBM等豐富的類型。

類ChatGPT帶動接口IP發展

半導體產業分布來看,IP是底層技術,接口IP同樣如此,因此關鍵性和重要性是不言而喻的。那么在AIGC產業里,接口IP能夠發揮哪些作用呢?唐睿提到了以下幾點。

首先是芯片上的互聯接口,也就是Die to Die類型的互聯接口IP,包括UCIe等,用以擴充單芯片的計算能力;其次是Chip to Chip類型的互聯接口IP,包括SerDes/PCIe/CXL等,能夠加快芯片之間的互聯和數據交換,滿足更高帶寬的需求;此外還有內存接口IP,包括SATA、DDR、HBM等,能夠用于打造更高性能的存儲產品,幫助類ChatGPT存儲和交換大規模的數據;再上一層就是數據通訊接口的接口IP。因此,從訓練的角度來看,類ChatGPT應用的爆發,能夠帶來非常大的接口IP需求。

在此前的預測里,有市場調研機構的數據顯示,2022年至2026年高速互聯IP的市場規模有望以75%的年復合增長率快速成長?!敖涌贗P市場的增長一定是跟隨整個高性能計算芯片大趨勢的,包括芯片運算性能、內存和帶寬方面的提升都需要接口IP的幫助,因此芯片用量的提升一定會帶來更大的接口IP用量?!碧祁UJ為,“同時計算芯片性能的提升已經受限于摩爾定律放緩的影響,單芯片的性能會逐漸遇到瓶頸,那么互聯組成算力集群就是一個有效的手段,這也會加快推動接口IP的發展。”

雖然產業熱潮來臨,不過唐睿并不擔心一下子會涌入很多同行或者友商,造成國內接口IP產業內卷?!笆袌龈偁幍募ち页潭葧黾?,但接口IP是高門檻的領域,目前國內做高速混合電路的人才其實并不多,特別是在先進制程上做高速模擬電路設計的人才更少,因此從零組建團隊進入這個領域是非常困難的。”他對此講到。

國產廠商的布局和追趕

從全球產業格局來看,在接口IP方面,目前新思科技和楷登電子等EDA廠商以及其他國際上的接口IP廠商還處于領先位置。相關數據顯示,截止到2021年,國產接口IP的自給率還不足10%。

“目前,從技術上來看,國產接口IP廠商確實還處于追趕的位置,不過這種差距已經越來越小?!碧祁V赋?,“2023年,奎芯科技將會推出一系列性能達到國際領先水平的接口IP產品,包括HBM3以及其他領先的D2D類型的互聯接口IP。”

同時,他還講到,在服務國內客戶方面,實際上也會存在很多本地化的需求,需要根據這些需求結合晶圓廠的工藝特色,提供IP解決方案??究萍己芏郔P產品,在研發的過程中或者研發之前,就得到了客戶方的問詢,圍繞客戶的芯片架構,有非常清晰的需求??究萍悸摵献约旱南掠慰蛻舫闪⒘硕鄠€產業聯盟,通過這些聯盟將不同類型的計算芯片公司聯合在一起,協同發展,圍繞數據中心應用把國產方案搭建好,彌補國內這一塊的空白。

當前,AI大模型訓練所用到的算力集群基本上都是基于英偉達通用算力芯片來打造,在這方面國產通用算力芯片還存在一定的性能差距。唐睿表示,國產高性能計算芯片還是有機會的,AI大模型并不是一個近期出現的新鮮事物,近些年國內AI產業已經在跟進這一趨勢,只是類ChatGPT類型應用背后的大模型參數規模更大。針對這方面的需求,國內芯片產業也早就啟動了這方面的布局,包括奎芯科技所在的接口IP賽道,都在向這個方向努力。不過,從IP研發到芯片設計,再到應用落地,這中間會有一個時間差。實際上,國外的公司也是在用之前的芯片通過互聯在做這方面的硬件支持。

“還需要特別提出的是,AIGC是一個軟硬件結合的應用。軟件方面,算法模型的體量也是一個值得研究去突破的方向。目前,國外開源的AIGC算法里,也并非只有Open AI的GPT算法,通過介紹信息來看,也有一些參數更小的模型能夠實現類ChatGPT應用。我們實際上可以借鑒這些模型,以減少軟件對硬件的需求壓力?!碧祁W詈笾v到。

小結

IP對半導體產業有巨大的撬動力量,在全球范圍內,約60多億美元的IP銷售額,帶動的是5000億美元的全球半導體市場銷售額。對于***而言,短期內實現單芯片性能暴增的難度非常大,不過通過高速接口IP,用算力集群的方式,也能夠逐步進入類ChatGPT的紅利市場。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    459

    文章

    52253

    瀏覽量

    437001
  • IP
    IP
    +關注

    關注

    5

    文章

    1789

    瀏覽量

    151510
  • ChatGPT
    +關注

    關注

    29

    文章

    1588

    瀏覽量

    8829
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    IBM Spectrum LSF如何助力半導體企業應對AI時代高性能芯片需求

    上萬個作業,可能會瞬間擠爆計算資源。那如何把成千上萬個作業有序的調度到大規模的集群中呢?這時候,就得請出 HPC(高性能計算)調度界的“大宗師”—— IBM Spectrum LSF!
    的頭像 發表于 05-27 15:18 ?329次閱讀

    大模型時代的深度學習框架

    作者:算力魔方創始人/英特爾創新大使劉力 在 CNN時代 ,AI模型的參數規模都在百萬級別,僅在單張消費顯卡上即可完成訓練。例如,以業界
    的頭像 發表于 04-25 11:43 ?201次閱讀
    大模型<b class='flag-5'>時代</b>的深度學習框架

    AI原生架構升級:RAKsmart服務器在超大規模模型訓練中的算力突破

    近年來,隨著千億級參數模型的崛起,AI訓練對算力的需求呈現指數級增長。傳統服務器架構在應對分布式訓練、高并發計算和顯存優化等場景時逐漸顯露瓶頸。而RAKsmart為超大規模模型訓練提供
    的頭像 發表于 04-24 09:27 ?213次閱讀

    大規模硬件仿真系統的編譯挑戰

    引言隨著集成電路設計復雜度的不斷提升,硬件仿真系統在現代芯片設計流程中扮演著越來越重要的角色?;贔PGA(現場可編程門陣列)的商用硬件仿真系統因其靈活性、全自動化、高性能和可重構性,成為驗證
    的頭像 發表于 03-31 16:11 ?772次閱讀
    <b class='flag-5'>大規模</b>硬件仿真系統的編譯挑戰

    適用于數據中心和AI時代的800G網絡

    ,成為新一代AI數據中心的核心驅動力。 AI時代的兩大數據中心:AI工廠與AI云 AI時代催生了兩數據中心架構: AI工廠:用于大規模模型
    發表于 03-25 17:35

    高性能計算,名副其實的“算力皇冠”

    近年來,從金融到汽車、從教育到醫療,人工智能技術,特別是以ChatGPT為代表的生成式人工智能,正在給整個世界帶來顛覆性體驗。在如今這個“人工智能時代”,人工智能技術的發展離不開服務于AI算法訓練
    的頭像 發表于 02-08 14:27 ?683次閱讀
    <b class='flag-5'>高性能</b>計算,名副其實的“算力皇冠”

    乾瞻科技發布車用高速接口IP系列,助力AI與自動駕駛

    神盾集團旗下子公司乾瞻科技(InPsytech, Inc.),作為高速接口IP領域的全球領導者,近日同步發布了兩項具有劃時代意義的技術成果,旨在推動車用半導體與AI
    的頭像 發表于 12-25 16:06 ?468次閱讀

    【「大模型啟示錄」閱讀體驗】+開啟智能時代的新鑰匙

    那些擁有數十億甚至數千億參數的大規模模型成為了現實可能。Transformer 等機制模型架構的橫空出世,徹底改變了模型訓練的效率和性能。 我有時在想國外為何能夠在大模型上能有這樣的突破,除了漂亮國
    發表于 12-24 13:10

    使用EMBark進行大規模推薦系統訓練Embedding加速

    推薦系統是互聯網行業的核心系統,如何高效訓練推薦系統是各公司關注的核心問題。目前,推薦系統基本上都是基于深度學習的大規模 ID 模型,模型包含數十億甚至數百億級別的 ID 特征,典型結構如圖 1 所示。
    的頭像 發表于 10-31 14:46 ?647次閱讀
    使用EMBark進行<b class='flag-5'>大規模</b>推薦系統<b class='flag-5'>訓練</b>Embedding加速

    什么是協議分析儀和訓練

    長時間、大規模的分析。 軟件型協議分析儀:基于計算機軟件的工具,通過安裝在計算機上實現網絡數據包的捕獲、解析和分析,靈活且便于擴展。 二、訓練器在電子設計和測試領域,訓練器通常與協議分析儀結合使用,用于對特定
    發表于 10-29 14:33

    端到端InfiniBand網絡解決LLM訓練瓶頸

    ChatGPT對技術的影響引發了對人工智能未來的預測,尤其是多模態技術的關注。OpenAI推出了具有突破性的多模態模型GPT-4,使各個領域取得了顯著的發展。 這些AI進步是通過大規模模型訓練實現
    的頭像 發表于 10-23 11:26 ?1160次閱讀
    端到端InfiniBand網絡解決LLM<b class='flag-5'>訓練</b>瓶頸

    SiFive發布MX系列高性能AI加速器IP

    在AI技術日新月異的今天,RISC-V IP設計領域的領軍企業SiFive再次引領行業潮流,正式推出了其革命性的SiFive Intelligence XM系列高性能AI加速器IP。這一創新產品專為加速各類
    的頭像 發表于 09-24 14:46 ?733次閱讀

    克服設計難題-實現高性能接口

    電子發燒友網站提供《克服設計難題-實現高性能接口.pdf》資料免費下載
    發表于 08-28 09:41 ?0次下載
    克服設計難題-實現<b class='flag-5'>高性能接口</b>

    Xilinx NVMe AXI4主機控制器,AXI4接口高性能版本介紹

    NVMe AXI4 Host Controller IP可以連接高速存儲PCIe SSD,無需CPU,自動加速處理所有的NVMe協議命令,具備獨立的數據寫入和讀取AXI4接口,不但適用高性能
    的頭像 發表于 07-18 09:17 ?989次閱讀
    Xilinx NVMe AXI4主機控制器,AXI4<b class='flag-5'>接口</b><b class='flag-5'>高性能</b>版本介紹

    芯品# 高性能計算芯片

    Arm Neoverse基于CSS的CPU芯片組具有超高速接口和高級封裝,可為AI,HPC和網絡基礎設施提供可擴展的性能 英國倫敦和加拿大多倫多-2024年6月6日- Alphawav
    的頭像 發表于 06-27 10:28 ?7384次閱讀
    主站蜘蛛池模板: 亚洲 成人 欧美 自拍 | 欧美乱妇15p| 欧美h网 | 欧美日穴 | 新午夜影院| 888午夜不卡理论久久 | 久久都是精品 | 操操操操操 | 天天摸天天看天天爽 | 丁香综合在线 | 午夜视频高清在线aaa | 丁香婷五月 | 美女写真mm爽爽爽 | 国产精品热久久毛片 | 国产三级精品视频 | 久久久久久久网站 | 狠狠躁夜夜躁人人躁婷婷视频 | 国模啪啪一区二区三区 | 美女网站视频色 | haodiaose在线精品免费观看 | 91操视频 | 国内激情自拍 | 女人扒开腿让男人桶到爽 | 视频高清正版在线观看 | 91大神在线免费观看 | 毛片官网| 九九51精品国产免费看 | 色色色色色网 | 日本全黄视频 | 成年男人永久免费看片 | 国产精品理论片在线观看 | 1314亚洲人成网站在线观看 | 夜夜夜爽| 亚洲一本 | 免费在线视频观看 | 国产午夜影院 | 久久久噜噜噜www成人网 | 天天干天天上 | 一本大道加勒比久久 | 色噜噜狠狠狠狠色综合久 | 特黄aa级毛片免费视频播放 |