在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

支持大語言模型的AIoT系統(tǒng)設(shè)計難度在哪?該怎么做設(shè)計驗證?

芯華章科技 ? 來源:芯華章科技 ? 2023-07-17 16:56 ? 次閱讀

ChatGPT成為今年現(xiàn)象級的熱門應(yīng)用后,一個說法也在行業(yè)里悄然流傳開——1萬枚英偉達(dá)A100芯片,是做好大模型訓(xùn)練的入門級裝備。一時之間“洛陽紙貴”,AI芯片成為了大家眼中的“屠龍寶刀”。我們看到,大量抓住機遇的人,不僅投身大模型產(chǎn)品,還有一部分負(fù)責(zé)給“掘金人”賣鏟子。

那么問題來了:

支持大語言模型的AIoT系統(tǒng),

設(shè)計難度在哪?

該怎么做設(shè)計驗證?

藏在“屠龍刀”里面的秘籍究竟是什么?

過去的AIoT,通常指的都是帶低算力的端側(cè)小芯片,但是隨著類似ChatGPT的大語言模型全面得到應(yīng)用,在端側(cè)AIoT芯片上部署需要幾十到幾百TOPS算力的LLM大模型也成為新的需求。但是新一代AIoT芯片要提高十倍到百倍算力,這不僅僅是堆砌算力那么簡單,需要從性能、互連、帶寬、接口進行全面的系統(tǒng)級規(guī)劃和設(shè)計。

新一代的AIoT芯片已經(jīng)不是一個獨立的芯片個體,目前市場上的AIoT芯片幾乎都結(jié)合了CPUGPUFPGADSP等核心零部件。這就必然需要支持系統(tǒng)級芯片開發(fā)的EDA流程。

實際上,芯片設(shè)計廠商也意識到了這個問題。當(dāng)制程工藝逼近極限,但人們對電子產(chǎn)品性能的追求還在不斷攀升時,壓力很快就傳導(dǎo)到了上游的芯片廠商。借助面向系統(tǒng)級的創(chuàng)新,提升芯片的終極性能表現(xiàn),也成為大家的共識。

所以沒有任何分歧,無論從哪個維度看,大規(guī)模的系統(tǒng)級芯片設(shè)計由于場景豐富、系統(tǒng)規(guī)模不斷擴張,這一需求正在快速形成市場主流的大浪,涌向EDA工具并推動其不斷革新。

如何做好大系統(tǒng)芯片設(shè)計?

2023年7月13日至14日,備受期待的第三屆中國集成電路設(shè)計創(chuàng)新大會(ICDIA 2023)在無錫召開。作為國內(nèi)領(lǐng)先的系統(tǒng)級驗證EDA解決方案提供商,芯華章受邀參加此次盛會,在“AIoT與ChatGPT”分論壇上針對大系統(tǒng)芯片設(shè)計挑戰(zhàn),分享了自己的解決方案。

大系統(tǒng)芯片設(shè)計,首先要理解什么叫“系統(tǒng)”?對高性能AIoT、自動駕駛、高性能CPU和GPU等等復(fù)雜應(yīng)用來說,系統(tǒng)意味著多節(jié)點互聯(lián),每個節(jié)點都有自己的控制單元(如CPU)和計算單元(如AI、NPU),每個節(jié)點都有自己的操作系統(tǒng)和應(yīng)用軟件。

毫無疑問,大系統(tǒng)是一個軟硬件一體化、多節(jié)點一體化的復(fù)雜平臺,但也只有把這整個平臺都在芯片流片前驗證通過,才能真正保證高性能復(fù)雜芯片設(shè)計的正確性。

因此,大系統(tǒng)芯片驗證,最直接的挑戰(zhàn)來自于規(guī)模龐大的系統(tǒng)級仿真但困難遠(yuǎn)不止于此,由“大”帶來的結(jié)構(gòu)性挑戰(zhàn),涵蓋了從驗證到調(diào)試的方方面面。而更大的設(shè)計本身往往意味著更長的時間、更高昂的成本、更慢的仿真性能,本質(zhì)上也就意味著更困難的驗證。

在當(dāng)下的技術(shù)和市場環(huán)境下,大系統(tǒng)芯片設(shè)計的驗證面臨三大共性難題,這些難題正是傳統(tǒng)的EDA工具所難以解決的痛點:

設(shè)計大,很大,大到放不下

從多核、Chiplet封裝、多節(jié)點到完整系統(tǒng),復(fù)雜的驗證規(guī)模可以輕易達(dá)到百億甚至千億門,對驗證工具的容量提出了更高的要求,試想如果驗證平臺根本無法仿真完整的應(yīng)用系統(tǒng),又怎么能證明設(shè)計是完整正確的?但供數(shù)十億至數(shù)百億規(guī)模容量的驗證平臺,其性能、規(guī)模、可調(diào)試性又往往成為難以平衡的選擇。

驗證慢,很慢,難以收斂的慢

系統(tǒng)級規(guī)模不斷增大,系統(tǒng)級仿真在整個驗證的仿真流程中比例不斷增大,導(dǎo)致驗證團隊特別依賴性能和數(shù)量有限的硬件仿真系統(tǒng),導(dǎo)致驗證慢的不僅僅是仿真速度,更是整個驗證工作的收斂速度和效率。

Debug難,很難,越往后越難

在如此復(fù)雜和大規(guī)模的系統(tǒng)級仿真上,調(diào)試就變成一個更加困難的問題。仿真平臺上觀察到的問題,到底來自軟件、芯片邏輯設(shè)計還是多節(jié)點互連?問題能否穩(wěn)定復(fù)現(xiàn)?如何在多種仿真平臺的數(shù)據(jù)之間進行綜合分析?不解決這些問題,大系統(tǒng)的調(diào)試就會越往后期越難,最終影響整個項目周期。

我們似乎開始找到“屠龍刀里秘籍”的線索。作為最上游的輔助設(shè)計工具,EDA創(chuàng)新確實是提升系統(tǒng)級設(shè)計效率,降低創(chuàng)新成本的關(guān)鍵“鑰匙”。

芯華章資深產(chǎn)品與業(yè)務(wù)規(guī)劃總監(jiān)楊曄表示,“單個IP的驗證需求在降低,SoC或單個chiplet級的驗證需求在不斷上升,因為這部分是客戶系統(tǒng)級創(chuàng)新的核心。然而在新場景的應(yīng)用中,傳統(tǒng)的EDA工具在應(yīng)對大容量、深度調(diào)試、多種驗證場景混合使用的時候,遇到各種效率挑戰(zhàn)。芯華章致力提供從軟件、硬件到調(diào)試的整體解決方案,特別是在大規(guī)模設(shè)計的系統(tǒng)級驗證、硬件驗證、架構(gòu)驗證等方面,將為用戶提供全流程大系統(tǒng)芯片驗證解決方案。”

b2ea95de-247f-11ee-962d-dac502259ad0.png

芯華章大系統(tǒng)芯片設(shè)計驗證解決方案的核心,是基于敏捷驗證理念,建立統(tǒng)一的EDA數(shù)據(jù)庫,打造從IP到子系統(tǒng)再到系統(tǒng)級的統(tǒng)一測試場景,提早開始系統(tǒng)級驗證,實現(xiàn)驗證與測試目標(biāo)的高速收斂,進行高效率、高效益的快速迭代,從而助力芯片及系統(tǒng)公司提高驗證效率,降低研發(fā)成本。

b2ffae56-247f-11ee-962d-dac502259ad0.png

芯華章針對大規(guī)模系統(tǒng)級芯片“量身打造”的敏捷驗證方案,已經(jīng)在多個領(lǐng)域獲得具體項目部署。

針對自動駕駛應(yīng)用芯片,芯華章高性能硬件仿真系統(tǒng)HuaEmu E1不僅有高性能仿真和深度調(diào)試,還提供了LPDDR5模型用于客戶內(nèi)存仿真,提供CSIDSI模型用于仿真自動駕駛系統(tǒng)的輸入和輸出,這些都超出了單顆芯片的范疇,是針對軟硬件一體化的系統(tǒng)方案進行仿真驗證。

為了解決原型系統(tǒng)和硬件仿真之間切換版本成本高,延長驗證周期的問題,芯華章發(fā)布的雙模硬件驗證系統(tǒng)HuaPro P2E則基于統(tǒng)一的軟件平臺和硬件平臺,可以在綜合、編譯、驗證方案構(gòu)建、用戶腳本、調(diào)試等階段,能最大程度的復(fù)用技術(shù)模塊和中間結(jié)果,并使用統(tǒng)一用戶界面,從而實現(xiàn)原型驗證和硬件仿真絲滑的無縫集成,在節(jié)約用戶成本的同時,還能大大提高驗證效率。

傳統(tǒng)的軟件仿真工具以調(diào)試功能強大著名,但卻受限于仿真速度,不擅長處理系統(tǒng)級的大規(guī)模仿真驗證。基于芯華章自主研發(fā)的邏輯仿真器GalaxSim,芯華章GalalxSim Turbo實現(xiàn)多核、多服務(wù)器并行運算,可以實現(xiàn)1K-10KHz的復(fù)雜系統(tǒng)軟件仿真,從而可以在RTL階段提前進行系統(tǒng)級仿真。

拿到屠龍刀并不一定能號令天下,只有學(xué)會了刀里面的絕學(xué)才能真正成為“武林至尊”。

當(dāng)“大模型”的路上人越來越多時,產(chǎn)業(yè)同樣也需要向上游追溯,進一步提升創(chuàng)新效率,在激烈的競爭中快人一步。作為芯片產(chǎn)品定義和創(chuàng)新的核心環(huán)節(jié),隨著以系統(tǒng)級場景為代表的產(chǎn)業(yè)數(shù)字化需求迸發(fā),EDA正從方法學(xué)、從底層架構(gòu)開始這場自我革新。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • dsp
    dsp
    +關(guān)注

    關(guān)注

    555

    文章

    8148

    瀏覽量

    355546
  • FPGA
    +關(guān)注

    關(guān)注

    1643

    文章

    21983

    瀏覽量

    614648
  • EDA工具
    +關(guān)注

    關(guān)注

    4

    文章

    272

    瀏覽量

    32643
  • AIoT芯片
    +關(guān)注

    關(guān)注

    0

    文章

    32

    瀏覽量

    4030
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1588

    瀏覽量

    8829

原文標(biāo)題:支持大語言模型的下一代AIoT系統(tǒng)該怎么做設(shè)計驗證?

文章出處:【微信號:X-EPIC,微信公眾號:芯華章科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦
    熱點推薦

    運行kmodel模型驗證一直報錯怎么解決?

    我這運行kmodel模型驗證一直報錯,所以沒法kmodel模型好壞驗證,不知道怎么解決這個問題,重新訓(xùn)練一個kmodel
    發(fā)表于 06-10 08:02

    綠氫系統(tǒng)篇丨PEM電解槽模型交流接入模式仿真驗證

    電解槽模型通過離線驗證和實時仿真驗證兩種方式,對模型在交流接入模式的可行性進行全面驗證,可為
    發(fā)表于 06-05 18:55

    綠氫系統(tǒng)篇丨PEM電解槽模型交流接入模式仿真驗證

    離線驗證和實時仿真驗證兩種方式,對模型在交流接入模式的可行性進行全面驗證,可為PEM電解槽的實際應(yīng)用提供理論和實踐依據(jù)。一、PEM質(zhì)子交換
    的頭像 發(fā)表于 06-05 18:07 ?218次閱讀
    綠氫<b class='flag-5'>系統(tǒng)</b>篇丨PEM電解槽<b class='flag-5'>模型</b>交流接入模式仿真<b class='flag-5'>驗證</b>

    企業(yè)部署AI大模型怎么做

    當(dāng)下,AI大模型已成為驅(qū)動決策自動化、服務(wù)智能化與產(chǎn)品創(chuàng)新的核心引擎。然而,企業(yè)面對動輒數(shù)百億參數(shù)的大模型部署時,常陷入算力不足、響應(yīng)延遲高、成本失控等困境。如何突破瓶頸,實現(xiàn)高效、穩(wěn)定的AI部署呢?下面,AI部落小編為您分享。
    的頭像 發(fā)表于 06-04 09:26 ?102次閱讀

    企業(yè)AI模型托管怎么做

    當(dāng)下,越來越多的企業(yè)選擇將AI模型托管給專業(yè)的第三方平臺,以實現(xiàn)高效、靈活和安全的模型運行。下面,AI部落小編為您介紹企業(yè)AI模型托管是怎么做的。
    的頭像 發(fā)表于 01-15 10:10 ?354次閱讀

    語言模型管理的作用

    要充分發(fā)揮語言模型的潛力,有效的語言模型管理非常重要。以下,是對語言模型管理作用的分析,由AI部
    的頭像 發(fā)表于 01-02 11:06 ?345次閱讀

    語言模型開發(fā)框架是什么

    語言模型開發(fā)框架是指用于訓(xùn)練、推理和部署大型語言模型的軟件工具和庫。下面,AI部落小編為您介紹大語言
    的頭像 發(fā)表于 12-06 10:28 ?485次閱讀

    語言模型開發(fā)語言是什么

    在人工智能領(lǐng)域,大語言模型(Large Language Models, LLMs)背后,離不開高效的開發(fā)語言和工具的支持。下面,AI部落小編為您介紹大
    的頭像 發(fā)表于 12-04 11:44 ?616次閱讀

    云端語言模型開發(fā)方法

    云端語言模型的開發(fā)是一個復(fù)雜而系統(tǒng)的過程,涉及數(shù)據(jù)準(zhǔn)備、模型選擇、訓(xùn)練優(yōu)化、部署應(yīng)用等多個環(huán)節(jié)。下面,AI部落小編為您分享云端語言
    的頭像 發(fā)表于 12-02 10:48 ?631次閱讀

    企業(yè)AI模型部署怎么做

    AI模型部署作為這一轉(zhuǎn)型過程中的關(guān)鍵環(huán)節(jié),其成功實施對于企業(yè)的長遠(yuǎn)發(fā)展至關(guān)重要。在此,AI部落小編為您介紹企業(yè)AI模型部署的步驟以及注意事項。
    的頭像 發(fā)表于 11-04 10:15 ?719次閱讀

    Llama 3 語言模型應(yīng)用

    理解復(fù)雜的上下文信息,包括對話歷史、用戶偏好和文化差異。這使得它在對話系統(tǒng)和個性化推薦中表現(xiàn)出色。 情感分析 :通過深度學(xué)習(xí)技術(shù),Llama 3 能夠識別和理解文本中的情感傾向,無論是正面的、負(fù)面的還是中性的。 多語言支持 :Llama 3
    的頭像 發(fā)表于 10-27 14:15 ?676次閱讀

    TINA軟件里沒有OPA191元器件模型,請問怎么做

    1、請問有沒OPA191的參考原理圖? 2、這個芯片有沒有放大倍數(shù)限制?我打算用他放大一個0.4V信號,放大10-15倍 3、TINA軟件里沒有OPA191元器件模型,請問怎么做
    發(fā)表于 08-27 06:01

    【《大語言模型應(yīng)用指南》閱讀體驗】+ 基礎(chǔ)知識學(xué)習(xí)

    和判斷以確定最終答案。這一過程可能涉及對多個候選答案的比較、評估和選擇。最終,模型會生成一段符合語言規(guī)范和邏輯結(jié)構(gòu)的文本作為問題的答案。 應(yīng)用與局限性 1. 應(yīng)用 大語言模型在問答
    發(fā)表于 08-02 11:03

    【《大語言模型應(yīng)用指南》閱讀體驗】+ 俯瞰全書

    的大語言模型設(shè)計技術(shù)人員閱讀,主要包括大語言模型的優(yōu)化方法、Agent系統(tǒng)調(diào)優(yōu)以及模型的安全技術(shù)
    發(fā)表于 07-21 13:35

    nlp自然語言處理模型怎么做

    自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領(lǐng)域的一個重要分支,它涉及到計算機對人類語言的理解和生成。隨著深度學(xué)習(xí)技術(shù)的發(fā)展,NLP領(lǐng)域取得了顯著
    的頭像 發(fā)表于 07-05 09:59 ?1084次閱讀
    主站蜘蛛池模板: 看5xxaaa免费毛片 | 免费一级毛片不卡在线播放 | 中文字幕三级久久久久久 | 国产婷婷一区二区三区 | 黄色成人免费观看 | aaaaaaa欧美黄色大片 | 天天干夜夜爱 | 国产视频每日更新 | 国产日韩欧美一区二区 | 韩国三级视频 | 午夜精品久久久久久影视riav | 视频色www永久免费 视频色版 | 久国产精品久久精品国产四虎 | 久久怡红院| 干夜夜| 色播在线 | 男生脱美女内裤内衣动态图 | 欧美性一区二区三区五区 | 国产深夜福利在线观看网站 | 亚洲欧美在线视频免费 | 国产色在线 | 亚洲 国产色综合天天综合网 | 免费午夜影片在线观看影院 | 午夜免费小视频 | 婷婷久久久五月综合色 | 免费国产zzzwww色 | 性夜影院爽黄e爽在线观看 羞羞色院91精品网站 | 刺激第一页720lu久久 | 失禁h啪肉尿出来高h健身房 | 在线网站 看片 网站 | 一级做a免费视频 | 视频一区在线观看 | 人人干人人看 | 亚洲成在| 亚洲精品美女久久久久网站 | 国产亚洲人成a在线v网站 | 久久999| 黄色在线观看网址 | 最新中文字幕在线资源 | 久久久久久久性潮 | 最近免费 | 国产重口老太和小伙乱视频 |