AI算法芯片化已是大勢(shì)所趨

近年來(lái)，人工智能（AI）產(chǎn)業(yè)發(fā)展十分迅速，涌現(xiàn)出了一大批的AI算法初創(chuàng)公司，與此同時(shí)谷歌、BAT等互聯(lián)網(wǎng)公司也紛紛殺入，但是隨著AI技術(shù)的逐步成熟，這個(gè)領(lǐng)域的競(jìng)爭(zhēng)變得越來(lái)越激烈。

特別是在谷歌、百度等廠商將很多AI算法及工具開源之后，開發(fā)AI算法及應(yīng)用的門檻開始大幅降低，與此同時(shí)很多AI算法廠商還紛紛將一些基礎(chǔ)的AI算法能力免費(fèi)向開發(fā)者提供，比如百度將其語(yǔ)音AI能力免費(fèi)開放，虹軟也將其基礎(chǔ)的視覺(jué)AI能力免費(fèi)對(duì)外開放。這些都加劇了AI算法市場(chǎng)的競(jìng)爭(zhēng)。

為了進(jìn)一步提升自身的競(jìng)爭(zhēng)力，越來(lái)越多的AI算法廠商開始紛紛進(jìn)入半導(dǎo)體領(lǐng)域，不再選擇第三方的芯片作為載體，而是將“算法芯片化”，打造更為適合自己需求的，更具能效的，具有自主IP（知識(shí)產(chǎn)權(quán)）的專用型AI芯片，用以替代第三方的芯片。

以國(guó)外廠商為例，Google很早就推出了自研的TPU；2017年，Intel以150多億美金收購(gòu)了ADAS/自動(dòng)駕駛AI芯片及解決方案廠商Mobileye，此外還收購(gòu)了AI芯片公司Movidius；2018年，亞馬遜也曝光了自己的云端AI芯片；不久前，特斯拉也推出了自己的自動(dòng)駕駛AI芯片。

在國(guó)內(nèi)市場(chǎng)也同樣如此，在過(guò)去的一年，我們可以看到，百度發(fā)布了自己的云端AI芯片“昆侖”，云知聲、Rokid、云天勵(lì)飛等AI算法廠商都推出了基于自己算法定制的AI芯片。

顯然，對(duì)于AI算法廠商來(lái)說(shuō)，自己來(lái)做AI芯片或模組，一方面可以脫離單純的AI算法授權(quán)的商業(yè)模式，脫離AI算法領(lǐng)域的激烈競(jìng)爭(zhēng)，通過(guò)向產(chǎn)業(yè)鏈上下游延伸，拉高競(jìng)爭(zhēng)壁壘，同時(shí)可以提升自身的核心競(jìng)爭(zhēng)力，推動(dòng)生態(tài)建設(shè)，加速AI算法的產(chǎn)品化落地。

但是，對(duì)于大多數(shù)的AI算法廠商來(lái)說(shuō)，由于缺乏半導(dǎo)體芯片的研發(fā)人才積累、技術(shù)積累和經(jīng)驗(yàn)積累，這也使得他們?cè)趯I算法芯片化的過(guò)程中會(huì)遇到非常多的難題和挑戰(zhàn)。

針對(duì)這這一趨勢(shì)，全球知名的EDA工具及IP廠商新思科技（Synopsys）早前就推出了一套能夠?qū)崿F(xiàn)專用指令集處理器（ASIP）開發(fā)流程自動(dòng)化的工具——ASIP Designer，可以助力AI算法廠商快速高效的實(shí)現(xiàn)“算法芯片化”。

什么是ASIP？

ASIP即“專用指令集處理器（內(nèi)核）”，是針對(duì)特定應(yīng)用場(chǎng)景的功能需求而設(shè)計(jì)的一類“指令集處理器”。與之相對(duì)的是，比如Arm的Cortex CPU內(nèi)核則是屬于“通用型指令集處理器”。相對(duì)于“通用型指令集處理器”，ASIP在特定應(yīng)用場(chǎng)景下可以獲得更為出色的性能、面積、功耗和成本等競(jìng)爭(zhēng)優(yōu)勢(shì)。

這里需要區(qū)別的是，ASIP并不等于專用型處理器ASIC，我們通常所說(shuō)的ASIC芯片是一個(gè)完整的芯片，其不僅包括針對(duì)特定算法設(shè)計(jì)或優(yōu)化的內(nèi)核，還包括了外圍的電路、接口等等。

ASIP有何優(yōu)勢(shì)？

對(duì)于算法廠商來(lái)說(shuō)，雖然市場(chǎng)上有很多現(xiàn)成的處理器內(nèi)核可選，但為了覆蓋更多的用戶和市場(chǎng)，這些處理器內(nèi)核往往都是偏向“大而全”，性能、面積、功耗也一定不是最優(yōu)的。并且，這些內(nèi)核都是固定的，難以進(jìn)行修改的，更不能根據(jù)自己的應(yīng)用需求去優(yōu)化。

針對(duì)客戶的特定需求來(lái)說(shuō)，買來(lái)的處理器內(nèi)核可能只有部分指令用得上，有很多的指令是用不上的，這就造成了浪費(fèi)。比如，算法廠商需要設(shè)計(jì)一個(gè)處理器來(lái)跑自己的20條指令，如果要用Arm內(nèi)核來(lái)做，可能其內(nèi)部很多指令用不上，同時(shí)還需要搞定Arm內(nèi)核里面的初始化和驅(qū)動(dòng)，這就需要增加很多的指令，還會(huì)遇到面積、功耗、啟動(dòng)時(shí)間等一大堆的問(wèn)題。

相對(duì)而言，由于算法廠商對(duì)于自己的算法非常熟悉，如果采用自定義的處理器架構(gòu)和指令集，那么就可以實(shí)現(xiàn)極簡(jiǎn)化的按需設(shè)計(jì)，并且可以通過(guò)不斷的修改和優(yōu)化自己的架構(gòu)，最終獲得比市場(chǎng)上可以買到的處理器內(nèi)核更好的效果，實(shí)現(xiàn)高性能、低功耗、面積更小、成本更低等優(yōu)勢(shì)。

新思科技相關(guān)人士表示，“從自動(dòng)駕駛汽車到醫(yī)療器械，從智能移動(dòng)網(wǎng)絡(luò)到空間應(yīng)用，從安全到虛擬現(xiàn)實(shí)，幾乎每個(gè)片上系統(tǒng)都需要或已經(jīng)使用ASIP。ASIP能夠滿足專業(yè)處理要求，現(xiàn)成的商用處理器IP無(wú)法滿足功率、性能、面積要求，固定功能硬件缺乏所需的可編程性。”

ASIP Designer能做什么？

雖然ASIP有很多的優(yōu)勢(shì)，但是ASIP的研發(fā)并不是一個(gè)簡(jiǎn)單的工作，其工作量非常的大，不僅需要基于特定算法定義一套處理器模型架構(gòu)，還要進(jìn)行架構(gòu)優(yōu)化和軟件開發(fā)以及驗(yàn)證ASIP設(shè)計(jì)，除此之外，還必須考慮開發(fā)用于對(duì)所得設(shè)計(jì)進(jìn)行編程的軟件開發(fā)工具鏈需要完成的工作。

新思科技推出的ASIP Designer則是一套針對(duì)ASIP的開發(fā)流程自動(dòng)化工具。其不僅能最大限度地減少開發(fā)專用處理器和相關(guān)編程工具所需的工程時(shí)間和工作量，而且還能加快理解候選設(shè)計(jì)的性能和效率（即設(shè)計(jì)探索）。

下面簡(jiǎn)單解釋下ASIP Designer這套工具的作用：

比如一家AI算法廠商，希望開發(fā)出一個(gè)最為適合自己AI算法的處理器內(nèi)核架構(gòu)（完全自主設(shè)計(jì)，而不是基于Arm CPU內(nèi)核架構(gòu)或者其他的CPU/GPU/DSP內(nèi)核架構(gòu)），那么這家AI算法廠商只需要自己定義一個(gè)架構(gòu)，用nML語(yǔ)言就把它寫出來(lái)，通過(guò)ASIP Designer就可以自動(dòng)生成一套SDK，包含優(yōu)化的C/C ++語(yǔ)言編譯器、匯編器/反匯編器、鏈接器、周期精確以及指令精確的指令集仿真器和圖形化調(diào)試器（適用于指令集仿真和片上調(diào)試）。這就形成了一個(gè)完整的最小化的嵌入式處理器內(nèi)核模型及開發(fā)環(huán)境。

然后，算法廠商可以將自己的算法放到這個(gè)已經(jīng)生產(chǎn)的嵌入式處理器內(nèi)核模型及開發(fā)環(huán)境當(dāng)中去運(yùn)行，通過(guò)調(diào)試器和分析器來(lái)檢測(cè)出來(lái)的結(jié)果對(duì)不對(duì)、效率高不高，進(jìn)而發(fā)現(xiàn)一開始的”用戶定義的架構(gòu)“哪些地方有問(wèn)題，哪些地方需要迭代修改。

由于ASIP Designer的所有編譯器優(yōu)化都以通用方式實(shí)現(xiàn)，編譯器還可以自動(dòng)可重定向。得益于編譯器的即時(shí)可用性，使得用戶可以通過(guò)ASIP Designer實(shí)現(xiàn)快速的架構(gòu)迭代，進(jìn)而使編譯結(jié)果能夠在下一個(gè)迭代步驟中推動(dòng)架構(gòu)的進(jìn)一步優(yōu)化。另外對(duì)于算法廠商本身的算法需要快速迭代的需求，ASIP Designer也可使得整個(gè)ASIP的設(shè)計(jì)能夠及時(shí)的進(jìn)行相應(yīng)的快速迭代。

據(jù)介紹，使用ASIP Designer完成一次完整的架構(gòu)迭代可能只需要10分鐘。

如果采用的是現(xiàn)成的固定的處理器內(nèi)核，那么要完成一次算法的迭代需要修改非常多的東西，而且需要真正的仿真以后才能把這個(gè)算法跑起來(lái)。跑出來(lái)以后再看結(jié)果，再根據(jù)結(jié)果去修改，顯然這個(gè)迭代過(guò)程非常的復(fù)雜。

而當(dāng)ASIP整個(gè)軟件代碼迭代完成之后，接下來(lái)就可以往硬件方面做了。

開發(fā)人員可以使用ASIP Designer的RTL生成工具將設(shè)計(jì)好的nML模型轉(zhuǎn)換為完全可綜合的Verilog或VHDL。因?yàn)閚ML可以對(duì)處理器進(jìn)行周期和位精確描述，所以設(shè)計(jì)人員可以完全控制硬件。

不但如此，ASIP Designer還可以無(wú)縫對(duì)接新思科技的SoC的實(shí)現(xiàn)和驗(yàn)證工具。比如，開發(fā)人員可以使用新思科技的RTL仿真器VCS進(jìn)行進(jìn)一步的模擬設(shè)計(jì)，然后進(jìn)行驗(yàn)證：驗(yàn)證處理器模型（nML），確保指定的處理器模型實(shí)現(xiàn)所期望的行為；驗(yàn)證RTL模型，確保生成的RTL模型正確實(shí)現(xiàn)nML。

如果發(fā)現(xiàn)nML問(wèn)題，則可以很容易返回到nML描述，并對(duì)模型執(zhí)行必要硬件和/或軟件修改以解決問(wèn)題，例如超出功耗和/或面積預(yù)算。由于nML中的單一來(lái)源條目，SDK和RTL將始終保持同步。

開發(fā)人員還可以進(jìn)一步的進(jìn)行模擬設(shè)計(jì)，然后使用Design Compiler生成門級(jí)描述，門級(jí)描述可用于準(zhǔn)確評(píng)估電路的功率要求和面積，甚至可以使用新思科技Compiler等工具進(jìn)入布局和布線過(guò)程，以探索路由擁塞的風(fēng)險(xiǎn)。這種“環(huán)路綜合”方法可確保做出合理決策，并避免在設(shè)計(jì)過(guò)程的后期出現(xiàn)意外。

總結(jié)來(lái)說(shuō)，ASIP Designer功能強(qiáng)大，同時(shí)可結(jié)合新思科技其他豐富的配套的EDA工具，在兼容性和內(nèi)部協(xié)同性上更為出色，極大簡(jiǎn)化了ASIP的設(shè)計(jì)流程，縮短了設(shè)計(jì)周期。如果是采用多個(gè)未全面整合的工具，那么就意味著需要在工具間進(jìn)行某一設(shè)計(jì)版本移植，而這是引發(fā)錯(cuò)誤的一個(gè)主要原因。而要解決發(fā)現(xiàn)的問(wèn)題，通常需要與兩個(gè)或兩個(gè)以上的不同的工具供應(yīng)商溝通獲得技術(shù)支持，因此找出錯(cuò)誤也將耗費(fèi)大量的時(shí)間。

ASIP Designer明顯降低了就新設(shè)計(jì)項(xiàng)目采用ASIP所面臨的障礙。無(wú)需聘請(qǐng)仿真器、調(diào)試器或編譯器專家就可以獲得專業(yè)的技術(shù)支持，可以幫助設(shè)計(jì)團(tuán)隊(duì)提高生產(chǎn)力和縮短上市時(shí)間。借助ASIP Designer，設(shè)計(jì)團(tuán)隊(duì)可以：用ASIP替換固定功能硬件實(shí)現(xiàn)，進(jìn)而避免設(shè)計(jì)和驗(yàn)證復(fù)雜且不靈活的狀態(tài)；設(shè)計(jì)其自己專為特定算法量身定制的專用DSP，如圖像處理、基帶處理和音頻處理；為高價(jià)值和差異化設(shè)計(jì)區(qū)塊（如AI、第1層通信、矩陣運(yùn)算）創(chuàng)建針對(duì)特定域的靈活加速器。

小結(jié)

顯然，對(duì)于這些AI算法廠商來(lái)說(shuō)，采用ASIP Designer完全可以設(shè)計(jì)出最為適合自身特定AI算法的具有自主知識(shí)產(chǎn)權(quán)的處理器內(nèi)核，且可以加速算法IP化芯片化的迭代速度，降低流片失敗風(fēng)險(xiǎn)。

正所謂好馬配好鞍，要想真正把ASIP Designer這個(gè)工具用好，也有著一定的門檻。

新思科技內(nèi)部技術(shù)人員表示，”只有開發(fā)團(tuán)隊(duì)清晰明白自己需要的是一個(gè)什么樣的硬件邏輯，才能夠把自身算法發(fā)揮到最佳“。特別是在“用戶定義架構(gòu)”這個(gè)部分，非常考驗(yàn)AI算法廠商在軟硬件結(jié)構(gòu)定義的能力，需要一個(gè)非常有經(jīng)驗(yàn)的，對(duì)于軟硬件都非常精通的開發(fā)團(tuán)隊(duì)，才能夠把ASIP Designer用好。

而據(jù)了解，目前一些海內(nèi)外大客戶已經(jīng)開始引入ASIP Designer，用于新的芯片的研發(fā)。國(guó)內(nèi)外不少AI廠商、RISC-V芯片廠商也對(duì)ASIP Designer表現(xiàn)出了極大的興趣。