雖然科技行業繼續吹捧人工智能的“復興”，但人工智能芯片初創公司的數量已經開始趨于平穩。人工智能初創公司發現，數據中心曾經是一個充滿希望的市場，但其進入壁壘很高——也許令人望而卻步。他們的問題可以追溯到谷歌、亞馬遜和 Facebook 等超大規模企業，他們現在正在開發自己的人工智能處理器和加速器，以滿足他們的特定需求。

需要明確的是，機器學習 (ML) 繼續發展。更多的神經網絡變體正在涌現。人工智能正在成為每個電子系統的固有特性。

Arteris 首席運營官 Laurent Moll 預測，在未來，“每個人的 SoC 中都有某種人工智能。” 這對 Arteris 來說是個好消息，因為它的業務是通過提供片上網絡 (NoC) IP 和 IP 開發工具來幫助公司（無論大小，或新老）集成 SoC。

對于人工智能芯片初創公司？沒那么多。競爭越來越激烈，使破解適合特定 AI 設計的細分市場的挑戰變得更加復雜。

EE Times 將于下個月公布我們的“Silicon 100”（2021 版），這是一份新興電子和半導體初創公司的年度名單。該報告的作者 Peter Clarke 二十年來一直在密切關注半導體初創公司。他告訴我們，專注于 GPU 和 AI 的專業芯片初創公司的數量“與前一年相比持平”。他觀察到，“我們感覺到該行業可能已經達到了‘人工智能高峰’的地步。”

簡而言之，人工智能芯片初創公司的沙拉時代可能已經結束。

Tirias Research 的首席分析師 Kevin Krewell 預計會有更多的 AI 芯片初創公司被收購。“畢竟，人工智能啟動資金的爆炸式增長發生在英特爾收購 Nervana 之后。風投和天使投資人看到了一種可能有利可圖的退出策略。” 他補充說，“今天有太多的 [AI] 初創公司超出了該行業的長期支持能力。我敢肯定，還會出現更多涉及模擬或光學的更奇特的解決方案。[但]最終，AI/ML 功能將被納入更大的 SoC 或小芯片設計中。”

洛朗摩爾

在這種背景下，EE Times最近與 Arteris 新任命的首席運營官進行了會談。曾擔任 Arteris 首席技術官的 Moll 在高通公司工作了七年多，最近擔任這家移動芯片巨頭的工程副總裁。

我們向 Moll 詢問了 AI 芯片領域的變化以及初創公司的發展方向。

淘金熱

不出所料，Moll 將行業對 AI 的沖刺描述為他所見過的“最大的淘金熱之一”。然而，這些后來的 49 人不再只是初創公司或小公司。探礦者包括“長期以來一直在制造硅片的公司，以及許多[以前]沒有制造過硅片的新人，”Moll 說。每個人都“在同一個舞臺上比賽”，每個人都在“努力解決問題”。

不斷增長的開發人員基礎和多樣化的應用程序發揮了 Arteris 的優勢，但它為 AI 芯片初創公司描繪了一幅截然不同的畫面。他們不再只與具有類似新想法的 AI 初創公司競爭。但現在他們也在對抗大男孩。超大規模生產商和汽車原始設備制造商正在大力發展人工智能，以便他們可以將自己的芯片用于他們的系統。

仍處于擴張階段

Arteris 的 Moll 觀察到，人工智能芯片市場“仍處于擴張階段”，“每個人都在探索”。盡管如此，他還是看到數據中心方面出現了“一點點秩序”。這主要是因為超大規模企業正在通過開發自己的人工智能處理器和加速器來控制自己的命運。

超大規模和其他 AI 芯片設計者之間的區別歸結為一個因素。“他們擁有數據集，”Moll 說。Hyperscaler 不與其他人共享數據集，但他們正在開發專有軟件堆棧。“而且他們覺得他們可以創建芯片，更加優化他們自己的數據訪問。”

與此同時，外部供應商——較小的人工智能芯片初創公司——正在“開發構建 SoC 的新方法、使用 SRAM 和 DRAM 的新方法、堆疊、使用光學器件，”Moll 說。“有很多方法可以創造出秘方，使他們能夠比現成的 AI 芯片做得更好。小個子正在改變游戲規則，他們非常聰明地以與眾不同的方式做事。”

相比之下，超大規模企業所追求的人工智能芯片就沒有那么創新了。Moll 觀察到，超大規模用戶可以負擔得起使用更傳統的方法。一個很好的例子是谷歌的 TPU。“如果你看它，架構很棒，但它不是革命性的——在很多方面。” 盡管如此，“它非常適合谷歌想要做的事情。所以，這符合他們的目的。”

如果小型 AI 初創公司的芯片如此新穎，他們不應該鉆進超大規模的數據中心嗎？

“不，不，不，”莫爾說。“任何小型企業都不太可能在數據中心市場擴張……或者超大規模企業購買他們的產品。” 然而，他指出，“一旦他們看到他們的技術有用并適用于他們想做的事情，他們肯定會購買其中一些初創公司。”

Moll 將超大規模的思路描述為：“我知道我的數據集是什么。我知道如何做一種更集中的架構。如果有人有一個很好的想法，讓我們抓住這組人和IP，讓我們改進我們自己的產品。”

Tirias Research 的 Krewell 表示同意。“你必須做一些驚人的事情才能讓超標量承諾使用你的機器學習芯片。” Krewell 說，例如，Cerebras憑借其晶圓大小的芯片突破了極限。“由于其無處不在的軟件和可擴展性，Nvidia 仍然是 AI 開發工作的默認平臺。”

邊緣呢？

Moll 指出，對于 AI 芯片設計師來說，與數據中心相比，“邊緣是一個完全不同的故事”。邊緣的終端市場是多功能的，需要更廣泛的解決方案。“很多人仍在弄清楚在哪里應用人工智能，以及如何實施它，”Moll 說。

點擊查看完整大小的圖片

到 2025 年，19% 的半導體可用市場將與 AI/ML 相關。（來源：伯恩斯坦；思科；Gartner；IC Insights；IHS Markit；Machina Research；麥肯錫分析——由 Arteris 編譯）

Tirias Research 的 Krewell 對此表示贊同。“邊緣仍然是一個相對未開發的領域。仍有機會將 ML 添加到傳感器和邊緣設備。非常低功耗的模擬和內存設備以及 MCU 和應用處理器中的加速器具有前景。我看到邊緣處理器中 INT4 和 INT2 推理的巨大潛力——準確度高，功耗和內存要求低得多。”

雖然多樣化的應用程序聽起來令人興奮，但它存在陷入邊緣人工智能炒作周期的危險。

Edge AI 成為流行語并不是因為邊緣是一個新市場，也不是因為它代表任何特定的產品類別。相反，缺乏定義已經將“優勢”變成了初創公司可以將其產品與之關聯的包羅萬象的東西。

在廣泛的邊緣應用中，Moll 看到了兩個不同的趨勢。他指出，一個是“芯片內的人工智能，可以做其他事情”。“這就是爆炸的地方。”

他補充說，嵌入式系統市場是“外形尺寸、功率和散熱等因素真正重要的地方”。

另一端的另一個趨勢是“只做人工智能的巨大芯片”，Moll 指出。然而，邊緣大芯片的應用仍在不斷發展。

“芯片內的人工智能”最好的例子可能是智能手機的應用處理器，Moll 很清楚這一點。人工智能加速器在語音識別和視覺處理中發揮了關鍵作用。如今，人工智能已成為手機銷售吸引力的重要組成部分。一個結果是“移動領域的老牌廠商（如高通）具有優勢，”Moll 承認。

汽車中的人工智能

Moll 認為車輛中的人工智能是一個完全不同的故事。

他指出，將會有一系列解決方案，從重人工智能的計算機視覺芯片到完成所有繁重處理的大型人工智能芯片。隨著汽車從 ADAS 向自動駕駛發展，Moll 預計更大的 AI 處理器將在高端汽車市場發揮關鍵作用。

雖然汽車行業的老牌企業通常擁有自己的小型 AI 芯片，但在 ADAS 方面具有優勢，但在擁有相當大的 AI 芯片的自動駕駛市場中，AI 芯片初創公司仍有充足的空間。

但這就是轉折點。

汽車原始設備制造商——模仿超大規模制造商——也在垂直化。特斯拉已經設計了自己的芯片，稱為“全自動駕駛”計算機。幾周前，大眾汽車首席執行官赫伯特·迪斯 (Herbert Diess) 告訴一家德國報紙，該公司計劃設計和開發自己的自動駕駛汽車高性能芯片以及所需的軟件。

Moll 證實，汽車制造商“都在非常仔細地看待這個問題”。盡管 Arteris 是一家 IP 公司，“我們接到汽車 OEM 的電話，因為他們想要了解整個堆棧，并且想要控制”即將到來并改變車輛架構的“大堆硅片” .

Recogni、Blaize和Mythic等 AI 芯片初創公司將汽車列為他們瞄準的邊緣 AI 細分市場。汽車制造商最終將如何在車輛中實施此類芯片還有待觀察。

Krewell 強調：“汽車平臺仍在不斷發展。分布式功能具有模塊化和降低風險的優勢，但其構建和維護成本高于集中式處理綜合體。”

他補充說：“另一個問題是數據。傳感器將發送大量數據，邊緣智能會減少數據傳輸，但需要權衡傳感器延遲增加和機箱中更多分布式電源。傳感器上輕量級邊緣處理的某種平衡可以減少中央處理器的負載，而不會增加過多的延遲或需要過多的分布式電源。”

人工智能之戰從芯片轉向軟件

Krewell 觀察到，“我看到人工智能的重點從芯片轉移到軟件。部署 ML 功能需要好的軟件。為了讓更多嵌入式設計工程師和程序員能夠使用 ML，需要讓 ML 成為低代碼。它還需要為特定應用程序自動創建自定義模型。”

摩爾也得出了類似的結論。當被問及為什么決定從高通回到 Arteris 時，他列舉了兩點。

首先，Arteris 曾經在一個小眾市場中發揮作用——“IP 供應商之間的狹隘地方”。但這個利基現在已成為“關鍵空間之一”，人工智能芯片設計人員在此尋求幫助，通過在芯片上構建大量網絡來“組裝非常龐大和復雜的 SoC”。這就是 Arteris 的片上網絡 (NOC) 可以進來以整體方式解決問題的地方。

其次，Arteris IP 去年收購了 Magillem。Moll 認為 Magillem 提供的“軟件層”是創建一個非常龐大和復雜的 SoC 的另一個關鍵。在高通負責提供頂級芯片的團隊后，“我開始認識到 Arteris 作為用戶而非營銷人員所提供的價值。”

審核編輯 黃昊宇