摘要/前言

硬件加速，可能總會是新的難點和挑戰。面對信息速率和密度不斷提升的AI，技術進步也會遵循摩爾定律，那硬件互連準備好了嗎？

Samtec China Sr. FAE Manager 胡亞捷?在Keysight實驗室開放日上海站做深度分享時，提出了以上這樣的問題。

本次活動由Keysight主辦，在上海、北京舉辦開放實驗室主題日活動，攜手Samtec的技術專家，共同探討確保 AI 互連穩健性的趨勢、挑戰和解決方案。

從摩爾定律看AI發展

回顧半導體行業，英特爾創始人戈登?摩爾提出的摩爾定律，在過去五十多年近乎完美地驗證了半導體技術的發展。集成電路上可容納的晶體管數目大約每隔 18 - 24 個月便會增加一倍，性能提升一倍，價格卻保持不變。而在 AI 領域，也有著類似的發展規律。

Samtec 胡亞捷 將?Ilya Sutskever（OpenAI前首席科學家）提出的“LLM pre-training hitting a wall” 問題作為引子，進入到硬件行業發展速度回顧和發展的討論。這里的?“撞墻” 主要指的是大型語言模型（LLM）在預訓練 (pre-training) 階段的性能提升遇到了瓶頸，即通過增加模型規模、數據量和計算資源來提升模型性能的效果正在顯著減弱和趨于平穩，邊際效益顯著遞減。這一話題最近曾在 AI 社區引發了廣泛討論。

“AI 能力和性能不斷提升，模型的規模和復雜度持續增長，就如同摩爾定律下半導體性能的迭代。例如，AI 模型的參數性能一直爬坡，比如 token 生成速度指數級上升，這種增長趨勢與摩爾定律下晶體管數量的增長有著異曲同工之妙。”

另外，對于摩爾定律在?AI 硬件中的映射，他比較贊同推特上的大神@fin 老師的針對這個問題的觀點 ：

“目前我們面對的，早已不再狹義的摩爾定律。但每一次過分的要求，每一次技術撞墻，都一定會開辟新的世界。技術與市場的蓬勃發展，已演進成廣義摩爾定律，即多個技術曲線的互相累積疊加形成的現象，比如制程、材料、互連和運算方式等。”

為此，他還從未來數年芯片加速的若干維度輔助進行了擴展分享。

硬件是根基 互連為橋梁

硬件是 AI 發展的根基，就如同高樓大廈的地基。沒有強大的硬件支持，AI的各種設想和應用都將成為空中樓閣。為了滿足 AI 日益增長的算力需求，硬件對于互連的要求越來越“過分”。

但Samtec可以滿足。我們擁有豐富的產品線和強大的技術研發能力，能夠為 AI 硬件互連提供全方位的解決方案。我們的產品不僅性能卓越，而且具有高度的可靠性和穩定性。在全球范圍內，Samtec 與眾多知名企業建立了長期合作關系，廣泛應用于數據中心、智能汽車、5G、物聯網等多個與 AI 緊密相關的領域。

分享中，胡亞捷重點從四個板塊，為大家介紹了Samtec在AI領域的解決方案。

Chipsets（芯片開發）

在芯片開發過程中，量測是必不可少的環節。Samtec 為客戶推薦集成式的射頻線束產品，如?Bulls Eye? 測試點系統，具有壓縮接口、小尺寸、高循環次數和 70GHz 的高性能，相比離散 SMA 通常可節省 4:1 的空間，其高密度能實現更小的評估板和更短的走線長度，極大地滿足了芯片開發中的測試需求，為芯片的研發和優化提供了有力支持。

“

SoMs/CoMs（系統模塊/計算機模塊）

當客戶的系統涉及 AI 相關的模塊板時，需要高可靠性、高密高速的板到板連接器。Samtec 的?AcceleRate? HD?超密集、多行陣列，具有高速?Edge Rate? 觸點，專為高速、高循環應用設計，并且兼容 PCIe? 5.0；還有 Xilinx? Kria?自適應 SoM，采用一對 240 引腳的 AcceleRate? HD 超密集薄型陣列，小尺寸和 56Gbps PAM4 性能使其適用于 AI 邊緣應用，為 AI 模塊板的穩定運行提供了可靠保障。

“

Accelerators（加速卡）

在加速卡應用中，卡與卡之間的互連至關重要。Samtec 提供多種解決方案，如?AcceleRate? HD 超薄，可實現 32 GT/s PCIe? 5.0 速度，適用于目標 AI - HPC 架構；其?Twinax Flyover? 系統等高速電纜組件，能簡化板布局并延長信號傳輸距離，滿足加速卡之間高數據速率、低延遲的瞬時數據結果傳輸要求，有效提升了加速卡的性能和效率。

“

DSAs(特定領域架構)

DSA 是針對特定計算任務或應用優化的硬件架構。Samtec 為支持 DSA，提供一系列能滿足其高速、高密度、低延遲等要求的產品，像高速連接器、電纜組件等，以實現 DSA 架構中各組件之間的高效互聯。例如其提供的高性能銅纜和光纜產品，可支持 DSA 所需的極高數據速率和靈活配置，助力 DSA 架構在 AI 特定領域發揮出最大效能。

上海站小結

除了Samtec胡亞捷的分享外，來自主辦方Keysight的專家們，也分別針對“高速 AEC/AOC 電纜測試解決方案”和“下一代AI互聯的測試測量要求和測試方案”做了專業分享。

在會議當中，是德科技的射頻微波解決方案工程師何曉苑，深入剖析了AI產業互聯的發展趨勢，細致闡述了面對全新行業發展方向，市場對互聯線纜提出的新要求。不僅如此，何曉苑還詳盡介紹了是德科技針對這些新興測試測量需求所精心打造的完整測試解決方案，為行業發展提供了極具價值的思路與參考。

Keysight 射頻微波解決方案工程師 何曉苑

是德科技解決方案工程師張曉指出，伴隨AI智算網絡硬件持續發展，用于算力芯片Scale-up網絡機間互連的ACC（Active Copper Cable，有源銅纜）和AEC（Active Electrical Cable，有源電纜），以及應用于內存和存儲池化的PCIe AOC（Active Optical Cable，有源光纜）愈發受到關注。張曉在會議中介紹，是德科技提供的112Gbps/lane有源電纜測試方案，獲得了IBTA（Infiniband Trade Association，國際InfiniBand貿易協會）官網認可；同時，其PCIe5.0/6.0 AOC有源電纜測試方案也已通過客戶驗證。

Keysight 解決方案工程師 張曉

現場，Keysight還與Samtec共同展出了Demo方案，供用戶直觀體驗和討論。

測試環境示意圖

Samtec對于AI的部分理解

回答開篇的問題：面對 AI 發展對硬件互連提出的要求，目前的互連準備好了嗎？

答案是：YES！Samtec準備好了！

硬件互連技術是 AI 產業發展的關鍵支撐，它的進步將直接推動 AI 技術的突破和應用拓展。硬件互連技術作為幕后英雄，雖然不常被大眾矚目，但卻發揮著不可或缺的關鍵作用。

Samtec 在硬件互連領域的持續創新和努力，為AI的發展提供了堅實的保障。相信在未來，硬件互連技術與 AI 將相互促進、協同發展，共同創造更加精彩的科技篇章 。

以上，是上海站的部分精彩，大家如有興趣，還會有北京站可以參加。