來源：TECHPOWERUP

2024 IEEE IEDM 會議目前正在美國加州舊金山舉行。據分析師 Ian Cutress 在其社交平臺上發布的動態，英偉達在本次學術會議上分享了有關未來 AI 加速器設計的愿景。

英偉達認為未來整個 AI 加速器復合體將位于大面積先進封裝基板之上，采用垂直供電，集成硅光子 I/O 器件，GPU 采用多模塊設計，3D 垂直堆疊 DRAM 內存，并在模塊內直接整合冷板。

在英偉達給出的模型中，每個 AI 加速器復合體包含 4 個 GPU 模塊，每個 GPU 模塊與 6 個小型 DRAM 內存模塊垂直連接并與 3 組硅光子 I/O 器件配對。

硅光子 I/O 可實現超越現有電氣 I/O 的帶寬與能效表現，是目前先進工藝的重要發展方向；3D 垂直堆疊的 DRAM 內存較目前的 2.5D HBM 方案擁有更低信號傳輸距離，有益于 I/O 引腳的增加和每引腳速率的提升；垂直集成更多器件導致發熱提升，模塊整合冷板可提升解熱能力。

熱管理是另一個關鍵考慮因素。多層 GPU 設計帶來了復雜的冷卻挑戰，而目前的技術無法充分解決這一問題。NVIDIA 承認，在將 DRAM 堆疊在邏輯上的概念成為現實之前，材料科學必須取得重大進展。該公司正在探索創新解決方案，包括實施芯片內冷卻系統，例如使用專用冷板進行模塊級冷卻。這種設計的商業化還需要一段時間，Ian Cutress 博士等分析師預測，采用這種技術的產品可能會在 2028-2030 年左右上市。

審核編輯 黃宇