人工智能(AI)技術的快速發(fā)展對數(shù)據(jù)處理和傳輸提出了前所未有的挑戰(zhàn)。在深度學習、自然語言處理和計算機視覺等AI應用中,訓練和學習需要巨大的數(shù)據(jù)量傳遞和交互。2023年GPT-4模型所需訓練的參數(shù)量有1.8萬億,要完成這么大的數(shù)據(jù)量的運算,需要上萬個GPU同時工作。如此龐大的數(shù)據(jù)傳輸對于傳統(tǒng)銅纜而言是個巨大的挑戰(zhàn),因此光模塊在數(shù)據(jù)傳輸中發(fā)揮著非常重要的作用。光模塊在AI和數(shù)據(jù)中心中負責數(shù)據(jù)的轉換,將1bit的電信號轉為光信號,把1bit的光信號轉為電信號。400G模塊,能轉換0.4T bit,800G光模塊,轉換0.8T bit,以GPT-4的訓練參數(shù)計算,完成一次計算所需要調用的光模塊數(shù)量就可能多達數(shù)萬。而隨著大模型的不斷進化和訓練參數(shù)的急速增加,對光模塊的需求量只多不少。
AI場景對光模塊的故障率要求
因為訓練數(shù)據(jù)量大,所以AI場景架構采用GPU運算更合適,這與傳統(tǒng)的數(shù)據(jù)中心的服務器類型有所區(qū)別。CPU是串行運算,通常有較少的核心(一般在2到32個核心之間),每個核心都非常強大,適合執(zhí)行復雜的單線程任務,適用于傳統(tǒng)數(shù)據(jù)中心的串行結構。GPU是并行運算,擁有大量的核心(數(shù)百到數(shù)千個),每個核心較簡單,適合執(zhí)行大量的并行任務,因此更適用數(shù)據(jù)量超大的AI場景。傳統(tǒng)的數(shù)據(jù)中心結構,是基于串行方式的,對時延的要求雖然很看重,但不像AI場景中對時延的苛刻要求。并行任務的結果就是成千上萬的并行數(shù)據(jù)要傳輸,整個數(shù)據(jù)的完成是以時延最大,最慢的那個bit為準的。其他再快也不行。
光模塊的故障率比傳統(tǒng)的電學芯片的要高很多很多,光模塊選擇熱插拔,也是因為光學器件的故障率很高,用熱插拔方便維修和更換。傳統(tǒng)的數(shù)據(jù)中心,光模塊對于故障率的要求比傳統(tǒng)通信更寬松,少量的故障并不會影響到整體的運行傳輸,所以遇到光模塊故障后及時更換就可以了。但對于基于AI的這種場景就不適用,大數(shù)據(jù)量的并行計算,而且不是實時保存的。如果有任何一個數(shù)據(jù)傳錯了,那么整體要重來,重新計算一遍。中國移動也曾提到當前人工智能中主流萬卡集群的GPU網(wǎng)絡每月最大會發(fā)生上千次閃斷,其中34%是與網(wǎng)絡相關。其中每年大概會有60次左右的光模塊故障導致的訓練中斷,而且故障定位也通常會需要數(shù)天到數(shù)十天之久。所以光模塊失效率高會導致大的丟包率和維護成本,從而給設備服務商帶來巨大的運營壓力。因此在AI場景中對光模塊可靠性的要求非常苛刻。

圖1 AI大模型中丟包率導致訓練所需時間增長
AI場景光模塊的可靠性問題
綜上所述,對于傳統(tǒng)數(shù)據(jù)中心而言,一般會把可靠性的要求放寬,是因為通常在實際部署中,數(shù)據(jù)中心的樹形網(wǎng)絡結構是配置了冗余的,從而這此前提下放寬了對模塊故障率的要求。冗余越大,有更多的節(jié)點可以實現(xiàn)業(yè)務傳輸,光模塊的失效率略大一些是不影響整體通信的。因此傳統(tǒng)數(shù)據(jù)中心的光模塊,有很長一段時間,是非氣密封裝,因為非氣密封裝,故障率會高一些,但成本也會下降很多。
但AI大模型與傳統(tǒng)數(shù)據(jù)中心不同,AI場景所采用的并行計算,如上一節(jié)所講,對故障零容忍,對光模塊的穩(wěn)定性要求極高。因此,非氣密封裝已經不能滿足可靠性要求了,各家廠商又開始使用氣密封裝降低失效率。光模塊中產生的可靠性問題主要是光器件失效引起的,包括激光器、探測器和其他元器件,其中激光器失效最高。阿里曾經做過統(tǒng)計,在光模塊眾多的元器件中,超過90%以上的失效是與激光器相關的。

圖2 阿里統(tǒng)計的光模塊各元件失效占比統(tǒng)計
光模塊自身已經面臨非常高的可靠性風險了,然而光模塊從400G、800G發(fā)展到1.6T,模塊功耗隨著芯片功率、射頻損耗,DSP補償?shù)妊杆僭黾樱脑黾犹岣吡斯饽K實際的工作溫度,同樣也使得光模塊壽命急速縮短,可靠性急劇下降。光模塊溫度升高,激光器芯片的發(fā)光效率降低,廢熱更大,也會帶來可靠性風險。

圖3 功耗增加機柜溫度升高可靠性下降
現(xiàn)行可供參考的可靠性標準如GR-468,一方面從標準提出到現(xiàn)在已有二十余年時間,另一方面該標準是作為通信用光電子器件的可靠性標準,對AI場景并不適用。近年來,大模型使用方以及光模塊廠商都對光器件提出了更嚴格的可靠性要求。在2023年CIOE上,阿里提出了自身對于光芯片可靠性的認證要求,要求光模塊FIT小于125,即有1000個光模塊在工作,5年后,只允許5個出現(xiàn)故障。同時也對激活能Ea,和n做了限定,限定激活能 Ea=0.35,n=0。老化公式的n,是加速壓力的指數(shù),可以是電流,溫度,或者濕度,關鍵取決于芯片設計里哪個因素的影響最大。以電流為例,如果n按照3取值,老化電流是工作電流的1.5倍,得出激光器工作壽命是10年。如果相同條件下n取為0,那么壽命就只有3年了。Ea和n都取最小值,會得到很小的加速系數(shù),最終會計算出很大的FIT值,這樣一來對可靠性的要求就更為苛刻了。

圖4 可靠性中加速系數(shù)計算公式
如何提升光模塊可靠性
光模塊的可靠性重點關注的就是激光器。激光器從發(fā)光原理、制造工藝來看,降低優(yōu)化的程度有限,并不能完全達到電芯片的尺度,近期內也不會有顛覆性的技術改良大幅提高可靠性。對于光模塊的可靠性控制重點還是在實際使用時的早期失效和隨機失效,早期失效可以通過選用一定參數(shù)的加速老化進行剔除,老化的條件,時間都需要通過科學的計算,避免老化時間過短剔除不到位或者時間過長降低產品壽命。對于隨機失效,目前有些方案如finisar等公司采用的備份激光器,通過增加多組激光器作為備用降低失效率,一個壞了立刻切到另一個好的激光器去工作,但是增加一組備份,成本、空間、功耗,又增加了很多難度。海思設計過一種智能光模塊,通過實時監(jiān)控光模塊多種參數(shù)狀態(tài),采用大數(shù)據(jù)訓練主動對光模塊做預警,提前判斷光模塊即將失效,這要求廠家對自身產品數(shù)據(jù)要有十分全面的掌握。
廣電計量光電器件可靠性分析
光模塊市場近兩年隨著AI浪潮的出現(xiàn)展現(xiàn)出了廣闊的想象空間,但也給光模塊的可靠性帶來了更高的挑戰(zhàn)。過去廠家不重視模塊的可靠性,缺乏對產品的失效評估,而現(xiàn)在解決產品可靠性問題,將會是占領用戶市場,打通產品從送樣到批量供貨的關鍵。
廣電計量是國內第一家完成激光發(fā)射器、探測器全套AEC-Q102車規(guī)認證的國有第三方上市檢測機構,具備VCSEL、LED、APD、SPAD等激光器和探測器批次性驗證試驗能力,具有豐富的光電器件可靠性驗證經驗。在人才隊伍上,形成以博士、專家為核心的光電器件測試分析團隊,可以協(xié)助客戶定制可靠性評估方案,建立準確的產品失效模型,滿足客戶在可靠性、失效分析領域的認證檢測需求。
廣電計量半導體服務優(yōu)勢
- 工業(yè)和信息化部“面向集成電路、芯片產業(yè)的公共服務平臺”
- 工業(yè)和信息化部“面向制造業(yè)的傳感器等關鍵元器件創(chuàng)新成果產業(yè)化公共服務平臺”
- 國家發(fā)展和改革委員會“導航產品板級組件質量檢測公共服務平臺”
- 廣東省工業(yè)和信息化廳“汽車芯片檢測公共服務平臺”
- 江蘇省發(fā)展和改革委員會“第三代半導體器件性能測試與材料分析工程研究中心”
- 上海市科學技術委員會“大規(guī)模集成電路分析測試平臺”
在集成電路及SiC領域是技術能力最全面、知名度最高的第三方檢測機構之一,已完成MCU、AI芯片、安全芯片等上百個型號的芯片驗證,并支持完成多款型號芯片的工程化和量產。
在車規(guī)領域擁有AEC-Q及AQG324全套服務能力,獲得了近50家車廠的認可,出具近400份AEC-Q及AQG324報告,助力100多款車規(guī)元器件量產。
-
AI
+關注
關注
88文章
34421瀏覽量
275747 -
SiC
+關注
關注
31文章
3171瀏覽量
64537 -
光模塊
+關注
關注
80文章
1394瀏覽量
60090
發(fā)布評論請先 登錄
可靠性測試包括哪些測試和設備?

提供半導體工藝可靠性測試-WLR晶圓可靠性測試
電機微機控制系統(tǒng)可靠性分析
IGBT的應用可靠性與失效分析

光頡晶圓電阻:高可靠性和耐久性助力電子設備穩(wěn)定運行

**【技術干貨】Nordic nRF54系列芯片:傳感器數(shù)據(jù)采集與AI機器學習的完美結合**
從IGBT模塊大規(guī)模失效爆雷看國產SiC模塊可靠性實驗的重要性
詳解晶圓級可靠性評價技術

DeepSeek推動AI算力需求:800G光模塊的關鍵作用
IGBT模塊封裝:高效散熱,可靠性再升級!

如何測試光耦的性能與可靠性
不同制造商TOPCon光伏組件的老化測試:性能、穩(wěn)定性與可靠性

PCB高可靠性化要求與發(fā)展——PCB高可靠性的影響因素(上)

評論