原文標題：《China’s Weird Chip Surplus, Explained——How China has both compute overcapacity and shortage》

原文作者：Nicholas Welch, Lily Ottinger, and Jordan Schneider

原文鏈接：https://www.chinatalk.media/p/chinas-weird-chip-surplus-explained

編譯：超算百科

隨著DeepSeek近期的突破性進展占據新聞頭條，一個更深層次的問題依然存在：中國政府是否真的在推動實現通用人工智能（AGI）？如果是的話，它在計算資源分配中可能扮演了何種角色？

盡管DeepSeek的成就表明，獲取超越對沖基金所能拼湊的計算能力或許并不是開發算法進步的直接瓶頸，但情況要復雜得多。西方實驗室仍在競相構建大規模的10萬GPU級別的集群（更不用提“星際之門項目”），希望以規?；绞介_發和部署AGI。而DeepSeek的首席執行官也多次表示，他面臨計算資源的限制。

在本文中，我們探討一個關鍵的悖論：中國為何能夠同時存在計算資源過剩和短缺的現象？這又說明了中國是否準備好邁向開發和部署AGI的下一步？

自2024年初以來，有關中國閑置計算中心的報道不斷涌現。9月，租賃Nvidia AI芯片在中國的價格比美國更低。

乍一看，這似乎不合邏輯。由于美國限制了中國獲取先進AI芯片的渠道，人們本應看到芯片短缺、所有可用芯片被充分利用以及云服務價格高企的局面。

那么，到底發生了什么？

這一謎團也引起了中國記者的關注。在本文中，我們綜合了兩篇去年11月發表的長篇中文文章的觀點：

吳俊宇為《財經雜志》撰寫的《中國算力，過剩了嗎？》

張帥為《鈦媒體》撰寫的《智算中心太“多”，大模型不夠用了》

本文關鍵要點

2024年，中國在其計算能力中新增了至少100萬塊AI芯片（其中70%為Nvidia，30%為華為）——從理論上講，這足以構建多個10萬GPU規模的集群（這可能是與GPT-5或其他下一代西方模型競爭所需的規模）。

但為什么即使在當前的1萬GPU規模集群時代，中國已經出現了過?，F象？

解釋一：芯片部署不當，導致“高質量算力”短缺，而“低質量算力”過剩。

在人工智能熱潮中，許多公司和地方政府急于購買GPU，認為僅僅擁有這些硬件就能確保利潤。然而，由于其中許多人缺乏技術和市場專業知識，芯片最終被分散部署在地理位置偏遠、質量較低的數據中心，要么難以使用，要么處于沒有需求的地方。這種投機行為和資源管理不善導致了盡管整體算力短缺，卻仍出現閑置計算中心的現象。

政府對此作出回應，不再批準新建數據中心的許可，除非它們位于八個指定樞紐之一。行業的整合和專業化使得類似混亂在2025年阻礙中國數據中心建設的可能性降低。

解釋二：短期過剩，長期短缺。

到2024年，對基礎模型訓練的需求顯著放緩。許多在2023年匆忙開發基礎模型的參與者已停止訓練新一代模型。

盡管推理需求正在快速增長，但仍不足以完全吸收先前用于訓練的過剩算力。

未來，推理需求的增長以及更大基礎模型的開發預計將引發新的短缺。當前這種暫時性過剩的“過渡期”預計將在2025年中期結束。

接下來，我們將更詳細地探討中國媒體對以下問題的看法：

中國擁有多少AI芯片，又是誰在部署它們；

“虛假”和“偽”1萬GPU集群的出現，以及政府如何應對；

使用國產芯片的算力集群所面臨的獨特挑戰；

從訓練需求向推理需求的轉變；

中國是否需要更多公共云計算，而非私有GPU集群；

在10萬GPU規模時代，中國如何避免1萬GPU規模時代的陷阱。

誰參與投資了智算中心？

首先，《財經》雜志概述了在中國實際構建算力集群的主體。主要分為三大類：

1.大型科技公司（阿里巴巴、騰訊、百度）：預計2024年資本支出總額超過1300億元人民幣；

2.國有電信運營商（中國移動、中國電信）：計劃在2024年投資845億元人民幣；

3.地方政府和國有企業：統計數據不完整，但僅2024年1月至10月的投資就至少達到275億元人民幣。

《財經》深入分析了這些數據，以估算這三類主體在2024年投入使用的芯片總數。

大型科技公司

《財經》認為，資本支出（Capex）是衡量算力中心投資的良好指標，因為資本支出通常用于購買芯片和租賃土地。

2024年上半年，阿里巴巴、騰訊和百度的總資本支出達到504.4億元人民幣，同比增長121.6%，這是自2018年以來的最高增長率。如果這一增長趨勢延續到下半年，那么2024年阿里巴巴、騰訊和百度的總資本支出將超過1300億元人民幣。

需要注意的是，華為和字節跳動也運營著重要的算力中心。但由于它們并非上市公司，未披露相關數據——這意味著“大型科技公司”這一類別中的總投資實際上高于這里呈現的數據。

預計在未來幾個月內，DeepSeek將像OpenAI與微軟合作那樣，與其中一家公司達成合作。據鈦媒體周一報道，字節跳動正“考慮與DeepSeek開展研究合作”。與字節跳動的合作可能為DeepSeek的研究人員帶來巨大的突破，使其能夠獲得數量級更高的計算資源支持。

圖1：阿里巴巴、騰訊和百度的資本支出（2021年第一季度至2024年第二季度）單位：億元人民幣

注：1. 阿里巴巴的自然年與其財年不一致，數據已根據自然年進行調整。2. 科技公司的資本支出通常用于購買芯片和服務器，以及租賃土地建設數據中心；因此，科技公司的資本支出與算力投資直接相關。| 來源：財經

2024年上半年，英偉達報告稱其在中國市場的收入達到61.6億美元（約合437億元人民幣），同比增長42.3%。由于國內科技公司仍然主要依賴英偉達芯片，這些數據為估算中國主要科技公司購買芯片的數量提供了另一個有用的參考。

圖5：英偉達在全球各地區的營收規模（2022年第一季度至2024年第二季度） 單位：美元

注：1. 英偉達的自然年與財年不一致，數據已根據自然年進行調整。2. 為便于統計，英偉達來自中國大陸、臺灣及其他非美國地區的收入在圖表中被合并為“其他”。3. 英偉達財務報告統計中的中國大陸收入包含香港。

國有電信運營商

《財經》解釋稱，自2023年以來，國有電信運營商已將投資重點從5G轉向算力中心投資。事實上，其投資規模與上述私營科技公司的差距并不大。

中國移動和中國電信均披露了2024年的算力投資計劃，其中中國移動計劃投資475億元人民幣，中國電信計劃投資370億元人民幣。兩者合計845億元人民幣，同比增長13%。中國聯通未披露相關數據，因此本部分的數據也存在不完整性。

圖3：電信運營商與算力相關的資本支出（2022-2024） 單位：億元人民幣

注：2024年的數據為2023年財務報告中披露的計劃數據。

中國移動已公開發布了兩份公開招標的采購公告。這兩份采購文件顯示，計劃采購超過9200臺華為昇騰AI服務器（一臺昇騰AI服務器通常配備4到8個GPU，因此這大約相當于3.6萬到7.4萬個GPU）。中標者是國內知名的昇騰經銷商，例如昆侖、華鯤振宇、寶德、百信、長江、鯤泰、湘江鯤鵬和四川虹信軟件。一些文章指出，中國移動在2024年建設的計算基礎設施中，約85%依賴國產芯片。

《財經》提醒，即使是這些國產芯片也依賴全球供應鏈：

華為的一位代表在今年9月向我們表示，盡管Nvidia的H20芯片目前仍在向中國銷售，但必須為最壞的情況做好準備，因為供應鏈隨時可能中斷。華為的昇騰910系列芯片依賴韓國SK海力士提供的高帶寬存儲器（HBM）。目前，國內缺乏既有效又可靠的HBM替代品。在極端情況下，如果SK海力士的HBM供應鏈被切斷，昇騰910芯片的生產能力也會受到影響。

地方政府和國有企業

這里的數據顯示最為雜亂且不完整?！敦斀洝返慕y計表明，截至2024年10月16日，各地城市已至少啟動了30個與人工智能計算中心相關的招標項目，總投資額不少于275億元人民幣。

注：1. 統計時段為2024年1月至2024年10月16日，以上統計并不完整。2. 投資金額包括軟件、硬件及土建工程投資，例如服務器采購和智能計算中心建設。

中國到底擁有多少算力？

基于上述投資數據，《財經》謹慎估計，2024年中國新增了：

70萬塊Nvidia H20芯片；

30萬塊國產華為芯片。

文章還提到了Semianalysis更為樂觀的估算：

超過100萬塊Nvidia H20芯片；

55萬塊國產（如華為）芯片。

然而，據《財經》報道，大多數中國業內人士認為后者的估算并不可信。

無論如何，這使得中國擁有了足夠的GPU來構建多個10萬GPU規模的集群。作為對比，Epoch AI估計僅谷歌一家就運營著超過100萬塊芯片。（需要注意的是，Epoch AI的數據反映的是其總容量，而上述中國的數據特指2024年新增的容量，因此兩者并不直接可比。）

鈦媒體估算，2024年上半年：

國內智算中心交付了17億卡時（card-hours），其中5.6億卡時被使用，利用率約為32%。其他數據顯示，當前算力基礎設施行業的平均機架利用率不足60%。

不同運營商的利用率存在差異：

通過云服務提供更多的算力資源可以有效提升智能算力的使用效率。阿里云和華為云已經向多個政府部門提交了這一建議。

公共云服務的合理利用率在40%-60%之間，政務云服務的利用率在25%-40%之間，但私有化計算資源的利用率通常不超過5%。

“假的”1萬GPU集群？

僅僅擁有GPU是不夠的。在2023年和2024年中國建設1萬GPU規模集群的過程中，出現了許多關于高效和合理分配的問題。

阿里云智能科技研究中心主任安琳指出，當前中國存在三種類型的“1萬GPU集群”：

1. 假的1萬GPU集群（假萬卡集群）：這類集群的技術定義是公司確實擁有1萬個AI加速器，但這些GPU分散在多個不同地點的數據中心。每個數據中心可能只有幾百或幾千塊GPU，盡管總數可能超過1萬塊，但它們無法作為一個統一的集群運行。

2. 偽1萬GPU集群（偽萬卡集群）：這種集群將1萬塊AI加速卡部署在一個數據中心內。然而，雖然硬件設施集中在一個地方，但這些GPU并未被用作統一資源來訓練單一的大模型。例如，一部分GPU可能用于訓練模型A，另一部分則用于模型B。

3. 真正的1萬GPU集群（真萬卡集群）：在一個數據中心內集中部署超過1萬塊GPU，并通過先進的大規模資源調度技術實現互聯，使其能夠作為一個整體協同工作。這使得單一大模型可以同時利用全部1萬塊GPU進行訓練。

創建一個真正的1萬GPU集群需要克服諸多技術挑戰，例如：

高性能網絡以處理巨大的數據流量；

高效的調度系統以最大化GPU利用率；

穩定的運行能力，能夠應對頻繁的硬件故障。

在人工智能熱潮中，許多公司和地方政府急于購買GPU，認為僅憑擁有這些硬件就能在AI競賽中占據優勢。然而，其中許多人缺乏實際部署這些資源所需的技術專長，導致了“假的1萬GPU集群”和“偽1萬GPU集群”的出現。據鈦媒體報道：

“目前，囤積NVIDIA顯卡確實造成了一些算力浪費。許多買家缺乏構建智能計算中心所需的網絡、調度和運營能力。一位業內技術專家直言不諱地表示：‘投機行為太多了。很多人其實并不在這個行業——他們以為囤積硬件就能賺錢。他們把這些GPU隨便塞進某個數據中心，卻沒有解決穩定性、容錯性等技術問題，結果造成了大量資源浪費。’”

此外，一些中國的中小型云服務提供商可能提供價格低廉的服務，但其質量同樣較低。

政府的應對措施

中國政府清楚地意識到2023年及2024年初因數據中心建設混亂所造成的資源浪費，并已采取措施，試圖主動減緩新建數據中心的步伐。

據鈦媒體報道，國家發展和改革委員會（NDRC）已停止批準新建數據中心的能源配額。不過，如果在去年我們文章中探討過的中國“東數西算”項目的八大節點之一中使用華為芯片，則可能會獲得例外批準。

《科技日報》（黨媒《科技日報》頭版文章）發表了一篇題為“智算中心建設不應盲目跟風”的文章，提出了以下觀點：

智算中心的運營和管理高度依賴專業技術人才和高效的管理團隊。如果沒有這些，算力中心可能無法按預期發揮作用，導致設備閑置和資源浪費。

因此，是否建設、何時建設以及在何處建設智算中心需要科學審慎的決策?！皬谋娦睦怼被蚣庇凇案L”的行為必須避免?？傮w原則應是基于明確且可持續的市場需求，因地制宜地建設智算中心，并適度超前規劃。

地方政府正在提高對承包商的要求：

一些地方政府加強了對智算中心運營的要求。例如，山東德州一個價值約2億元人民幣的項目，在招標文件中明確表示將采用“設計、施工、采購與運營一體化模式”。該項目要求運營期不少于五年，并明確規定了項目驗收和交付使用后每年的算力收入下限。

據云軸科技（ZStack）CTO王偉介紹，政府如今對智算中心提出了更高要求。過去，簡單建成算力中心即可，但現在政府希望尋找有能力的運營商，或將建設與運營整合起來，以確保算力的高效利用。

其他地方政府則嘗試將其閑置的計算資源交給云服務提供商：

一些地方政府已開始協調，鼓勵云服務提供商租賃其智算中心的閑置算力?！拔覀兩踔敛恢绹鴥扔羞@么多GPU。某種意義上，算力短缺與資源錯配并存，”一位業內人士表示。

此外，還有幾項政府政策試圖解決小型分散計算中心的資源浪費問題：

《數據中心綠色低碳發展專項行動計劃》對數據中心行業的區域布局、能源和水資源效率以及綠色電力的使用提出了嚴格而全面的要求。該計劃還提出“全面取消對高耗能行業的地方優惠電價政策”。人們普遍認為，這一政策將加速淘汰落后產能，優化行業供給結構，推動健康發展。

工業和信息化部（MIIT）近期批準了六個城市的云邊端一體化智能算力應用試點。這些試點旨在解決各地早期建設智算中心過程中出現的問題，尤其是由國有資金支持的小型分散算力中心的資源浪費問題。

除了這些政府措施外，文章還指出，隨著市場逐漸成熟，投資策略逐步調整，低質量或低效的參與者（如部署次優或閑置系統的機構）可能會自然被淘汰。隨著時間推移，更高效的參與者將占據主導地位，從而緩解閑置計算資源的問題。

國產芯片是否更容易閑置？

文章對國產芯片在閑置算力悖論中的作用傳遞了復雜的信息。

據《財經》報道，受閑置悖論影響最嚴重的集群是由國有移動運營商和地方政府運營的那些。部分原因在于它們使用的是國產芯片：

國產AI芯片的情況更為特殊。目前，國產AI芯片僅達到了“能用”的水平，但距離“好用”仍有差距。盲目使用這些芯片只會導致算力浪費。企業需要通過各種技術手段進行適配，以最大化國產AI芯片的效率。

鈦媒體也描述了華為芯片面臨的生態挑戰，但引用業內人士的觀點稱，這些問題只是小問題，是不可避免的，并且最終將有助于華為生態的成熟：

一方面，有觀點認為，國內智算中心仍然依賴海外生態系統，需要三到五年的過渡期。在此期間，大規?？焖俳ㄔO此類中心很可能導致顯著的浪費。專家指出，國內AI計算存在效率低下問題，他表示：“華為的運營能力非常強大。然而，在用戶準備好采用國產GPU或華為解決方案之前，華為已經投入大量資源開發計算集群和智算中心。電信運營商雖然建起了數萬GPU的集群，但硬件從可用到高效使用之間仍存在差距。隨著更多國產芯片進入市場，這些低效問題可能會更加突出?！?

另一方面，也有觀點認為，海外限制只會愈加嚴格，國內AI計算生態必須更快成熟。與國家戰略競爭相比，因建設過快引發的一些小問題是可接受的。“不過，總體而言，我對國產GPU持樂觀態度，特別是在大模型時代的算力趨勢變化下。過去，AI模型非常分散，Nvidia的CUDA生態系統之所以占據主導地位，是因為它需要支持如此多的不同模型。如今，隨著大模型逐漸整合，主流框架變得更加統一。同時，Nvidia GPU價格昂貴，且獲取其算力面臨諸多挑戰，因此會有更多人愿意嘗試國產GPU，”專家補充道。

從訓練需求向推理需求的轉變

2023年，無數公司爭相開發基礎模型，推動了全國范圍內眾多算力中心的建設。

2023年出現了算力短缺，因為“百模大戰”導致對訓練算力的需求激增。美國出口管制進一步限制了供應，而企業的恐慌性采購加劇了供需失衡。一家領先科技公司的戰略規劃師在2023年8月提到，他們的公司在2023年以比Nvidia官方定價高出1.5至2倍的價格購買了市場上的A100/A800和H100/H800芯片，甚至從小型和中型分銷商手中收購了散貨囤積的芯片。

然而，到2024年，許多公司已放棄開發基礎模型的雄心，導致訓練需求急劇下降。這表明資源正逐漸集中到行業中的少數主導者手中。根據鈦媒體的報道，截至2024年10月，在中國正式獲批的188個模型中（《ChinaTalk》編輯注：原文未提供數據來源，因此僅供參考）：

超過30%的模型在獲批后沒有進一步進展；

僅有約10%的模型仍在積極進行訓練；

近50%的模型將重點轉向AI應用開發。

《財經》也認同這一觀點，并指出：

需求結構正在發生變化。到2024年，隨著企業囤積了越來越多的芯片，算力逐漸變得充足。模型訓練的需求開始放緩，而應用推理的需求尚未爆發。此時，一個過渡性的“空檔期”出現了。

目前，國內科技公司如阿里巴巴、字節跳動和百度的旗艦模型性能已接近OpenAI的GPT-4。由于GPT-4之后的下一代模型尚未真正出現，追趕GPT-4的任務已基本結束。因此，國內主要科技公司暫時放緩了模型訓練的努力。

在2022年至2027年之間，訓練算力的比例將下降至27.4%，而推理算力的比例將上升至72.6%。

2024年至2027年的數據來自國際市場研究公司IDC的估算。| 來源：《財經》

然而，推理需求正在增長。百度的Token消耗量從2024年5月的2500億增長到8月的1萬億，增加了四倍。字節跳動同期的模型Token消耗甚至增長了十倍。

圖7：百度與字節跳動大型模型的日均Token消耗量 單位：億/日均

注：1. 百度數據來源于百度財報披露。2. 字節跳動數據來源于字節跳動新聞發布會披露。

所有這些都表明，最終可能會再次出現算力短缺?！敦斀洝分赋觯?

我們從多家技術云服務提供商和部分電信運營商處獲悉，他們的共同判斷是“短期充足，但長期不足”。短期內，現有的算力能夠滿足基本業務需求，并在局部出現過剩現象。然而，從長遠來看，AI應用的落地將需要更多的算力支持。

這一“過渡期”的長短取決于兩個因素：第一，下一代模型訓練競賽何時開始；第二，推理算力需求增長的速度，這取決于AI應用的采納與普及速度。

一些科技公司的技術專家預測，這一過渡期可能會持續到2025年中期，但總體而言不會持續太久。

本文轉自：超算百科