DeepSeek大火之后,為模型訓練和推理市場帶來計算量上的大幅增長。根據黃仁勛的測算,模型推理需要的算力消耗比我們當下以為的還要多100倍。
面對DeepSeek機遇,算力中心企業卻喜憂參半。
喜的是算力需求總量激增,DeepSeek催生了Token經濟,算力可以像使用水電一樣按量計費,用戶根據消耗的AI算力資源(以Token為單位)付費,讓智算中心不局限于租售裸金屬的傳統商業模式,帶來了新的商業機會。
憂的是基于DeepSeek等模型的AI服務,采用“薄利多銷”的模式,讓智算中心化身成“token工廠”,硬件與后訓練、推理等場景需要從AI infra層面進一步調優,解決在線AI服務成本高、異構算力統一納管難度大等問題。
因此,各地智算中心集群能否承接住DeepSeek催生的大量后訓練、推理等需求,將決定token經濟中誰主沉浮。
3月26日,“異構智算,縱橫未來”——異構智算產業生態聯盟走進燧弘華創慶陽綠色智算中心,共同見證了DeepSeek大模型落地的新突破,以及異構算力在超大規模智算場景中從技術攻堅到產業化應用的歷史性跨越。
硬件方面,此次慶陽項目中交付的聯想問天 WA5480 G3服務器,采用了2顆第四代英特爾?至強?可擴展處理器,內置加速性能更進一步,可以優化DeepSeek落地的推理表現。
技術方面,燧弘華創慶陽綠色智算中心部署了多元異構算力調度平臺,依托聯想萬全異構智算平臺在推理加速、訓練優化、斷點續訓、內核級虛擬化等大模型推理優化場景的明顯優勢,為各行業應用DeepSeek構建了高效能、可持續的算力底座。
借此契機,我們深入了解一下,token經濟,為何風起隴東。
AI算力作為數字經濟的核心生產要素,其發展態勢與基礎設施建設緊密交織。DeepSeek點燃AI算力需求之后,作為東數西算八大國家級樞紐之一的“中國算谷”慶陽,受到了前所未有的關注。
對于慶陽數據中心企業來說,抓住DeepSeek機會,當務之急是要把“服務器農場”變成“token工廠”,也就是從租賃裸金屬資源的傳統模式,拓展按token使用量計費的新AI服務模式。
之所以出現這種變化,一是客戶變了,DeepSeek使得企業AI滲透率從頭部廠商向中小企業擴散,而中小企業需要的算力規模和硬件數量相對少,像水電費一樣用多少算力資源付多少錢,這種動態、輕量化的AI服務,需要對異構算力資源進行統一、高效、精益的納管。
二是AI任務變了,DeepSeek讓計算任務從預訓練,轉向了后訓練和推理,而DeepSeek的全新模型架構,硬件必須針對性地優化、調優,不然算力服務商提供Maas服務的成本會很高,無法真的靠賣token賺到錢,AI算力也很難普惠。
與此同時,智算供應鏈也風云變幻。海外硬件供應鏈也愈發不穩定,面臨越來越嚴苛的限制,將DeepSeek部署在國產智算底座是大勢所趨。但國產硬件的架構多、彼此生態不互通、異構算力合池訓練存在資源墻。
因此,慶陽的算力中心企業想要轉型“token工廠”,開拓DeepSeek服務的新商業模式,助力行業智能化,必須解決異構智算與AI大模型深度融合的技術挑戰。
解決全國AI算力需求,東數西算工程正重構算力版圖。其中,“中國算谷”慶陽備受矚目,一是算力夠用,二是算力好用。
自2023年起,慶陽持續打造算力集群基礎設施,目前慶陽市的總算力規模,已達5.1萬PFLOPS,從東數西算樞紐末位躍升至全國第一方陣,為數字經濟發展筑牢“智算”底座。其中,燧弘華創打造的慶陽綠色智算中心,已成功構建超2萬P的高性能算力供給規模。
讓千行百業覺得算力好用,敢于把DeepSeek接入自身場景,燧弘華創慶陽綠色智算中心協同聯想萬全異構智算平臺,突破算力瓶頸,構建了好用的異構智算底座。
首先是算力充沛,讓千行萬業都用得上。比如此次慶陽項目中聯想問天 WA5480 G3服務器,搭載的第四代英特爾?至強?可擴展處理器,擁有強大的計算能力,內置了眾多加速器,是智算中心建設的首選。
其次是優化技術強,算效高、單位token的算力成本低,才能在保證模型效果的同時,實現算力普惠,讓中小企業或實體行業用得好,也用得起。
燧弘華創慶陽綠色智算中心作為聯想AI基礎設施新技術的試點之一,就充分展現了聯想的技術創新與研發的快速響應能力,當地第一時間實現了兩個突破:
一是突破算力瓶頸,通過訪存優化、顯存優化、PCIe 5.0全互聯架構創新以及精選SGLang框架中性能最優算子等諸多領先創新方式,進一步提升單機服務器運行大模型的性能,3000并發下總吞吐量超8000 tokens/s,持續提升DeepSeek滿血版用戶體驗,刷新行業標準。
二是突破異構算力“資源墻”。聯想萬全異構智算平臺可以統一納管異構算力,實現對異構計算集群的高效管理調度和可用性保障,讓伙伴能夠為客戶提供融合、穩定的通用、智能和科學算力。
產業鏈協作方面,慶陽依托異構智算產業生態聯盟,得到了國產智算產業全鏈條的緊密支持,聯想萬全生態從IaaS平臺、AI訓練與推理到行業場景解決方案的全覆蓋,為燧弘華創慶陽智算中心保駕護航,從而為慶陽打造東數西算模范節點注入了強勁動力。
正是在異構智算產業生態的合力托舉下,慶陽得以搶占先機,憑借“夠用+好用”的算力,抓住DeepSeek落地需求,加速算力消納,真正把AI技術轉變成了當地的token經濟紅利。
“夠用+好用”的智算集群,成就了慶陽作為國家級數算樞紐之一,從末位到第一梯隊的發展奇跡,也為當地數據中心企業探索以token使用量為主的全新商業模式,提供有力支撐。
而燧弘華創與聯想的結緣,就是“慶陽奇跡”的一個重要里程碑事件。雙方此前在慶陽所做的大量準備工作,是慶陽智算規模快速壯大的基礎,也是隴東數字經濟借勢Deepseek起飛的前提。
聯想作為燧弘華創的重要資源與伙伴,為慶陽構建面向AI時代的基礎設施,帶來了四種助力:
1.先進。技術與產品先進,比如聯想萬全異構智算平臺在推理加速、訓練優化、斷點續訓、內核級虛擬化等大模型推理優化場景具有明顯優勢,DeepSeek后訓練場景中,調優技術使得訓練MFU高達60%以上;推理場景中,聯想AI服務器可以全速運轉滿血版DeepSeek R1大模型,極限吞吐量可超8000 tokens/s。這些先進技術,支撐燧弘華創慶陽綠色智算中心,成為東數西算樞紐中第一個全智算中心,及時抓住Deepseek的AI普惠浪潮和算力需求。
2.全面。聯想正全力推進“一橫五縱”戰略布局,全面推出覆蓋萬全異構智算平臺,以及涵蓋服務器、存儲、數據網絡、軟件及超融合、支持運維服務等在內的全方位基礎設施解決方案,可以滿足燧弘華創建設先進綠色算力中心的一體化需求,從而加速慶陽在一年多時間內就躋身全國“東數西算”樞紐的第一梯隊。
3.開放。萬全異構智算平臺對通用計算集群、科學計算集群和AI算力集群進行統一管理,并對多種CPU、GPU、DPU等處理器進行異構管理調度,更符合國內落地deepseek的實際算力需求,更具前瞻性。正如英特爾高性能計算行業負責人所說,將超算與智算的能力相結合,以超智融合技術來滿足在人工智能高速發展背景下的各行業多元算力需求。這也是聯想及其伙伴的共同努力方向。
4.服務。在合作過程中,聯想24小時響應燧弘華創的需求,燧弘華創的拼搏精神+聯想的周到服務,共同推動了慶陽智算產業的躍升奇跡。
在萬全平臺上,構筑算力通衢;以萬全生態,護航DeepSeek落地千行百業。這是為什么token經濟能在春節后風起隴東,帶火了“中國算谷”慶陽。
慶陽的努力與初見成果,驗證了“token經濟”在東數西算戰略下的可行性,未來可復制至其他樞紐節點。不久的將來,我們會看到在異構智算底座上,token經濟,風起智能中國。
審核編輯 黃宇
-
服務器
+關注
關注
12文章
9513瀏覽量
86698 -
AI
+關注
關注
87文章
32992瀏覽量
272705 -
DeepSeek
+關注
關注
1文章
701瀏覽量
600
發布評論請先 登錄
相關推薦
Json Web Token是什么?有哪些應用呢
風電輔助服務綜合經濟效益分析
WO TOKEN錢包是什么東西?WO TOKEN錢包詳細資料白皮書介紹

為什么說Token是區塊鏈經濟的鑰匙
基于Token設計的區塊鏈顏值經濟社區Uzone介紹

什么是Token通證經濟
為什么構建在區塊鏈網絡上的token體系是未來金融經濟活動的主流
債務證券Token協議的類型及作用介紹
“東方風起”成功入選2022中國上市公司優秀品牌案例
一個輕量級的權限認證框架:Sa-Token

評論