91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

這家國產企業AI算力資源池化為何可以做到國際領先?

順為資本 ? 來源:順為資本 ? 作者:順為資本 ? 2020-12-30 17:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著 AI 技術不斷迭代更新,對底層算力的需求也越來越大。 2020 年 7 月 9 日,英偉達市值首次超過英特爾,成為半導體領域市值第二的企業(第一名是臺積電)。 有關人士分析,英偉達的崛起離不開 AI 產業的發展。英偉達主攻的 GPU 在算力上約超出 CPU 2~3 個數量級,與 AI 產業結合效果更佳,這也是英偉達能夠在當前市場以底層算力芯片贏得高速發展的重要原因。 但是,算力更強的 GPU 芯片也暴露出另一個顯著問題:利用率低。 “AWS 在 2018 年放出的一組數據顯示,其 GPU 產品平均利用率僅為 10~30%。國內有不少用戶的利用率甚至不足 10%,對這些用戶而言,一枚售價 1 萬美元的芯片其中 9000 美元是浪費的。幫助企業提高 GPU 的使用效率成了新的市場風口?!壁厔?a href="http://m.xsypw.cn/v/" target="_blank">科技創始人王鯤博士介紹到。 在此背景下,王鯤于 2019 年創辦了趨動科技,一家 AI 算力資源池化軟件公司。

王鯤,趨動科技創始人兼 CEO,中國科技大學博士。

十四歲考取中國科技大學計算機系,在創業前擔任 Dell EMC 中國研究院院長。

長期從事計算機體系結構、GPU 和 FPGA 虛擬化以及分布式系統等領域的研究工作,在業界最早開始推動 FPGA 虛擬化相關研究。

曾獲 2005 年微軟學者獎學金,2005 年中國科學院院長獎學金,2006 年中國科學院優秀博士論文以及 2007 年全國優博士論文提名獎。

在下文中,順為君對趨動科技創始人兼 CEO王鯤博士進行了一個簡要的訪談,你將了解:

什么是 AI 算力資源池化?

該行業的技術壁壘在哪里?

為何在這個行業中趨動科技基本沒有競爭對手?

1. 一年前,是什么樣的契機讓您決定創立趨動科技,專注于 AI 算力池化這一領域呢?

幾乎每一個投資人都會問我為什么創業這個問題。 我05 年從中科大博士畢業以后去 500強的外企做了 10 多年計算機體系結構的研究工作,創業前是一家外企中國研究院的院長,負責整個研究院在中國區相關的研究工作和項目,職位和收入都很好。所以我創業的風險其實是很大的,機會成本也很高,而且我之前沒有創業經歷。 有幾個點決定了我想去創業。 第一個是當時我看到了我們今天做的技術,GPU 資源池化的技術,本質上做的是一個軟件定義的 GPU,未來也會支持軟件定義的其他加速芯片。我看到這個方向,未來一定是有巨大的需求,同時這個方向我們并沒有看到市場上有相應的供給,也就是說沒有很多的競爭對手。 沒有競爭對手最主要的原因,是因為這個方向技術難度非常大,有能力做的團隊很少。所以第一個原因是我認定這個技術未來有巨大的市場需求,是一個藍海的市場。 第二個原因是我第一次創業,沒有人能夠保證創業一定會成功,所以我也不能保證我一定能成功,但是我知道如果我不出來做這件事情,那一定會出現另一家公司來做我們今天做的事情,并且會做成一家偉大的公司。 所以我不希望到時候后悔,不希望若干年以后覺得自己也有機會,但是卻沒有努力嘗試。主要是基于這兩個原因。

2. 目前國內 GPU 資源池化技術的市場規模如何?前景在哪里?如想趕超美國的同樣水平技術,大致還需要多久?

從全球的角度來看,這個市場規模未來應該是個百億美金量級的規模。

這是參照今天的 CPU 虛擬化的市場來評估的。軟件是助力硬件的,所以硬件的市場決定了軟件市場的規模。目前服務器CPU的市場規模為 200 億美元左右,CPU 虛擬化軟件的市場規模為 80 億美元左右,這是一個大概 40% 的關系。

今天我們軟件支持 GPU,而 GPU 只是 AI 加速器的一部分,未來有越來越多的 AI加速芯片,像寒武紀,華為、燧原等等各種新的芯片出來以后,這個市場的規模在未來幾年,我們預判是很有可能超過整個 CPU 的市場,對應的軟件的規模就應該也會超過 80 億美元,所以我們判斷它是一個百億美元左右的市場,應該是差距不會很大。

再回到中國的市場來看,中國的 GPU 市場目前大約占全球市場的 30% 到 40%,這個占比還在不斷提高。

中國的軟件產業目前在高速發展,在很多應用領域取得了很好的成績,隨著信息化和數字化轉型的不斷深入,應用軟件發展的非常好。我們來看基礎軟件特別是底層架構這塊目前基本上全部是國外軟件的天下。我們熟知的桌面操作系統、服務器端操作系統以及 CPU 虛擬化軟件都被國外產品壟斷。隨著國家對科技創新的不斷重視,以及新基建的推進,本土科創企業在快速發展。我們今天作為趨動人,非常自豪地說在AI算力資源池化、虛擬化領域,我們走在了行業前面,處于全球領先的地位。

100 多年來的前三次工業革命,中國都是被動地跟隨,開啟近代化歷程,而面對這次以 AI 為代表的第四次工業革命,中國有很大的機會成為引領者,改變世界科技格局:中國崛起,領跑世界。將來中國不但要成為世界第一,而且要習慣于成為世界第一。

中國自身也的確具備領跑人工智能的條件和潛力。目前全球人工智能企業最為集中的三個國家分別為美國、中國、英國,三國的人工智能企業數量占全球總數的 65.73%。中國人工智能專利申請數位列全球第二,中國人工智能論文引用量排名世界第一,中國人工智能領域融資規模世界領先,這些數據的背后是中國強大人工智能實力的彰顯,也決定了中國將憑借人工智能登上世界科技舞臺。

4021f956-49fe-11eb-8b86-12bb97331649.png

3. 在這個行業中,您覺得趨動科技作為其中一位佼佼者,最需要建立起的壁壘是什么?

趨動科技的核心優勢是技術,如何保持我們在技術上的領先,是我們整個公司頭等重要的任務。我們要不停地突破自己,整個公司要不斷地顛覆自己,要去尋找新的藍海市場。與此同時我們要求每位同事也要不停地突破自己。

可以這么講,我們今天做的每一件事情差不多都是這個領域的先行者,沒有人可以教我們,我們都得靠自己去突破那些技術挑戰。所以我們招聘的每位員工,尤其是研發的同事,我們的核心要求是兩點,第一點是要有意愿學新技術,第二點是要有能力學新技術。在趨動科技我們永遠都要去學習新的技術,應用新的技術,把這個新的技術放到我們產品里去解決新的問題,創造新的價值。所以這對整個團隊來講是一個非常高的要求也是非常大的挑戰。但是正是因為如此,我們才非常有信心說,即便一直走下去,我們仍然能夠保持我們在技術上的優勢。

現在資源池化有哪些技術難點呢?

我們設想一個場景:比方說在一個 1000 張卡的 GPU 資源池,有兩個用戶都只需要用 0.2 張卡,20% 的資源就夠了。在這種情況下,如果你給每個用戶單獨分配一張整卡,資源就可能浪費了。所以要把這兩個用戶放在一張物理卡上,因為他們用不滿,放在一起不浪費資源。

在這種情況下,必須要做到這兩個用戶是互不干擾的,互相之間是要隔離的。

比方說 A 用戶的部分跑出錯了,crash 了,那不能影響B用戶;同樣的 B 用戶出問題了也不能影響 A 用戶。與此同時還得你給 A 多少資源,比方說 0.2 張卡的資源就不能用超,因為如果用超了,用到一整張卡,那第二個用戶就跑不起來了。所以這個資源的隔離是要做到的。

前面是一個例子,比如說0.2,那實際使用中這個粒度不一定是 0.2??赡芤粋€是 0.05,一個是 0.15,另外一個是0.36。那這個粒度能做的越小實際上就越靈活,同時能不能支持用戶動態地變化很關鍵。比方說最開始的時候 0.2 張卡夠用了,但是用戶在跑應用的過程中發現 0.2 張卡不夠用,能不能變成0.3,0.4,0.5?

這個就是一個動態伸縮,動態伸縮也是其中一個技術難點。

還有一個技術難點是把多個用戶放在一張卡上來共享的時候,這個資源池里面有 1000 張 GPU 卡,用戶的應用程序就應該可以使用這 1000張卡里面的任何一張,資源池的意思就是說里面的任何一張卡都應該可以用,那么就會出現一種情況是跑應用程序的機器和要用卡這個機器可能不是同一臺機器。也就是說程序跑在 A 服務器上,但是分配的這個卡有可能是 B 服務器的卡,這種可能性非常大。因為在資源池里也許別的卡都已經被占了,只有這個 B 服務器有一張卡可以用。

這種情況我們稱之為遠程調用,本質上就是一個 remote GPU,遠程 GPU 的性能優化是非常難的,因為 GPU 上會進行大量的運算,這個運算的量級非常高,會有大量的數據傳輸。所以如果程序運行在一臺服務器,但是卻用另外一臺服務器的 GPU,性能是非常難以優化的,這是一個非常大的技術挑戰。

我們趨動目前的產品,之所以在這個領域技術上是全世界領先,就是因為使用遠程GPU可以做到跟使用本地 GPU 的性能差距非常小,在網絡比較好的情況下可以做到性能差距在 2% 以內,這就是一個非常非常小的差距。

4. 2020年中最難忘的事情是什么?

在產品研發的過程中,發生了一件我記憶深刻的事情。

我們知道國內沒有公司在做同樣的產品,但是國外有公司在做類似功能的產品。我們產品開發基本完成之后,一直想測試一下我們獵戶座產品的性能,最好能和國外的產品對比一下,看看有什么要提高和改進的地方。

但是我們沒有辦法去測試國外的產品。結果非常湊巧,一個行業的專家解決了我們的問題。他通過自己的渠道測試了我們的產品和國外的產品,最后告訴我們,我們的產品主要性能指標都優于國外同類產品。那一刻,我們真的是非常激動,非常驕傲!

5. 在未來的幾年中,對趨動科技的發展有什么目標嗎?

我們趨動科技未來主要有兩方面的規劃:

第一是保持大規模的研發投入,以確保技術層面的市場領先地位;

第二是加速商業化進程。

首先,我們的技術是領先的,我們要始終保持這種技術上的領先性,我們會持續加大研發投入,吸引最優秀的人才加入我們,這始終是我們的核心要務之一。

我們目前產品設計是基于對算力的靈活調配,軟件定義算力,我們在云游戲這個賽道也發現了類似的需求,而我們的技術又有一部分是可以復用的,所以我們又進入了云游戲行業。我們現在支持云游戲的產品已經在計劃中有條不紊的開發,在不久的將來也會發布我們云游戲的產品。未來除了 AI、云游戲、云 VR,只要是對算力有需求的行業,趨動都有可能會進入。

第二,我們已經搭建了完整的售前、銷售、市場團隊,已經在全國布局,高效地開展相關工作,我們會持續地加大市場方面的投入,加速商業化進程。

趨動科技剛剛完成了順為領投的 A 輪融資,從資本層面獲得了極大的助力,有利于實現剛剛提到的研發投入和加速商業化進程這兩個重要任務。

從我個人的角度,創業過程中每天都會遇到新的事情,新的情況,對我來說既是挑戰也是機遇,我希望能和我創立的趨動科技共同成長,共同見證中國 AI 產業的發展和領先、中國軟件產業的發展和領先以及中國整體科技力量的發展和領先,中國在過去的幾千年里面都是世界領先,我希望我們這一代人能夠親眼見證中國的科技重新回到世界的最前列。

原文標題:百億美金規模的GPU資源池化技術,這家國產替代企業為何可以做到國際領先?|順為系

文章出處:【微信公眾號:順為資本】歡迎添加關注!文章轉載請注明出處。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    460

    文章

    52529

    瀏覽量

    441288
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4949

    瀏覽量

    131312

原文標題:百億美金規模的GPU資源池化技術,這家國產替代企業為何可以做到國際領先?|順為系

文章出處:【微信號:shunweicapital,微信公眾號:順為資本】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    摩爾線程與AI平臺AutoDL達成深度合作

    近日,摩爾線程與國內領先AI平臺AutoDL宣布達成深度合作,雙方聯合推出面向個人開發者的“摩爾線程專區”,首次將國產GPU
    的頭像 發表于 05-23 16:10 ?796次閱讀

    點動科技戰略聚焦AI,領航服務新征程

    點動科技戰略聚焦,AI領域取得階段性成果 點動科技近日宣布完成戰略重心全面轉向AI領域,以“
    的頭像 發表于 05-07 09:29 ?249次閱讀

    中國為何同時面臨過剩與短缺 ?

    中國為何同時面臨過剩與短缺 ?
    的頭像 發表于 04-24 15:02 ?556次閱讀
    中國<b class='flag-5'>為何</b>同時面臨<b class='flag-5'>算</b><b class='flag-5'>力</b>過剩與短缺 ?

    RAKsmart智能架構:異構計算+低時延網絡驅動企業AI訓練范式升級

    AI大模型參數量突破萬億、多模態應用爆發的今天,企業AI訓練正面臨效率與成本的雙重挑戰。RAKsmart推出的智能
    的頭像 發表于 04-17 09:29 ?329次閱讀

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對的需求持續攀升,直接推動了服務
    發表于 03-25 12:00

    國產新標桿!卓怡恒通EPC-S4450邊緣AI工控機開啟工業智能新紀元

    在工業4.0與數字化轉型浪潮的推動下,邊緣計算正加速重構工業智能化版圖。國內信創工業計算領域領軍企業卓怡恒通今日正式發布EPC-S4450邊緣AI工控機,以"全棧國產化+AI
    的頭像 發表于 03-06 17:30 ?606次閱讀
    <b class='flag-5'>國產</b>化<b class='flag-5'>算</b><b class='flag-5'>力</b>新標桿!卓怡恒通EPC-S4450邊緣<b class='flag-5'>AI</b>工控機開啟工業智能新紀元

    DeepSeek驅動AI市場升溫,智中心利用率望提升

    。 盡管目前這一需求尚未對供給造成直接影響,但卡價格已經呈現出上漲趨勢。這一變化反映出市場對AI的強烈需求,以及DeepSeek等技術推動下的
    的頭像 發表于 02-19 14:00 ?473次閱讀

    北電數智前進·AI異構計算平臺,繪制國產商業化落地新藍圖

    潛在規模千億量級的藍海市場。在AI產業快速發展與信創支持國產替代的大環境下,國產迎來廣闊發展前景,
    的頭像 發表于 12-24 11:54 ?856次閱讀

    企業AI租賃模式的好處

    構建和維護一個高效、可擴展的AI基礎設施,不僅需要巨額的初期投資,還涉及復雜的運維管理和持續的技術升級。而AI
    的頭像 發表于 12-24 10:49 ?1221次閱讀

    企業AI租賃是什么

    企業AI租賃是指企業通過互聯網向專業的提供商
    的頭像 發表于 11-14 09:30 ?2416次閱讀

    知存科技榮獲2024中國AI層創新企業

    科技入榜【2024中國AI層創新企業】,憑借在創新存內計算芯片領域的高能效創新實踐和亮眼
    的頭像 發表于 11-06 15:30 ?960次閱讀

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為
    的頭像 發表于 10-31 10:31 ?673次閱讀

    一體架構創新助力國產AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《存一體架構創新助力國產
    的頭像 發表于 10-23 14:48 ?885次閱讀

    大模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04
    主站蜘蛛池模板: 国产黄色大片又色又爽 | 免费啪视频观在线视频在线 | 嫩草影院入口一二三免费 | 亚洲婷婷综合中文字幕第一页 | 操插干 | 午夜资源站 | 亚洲jizzjizz中国妇女 | 日本免费人成在线网站 | 免费番茄社区性色大片 | 日本高清加勒比 | 欧美成人激情在线 | 亚洲一区二区在线 | 色午夜视频 | 手机看片欧美日韩 | 欧美视频一区在线观看 | 欧美成人伊人十综合色 | 色偷偷91综合久久噜噜噜男男 | 7777奇米| 日韩一级免费视频 | 亚洲午夜大片 | 日本特黄绿像大片免费看 | 成人a级特黄毛片 | 国产黄mmd在线观看免费 | 欧美日韩国产成人高清视频 | 久久三级国产 | 国产视频资源 | 欧美激情区 | 国产成人综合一区人人 | 天天操免费视频 | 亚洲一区免费在线观看 | 亚洲免费网 | videofreeones性欧美另类 | 色多多视频在线观看免费大全 | bt种子磁力天堂torrent | 中文字字幕码一二区 | vvvv98国产成人综合青青 | 69xx女xo69| 久久精品亚洲一级毛片 | 91日本视频 | 狠狠去 | 亚洲天堂网站在线 |