在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

用22000個英偉達H100入局AI,初創企業的豪賭

芯通社 ? 來源:芯通社 ? 2023-07-07 15:52 ? 次閱讀

最近,總部位于舊金山的人工智能初創公司 Inflection AI 在新一輪融資中籌集了 13 億美元,投資方包括微軟、英偉達和谷歌前首席執行官埃里克·施密特,這筆資金將支持 Inflection AI 的首款產品——名為Pi (Personal A.I)的個人助理和伴侶的進一步開發,該產品于 5 月推出。

此次融資使 Inflection 籌集的資金總額達到 15 億美元。該公司此前曾于 2022 年初從部分投資者那里籌集了 2.25 億美元,其中包括前 Meta 首席技術官 Mike “Schrep” Schroepfer、Google DeepMind 聯合創始人兼首席執行官 Demis Hassabis 以及流行藝術家Will.i.am。

Inflection 的目標是打造一種通用的人工智能數字助理。包括蓋茨在內的許多技術專家將這種助手視為所有人機交互的未來。

蓋茨在高盛表示:“無論誰贏得personal agent,這都是一件大事,因為你將永遠不會再去搜索網站,你永遠不會再去生產力網站,你永遠不會再去亞馬遜?!?就在幾周前,蓋茨參與了另一家“獨角獸”,即估值超過 10 億美元的人工智能初創公司的融資,加入了一群著名投資者的行列,向礦業初創公司KoBold Metals 注入資金。

Inflection 新一輪融資的規模反映出投資者對開創生成式 AI 的初創公司的熱情高漲,尤其是那些創建底層大語言模型 (LLM) 的公司,這些公司是當前 AI 熱潮的核心。近幾個月來,Cohere、Anthropic 和 Runway 等初創公司已宣布完成數億美元的融資。但 Inflection 的 10 億多美元資金也反映出創建這些人工智能模型的巨額費用,這些模型必須在大型數據中心的昂貴的專用計算機芯片上進行訓練。

英偉達創始人兼首席執行官黃仁勛在一份聲明中表示:“人工智能革命的一個強大好處是能夠使用自然的對話語言與超級計算機交互,以簡化我們日常生活的各個方面。” “Inflection AI 的世界級團隊正在幫助領導這項開創性的工作,部署 Nvidia AI 技術來開發、訓練和部署大規模的生成式 AI 模型,從而實現令人驚嘆的個人數字助理。”

Inflection AI 由首席執行官 Mustafa Suleyman 共同創立,他還于 2012 年與 Hassabis 一起幫助創建了高級人工智能研究實驗室 DeepMind。谷歌于 2014 年以約 6.5 億美元收購了 DeepMind。Suleyman因被多名員工指控欺凌而于 2019 年從 DeepMind 離職,但后來短暫返回公司,然后加入谷歌擔任負責人工智能產品管理和政策的副總裁。隨后他于 2022 年離開谷歌,加入風險投資公司Greylock Partners,Inflection AI 的孵化地。Greylock 合伙人 Reid Hoffman 是PayPal和LinkedIn的聯合創始人,也是 OpenAI 的早期支持者,也是 Inflection 的聯合創始人。

許多風險投資家預測人工智能個人助理將融入日常生活。Andreessen Horowitz 的億萬富翁創始人馬克·安德森 (Marc Andreessen) 在一份 7000 字的宣言中寫道,像 Pi 這樣的聊天機器人有一天會普及到從創意藝術到政府的各個領域。

安德森在 6 月份寫道:“每個人都會有一位人工智能助理/教練/導師/培訓師/顧問/治療師,他們具有無限的耐心、無限的同情心、無限的知識和無限的幫助。” “人工智能助手將伴隨生活中所有的機遇和挑戰,最大限度地提高每個人的成果?!?/p>

Inflection 的第一個產品是一個名為 Pi 的聊天機器人,它比這種精靈般的personal agent受到的限制要大得多。事實上,它比許多競爭的聊天機器人(例如 OpenAI 的 ChatGPT 和 Google 的 Bard)更加有限。Suleyman告訴《財富》雜志, Pi 的設計目的只是成為一個有同理心的傾聽者和良好的對話者,而不是一個用于撰寫研究報告、集思廣益營銷想法或編寫軟件代碼的工具——所有這些任務都是聊天機器人可以執行的。

Suleyman在Collision 直播中表示:“我認為每個人的口袋里都會有一位知識淵博、友善、樂于助人且非常務實的參謀長?!?“沒有任何人可以在一次經歷和一個人中同時完成所有這些技能......它將是參謀,它將是紅顏知己,它將是參謀長,它將是教練,它將是教育家和教師,合二為一?!?/p>

“個人人工智能將成為我們一生中最具變革性的工具。這確實是一個拐點,”Suleyman指出?!拔覀兒芨吲d能與 Nvidia、Microsoft 和 CoreWeave 以及 Eric、Bill 和其他許多人合作,將這一愿景變為現實。”

Inflection 表示,Pi 是“老師、教練、知己、創意合作伙伴和參謀”,其主要作用在于隨時準備好與用戶進行現場對話。

三位著名的創始人

Inflection AI 擁有三位著名的創始人,至少根據 Crunchbase 上的資料顯示,還有第四位聯合創始人,他似乎在人工智能領域的重要公司工作,但其網站上沒有透露他的身份,就像他沒有被確定為 OpenAI 的聯合創始人成員之一一樣。這個人—— Carlos Virella——沒有太多的痕跡,據我們所知,可能是阿甘正傳式的諷刺。但 Inflection AI 的其他三位創始人——其中一位也是 OpenAI 的聯合創始人——被曝光。這三者都與 Web 2.0 初創社區息息相關,是十年前開始的人工智能革命的重要組成部分,兩者的結合是 Inflection AI 推出名為 Pi 的個人人工智能服務的原因。

里德·霍夫曼 (Reid Hoffman) 是眾所周知的 LinkedIn 企業網絡聯合創始人之一,當在線拍賣商 eBay 于 2002 年 8 月斥資 15 億美元收購在線支付處理商 PayPal 時,他開始成為硅谷的一員。1998 年 12 月,一家名為 Confinity 的公司成立時,他擔任該公司的董事,并于 2000 年 1 月被任命為執行副總裁,負責該公司的所有對外關系。三個月后,Confinity 與另一家名為 X.com 的公司合并。埃隆·馬斯克 (Elon Musk) 是后者的聯合創始人,彼得·蒂爾 (Peter Thiel) 是前者的聯合創始人,2002 年 2 月,PayPal 上市,籌集了 6100 萬美元,成為互聯網泡沫破滅期間為數不多的亮點之一。因此,僅僅六個月后,eBay 就完成了收購。

2003 年 1 月,霍夫曼與他人共同創立了 LinkedIn,并擔任董事長兼首席執行官,并開始運營其產品,并于 2009 年秋季成為 Greylock Partners 的合伙人。2016 年 6 月,微軟斥資 262 億美元收購 LinkedIn,霍夫曼是控股股東,他自己在這筆交易中賺取了 28.4 億美元。霍夫曼現在仍在 Greylock,但他的個人資金以及微軟聯合創始人比爾·蓋茨、前 Sun Microsystems 和谷歌高管埃里克·施密特、Nvidia 和微軟以及小型 GPU 計算云構建專家CoreWeave的投資正在幫助資助 Inflection AI。霍夫曼是 OpenAI 和微軟的董事會成員,由于與 Inflection AI 存在利益沖突,他于 3 月份辭去了 OpenAI 的職務。鑒于這家軟件巨頭與 OpenAI 的緊密合作關系,很難相信霍夫曼會在微軟董事會任職更長時間,但話又說回來,微軟正在投資 Inflection AI,作為一種對沖。因此,也許存在太多的利益沖突,它們就像雙重否定一樣相互抵消。

Inflection AI 首席科學家 Karén Simonyan 和首席執行官 Mustafa Suleyman 都是人工智能領域的長期研究人員,他們創建并出售了成功的公司。

Simonyan 于 2013 年在牛津大學創建了 VGGNet 圖像處理框架,該框架通過一家名為 Vision Factory AI 的公司進行了商業化,并很快被一家名為 DeepMind Technologies 的神秘人工智能初創公司收購,Simonyan 成為該公司的首席研究科學家。DeepMind 成立于 2010 年 6 月,Suleyman 擔任首席產品官,隨后 Google 進入該領域,并在 DeepMind 收購 Vision Factory 后不久收購了 DeepMind。Facebook(當時還不叫 Meta Platforms)曾在 2013 年試圖收購 DeepMind,谷歌為 DeepMind 的強化學習人工智能技術支付了 4 億到 6.5 億美元之間的費用。

如果你想追蹤其中的聯系,Suleyman 自 2022 年 1 月以來一直是 Greylock 的合作伙伴,很容易看出 Hoffman 和 Suleyman 在走廊里炮制了 Inflection AI。2022 年 5 月,當微軟、霍夫曼、蓋茨和施密特以及 Mike Schroepfer、Demis Hassabis、Will.i.am、Horizons Ventures 和 Dragoneer 共同投資時,Greylock 是 Inflection AI 籌集 2.25 億美元資金時的主要投資者。6 月底,Inflection AI 籌集了第二筆 13 億美元的資金,Nvidia 和 CoreWeave 成為新投資者。

人工智能正處于拐點

Inflection AI 的目標是讓地球上的每個人都可以使用其 Pi(personal intelligence 的縮寫)人工智能助手??紤]到運行LLM來回答愚蠢問題的高昂成本,計算這樣的努力需要多少計算能力以及如何負擔得起,這將是很有趣的。但暫時把它放在一邊。

為了實現這一目標,Inflection AI 做了三件事:擁有懂得如何做人工智能的聯合創始人、擁有大筆資金的聯合創始人、擁有大筆資金的朋友以及有通過人工智能致富的雄心的聯合創始人。因此,Inflection AI 建立了自己的 LLM(第一個迭代稱為 Inflection-1),并且像 OpenAI 一樣,將在必要的硬件上投入大量資金,以提高該模型的準確性并將其擴展到更大的數量。Pi 服務的用戶數量。

考慮到用于訓練LLM的計算引擎的高昂成本,這將需要大量資金。因此他們六月份大幅提升指出。

Inflection AI 與 Nvidia 和 CoreWeave 合作,在其 Inflection-1 LLM 上(跨越 3,500 個 Hopper GPU)在 11 分鐘內運行了 MLPerf 參考訓練基準。我們不知道有多少 GPU 用于訓練支撐 Pi 服務的 Inflection-1 模型,但它的數量可能比這個還要多,而且如果我們不得不猜測的話,它可能使用 Nvidia“Ampere”A100 GPU 加速器。

我們所知道的是,Nvidia 和 CoreWeave 正在合作在云中創建一個 AI 集群,該集群將擁有超過 22,000 個 H100 GPU 加速器,用于訓練我們認為將是 Inflection-2 LLM 的人員。Inflection AI 宣稱,這 22,000 個 H100 GPU 將“在 16 位精度調制解調器中提供驚人的 22 exaflops,如果使用較低的精度,甚至會更高”,并接著說,如果完成了高性能 Linpack (HPL) 矩陣數學測試放在上面,就像一臺HPC超級計算機一樣,它會在當前的Top500排行榜上排名第二,但在El Capitan和Aurora全面上線后可能會跌至第四。

如果您使用 Hopper PCI-Express 卡對 22,000 個 GOPU 加速器進行計算,超大規模提供商和云構建者通常使用這些卡來創建集群,而不是在四個或八個 GPU 的集群之間使用 NVLink Switch 互連的 HGX 式板并使用 Hopper GPU 的 SXM5 變體,然后在 Tensor Core 矩陣數學引擎上以 FP16 精度,在沒有稀疏性支持的情況下獲得 16.9 exaflops,在打開稀疏性支持的情況下獲得 33.8 exaflops。您還可以使用 H100 上的 FP64 雙精度矢量數學單元獲得額定為 572 petaflops 的集群。這與 Inflection AI 在其公告中談論的 FP16 精度的 22 exaflops 不符。

c5cdeefc-1bf2-11ee-962d-dac502259ad0.jpg

這就是有趣的地方。如果您對服務器機箱內將使用 NVLink Switch 互連的 22,000 個 H100 SXM5 GPU 加速器進行計算,那么您將得到一個集群,在 FP16 精度下,在未激活稀疏性的情況下,聚合峰值性能為 21.8 exaflops。(這可能會告訴您有關 Inflection-1 LLM 的一些信息,因為它可能不會使用大量稀疏數據。)這四舍五入為 Inflection AI 所說的 22 exaflops,這也產生了一臺峰值為 748 petaflops 的超級計算機FP64 矢量性能和 1.47 exaflops(FP64 在 Tensor Cores 矩陣引擎上運行)。(據我們所知,沒有很多 HPC 應用程序已移植到 Tensor Core。)

假設 Linpack 基準測試的計算效率為 65%,則該集群在 Top500 排名中的評級為 486 petaflops 左右,這將使其略高于日本 RIKEN 實驗室“Fugaku”超級計算機的 442 petaflops 評級,后者在 2017 年排名第二。遠低于目前排名第一的美國橡樹嶺國家實驗室“Frontier”超級計算機 1.19 exaflops 的性能。阿貢國家實驗室的“Aurora A21”系統預計將在今年晚些時候使用英特爾 CPU 和 GPU 交付時達到 2 exaflops 峰值,勞倫斯利弗莫爾國家實驗室的“El Capitan”系統也將在今年晚些時候推出將遠高于 2 exaflops 峰值。

這提出了一個重要的觀點。對于要考慮將云計算機與本地計算機進行比較的情況,您必須讓它始終為單個客戶運行。我們認為 Inflection AI 機器也會出現這種情況,甚至有可能該公司會在其上運行 Linpack,只是為了表明自己的觀點,并在 11 月份真正進入 Top500 榜單。但是,如果 Inflection AI 沒有幾乎連續地使用機器——我們想說的是絕對連續地使用機器,就像世界 HPC 實驗室的機器一樣,但也許說 75% 或 80% 的時間就足夠了——那么它不應該被算作本身就是一臺獨特的機器。

這將我們引向下一點。如此大量的容量需要花費多少錢?讓我們從使用 H100 PCI-Express 卡的集群開始嘗試一下。假設這些 H100 PCI-Express 卡的價格約為 20,000 美元,按我們認為接近當前市場價格計算,即 4.4 億美元。需要 2,750 個節點來容納所有這些 GPU,每個機箱有 8 個。配備一對強大的 CPU、2 TB 內存和用于數據和操作系統存儲的 34.5 TB NVM-Express 閃存(總共十個驅動器,兩個用于操作系統的skinny驅動器),每個驅動器的運行成本可能約為 150,000 美元。另外還有 4.125 億美元。正如 Nvidia 喜歡說的那樣,InfiniBand 網絡是另外 20%,即 2.13 億美元,這使其達到 10.7 億美元。

現在,讓我們看看 SXM 設置。同樣是 2,750 個節點,但這次 GPU 的成本可能約為 30,000 美元,因此 22,000 個節點的成本為 6.6 億美元。這些節點在機箱內的 NVLink Switch 成本還有 25,000 美元左右,機箱外的 InfiniBand 成本也有 2.13 億美元左右。現在您的資產達到 13.5 億美元。這看起來就像 Inflection AI 正在討論的使用 CoreWeave 和 Nvidia 構建的集群的場景。

這比美國政府為其百億億級超級計算機投入的資金要多得多,美國政府按標價計算的成本約為 5 億至 6 億美元,加上一次性工程 (NRE) 成本。

云開銷(包括系統管理、房地產和電力成本)很容易再增加 2 億美元,加上 CoreWeave 約 5% 的利潤率,成本將增加至 16.3 億美元。這略高于 Inflection AI 迄今為止從投資者那里籌集的 15.3 億美元。幸運的是,有了云,它不必像巨大的預留實例那樣一次性全部支付?;蛘?,也許確實如此,這就是為什么價格不會高于這個。(你能想象為這樣一個集群按需付費嗎?)

Pi 訂閱的價格是多少?需要有多少用戶以及多快才能支付費用?比爾蓋茨有足夠的錢,不必關心,英偉達和微軟也是如此。也許里德·霍夫曼也是。但您可以放心,所有這些數學計算都已完成。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1804

    文章

    48582

    瀏覽量

    245847
  • 語言模型
    +關注

    關注

    0

    文章

    558

    瀏覽量

    10643
  • 英偉達
    +關注

    關注

    22

    文章

    3909

    瀏覽量

    93023

原文標題:用22000個英偉達H100入局AI,初創企業的豪賭

文章出處:【微信號:semiwebs,微信公眾號:芯通社】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    GPU 維修干貨 | 英偉 GPU H100 常見故障有哪些?

    上漲,英偉H100GPU憑借其強大的算力,成為AI訓練、高性能計算領域的核心硬件。然而,隨著使用場景的復雜化,H100服務器故障率也逐漸攀
    的頭像 發表于 05-05 09:03 ?190次閱讀
    GPU 維修干貨 | <b class='flag-5'>英偉</b><b class='flag-5'>達</b> GPU <b class='flag-5'>H100</b> 常見故障有哪些?

    特朗普要叫停英偉對華特供版 英偉H20出口限制 或損失55億美元

    是“中國特供版”人工智能芯片;是英偉公司為符合美國出口規定專門為中國市場開發的定制芯片,H20芯片在訓練AI模型方面不如英偉
    的頭像 發表于 04-16 16:59 ?992次閱讀

    英偉、高通布局AI投資版圖,這些明星企業被收入囊中!

    的模型并不會減少芯片的需求,相反,未來的計算需求只會增加,尤其是對計算基礎設施的需求。 英偉也在利用其雄厚的資金大幅增加了對各種初創公司的投資,尤其是對AI
    的頭像 發表于 03-25 09:22 ?1150次閱讀

    英偉A100H100比較

    英偉A100H100都是針對高性能計算和人工智能任務設計的GPU,但在性能和特性上存在顯著差異。以下是對這兩款GPU的比較: 1. 架構與核心規格: A
    的頭像 發表于 02-10 17:05 ?3206次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比較

    英偉收購AI初創公司Run:ai

    全球領先的芯片制造商英偉近日正式完成了對以色列人工智能初創公司Run:ai的收購。這一收購案在經過歐盟反壟斷機構的嚴格審查后,最終獲得了批準,標志著
    的頭像 發表于 12-31 10:46 ?437次閱讀

    英偉H100芯片市場降溫

    隨著英偉新一代AI芯片GB200需求的不斷攀升,其上一代明星產品H100芯片卻遭遇了市場的冷落。據業內人士透露,搭載H100的服務器通常以
    的頭像 發表于 10-28 15:42 ?1392次閱讀

    英偉或取消B100B200A代替

    今年3月份,英偉在美國加利福尼亞州圣何塞會議中心召開的GTC 2024大會上推出了Blackwell架構GPU。原定于今年底出貨的B100/B200被寄予厚望,將替代現行H100/
    的頭像 發表于 08-08 17:19 ?813次閱讀

    英偉帶領芯片股飆升 英偉大漲4.76%

    1.08%,道指漲0.32%。 AI浪潮之下,業界預期正不斷加強,在AI算力需求的邊際拉動下、疊加消費電子復蘇,新一輪終端AI上新,相關行業正迎來具備較強持續性的上行周期;英偉
    的頭像 發表于 07-23 16:26 ?505次閱讀

    英偉AI芯片市場還能領先多久?

    7月22日,國際媒體傳來消息,英偉在近年來興起的生成式人工智能浪潮中脫穎而出,其高性能計算芯片如H100等廣受業界青睞,推動了公司營收與利潤的大幅增長。這一強勁表現不僅助力英偉
    的頭像 發表于 07-22 16:18 ?848次閱讀

    英偉H20 AI芯片:中國市場新動向與業績預期

    在科技行業的持續關注下,英偉再次成為焦點。據英國《金融時報》7月5日的報道,英偉計劃在接下來的幾個月內向中國市場交付超過100萬顆新款
    的頭像 發表于 07-05 16:56 ?1418次閱讀

    馬斯克自曝訓練Grok 3用了10萬塊NVIDIA H100

    在科技界的前沿陣地上,埃隆·馬斯克再次以其前瞻性的視野和大膽的嘗試引領著新的風潮。近日,馬斯克在社交媒體X上的一則回應,不經意間透露了其即將推出的AI聊天機器人Grok 3背后的驚人秘密——這款被馬斯克譽為“非常特別”的AI產品,竟然是通過10萬塊
    的頭像 發表于 07-03 14:16 ?1175次閱讀

    只能跑Transformer的AI芯片,卻號稱全球最快?

    電子發燒友網報道(文/周凱揚)近日,一家由哈佛輟學生成立的初創公司Etched,宣布了他們在打造的一款“專用”AI芯片Sohu。據其聲稱該芯片的速度將是英偉
    的頭像 發表于 07-01 09:03 ?1854次閱讀

    馬斯克人工智能初創公司xAI將打造超級計算機,引領AI新紀元

    在科技發展的浪潮中,人工智能(AI)無疑是當今最引人注目的領域之一。近日,馬斯克的人工智能初創公司xAI再次成為了全球關注的焦點。據悉,該公司計劃在不久的將來打造一臺裝備有最多10萬塊英偉
    的頭像 發表于 06-22 16:37 ?901次閱讀

    英偉收購軟件初創公司Shoreline

    近日,全球知名的圖形處理器制造商英偉(NVIDIA)宣布了一項重要的收購計劃,將以約1億美元的價格收購軟件初創公司Shoreline。這次收購不僅體現了英偉
    的頭像 發表于 06-21 11:08 ?814次閱讀

    首批1024塊H100 GPU,正崴集團將建中國臺灣最大AI計算中心

    中國臺灣當地正崴集團5月27日宣布,將與日本公司Ubitus共同打造人工智能(AI)計算中心,其中第一期將導入128機柜,共計1024張英偉H1
    的頭像 發表于 05-29 10:05 ?1642次閱讀
    主站蜘蛛池模板: 亚洲福利一区二区三区 | 久久久久久综合 | 丁香六月婷婷七月激情 | 日本黄色大片免费观看 | 最近最新视频中文字幕4 | 手机看片福利盒子久久青 | 国产网红主播精品福利大秀专区 | 精品欧美小视频在线观看 | 九色国产在视频线精品视频 | 97影院理论片手机在线观看 | 成人人免费夜夜视频观看 | 国产亚洲精品久久午夜 | 视频一区中文字幕 | 久久国产乱子伦精品免费午夜 | 久久亚洲精品玖玖玖玖 | 全免费a级毛片免费看不卡 全日本爽视频在线 | 天天插天天摸 | 午夜日批| 国产精品第一页在线观看 | 免费人成黄页在线观看1024 | 日韩精品一区二区在线观看 | 日韩手机看片 | 国模私拍大尺度视频在线播放 | 久久婷婷综合中文字幕 | 亚洲天天在线 | 色先峰| 在线亚洲欧美性天天影院 | 婷婷啪啪 | 一级黄色录像视频 | 日韩欧美一级 | 日本免费观看网站 | 两人性潮高免费视频看 | 国产网站在线 | 首页 亚洲 欧美 制服 丝腿 | 在线亚洲一区 | 国产精品成人一区二区 | 久久免费精品 | 久久婷婷国产一区二区三区 | 日韩一级在线播放免费观看 | 青草国内精品视频在线观看 | 97色在线|