在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片,就是GPU嗎?

晶揚電子 ? 來源:晶揚電子 ? 2023-06-27 17:08 ? 次閱讀

最近,隨著人工智能的大肆宣傳,我們注意到大多數(shù)人都默認(rèn)所有人工智能工作負(fù)載將始終在 GPU 上運行。對于這一思路,我們認(rèn)為,隨著更廣泛的芯片發(fā)揮作用,現(xiàn)實情況可能會有所不同。

需要明確的是,GPU 非常適合人工智能工作,并且不會對 Nvidia 的股價構(gòu)成威脅。我們所說的人工智能實際上是應(yīng)用統(tǒng)計學(xué),更具體地說是非常先進的統(tǒng)計回歸模型。

這些問題的核心是矩陣代數(shù),涉及相當(dāng)簡單的數(shù)學(xué)問題,例如一個數(shù)字乘以另一個數(shù)字,但需要大規(guī)模完成。GPU 的設(shè)計采用較小的內(nèi)核(更簡單的數(shù)學(xué)),且數(shù)量較多(大規(guī)模)。因此,使用這些處理器代替具有較少數(shù)量較大內(nèi)核的 CPU 是有意義的。

現(xiàn)在,這種情況變得有點模糊了。其一,GPU 變得更加昂貴。他們更擅長人工智能數(shù)學(xué),但在某些時候轉(zhuǎn)向 CPU 開始在經(jīng)濟上變得有意義。

人工智能半導(dǎo)體市場實際上分為三個部分:訓(xùn)練、云推理和邊緣推理。目前的訓(xùn)練基本上與 Nvidia 相當(dāng),但這只是市場的一小部分。云推理將是一個更大的市場——隨著越來越多的人使用這些人工智能模型,對推理的需求將會增長,目前大部分工作將在云中完成。對于許多公司來說,擴大產(chǎn)能的成本似乎非常昂貴。半導(dǎo)體分析師迪倫·帕特爾(Dylan Patel)像往常一樣,對這個數(shù)學(xué)進行了最好的闡述,但足以說明推理費用可能會成為未來一年左右消費者采用人工智能的主要障礙。

“考慮到 GPU 的成本和相對稀缺性,我們認(rèn)為許多公司將開始探索 GPU 的替代品來運行推理工作負(fù)載,特別是對于將這些 AI 結(jié)果與其他功能(如搜索或社交媒體)相結(jié)合的公司,這些工作負(fù)載在很大程度上仍然運行得最好無論如何,在CPU上。”Dylan Patel說。

展望未來,我們懷疑人工智能的經(jīng)濟學(xué)將需要更多的推理工作來進行邊緣計算,這意味著消費者需要付費購買設(shè)備。這意味著手機和 PC 將需要人工智能功能,這可能意味著它們在 CPU 和移動 SoC 上運行。

AMD 最近推出了內(nèi)置于其客戶端 CPU 中的人工智能功能,而蘋果公司的 A 系列移動處理器和 M 系列 CPU 中都配備了神經(jīng)引擎。我們預(yù)計這很快就會在邊緣設(shè)備中普及。

當(dāng)然,許多公司正在尋求構(gòu)建人工智能加速器——專門用于進行人工智能數(shù)學(xué)計算的專用芯片。但事實證明,這僅適用于像谷歌這樣控制其所有軟件的公司。這些專用芯片的一個重要問題是,它們往往針對一組特定的工作負(fù)載或人工智能模型進行過度設(shè)計,當(dāng)這些模型發(fā)生變化時,這些芯片就會失去性能優(yōu)勢。

所有這些都導(dǎo)致了半導(dǎo)體領(lǐng)域最不為人知的領(lǐng)域之一——FPGA。這些是“可編程”芯片(“P”代表可編程),這意味著它們在生產(chǎn)后可以重新用于不同的任務(wù)。這些與專門構(gòu)建的 ASIC 處于相反的一端,專為 AI 加速器等特定任務(wù)而設(shè)計。

FPGA 已經(jīng)存在多年了。半導(dǎo)體的經(jīng)濟學(xué)通常意味著,超過一定的容量閾值,ASIC 更有意義,但對于工業(yè)和航空航天系統(tǒng)等小容量應(yīng)用,它們的工作效果非常好。因此,F(xiàn)PGA 無處不在,涉及數(shù)十個終端市場,但我們對它們不太熟悉,因為它們通常不會出現(xiàn)在普通消費者每天使用的大批量電子產(chǎn)品中。

人工智能的出現(xiàn)稍微改變了這種計算方式。對于這些工作負(fù)載,F(xiàn)PGA 可能對底層模型頻繁變化的人工智能推理需求有意義。在這里,F(xiàn)PGA 的可編程性超過了 FPGA 使用的典型經(jīng)濟性。需要明確的是,我們認(rèn)為 FPGA 不會成為使用數(shù)千個 GPU 的大規(guī)模人工智能系統(tǒng)的有力競爭對手,但我們確實認(rèn)為,隨著人工智能進一步滲透到電子領(lǐng)域,F(xiàn)PGA 的應(yīng)用范圍將會擴大。

簡而言之,GPU 可能仍然是大部分人工智能領(lǐng)域的主導(dǎo)芯片,尤其是對于高調(diào)、大容量的模型。但除此之外,我們認(rèn)為替代芯片的使用將成為生態(tài)系統(tǒng)的重要組成部分,這是一個比今天看起來更大的機會。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4912

    瀏覽量

    130661
  • 人工智能
    +關(guān)注

    關(guān)注

    1804

    文章

    48717

    瀏覽量

    246543
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1968

    瀏覽量

    35694

原文標(biāo)題:AI芯片,就是GPU嗎?

文章出處:【微信號:晶揚電子,微信公眾號:晶揚電子】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦
    熱點推薦

    GPU按需計費的優(yōu)勢

    GPU按需計費,是指用戶根據(jù)實際使用的GPU資源和時間進行費用結(jié)算,而非傳統(tǒng)的一次性購買或固定租賃模式。以下,是對GPU按需計費優(yōu)勢的總結(jié),由AI部落小編整理。
    的頭像 發(fā)表于 01-14 10:43 ?319次閱讀

    ASIC和GPU的原理和優(yōu)勢

    ? 本文介紹了ASIC和GPU兩種能夠用于AI計算的半導(dǎo)體芯片各自的原理和優(yōu)勢。 ASIC和GPU是什么 ASIC和GPU,都是用于計算功能
    的頭像 發(fā)表于 01-06 13:58 ?1447次閱讀
    ASIC和<b class='flag-5'>GPU</b>的原理和優(yōu)勢

    NVIDIA和GeForce RTX GPU專為AI時代打造

    NVIDIA 和 GeForce RTX GPU 專為 AI 時代打造。
    的頭像 發(fā)表于 01-06 10:45 ?537次閱讀

    GPU是如何訓(xùn)練AI大模型的

    AI模型的訓(xùn)練過程中,大量的計算工作集中在矩陣乘法、向量加法和激活函數(shù)等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU是如何訓(xùn)練
    的頭像 發(fā)表于 12-19 17:54 ?636次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    CPU、GPU的演進歷程,AI專用芯片或?qū)⒁I(lǐng)未來計算平臺的新方向。正如愛因斯坦所說:\"想象力比知識更重要\" —— 在芯片設(shè)計領(lǐng)域,創(chuàng)新思維帶來的突破往往令人驚嘆。
    發(fā)表于 11-24 17:12

    GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)設(shè)計

    眾所周知,在大型模型訓(xùn)練中,通常采用每臺服務(wù)器配備多個GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)(上篇)》中,我們對GPU網(wǎng)絡(luò)中的核心術(shù)語與概念進行了詳盡介紹。本文
    的頭像 發(fā)表于 11-05 16:20 ?1077次閱讀
    <b class='flag-5'>GPU</b>服務(wù)器<b class='flag-5'>AI</b>網(wǎng)絡(luò)架構(gòu)設(shè)計

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解算力芯片GPU

    本篇閱讀學(xué)習(xí)第七、八章,了解GPU架構(gòu)演進及CPGPU存儲體系與線程管理 █從圖形到計算的GPU架構(gòu)演進 GPU圖像計算發(fā)展 ●從三角形開始的幾何階段 在現(xiàn)代圖形渲染中,三角形是最常用的基本圖形元素
    發(fā)表于 11-03 12:55

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?866次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統(tǒng)全面進行講解。下面目錄對全書
    發(fā)表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    和像素統(tǒng)一的G80到現(xiàn)在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU兩線作戰(zhàn);中國的高性能計算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片也成為A
    發(fā)表于 09-02 10:09

    AI芯片的混合精度計算與靈活可擴展

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)當(dāng)前,AI技術(shù)和應(yīng)用蓬勃發(fā)展,其中離不開AI芯片的支持。AI芯片是一個復(fù)雜而多樣的領(lǐng)域,根據(jù)其設(shè)計目標(biāo)和應(yīng)用場
    的頭像 發(fā)表于 08-23 00:08 ?5731次閱讀

    自動駕駛?cè)笾髁?b class='flag-5'>芯片架構(gòu)分析

    當(dāng)前主流的AI芯片主要分為三類,GPU、FPGA、ASIC。GPU、FPGA均是前期較為成熟的芯片架構(gòu),屬于通用型
    的頭像 發(fā)表于 08-19 17:11 ?2233次閱讀
    自動駕駛?cè)笾髁?b class='flag-5'>芯片</b>架構(gòu)分析

    蘋果承認(rèn)使用谷歌芯片來訓(xùn)練AI

    蘋果公司最近在一篇技術(shù)論文中披露,其先進的人工智能系統(tǒng)Apple Intelligence背后的兩個關(guān)鍵AI模型,是在谷歌設(shè)計的云端芯片上完成預(yù)訓(xùn)練的。這一消息標(biāo)志著在尖端AI訓(xùn)練領(lǐng)域,大型科技公司正積極探索并實踐著英偉達
    的頭像 發(fā)表于 07-30 17:03 ?876次閱讀

    AI初出企業(yè)Cerebras已申請IPO!稱發(fā)布的AI芯片GPU更適合大模型訓(xùn)練

    美國加州,專注于研發(fā)比GPU更適用于訓(xùn)練AI模型的晶圓級芯片,為復(fù)雜的AI應(yīng)用構(gòu)建計算機系統(tǒng),并與阿布扎比科技集團G42等機構(gòu)合作構(gòu)建超級計算機。基于其最新旗艦
    的頭像 發(fā)表于 06-26 00:09 ?3334次閱讀
    <b class='flag-5'>AI</b>初出企業(yè)Cerebras已申請IPO!稱發(fā)布的<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>比<b class='flag-5'>GPU</b>更適合大模型訓(xùn)練

    AI時代的芯片革命:GPU、FPGA與TPU競相涌現(xiàn)

    隨著人工智能(AI)技術(shù)的迅猛發(fā)展,我們正站在一個新時代的門檻上,這個時代將由強大的計算芯片引領(lǐng),徹底改變世界經(jīng)濟格局。美國開放人工智能研究中心(OpenAI)首席執(zhí)行官山姆·奧特曼等人的洞察無疑揭示了這一點:擁有強大的計算芯片
    的頭像 發(fā)表于 06-20 09:47 ?1011次閱讀
    主站蜘蛛池模板: 91深夜福利| 中文字幕在线看精品乱码 | 亚洲一区二区在线视频 | 特级毛片aaaa级毛片免费 | 米奇777色狠狠8888影视 | 一区精品视频 | 啪啪免费网站 | 国产亚洲精品成人a在线 | 5x视频在线观看 | 天天爱夜夜爱 | 婷婷亚洲五月琪琪综合 | 色图插插插 | 国产骚b | 四虎影像| 天天综合久久久网 | 清纯漂亮小美女准备啪啪 | 成人人免费夜夜视频观看 | 激情爱爱的免费视频 | 黑色丝袜美女被网站 | 91久久婷婷国产综合精品青草 | 尤物黄色| 国模大胆一区二区三区 | 午夜免费啪 | 色色色色色色色色色色色色 | 伊人久久大香线蕉综合网站 | 扒开双腿猛进入jk校视频 | 国产三级日本三级日产三级66 | 日本三级网站在线线观看 | 性满足久久久久久久久 | 午夜爽爽性刺激一区二区视频 | 美女牲交毛片一级视频 | 久久狼人综合 | 高清视频 一区二区三区四区 | 高颜值大长腿美女啪啪 | 婷婷综合久久中文字幕蜜桃三 | 99精品视频在线播放2 | 夜夜精品视频一区二区 | 欧美经典三级春潮烂漫海棠红 | 天堂成人在线观看 | 婷婷激情亚洲 | 免费欧美黄色网址 |