91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

閃存破局“內(nèi)存焦慮”,AI微調(diào)訓(xùn)練增加閃存消耗

花茶晶晶 ? 來源:電子發(fā)燒友 ? 作者:黃晶晶 ? 2025-03-26 09:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)面對(duì)蓬勃發(fā)展的AI,在MemoryS 2025上,群聯(lián)電子執(zhí)行長(zhǎng)潘健成表示,面對(duì)AI服務(wù)器成本太高、數(shù)據(jù)上云端不安全等挑戰(zhàn),在地端的AI微調(diào)訓(xùn)練對(duì)于解決問題而言是必須的。若一味增加GPU和內(nèi)存數(shù)量,無(wú)疑將導(dǎo)致本地AI訓(xùn)練的成本奇高,無(wú)法獲得普及效應(yīng)。

wKgZO2fiDHGASBv9AAJO4VKl5Gc569.jpg
圖:群聯(lián)電子執(zhí)行長(zhǎng)潘健成


群聯(lián)電子推出了獨(dú)家發(fā)明且也是全球第一家將NAND應(yīng)用于AI服務(wù)器中的滿血版AI訓(xùn)推一體機(jī)平價(jià)方案aiDAPTIV+。通過aiDAPTIV+,企業(yè)可以在本地邊緣環(huán)境中執(zhí)行AI模型后微調(diào)訓(xùn)練,確保數(shù)據(jù)安全的同時(shí)顯著降低AI訓(xùn)練成本。

群聯(lián)電子aiDAPTIV+ 技術(shù)通過動(dòng)態(tài)緩存,結(jié)合基于NAND 閃存“aiDAPTIVCache”緩存技術(shù),擴(kuò)展 HBM 和 GDDR 內(nèi)存,顯著提升性能。據(jù)悉,在 GTC 2025 大會(huì)上,群聯(lián)攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術(shù)的全球首款支援 LLMOps (Large Language Model Operations; 大型語(yǔ)言模型運(yùn)作) 的消費(fèi)級(jí)筆電,用戶將可使用自身企業(yè)或個(gè)人資料來微調(diào)(Post-training/Fine-tuning) 最多 80億 (8B) 參數(shù)的大型語(yǔ)言模型 (LLM),讓預(yù)訓(xùn)練 (Pre-trained) 的AI模型能依據(jù)邊緣應(yīng)用場(chǎng)景與使用者需求進(jìn)行客制化 (Post-training),以達(dá)到真正的AI落地普及化;此外,通過 aiDAPTIVLink 3.0 新版中間件 (Middleware),負(fù)責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸,提供更快的首個(gè) Token 時(shí)間(TTFT)回調(diào)響應(yīng),并支持更大的 LLM(大型語(yǔ)言模型)提示上下文。

“我們的地端AI模型微調(diào)方案aiDAPTIV+,與NVIDIA創(chuàng)辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機(jī)器設(shè)備策略相呼應(yīng),將為AI應(yīng)用的地端模型微調(diào)訓(xùn)練以及推論帶來更廣泛的應(yīng)用場(chǎng)景及SSD有很大幫助。”潘健成說道,本地AI微調(diào)訓(xùn)練將進(jìn)一步增加英偉達(dá)GPU的銷量,也將為閃存產(chǎn)業(yè)鏈打開新的市場(chǎng)空間,尤其是企業(yè)級(jí)SSD需求將從云端下沉到邊緣端市場(chǎng)。

群聯(lián)電子2024年業(yè)績(jī)表現(xiàn)亮眼,總營(yíng)收金額達(dá)新臺(tái)幣589.36億元,較2023年增長(zhǎng)達(dá)22%,創(chuàng)下歷史第三高紀(jì)錄。潘健成表示,2024年雖然面臨全球消費(fèi)市場(chǎng)疲軟的挑戰(zhàn),但群聯(lián)憑借堅(jiān)強(qiáng)的技術(shù)實(shí)力與多樣的產(chǎn)品布局,依舊在業(yè)界交出亮眼成績(jī)。我們的存儲(chǔ)解決方案在各大應(yīng)用領(lǐng)域持續(xù)受到市場(chǎng)肯定,展現(xiàn)出群聯(lián)的靈活應(yīng)對(duì)能力與市場(chǎng)競(jìng)爭(zhēng)力。

潘健成在演講中指出,2024年群聯(lián)電子研發(fā)支出近30億元人民幣,巨額研發(fā)支出帶來了巨大壓力,同樣的,盈利難也導(dǎo)致NAND原廠資本支出開始放緩。

在他看來,若談NAND產(chǎn)業(yè)未來路在何方,如何協(xié)助NAND原廠創(chuàng)造價(jià)值是重要課題之一。渠道市場(chǎng)存儲(chǔ)產(chǎn)品需求快速下滑,“要能夠生存就要長(zhǎng)進(jìn)”,系統(tǒng)整合廠要做NAND存儲(chǔ)差異化、要?jiǎng)?chuàng)造價(jià)值。如在PC應(yīng)用上,群聯(lián)開發(fā)了PQC防偽方案,安裝于PC的存儲(chǔ),可辨識(shí)AI合成圖片、視頻、文件,強(qiáng)化PC資料防護(hù),價(jià)值是原來SSD的3倍。

他進(jìn)一步認(rèn)為,電子產(chǎn)業(yè)經(jīng)歷三大周期,從90年代的PC、到2000年左右的智能手機(jī),再到現(xiàn)在的AI走入端側(cè),回看過去每一次的產(chǎn)業(yè)大爆發(fā)都帶動(dòng)半導(dǎo)體產(chǎn)業(yè)鏈10多年的成長(zhǎng)動(dòng)能。而這一次AI的到來也將產(chǎn)生新的長(zhǎng)周期的半導(dǎo)體繁榮。毋庸置疑,端側(cè)AI將帶給存儲(chǔ)巨大的機(jī)會(huì)。




聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 閃存
    +關(guān)注

    關(guān)注

    16

    文章

    1845

    瀏覽量

    115955
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35093

    瀏覽量

    279509
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    HBM不再是主戰(zhàn)場(chǎng)?256TB、QLC、企業(yè)級(jí)…閃存激蕩AI存力

    電子發(fā)燒友網(wǎng)綜合報(bào)道,在今年的MemoryS 2025上最熱的話題當(dāng)然是AI,DeepSeek徹底引爆存儲(chǔ)需求,例如企業(yè)級(jí)SSD不僅用于云端訓(xùn)練,還將拓展到AI訓(xùn)推一體機(jī)等場(chǎng)景。對(duì)數(shù)據(jù)中心AI
    發(fā)表于 03-17 09:14 ?664次閱讀

    紫光國(guó)芯亮相2025全球閃存峰會(huì)

    近日,由DOIT傳媒主辦的2025全球閃存峰會(huì)(FMW 2025) 在南京盛大開幕。本屆峰會(huì)以“存力覺醒 AI未來”為主題,聚焦以閃存內(nèi)存芯片為核心的存儲(chǔ)器產(chǎn)業(yè)生態(tài)創(chuàng)新與變革。作為國(guó)
    的頭像 發(fā)表于 07-11 16:12 ?447次閱讀

    什么是Flash閃存以及STM32使用NAND Flash

    NAND 文章目錄 NAND 一、FLASH閃存是什么? 二、SD NAND Flash 三、STM32例程 一、FLASH閃存是什么? 簡(jiǎn)介 FLASH閃存是屬于內(nèi)存器件的一種,“F
    發(fā)表于 07-03 14:33

    15%成本撬動(dòng)100%體驗(yàn)!國(guó)產(chǎn)閃存如何改寫AI玩具競(jìng)爭(zhēng)規(guī)則

    AI玩具還被應(yīng)用于早教、學(xué)習(xí)等領(lǐng)域,例如AI智能早教機(jī)等產(chǎn)品,這些應(yīng)用場(chǎng)景需要存儲(chǔ)大量的教育資源和數(shù)據(jù),進(jìn)一步增加了對(duì)閃存的需求。 ? 并且不同類型的
    的頭像 發(fā)表于 06-25 00:22 ?6424次閱讀

    海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述

    AI數(shù)據(jù)訓(xùn)練:基于用戶特定應(yīng)用場(chǎng)景,用戶采集照片或視頻,通過AI數(shù)據(jù)訓(xùn)練工程師**(用戶公司****員工)** ,進(jìn)行特征標(biāo)定后,將標(biāo)定好的訓(xùn)練
    發(fā)表于 04-28 11:11

    3D閃存的制造工藝與挑戰(zhàn)

    3D閃存有著更大容量、更低成本和更高性能的優(yōu)勢(shì),本文介紹了3D閃存的制造工藝與挑戰(zhàn)。
    的頭像 發(fā)表于 04-08 14:38 ?1029次閱讀
    3D<b class='flag-5'>閃存</b>的制造工藝與挑戰(zhàn)

    使用OpenVINO?訓(xùn)練擴(kuò)展對(duì)水平文本檢測(cè)模型進(jìn)行微調(diào),收到錯(cuò)誤信息是怎么回事?

    已針對(duì)水平文本檢測(cè)模型運(yùn)行OpenVINO?訓(xùn)練擴(kuò)展中的 微調(diào) 步驟,并收到錯(cuò)誤消息: RuntimeError: Failed to find annotation files
    發(fā)表于 03-05 06:48

    DDR4內(nèi)存價(jià)格下跌,NAND閃存減產(chǎn)效果未顯

    TrendForce集邦咨詢最新發(fā)布的內(nèi)存現(xiàn)貨價(jià)格趨勢(shì)報(bào)告顯示,DRAM和NAND閃存市場(chǎng)近期呈現(xiàn)出不同的態(tài)勢(shì)。
    的頭像 發(fā)表于 02-08 16:41 ?604次閱讀

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?958次閱讀

    什么是閃存?它有哪些類型?

    閃存(Flash Memory)是一種電子式可清除程序化只讀存儲(chǔ)器的形式,它允許在操作中被多次擦除和寫入數(shù)據(jù)。這種技術(shù)主要用于一般性數(shù)據(jù)存儲(chǔ),以及在計(jì)算機(jī)與其他數(shù)字產(chǎn)品間交換傳輸數(shù)據(jù),如儲(chǔ)存卡與U盤
    的頭像 發(fā)表于 09-26 15:35 ?2683次閱讀

    NAND閃存的發(fā)展歷程

    NAND閃存的發(fā)展歷程是一段充滿創(chuàng)新與突破的歷程,它自誕生以來就不斷推動(dòng)著存儲(chǔ)技術(shù)的進(jìn)步。以下是對(duì)NAND閃存發(fā)展歷程的詳細(xì)梳理,將全面且深入地介紹其關(guān)鍵節(jié)點(diǎn)和重要進(jìn)展。
    的頭像 發(fā)表于 08-10 16:32 ?2386次閱讀

    NAND閃存和NOR閃存有什么區(qū)別

    NAND閃存和NOR閃存是兩種常見的閃存存儲(chǔ)器技術(shù),它們?cè)诙鄠€(gè)方面存在顯著的差異。以下將從技術(shù)原理、結(jié)構(gòu)、性能特點(diǎn)、應(yīng)用場(chǎng)景以及發(fā)展趨勢(shì)等方面對(duì)兩者進(jìn)行詳細(xì)比較。
    的頭像 發(fā)表于 08-10 16:14 ?6236次閱讀

    NAND閃存是什么意思

    NAND閃存,又稱之為“NAND Flash”,是一種基于Flash存儲(chǔ)技術(shù)的非易失性閃存芯片。下面將從NAND閃存的定義、工作原理、特點(diǎn)、應(yīng)用領(lǐng)域以及未來發(fā)展等幾個(gè)方面進(jìn)行詳細(xì)闡述。
    的頭像 發(fā)表于 08-10 15:57 ?8513次閱讀

    如何讓閃存多次編程呢?

    你好,我正在做引導(dǎo)加載器項(xiàng)目,我使用了英飛凌示例中的閃存編程驅(qū)動(dòng)程序,我重新加載了示例,之后它就正常工作了,當(dāng)我再次重新加載示例時(shí),它在閃存寫入部分導(dǎo)致總線陷阱錯(cuò)誤,如何讓閃存多次編程呢?
    發(fā)表于 07-23 07:33
    主站蜘蛛池模板: 国产手机在线观看视频 | 最好免费高清视频观看韩国 | 精品国产乱码一区二区三区 | 伊人精品久久久大香线蕉99 | 中文字幕在线播放一区 | 一级做性色a爱片久久片 | 天天躁夜夜躁狠狠躁2021西西 | 亚洲欧美色中文字幕 | 奇米小说 | 婷婷激情四射网 | 国产一级特黄 | 国产三级香港三级人妇 | 久久久久国产一级毛片高清板 | 四虎国产在线 | www.亚洲日本 | 国产精品成人一区二区三区 | 老司机亚洲精品影院在线 | 小雪被老外黑人撑破了视频 | 91在线视频观看 | 免费四虎永久在线精品 | 97久草| 婷婷精品视频 | 下农村女人一级毛片 | 色综合88 | 黄色网址视频在线播放 | 国产精品一区二区三区四区五区 | 在线观看日本免费视频大片一区 | 国产午夜毛片v一区二区三区 | 一级特黄aaaaaa大片 | 中国高清色视频www 中国高清性色生活片 | 51成人网| 女同性进行性行为视频 | 日本不卡视频免费 | 国产性做久久久久久 | 天天做天天爽 | 一日本道加勒比高清一二三 | 操一操干一干 | 成人v片| 97福利 | 大美女久久久久久j久久 | 在线成人aa在线看片 |