在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

DeepSeek 推理型AI盡顯高效訓練的小模型之威

全球TMT ? 來源:全球TMT ? 作者:全球TMT ? 2025-02-10 15:04 ? 次閱讀

——在IBM院士Kush Varshney看來,全球AI競賽中的地緣政治差異,可能沒有人們想象的那么重要,他說:"一旦模型開源,它源自何處在很多方面就不再重要了。"

作者:Aili McConnon,IBM

2025年1月27日發表與IBM官網Think頻道,點擊閱讀英文原文

北京2025年2月10日/美通社/ --DeepSeek-R1是中國初創公司DeepSeek 推出的人工智能模型,不久前,在人工智能開源平臺Hugging Face上發布數小時,便躍居下載量和活躍度最高模型的榜首;同時因其促使投資者重新考慮英偉達(NVIDIA)等芯片制造商的估值,以及AI巨頭為擴大其AI業務規模而進行的巨額投資,從而給金融市場也帶來了震蕩。


DeepSeek 推理型AI盡顯高效訓練的小模型之威

為何掀起如此大的波瀾?DeepSeek-R1 是一款所謂"推理模型"的數字助理,在某些數學和編碼任務的人工智能基準測試中,它的表現與OpenAI 的 o1 不相上下;而據該公司稱,訓練該系統所使用的芯片數量卻要少得多,使用成本低約96%。

IBM AI 硬件部門的一位首席研究科學家兼經理Kaoutar El Maghraoui 說:"DeepSeek 無疑正在重塑人工智能的格局,它以開源的雄心和最先進的創新技術向巨頭們發起挑戰。"

與此同時,TikTok 母公司、中國科技巨頭字節跳動最近發布了自己的推理型代理(智能體)UI-TARS,并聲稱該智能體在某些基準測試中優于OpenAI 的 GPT-4o、Anthropic 的Claude 和谷歌的 Gemini。字節跳動的智能體可以讀取圖形界面,進行推理,并采取自主和一步接一步的行動。

從初創公司到成熟巨頭,中國的人工智能公司似乎正在縮小與美國競爭對手的差距,這在很大程度上要歸功于它們愿意開源或與其他企業和軟件開發商共享底層軟件代碼。IBM花崗巖(Granite)模型高級技術產品經理Abraham Daniels說:"DeepSeek已經能夠在整個社區推廣一些相當強大的模型。DeepSeek真的有可能加速人工智能的民主化。"DeepSeek-R1在Hugging Face 上提供,根據MIT 許可證,允許不受限制地用于商業用途。

去年夏天,中國公司快手(Kuaishou)發布了一款視頻生成工具,它與OpenAI 的索拉(Sora)類似,但公眾可以直接使用。Sora于去年2 月亮相,但直到12 月才正式發布,即便如此,也只有訂閱了ChatGPT Pro 的用戶才能使用其全部功能。Hugging Face 上的開發者還搶購了中國科技巨頭騰訊和阿里巴巴的新開源模式。雖然Meta 已將其Llama 模型開源,但OpenAI 和谷歌在模型開發方面都主要采用閉源方式。

除了開源帶來的好處外,DeepSeek 工程師在訓練系統時使用的英偉達(NVIDIA)高度專業化芯片也僅為美國競爭對手的一小部分。例如,DeepSeek 工程師在發布DeepSeek-V3 模型時發表的研究論文稱,他們只需要2000 個GPU(圖形處理單元)或芯片就能訓練出他們的模型。

推理模型

IBM院士(IBMFellow)Kush Varshney說:"真正令人印象深刻的是DeepSeek模型的推理能力。"推理模型本質上是自我驗證或檢查,代表了一種"元認知"或 "關于思考的思考"。"我們正開始將智慧融入到這些模型中,這是巨大的進步," Varshney 說。

去年9 月,當OpenAI 預覽其o1 推理模型時,推理模型成為熱門話題。與以往只給出答案而不解釋推理過程的人工智能模型不同,它通過將復雜問題分成幾個步驟來解決。推理模型可能需要多花幾秒或幾分鐘來回答問題,因為它們會一步一步或以"思維鏈"的方式來反思自己的分析。

強化學習

DeepSeek-R1將思維鏈推理與強化學習相結合,在強化學習中,自主智能體在沒有人類用戶任何指令的情況下,通過反復試錯學會執行任務。強化學習有別于更常用的學習形式,如監督學習和無監督學習,前者使用人工標注的數據進行預測或分類,后者旨在從無標注的數據中發現和學習隱藏的模式。

DeepSeek-R1 質疑了這樣一種假設,即通過對正確或錯誤行為的標記示例進行訓練,或者從隱藏模式中提取信息,模型的推理能力就會得到提高。密歇根州立大學博士生張逸驊撰寫了數十篇機器學習方面的論文,他說:"它的核心假設很簡約,卻不那么簡單:我們能否只通過獎勵信號來教會模型正確回答,從而讓它自己摸索出最優的思考方式?"

張逸驊說,對于他和像他一樣習慣了傳統監督微調的專家而言,"眼見DeepSeek這樣的大型語言模型僅靠強化學習獎勵就能學會‘更好地思考',著實令人驚艷",尤其是看到"模型出現真正的‘aha(頓悟)時刻',它能后退一步,發現錯誤并自我糾正"。

成本計算

DeepSeek 引發的熱議部分源于其低廉的價格。根據該公司發布的技術報告,在圣誕節當天發布的DeepSeek-V3 的訓練成本為550 萬美元,而對于希望試用它的開發人員來說,價格要便宜得多。IBM杰出工程師Chris Hay說:"他們在模型成本方面所做的工作,以及他們訓練模型所花費的時間,確實令人印象深刻。"

然而,IBM研究院Granite技術產品管理總監Kate Soule表示,低廉的價格標簽可能并不是故事的全部。她說,550 萬美元的成本"只代表了所需計算量的一小部分"。她說,這還不包括公司即使采用開源模型也要保持專有的成本細節,比如"強化學習、數據消減和超參數搜索的計算成本"。

無可置疑的是,DeepSeek 通過使用專家混合(MoE)架構實現了更高的成本效益,而這種架構大大降低了訓練所需的資源。MoE 架構將人工智能模型劃分為不同的子網絡(或"專家"),每個子網絡專門處理輸入數據的一個子集。模型只激活特定任務所需的特定專家,而不是激活整個神經網絡。因此,MoE 架構大大降低了預訓練期間的計算成本,并在推理期間實現了更快的性能。在過去一年中,包括法國領先的人工智能公司Mistral和IBM在內的全球多家公司著力推廣了MoE 架構,并通過將MoE 與開源相結合實現了更高的效率。(例如,IBM在2024年Think大會宣布與紅帽一起推出InstructLab,一個推動大模型開源創新的革命性大模型對齊方法。)

就 IBM 的一系列開源Granite模型(采用MoE 架構開發)而言,企業能夠以極低的成本實現前沿模型的性能,因為他們可以針對特定應用或用例調整大型預訓練模型,從而有效創建更小的適用模型。將強大的功能集成到更小的稠密模型上,意味著這些模型可用于智能手機和其他在邊緣運行的移動設備,如汽車計算機或工廠車間的智能傳感器

這種采用較大模型并將其蒸餾成資源密集度較低的較小模型的過程也為DeepSeek 的成功做出了貢獻。在發布其標志性的 R1 模型的同時,這家中國初創公司還發布了一系列更小的適合不同用途的模型。有趣的是,他們用實踐證明,與一開始就對小型模型進行強化學習相比,將大型模型蒸餾成小型模型的推理效果更好。

全球性的人工智能洗牌?

隨著這些新模型在某些基準測試中與老一代競爭對手相抗衡或超越它們時,它們將如何影響全球人工智能格局?El Maghraoui說:"全球人工智能格局不只關乎基準測試的原始性能,更關系到是否能以安全和道德的方式對這些模型進行端到端的整合。" 因此,El Maghraoui 表示,現在判斷DeepSeek-R1 及其他產品是否會"改變人類互動、技術和企業應用",還為時尚早。

最終,"開發人員的采用率將決定DeepSeek 模型的受歡迎程度,"Daniels說。他表示期待"看到他們為模型發掘出的各種用例"。

在IBM院士Kush Varshney看來,全球AI競賽中的地緣政治差異,可能沒有人們想象的那么重要,他說:"一旦模型開源,它源自何處在很多方面就不再重要了。"

即刻開始在IBM watsonx.ai上使用DeepSeek——通過本教程,了解如何使用watsonx.ai以安全的方式部署DeepSeek-R1的精餾變體進行推理。



審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31841

    瀏覽量

    270625
  • 模型
    +關注

    關注

    1

    文章

    3372

    瀏覽量

    49298
  • DeepSeek
    +關注

    關注

    1

    文章

    315

    瀏覽量

    110
收藏 人收藏

    評論

    相關推薦

    添越智創基于 RK3588 開發板部署測試 DeepSeek 模型全攻略

    AI 處理效率,成為部署各類 AI 模型的關鍵依托。 憑借這些卓越的硬件性能,RK3588 開發板在保持低功耗的同時,展現出強大的運算能力,無疑是部署 DeepSeek
    發表于 02-14 17:42

    黑芝麻智能芯片加速DeepSeek模型推理

    近日,黑芝麻智能宣布,其武當C1200家族芯片已成功完成DeepSeek模型推理的部署,而A2000芯片也將全面支持基于DeepSeek的多模態大
    的頭像 發表于 02-14 15:04 ?154次閱讀

    黑芝麻智能芯片全面兼容DeepSeek模型推理

    目前,黑芝麻智能武當C1200家族芯片已經完成DeepSeek模型的部署,A2000也將全面支持基于DeepSeek的多模態大模型。 伴隨DeepS
    的頭像 發表于 02-14 11:27 ?79次閱讀

    了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇

    功能對比: 1. 核心定位差異 維度 DeepSeek-V3 DeepSeek-R1 目標場景 通用任務(文本生成、多輪對話等) 復雜推理與數學能力優先(如STEM領域) 優化方向
    發表于 02-14 02:08

    移遠通信邊緣計算模組成功運行DeepSeek模型,以領先的工程能力加速端側AI落地

    近日,國產大模型DeepSeek憑借其“開源開放、高效推理、端側友好”的核心優勢,迅速風靡全球。移遠通信基于邊緣計算模組SG885G,已成功實現De
    發表于 02-13 11:32 ?53次閱讀
    移遠通信邊緣計算模組成功運行<b class='flag-5'>DeepSeek</b><b class='flag-5'>模型</b>,以領先的工程能力加速端側<b class='flag-5'>AI</b>落地

    Deepseek R1大模型離線部署教程

    。作為國產AI大數據模型的代表,憑借其卓越的推理能力和高效的文本生成技術,在全球人工智能領域引發廣泛關注。 本文主要說明DeepSeek-R
    的頭像 發表于 02-12 09:37 ?318次閱讀
    <b class='flag-5'>Deepseek</b> R1大<b class='flag-5'>模型</b>離線部署教程

    端側AI元年爆發!廣和通AI模組及解決方案全面支持DeepSeek-R1蒸餾模型

    近期,國產大模型DeepSeek憑借開放性、更低訓練成本、端側部署等優勢,迅速成為增速最快的AI應用之一,推動AI普惠化。目前,廣和通高算力
    的頭像 發表于 02-11 18:08 ?212次閱讀
    端側<b class='flag-5'>AI</b>元年爆發!廣和通<b class='flag-5'>AI</b>模組及解決方案全面支持<b class='flag-5'>DeepSeek</b>-R1蒸餾<b class='flag-5'>模型</b>

    DeepSeek模型攜手廣和通,加速AI普惠化進程

    近期,國產大模型DeepSeek憑借其開放性、低訓練成本以及端側部署的顯著優勢,迅速嶄露頭角,成為增速最為迅猛的AI應用之一。這一突破性進展,為AI
    的頭像 發表于 02-11 14:47 ?405次閱讀

    OrangePi AI Studio運行Deepseek-R1蒸餾模型,開啟你的AI之旅

    中小開發者開辟了一條通往前沿技術的道路。DeepSeek是一款集成多種AI技術的開發平臺,旨在為用戶提供高效、便捷的AI模型
    的頭像 發表于 02-11 10:15 ?286次閱讀
    OrangePi <b class='flag-5'>AI</b> Studio運行<b class='flag-5'>Deepseek</b>-R1蒸餾<b class='flag-5'>模型</b>,開啟你的<b class='flag-5'>AI</b>之旅

    廣和通支持DeepSeek-R1蒸餾模型

    近期,國產大模型DeepSeek憑借開放性、更低訓練成本、端側部署等優勢,迅速成為增速最快的AI應用之一,推動AI普惠化。目前,廣和通高算力
    的頭像 發表于 02-11 09:41 ?176次閱讀

    寧暢AI服務器全面支持DeepSeek模型

    DeepSeek憑“以小博大”火爆全球,為AI模型賽道開辟了一條低成本實現高性能訓練的新路徑,撬動巨大的模型推訓需求。縱觀算力戰場,不同段
    的頭像 發表于 02-10 10:34 ?210次閱讀

    芯動力神速適配DeepSeek-R1大模型AI芯片設計邁入“快車道”!

    DeepSeek研發的系列推理模型,自誕生起就備受矚目。它采用強化學習訓練推理時包含大量反思和驗證,思維鏈長度可達數萬字。在數學、代碼以及復雜邏輯
    的頭像 發表于 02-07 16:55 ?212次閱讀
    芯動力神速適配<b class='flag-5'>DeepSeek</b>-R1大<b class='flag-5'>模型</b>,<b class='flag-5'>AI</b>芯片設計邁入“快車道”!

    昆侖芯率先完成Deepseek訓練推理全版本適配

    本文是昆侖芯適配DeepSeek系列推文第一篇,將于近期分別推出在昆侖芯P800上進行DeepSeek-V3/R1推理訓練的深度文章,干貨滿滿、持續關注!
    的頭像 發表于 02-06 15:13 ?384次閱讀
    昆侖芯率先完成<b class='flag-5'>Deepseek</b><b class='flag-5'>訓練</b><b class='flag-5'>推理</b>全版本適配

    摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務

    近日,摩爾線程智能科技(北京)有限責任公司在其官方渠道發布了一則重要消息,宣布公司已經成功實現了對DeepSeek蒸餾模型推理服務的部署。這一技術突破,標志著摩爾線程在人工智能領域邁出了堅實的一步
    的頭像 發表于 02-06 13:49 ?298次閱讀

    燧原科技完成DeepSeek全量模型高效適配

    DeepSeek-R1和V3為代表的開源模型系列在多語言理解和復雜推理任務中表現出色,極大優化了算力成本,并進一步改變了訓練和部署的算法結構,這一技術創新將快速提升對于
    的頭像 發表于 02-06 10:46 ?282次閱讀
    主站蜘蛛池模板: 日本三级带日本三级带黄首页 | 视频一区视频二区在线观看 | jizjizjizjiz日本护士出水 | tueb69xxxxxhd日本 videosxxoo18欧美 videosxxoo18在线 vvvv98国产成人综合青青 | 亚洲精品456| www在线观看| 亚洲精品资源在线 | 亚洲第一免费视频 | 一级毛片一级毛片一级毛片aa | 日本精品视频一视频高清 | 日本三级视频在线播放 | 午夜高清在线观看免费6 | 亚洲免费观看在线视频 | 777奇米四色米奇影院在线播放 | 国产大乳孕妇喷奶水在线观看 | 男女爱爱免费 | 天堂中文在线网 | 69日本xxxxxxxxx56| 免费黄色在线观看 | 午夜高清视频 | 日本xx69 | 好色亚洲 | 亚洲福利视频一区 | 天天色天天舔 | 日本大片免费观看视频 | 久久久噜噜噜久久中文字幕色伊伊 | 女人大毛片一级毛片一 | 成人在线黄色 | 日韩高清性爽一级毛片免费 | 国产精品久久久久网站 | 精品一区二区三区视频 | 艹逼视频免费看 | 一级特黄aaa大片免费看 | 99精品热女视频专线 | 四虎国产精品永久地址49 | 操片免费 | 台湾一级毛片永久免费 | 午夜韩国理论片在线播放 | 国产精品二区三区免费播放心 | 日韩有色 | 天堂网在线.www天堂在线 |