91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾AI產(chǎn)品助力其運行Meta新一代大語言模型Meta Llama 3

英特爾中國 ? 來源:英特爾中國 ? 2024-04-28 11:16 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強處理器,邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化,助力其運行Meta新一代大語言模型Meta Llama 3

Meta近日推出其下一代大語言模型(LLM)——Meta Llama 3。在發(fā)布的第一時間,英特爾即優(yōu)化并驗證了80億和700億參數(shù)的Llama 3模型能夠在英特爾至強處理器、英特爾Gaudi加速器、英特爾酷睿Ultra處理器和英特爾銳炫顯卡的AI產(chǎn)品組合上運行。

英特爾一直積極與AI軟件生態(tài)系統(tǒng)的領(lǐng)先企業(yè)展開合作,致力于提供兼具性能與易用性的解決方案。Meta Llama 3是AI大語言模型重要迭代的新一浪潮。作為AI軟硬件產(chǎn)品技術(shù)創(chuàng)新的引領(lǐng)者,英特爾很開心能夠與Meta合作,充分挖掘諸如Llama 3等模型的潛力,助力生態(tài)伙伴開發(fā)領(lǐng)先的AI應(yīng)用。

重要意義:秉承推動AI無處不在的愿景,英特爾持續(xù)深耕軟件和AI生態(tài),以確保其產(chǎn)品能夠滿足AI領(lǐng)域持續(xù)變化的創(chuàng)新需求。在數(shù)據(jù)中心,集成英特爾高級矩陣擴展加速引擎(IntelAMX)的英特爾至強處理器和英特爾Gaudi能夠為滿足客戶不斷變化、多元化的需求提供更多選擇。

英特爾酷睿Ultra處理器和英特爾銳炫顯卡不僅為開發(fā)者提供了本地開發(fā)工具,也為在數(shù)百萬臺設(shè)備上進行部署提供全面的軟件框架和工具支持。其中,包括PyTorch和用于本地研發(fā)的英特爾PyTorch擴展包,以及用于模型開發(fā)和推理的OpenVINO工具包等。

在英特爾產(chǎn)品上運行Llama 3:英特爾初步測試和評估80億和700億參數(shù)的Llama 3模型在自身產(chǎn)品上的性能時,使用了包括PyTorch、DeepSpeed、英特爾Optimum Habana庫和英特爾PyTorch擴展包在內(nèi)的開源軟件,并提供最新的軟件優(yōu)化。

●英特爾至強處理器能夠運行嚴苛的端到端AI工作負載,同時為了降低延遲,英特爾也通過技術(shù)創(chuàng)新來優(yōu)化大語言模型的推理性能。配備性能核的英特爾至強6處理器(代號Granite Rapids)在運行80億參數(shù)的Llama 3模型推理時,延遲比第四代英特爾至強處理器表現(xiàn)出兩倍的提升,并且能夠以低于100毫秒的token延遲運行700億參數(shù)的Llama 3模型推理。

●英特爾Gaudi 2加速器在70億、130億和700億參數(shù)的Llama 2模型上具備優(yōu)化的性能,現(xiàn)在其基于全新的Llama 3模型也有了初步性能測試。隨著英特爾Gaudi軟件的更新,英特爾能夠輕松運行新的Llama 3模型,并為推理和微調(diào)生成結(jié)果。近期發(fā)布的英特爾Gaudi 3加速器也支持運行Llama 3。

●英特爾酷睿Ultra和英特爾銳炫顯卡在運行Llama 3時亦展現(xiàn)出卓越的性能。在初步測試中,英特爾酷睿Ultra處理器已經(jīng)展現(xiàn)出遠高于人類通常閱讀速度的輸出生成性能。此外,英特爾銳炫A770 顯卡具備Xe內(nèi)核中的全新矩陣引擎(Xe Matrix eXtensions,XMX)AI加速和16GB顯存,進一步為大語言模型工作負載提供卓越性能。

未來,Meta將增加新的能力、更多模型尺寸以及增強的性能。英特爾也將持續(xù)提升自身AI產(chǎn)品性能,以支持這一全新的大語言模型。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19896

    瀏覽量

    235361
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10196

    瀏覽量

    174727
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    827

    瀏覽量

    39132
  • 生成式AI
    +關(guān)注

    關(guān)注

    0

    文章

    531

    瀏覽量

    819
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    376

    瀏覽量

    618

原文標題:英特爾至強和AI PC等產(chǎn)品為Meta Llama 3生成式AI工作負載提供加速

文章出處:【微信號:英特爾中國,微信公眾號:英特爾中國】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    使用 NPU 插件對量化的 Llama 3.1 8b 模型進行推理時出現(xiàn)“從 __Int64 轉(zhuǎn)換為無符號 int 的錯誤”,怎么解決?

    安裝了 OpenVINO? GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    發(fā)表于 06-25 07:20

    無法在OVMS上運行來自Meta的大型語言模型 (LLM),為什么?

    無法在 OVMS 上運行來自 Meta 的大型語言模型 (LLM),例如 LLaMa2。 從 OVMS GitHub* 存儲庫
    發(fā)表于 03-05 08:07

    Meta組建四大專研小組,深入探索DeepSeek模型

    近日,據(jù)報道,臉書母公司Meta為了提升模型Llama的性能,專門成立了四個研究小組,深入探索量化巨頭幻方量化旗下的國產(chǎn)大模型DeepS
    的頭像 發(fā)表于 02-05 14:02 ?468次閱讀

    Meta重磅發(fā)布Llama 3.3 70B:開源AI模型的新里程碑

    ?在人工智能領(lǐng)域,Meta的最新動作再次引起了全球的關(guān)注。今天,我們見證了Meta發(fā)布的 Llama 3.3 70B 模型,這是個開源的人
    的頭像 發(fā)表于 12-18 16:46 ?586次閱讀
    <b class='flag-5'>Meta</b>重磅發(fā)布<b class='flag-5'>Llama</b> 3.3 70B:開源<b class='flag-5'>AI</b><b class='flag-5'>模型</b>的新里程碑

    Meta發(fā)布新AI模型Meta Motivo,旨在提升元宇宙體驗

    Meta在人工智能領(lǐng)域邁出了重要步。通過這款模型Meta希望能夠為用戶提供更加自然、流暢的元宇宙交互體驗。數(shù)字代理在元宇宙中的動作將更加逼真,從而增強用戶的沉浸感和參與度。 除了
    的頭像 發(fā)表于 12-16 10:34 ?993次閱讀

    Meta推出Metamate AI工具,進軍企業(yè)市場

    基于Meta的大型語言模型Llama構(gòu)建,集成了先進的自然語言處理技術(shù)和深度學習算法。它能夠幫助員工進行編程、開展研究,以及起草內(nèi)部和外部的
    的頭像 發(fā)表于 12-09 14:57 ?920次閱讀

    Meta推出Llama 3.3 70B,AI模型競爭白熱化

    在今年的AI領(lǐng)域,Meta也不甘落后,推出了壓軸之作——Llama 3.3 70B大模型。與此同時,馬斯克的xAI也宣布
    的頭像 發(fā)表于 12-09 14:50 ?806次閱讀

    Meta發(fā)布Llama 3.2量化版模型

    近日,Meta在開源Llama 3.2的1B與3B模型后,再次為人工智能領(lǐng)域帶來了新進展。10月24日,Meta正式推出了這兩個
    的頭像 發(fā)表于 10-29 11:05 ?848次閱讀

    聯(lián)想與Meta合作推出AI Now個人AI智能體

    聯(lián)想集團近日在美國西雅圖舉辦了年度Tech World大會,會上聯(lián)想CEO楊元慶與Meta創(chuàng)始人兼CEO馬克?扎克伯格共同宣布了項重要合作。雙方基于MetaLlama
    的頭像 發(fā)表于 10-17 16:58 ?937次閱讀

    扎克伯格:聯(lián)想運用Meta Llama模型打造個人AI助手AI Now

    美國西部時間10月15日,聯(lián)想集團于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上,聯(lián)想集團首席執(zhí)行官楊元慶攜手Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格,共同揭曉了項重大合作成果——基于
    的頭像 發(fā)表于 10-16 14:58 ?962次閱讀

    亞馬遜云科技上線Meta Llama 3.2模型

    亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
    的頭像 發(fā)表于 10-11 18:08 ?752次閱讀

    亞馬遜云科技正式上線Meta Llama 3.2模型

    亞馬遜云科技宣布,Meta新一代模型Llama 3.2,包括首款多模態(tài)模型,現(xiàn)已在Amazo
    的頭像 發(fā)表于 10-11 09:20 ?876次閱讀

    Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型

    Meta Platforms近日宣布了項重要技術(shù)突破,成功推出了多模態(tài)LLAMA 3.2人工智能模型。這創(chuàng)新
    的頭像 發(fā)表于 09-27 11:44 ?701次閱讀

    Meta Llama 3.1系列模型可在Google Cloud上使用

    我們很高興宣布,Llama 3.1 系列模型已添加到 Vertex AI Model Garden,這包括全新的 405B,即 Meta 迄今為止功能最強大、用途最廣泛的
    的頭像 發(fā)表于 08-02 15:42 ?739次閱讀

    Meta發(fā)布全新開源大模型Llama 3.1

    科技巨頭Meta近期震撼發(fā)布了最新的開源人工智能(AI模型——Llama 3.1,這舉措標
    的頭像 發(fā)表于 07-24 18:25 ?1793次閱讀
    主站蜘蛛池模板: 曰韩欧美 | 国产成人综合网在线播放 | 草草影院私人免费入口 | 天堂最新版免费观看 | 香蕉视频在线观看国产 | 日本黄色免费一级片 | 男人日女人的网站 | 特级深夜a级毛片免费观看 特级生活片 | 黄色精品视频 | 伊人不卡久久大香线蕉综合影院 | 丁香网五月天 | 午夜国产精品视频 | 好男人社区www的视频免费 | 一级a爱片久久毛片 | 色综合天天综合中文网 | 日本黄页视频 | 黄色日本视频网站 | 在线看黄网站 | 四虎a级欧美在线观看 | 色多多www视频在线观看免费 | 免看一级a一片成人123 | 亚洲日韩色图 | 亚洲三级在线看 | 777黄色片 | 特黄视频 | 999久久久免费精品国产牛牛 | aa在线免费观看 | bt天堂在线www种子搜索 | 成人在线一区二区三区 | 午夜久| 男人j进女人j免费视频视频 | 黄色小视频免费 | 亚洲小说区图片区另类春色 | 永久免费看黄 | 天天拍夜夜爽 | 一级欧美日韩 | 三级免费黄录像 | 欧美又粗又硬又大久久久 | 在线aa | 3p性小说| 国产美女在线精品免费观看 |