91在线观看视频-91在线观看视频-91在线观看免费视频-91在线观看免费-欧美第二页-欧美第1页

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

PyTorch 1.0:一個框架實現AI從研究到生產的全過程

DPVg_AI_era ? 來源:未知 ? 作者:李倩 ? 2018-05-04 10:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

今天,Facebook正式公布PyTorch 1.0,這個新的框架將PyTorch 0.4與Caffe2合并,并整合ONNX格式,讓開發者可以無縫地將AI模型從研究轉到生產,而無需處理遷移。

今天,Facebook正式公布PyTorch 1.0,這是將基于Python的PyTorch與Caffe2合并的一個新版本的框架,讓開發者可以無縫地將AI模型從研究轉到生產,而無需處理遷移。

“現在,你只需要使用PyTorch 1.0,就可以在一個框架中無縫地進行從研究到生產的全部過程,而不需要為訓練/研究和生產分別選擇框架?!盕acebook發言人在F8大會上說。

Facebook去年與微軟合作推出開放神經網絡交換(ONNX)格式,這是一個用于表示深度學習模型的標準,旨在使不同框架之間的移動更加簡單?,F在,Facebook已經將ONNX整合到PyTorch 1.0中,使模型能夠與其他框架進行互操作,并且開發人員可以“混合搭配”。

Facebook還表示,將統一PyTorch 0.4和Caffe2的代碼庫,以創建一個統一的框架,支持多種功能,包括高效的圖形模式執行、分析、移動部署等。

PyTorch 1.0將在未來幾個月內發布,據悉,微軟計劃在Azure中支持該框架,亞馬遜也將在其云產品中支持PyTorch 1.0。

PyTorch官方博客介紹了PyTorch 1.0的更多細節:

生產性:在PyTorch 1.0中,你的代碼可以繼續按原樣運行,我們沒有對現有的API做任何大更改。如果你不需要優化或導出模型,則不必使用這些新功能,也不會有任何缺點。此外,可以逐步使用traced或@script模塊/函數。

JIT編譯器:使用torch.jit編譯器將模型導出到非Python環境,并提高其性能。對于不包含循環和if語句的網絡,trace是非侵入式的,并且足夠穩健,可以處理各種編碼風格;對于主要使用控制流的模型(如RNN),我們的解決方案是腳本模式(@script)。

優化和導出:Caffe2 / ONNX中模型的python-free表示

后端:我們正在替換(或重構)后端ATen庫,以整合來自Caffe2的功能和優化。

Timeline:我們的目標是在今年夏天推出PyTorch 1.0。

PyTorch 1.0:一個框架實現AI從研究到生產的全過程

AI的開發從研究到生產的過程,涉及多個步驟和工具,這使得測試新方法、部署它們,以及迭代以提高準確性和性能都非常耗時而且復雜。為了幫助加速和優化這個過程,我們推出PyTorch 1.0。

PyTorch 1.0采用了Caffe2和ONNX的模塊化、面向生產的功能,并將它們與PyTorch現有的靈活的、側重于研究的設計結合起來,為各種AI項目提供從研究原型到生產部署的快速、無縫的路徑。

使用PyTorch 1.0,AI開發人員可以通過在命令式執行模式和聲明式執行模式之間無縫切換的混合前端進行快速實驗和性能優化。PyTorch 1.0中的技術已經為Facebook的許多產品和服務提供支持,包括每天執行60億次的文本翻譯。

PyTorch 1.0將在未來幾個月內推出,并將包含一系列工具、庫、預訓練的模型和各個開發階段的數據集,使社區能夠大規模地快速創建和部署新的AI創新。

從研究到生產的路徑

PyTorch的命令式前端通過其靈活且高效的編程模型實現了更快速的原型設計和實驗。PyTorch的第一個版本是在一年前推出的,它的快速、高效和支持動態圖等先進AI模型的能力使其迅速成為廣受AI研究人員歡迎的重要開發工具。PyTorch的下載量已經超過110萬次,是ArXiv上個月引用量第二大的深度學習框架。例如,加州大學伯克利分校的計算機科學家將PyTorch的動態圖功能用于他們的CycleGAN image-to-image轉換的工作。

CycleGAN的PyTorch實現

盡管當前版本的PyTorch為AI的研究和開發提供了很大的靈活性,但由于它與Python的緊密結合,在生產規模上的性能有時是一個挑戰。我們經常需要將研究代碼(訓練腳本或訓練模型 )翻譯成Caffe2的圖形模式表示,以便在生產規模上運行。Caffe2的基于圖形的執行程序允許開發者利用先進的優化方式,例如圖形轉換、高效的內存重用以及緊密的硬件接口集成。

Caffe2項目是兩年前推出的,目的是使我們的生產AI工具標準化,現在它已經在Facebook服務器和世界范圍超過10億部手機上運行神經網絡,跨越8代iPhone和6代Android CPU架構。今天,Caffe2每天在各種大小模型提供超過200萬億次的預測,并優化生產性能。

從PyTorch遷移到Caffe2以進行生產,以前這是一個手動的過程,耗時多且容易出錯。為了解決這個問題,我們與主要的硬件和軟件公司合作創建了ONNX(開放式神經網絡交換),這是一種表示深度學習模式的開放式格式。借助ONNX,開發人員可以在不同框架之間共享模型,例如,導出使用PyTorch構建的模型并將其導入Caffe2。

我們已經使用這些工具(PyTorch,Caffe2和ONNX)來構建和部署Translate,這個工具現在可以對Facebook上48種最常用語言的進行翻譯。在VR方面,這些工具對于將Oculus的新研究部署到生產中至關重要。

但是,盡管這三種不同工具的組合是有效的,但仍然存在手工步驟復雜、耗費時間長等問題。因此,僅僅是將這些工具組合還無法像我們期待的那樣無縫地將AI的研究創新帶入生產過程。

在一個框架中統一研究和生產的能力

PyTorch 1.0將即時模式和圖形執行模式融合在一起,為生產的研究和性能優化提供了靈活性。更具體地說,PyTorch 1.0不是強制開發者重寫整個代碼以實現優化或從Python遷移,而是提供了一個混合的前端,使開發者能夠在用于原型制作的即時模式和用于生產的圖形執行模式之間無縫地共享大部分代碼。

此外,ONNX本身被加入到PyTorch 1.0中作為一種模型輸出格式,這使得PyTorch 1.0中的模型可與其他AI框架進行互操作。ONNX還可用作加速運行時間或硬件特定庫的集成接口。這使得開發人員可以完全自由地混合和匹配最佳的AI框架和工具,而無需采用資源密集型的定制工程。Facebook將支持ONNX的新特征和功能,ONNX仍然是一種強大的開放格式,同時也是使用PyTorch 1.0進行開發的重要組成部分。

構建一個端到端的深度學習系統

除了PyTorch 1.0之外,Facebook還開源了多個AI工具,包括Translate——一個PyTorch語言庫,用于快速、靈活的神經機器翻譯;以及下一代ELF——一個綜合的AI推理應用游戲平臺。開發人員還可以利用Glow這樣機器學習編譯器,可以加速不同硬件平臺上的框架性能;還可以使用Tensor Comprehensions這種自動生成高級數學運算的高效GPU代碼的工具。Facebook也開源了其他庫,如Detectron,支持對象檢測研究,涵蓋了邊界框和對象實例分割輸出。

Facebook推出一個AI開發者網站,列舉了所有這些開源工具:

facebook.ai/developers

在接下來的幾個月中,我們將重構并統一Caffe2和PyTorch 0.4框架的代碼庫。最終將形成一個統一的框架,支持高效的圖形模式執行,包括profiling,移動部署,廣泛的vendor集成等。與ONNX等其他開放式AI計劃一樣,我們也與其他公司和社區合作,為更多開發者提供這些加速研究的生產能力。首先,微軟計劃在他們的Azure云和開發者產品中支持PyTorch 1.0,包括Azure機器學習服務和數據科學虛擬機;Amazon Web Services目前支持最新版本的PyTorch,針對P3 GPU實例進行了優化,并計劃在其云產品發布后不久支持 PyTorch 1.0,其中包括其深度學習AMI(Amazon Machine Image)。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    88

    文章

    35164

    瀏覽量

    280067
  • Facebook
    +關注

    關注

    3

    文章

    1432

    瀏覽量

    56776
  • 深度學習
    +關注

    關注

    73

    文章

    5561

    瀏覽量

    122805
  • pytorch
    +關注

    關注

    2

    文章

    809

    瀏覽量

    13967

原文標題:PyTorch 1.0 正式公開,Caffe2并入PyTorch實現AI研究和生產一條龍

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    Nordic收購 Neuton.AI 關于產品技術的分析

    Nordic Semiconductor 于 2025 年收購了 Neuton.AI,這是家專注于超小型機器學習(TinyML)解決方案的公司。 Neuton 開發了種獨特的神經網絡框架
    發表于 06-28 14:18

    HarmonyOS NEXT意圖框架習慣推薦場景說明

    意圖。 本文以“音樂播放”意圖為例,詳細講解意圖接入與開發全過程。 二、音樂播放開發 以“音樂播放”為例,意圖注冊、意圖共享以及意圖調用三大塊介紹意圖運行的開發過程。如果應用支持播放功能并且需要
    發表于 06-18 15:06

    AI Agent 應用與項目實戰》閱讀心得2——客服機器人、AutoGen框架 、生成式代理

    及時處理。 第5章的斯坦福AI小鎮項目對生成式代理技術做出了開創性的探索。該項目的核心是將LLM與計算交互代理相結合,構建了具有記憶、反思、規劃能力的智能體系統。在技術實現層面,記
    發表于 02-25 21:59

    AI Agent 應用與項目實戰》第1-2章閱讀心得——理解Agent框架與Coze平臺的應用

    的同時提供強大算力支持,實現無縫協同。 這些趨勢交織發展,將推動AI Agent工具屬性向伙伴屬性轉變,開啟人機協作新紀元。希望AI Agent能夠幫助各行各業越來越多的朋友解放
    發表于 02-19 16:35

    AI在芯片上的應用:革新設計與功能

    AI在芯片上的應用正在深刻改變著芯片設計、制造和應用的全過程。未來,隨著AI技術的不斷進步和應用場景的不斷拓展,AI芯片將成為推動科技發展的重要力量。
    的頭像 發表于 02-17 16:09 ?587次閱讀

    AI開發框架集成介紹

    隨著AI應用的廣泛深入,單框架往往難以滿足多樣化的需求,因此,AI開發框架的集成成為了提升開發效率、促進技術創新的關鍵路徑。以下,是對
    的頭像 發表于 01-07 15:58 ?561次閱讀

    利用Arm Kleidi技術實現PyTorch優化

    PyTorch廣泛應用的開源機器學習 (ML) 庫。近年來,Arm 與合作伙伴通力協作,持續改進 PyTorch 的推理性能。本文將詳細介紹如何利用 Arm Kleidi 技術
    的頭像 發表于 12-23 09:19 ?1065次閱讀
    利用Arm Kleidi技術<b class='flag-5'>實現</b><b class='flag-5'>PyTorch</b>優化

    Arm KleidiAI助力提升PyTorch上LLM推理性能

    生成式人工智能 (AI) 正在科技領域發揮關鍵作用,許多企業已經開始將大語言模型 (LLM) 集成云端和邊緣側的應用中。生成式 AI 的引入也使得許多框架和庫得以發展。其中,
    的頭像 發表于 12-03 17:05 ?1491次閱讀
    Arm KleidiAI助力提升<b class='flag-5'>PyTorch</b>上LLM推理性能

    PyTorch 2.5.1: Bugs修復版發布

    ? ,前言 在深度學習框架的不斷迭代中,PyTorch 社區始終致力于提供更穩定、更高效的工具。最近,PyTorch 2.5.1 版本正式發布,這個版本主要針對 2.5.0 中發現的
    的頭像 發表于 12-03 16:11 ?1622次閱讀
    <b class='flag-5'>PyTorch</b> 2.5.1: Bugs修復版發布

    小鵬汽車發布自主研發的“圖靈”AI智能駕駛輔助系統

    模型構建、AI算法優化AI芯片設計的全過程。這全面自主的研發模式,確保了“圖靈”系統能夠在各個層面
    的頭像 發表于 11-07 10:55 ?1278次閱讀

    智能工廠要實現的目標_智能工廠的六建設目標

     智能工廠通過新代信息技術(如物聯網、云計算、大數據分析、人工智能等)與制造全過程、全要素的深度融合,旨在實現多個核心目標,這些目標可以歸納如下:   
    的頭像 發表于 09-15 14:14 ?2198次閱讀

    pytorch環境搭建詳細步驟

    PyTorch作為廣泛使用的深度學習框架,其環境搭建對于從事機器學習和深度學習研究及開發的人員來說至關重要。以下將介紹
    的頭像 發表于 08-01 15:38 ?1878次閱讀

    pytorch和python的關系是什么

    PyTorch已經成為了非常受歡迎的框架。本文將介紹PyTorch和Python之間的關系,以及它們在深度學習領域的應用。 Pytho
    的頭像 發表于 08-01 15:27 ?3284次閱讀

    中國AI長卷(二):框架立基

    AI框架可以看到,更強的產業化能力,就是中國AI的底色
    的頭像 發表于 07-24 12:27 ?3020次閱讀
    中國<b class='flag-5'>AI</b>長卷(二):<b class='flag-5'>框架</b>立基

    如何手搓自定義的RPC 遠程過程調用框架

    種常用的技術,能夠簡化客戶端與服務器之間的交互。本文將介紹如何基于Netty(網絡編程框架實現自定義的簡單的RPC
    的頭像 發表于 07-22 12:17 ?1237次閱讀
    如何手搓<b class='flag-5'>一</b><b class='flag-5'>個</b>自定義的RPC 遠程<b class='flag-5'>過程</b>調用<b class='flag-5'>框架</b>
    主站蜘蛛池模板: 1024免费永久福利视频 | 全免费一级毛片在线播放 | 一本到视频在线 | 人人爽人人爱 | 欧美人与zoxxxx视频 | 扒开双腿疯狂进出爽爽爽 | 免费特黄一区二区三区视频一 | 亚洲免费毛片 | 免费一区二区三区 | 国产精品www视频免费看 | 午夜精品视频在线 | 91视频毛片 | 一区二区高清在线观看 | 婷婷在线观看香蕉五月天 | 57pao强力打造免费高清高速 | 成人免费看片视频色多多 | 甘婷婷一级毛片免费看 | 特黄特黄 | 在线成人aa在线看片 | 免费手机黄色网址 | 一级做a爱片久久毛片 | 欧美黄免在线播放 | 俺去俺来也www色官网免费的 | 久久在精品线影院精品国产 | 成人性色生活片免费看爆迷你毛片 | 亚洲播播 | 大黄蕉| 四虎在线网址 | 日本免费在线视频 | 99色在线观看 | 久久久精品免费热线观看 | 资源在线www天堂 | 美女扒开尿口让男人30视频 | 激情综合网五月激情 | 天天槽任我槽免费 | 午夜色视频在线观看 | 欧美不卡一区 | 婷婷综合在线观看丁香 | 好黄好猛好爽好痛的视频 | 伊人久操 | 天天干夜夜夜 |