在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

基于動態編譯(Just-in-Time)的全新深度學習框架

電子設計 ? 來源:風君子 ? 作者:風君子 ? 2020-11-25 11:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

據官方消息,清華大學計算機系圖形實驗室宣布開源一個全新的深度學習框架:Jittor,中文名計圖。

Jittor 是一個采用元算子表達神經網絡計算單元、完全基于動態編譯(Just-in-Time)的深度學習框架。[1]

據介紹,Jittor 內部使用創新的元算子和統一計算圖的深度學習框架。和 Numpy 相比,元算子在保證易用性的同時,能夠實現更復雜、更高效的操作。而統一計算圖則是融合了靜態計算圖和動態計算圖的諸多優點,在易于使用的同時,提供高性能的優化。基于元算子開發的深度學習模型,可以被計圖實時自動優化并且運行 CPUGPU 等指定的硬件上。

Jittor 特性

Jittor 是基于易用、可定制、實現與優化分離、即時的理念設計的。用戶只需要數行代碼,就可定義新的算子和模型,且所有的代碼都是即時編譯運行。

在 Jittor 上,多個元算子之間可以相互融合,成為更加復雜的算子,進一步構成神經網絡和深度學習應用。

支持計算任意高階導數。元算子在 Jittor 上反向傳播后仍然是元算子,因此,在深度學習開發過程中,你不用算子的反向傳播而重復開發。同時,還可以使用統一的優化策略。

使用 Jittor 內置的元算子編譯器,用戶可以直接將通過元算子編寫的 Python 代碼動態編譯成更高效的 C++ 代碼。

Jittor 能夠自動優化動態編譯的代碼。其內置的優化編譯遍(complier pass)兼容 LLVM,可以根據設備進行自動優化,生成的底層算子對計算設備非常友好。

Jittor 統一管理 GPU 和 CPU 的內存。當深度學習耗盡 GPU 內存資源時,將用 CPU 內存彌補。

Jittor 同時提供同步接口和異步接口,用戶可以同時享受同步接口的易用性和異步接口的高效性。

使用輔助轉換腳本,PyTorch 代碼可以直接轉換成 Jittor 模型。在參數保存和數據傳輸上,Jittor使用和 PyTorch 一樣的 Numpy+pickle 協議,二者的模型可以相互加載和調用。

性能超越 Pytorch

雖然這是清華大學第一次發布開源機器學習框架,但與國際主流平臺相比,Jittor 豪不遜色。 目前 ResNet、VGG、SSD、DeepLab、LSGAN 等多個網絡模型已經在 Jittor 平臺實現,可供用戶使用。與同類型框架相比,Jittor 在收斂精度一致情況下,推理速度取得了 10%-50% 的性能提升 。

目前,Jittor 得到了國家自然科學基金項目、北京信息科學與技術國家研究中心團隊項目和清華-騰訊聯合實驗室項目的資助和支持。

開源超級玩家

開源,特別是人工智能領域的開源,逐漸成為綜合實力的象征。清華在這方面有著獨到的優勢。

首先,是在人工智能領域的學術傳承。2019 年,清華人工智能研究院動作頻頻,在張鈸院士的帶領下,4 月成立聽覺智能研究中心,由鄭方教授擔任主任,5 月成立基礎理論研究中心,朱軍任主任,在基礎算法AI 框架、AI 應用、數據資源等方面早已布好基礎。

第一代院士打好基礎,第二代老師形成了中堅力量。此次驚艷推出的計圖(Jittor),牽頭人就是清華大學計算機系的胡事民教授,1969 年生人,正屬于中堅,而開發團隊的主體,正是他帶領的圖形學實驗室的一批博士生。今天出世的計圖更不免讓人想到當年的清華畢業生賈揚清,他在加州大學伯克利分校攻讀博士期間創建了 Caffe 項目。

清華大學自然語言處理實驗室(THUNLP)也有一個知名的開源項目,叫 OpenNRE。[2] 這是一個在自然語言處理里進行關系提取的開源框架,可以用于擴展知識圖譜,是推薦系統、搜索引擎、問題解答這些應用的基礎和關鍵技術。

實驗室由孫茂松教授領銜,帶出了一批骨干老師,以及本碩博的尖子。THUNLP 在 GitHub 上得到的 star,已經跟全球最強的斯坦福 NLP 小組的 star 差不多了。

由此帶出的第三代學生梯隊也人才濟濟。清華姚班自不必說,去年以本科人才培養著名的姚期智教授又開設智班,重點培養人工智能領域的后備軍。

姚班畢業,目前在 MIT 就讀的博士生胡淵鳴,設計、實現了 Taichi 編程語言及其優化編譯器,后生可畏。[3]

另外,清華和企業以實驗室形式的合作,碩果累累,吸引了像張亞勤、沈向洋這樣的大師級科學家加入。

比如,清華和微軟研究院合作了 Convlab 開源端到端對話系統 [4],和美團合作了視頻動作分析的開源數據集 COIN [5]。

去年,清華-伯克利深圳學院更是成立了“RISC-V 國際開源實驗室”,直接將圖靈獎得主、最早提出“精簡指令集”(RISC)體系的大衛·帕特森(David Patterson)引入,抓住了開源和源創的源頭,有可能在芯片領域形成新的開源 CPU 生態體系,打造國家重器。

編輯:hfy
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4814

    瀏覽量

    103486
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4937

    瀏覽量

    131173
  • 人工智能
    +關注

    關注

    1806

    文章

    48987

    瀏覽量

    249042
  • 深度學習
    +關注

    關注

    73

    文章

    5560

    瀏覽量

    122762
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    思嵐科技AI工業機器人開放底盤Phoebus P350全新發布:深度學習導航+300KG負載

    工業4.0時代,智能搬運的“底盤力”決定效率天花板。 SLAMTEC全新推出 Phoebus P350工業級機器人底盤 ,以 “開放AI架構+深度學習導航” 為核心,融合300KG超強負載、60cm
    的頭像 發表于 05-12 11:33 ?436次閱讀
    思嵐科技AI工業機器人開放底盤Phoebus P350<b class='flag-5'>全新</b>發布:<b class='flag-5'>深度</b><b class='flag-5'>學習</b>導航+300KG負載

    嵌入式AI技術之深度學習:數據樣本預處理過程中使用合適的特征變換對深度學習的意義

    ? 作者:蘇勇Andrew 使用神經網絡實現機器學習,網絡的每個層都將對輸入的數據做一次抽象,多層神經網絡構成深度學習框架,可以深度理解數
    的頭像 發表于 04-02 18:21 ?871次閱讀

    Triton編譯器的優化技巧

    在現代計算環境中,編譯器的性能對于軟件的運行效率至關重要。Triton 編譯器作為一個先進的編譯框架,提供了一系列的優化技術,以確保生成的代碼既高效又適應不同的硬件架構。 1. 指令
    的頭像 發表于 12-25 09:09 ?972次閱讀

    Triton編譯器的優勢與劣勢分析

    Triton編譯器作為一種新興的深度學習編譯器,具有一系列顯著的優勢,同時也存在一些潛在的劣勢。以下是對Triton編譯器優勢與劣勢的分析:
    的頭像 發表于 12-25 09:07 ?1169次閱讀

    Triton編譯器在機器學習中的應用

    多種深度學習框架,如TensorFlow、PyTorch、ONNX等,使得開發者能夠輕松地將不同框架下訓練的模型部署到GPU上。 2. Triton
    的頭像 發表于 12-24 18:13 ?980次閱讀

    Triton編譯器支持的編程語言

    編寫和優化深度學習代碼。Python是一種廣泛使用的高級編程語言,具有簡潔易讀、易于上手、庫豐富等特點,非常適合用于深度學習應用的開發。 二、領域特定語言(DSL) Triton也提供
    的頭像 發表于 12-24 17:33 ?953次閱讀

    Triton編譯器與其他編譯器的比較

    Triton編譯器與其他編譯器的比較主要體現在以下幾個方面: 一、定位與目標 Triton編譯器 : 定位:專注于深度學習中最核心、最耗時的
    的頭像 發表于 12-24 17:25 ?987次閱讀

    NPU在深度學習中的應用

    隨著人工智能技術的飛速發展,深度學習作為其核心驅動力之一,已經在眾多領域展現出了巨大的潛力和價值。NPU(Neural Processing Unit,神經網絡處理單元)是專門為深度學習
    的頭像 發表于 11-14 15:17 ?1888次閱讀

    Pytorch深度學習訓練的方法

    掌握這 17 種方法,用最省力的方式,加速你的 Pytorch 深度學習訓練。
    的頭像 發表于 10-28 14:05 ?646次閱讀
    Pytorch<b class='flag-5'>深度</b><b class='flag-5'>學習</b>訓練的方法

    GPU深度學習應用案例

    GPU在深度學習中的應用廣泛且重要,以下是一些GPU深度學習應用案例: 一、圖像識別 圖像識別是深度學習
    的頭像 發表于 10-27 11:13 ?1328次閱讀

    AI大模型與深度學習的關系

    AI大模型與深度學習之間存在著密不可分的關系,它們互為促進,相輔相成。以下是對兩者關系的介紹: 一、深度學習是AI大模型的基礎 技術支撐 :深度
    的頭像 發表于 10-23 15:25 ?2865次閱讀

    FPGA做深度學習能走多遠?

    ,共同進步。 歡迎加入FPGA技術微信交流群14群! 交流問題(一) Q:FPGA做深度學習能走多遠?現在用FPGA做深度學習加速成為一個熱門,深鑒科技,商湯,曠視科技等都有基于FPG
    發表于 09-27 20:53

    NVIDIA推出全新深度學習框架fVDB

    在 SIGGRAPH 上推出的全新深度學習框架可用于打造自動駕駛汽車、氣候科學和智慧城市的 AI 就緒型虛擬表示。
    的頭像 發表于 08-01 14:31 ?1123次閱讀

    深度學習編譯器和推理引擎的區別

    深度學習編譯器和推理引擎在人工智能領域中都扮演著至關重要的角色,但它們各自的功能、應用場景以及優化目標等方面存在顯著的差異。以下是對兩者區別的詳細探討。
    的頭像 發表于 07-17 18:12 ?1789次閱讀

    PyTorch深度學習開發環境搭建指南

    PyTorch作為一種流行的深度學習框架,其開發環境的搭建對于深度學習研究者和開發者來說至關重要。在Windows操作系統上搭建PyTorc
    的頭像 發表于 07-16 18:29 ?2482次閱讀
    主站蜘蛛池模板: 97爱爱爱| 亚洲色图 在线视频 | 青草青青产国视频在线 | 免费日韩毛片 | 三区在线观看 | 亚洲三级成人 | aa小视频| 老湿影院免费体验区 | 激情婷婷在线 | 天天插日日插 | 久久精品5 | 手机在线看片福利盒子 | 97影院理伦在线观看 | 在线一区二区三区 | 久久精品影院永久网址 | 欧美一二三区在线 | 国产精品漂亮美女在线观看 | 国产一级毛片外aaaa | 轻点灬大ji巴太粗太长了h | 男人的天堂久久精品激情 | 亚色在线 | 噜噜色小说| 中文字幕精品一区二区2021年 | 午夜理伦 | 免看乌克兰a一级 | 四虎国产精品影库永久免费 | 一级在线免费视频 | 一级片a级片 | 欧美在线视频免费播放 | 很狠操| 成人a一级毛片免费看 | 午夜国产福利在线 | 婷婷五月天.com | 免费一日本一级裸片在线观看 | 最新在线网址 | 五月天停婷基地 | 日本aaaaa级片 | www日| 午夜影音| 伊伊成人网 | av72成人 |