在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Meta開源I-JEPA,“類人”AI模型

OSC開源社區 ? 來源:OSC開源社區 ? 2023-06-18 17:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Meta宣布推出一個全新的AI 模型Image Joint Embedding Predictive Architecture (I-JEPA),可通過對圖像的自我監督學習來學習世界的抽象表征,實現比現有模型更準確地分析和完成未完成的圖像。

目前相關的訓練代碼和模型已開源,I-JEPA 論文則計劃在下周的 CVPR 2023 上發表。

根據介紹,I-JEPA 結合了 Meta 首席 AI 科學家 Yann LeCun 所提倡的類人推理方式,幫助避免 AI 生成圖像常見的一些錯誤,比如多出的手指。

I-JEPA 在多項計算機視覺任務上表現出色,且計算效率比其他廣泛使用的計算機視覺模型高得多。

I-JEPA 學習的表征也可以用于許多不同的應用程序,而無需進行大量微調。

例如,項目團隊在 72 小時內使用 16 個 A100 GPU 訓練了一個 632M 參數的視覺轉換器模型,I-JEPA 在 ImageNet 上的 low-shot 分類中性能表現最優,每個類只有 12 個標記示例。

其他方法通常需要 2 到 10 倍的 GPU 時間,并且在用相同數量的數據進行訓練時錯誤率更高。 I-JEPA 背后的想法是以更類似于人類一般理解的抽象表示來預測缺失的信息。

I-JEPA 使用抽象的預測目標,潛在地消除了不必要的 pixel-level 細節,從而使模型學習更多語義特征。

另一個引導 I-JEPA 產生語義表征的核心設計選擇是多塊掩碼策略。

具體來說,項目團隊證明了使用信息豐富的(空間分布的)上下文來預測包含語義信息(具有足夠大的規模)的大塊的重要性。

e452d002-0c36-11ee-962d-dac502259ad0.png

I-JEPA 中的預測器可以看作是一個原始的(和受限的)世界模型,它能夠從部分可觀察的上下文中模擬靜態圖像中的空間不確定性。

更重要的是,這個世界模型是語義的,因為它預測圖像中不可見區域的高級信息,而不是 pixel-level 細節。

e46f3b5c-0c36-11ee-962d-dac502259ad0.png

為了解模型捕獲的內容,團隊還訓練了一個隨機解碼器,將 I-JEPA 預測的表征映射回像素空間。

這種定性評估表明該模型正確地捕獲了位置不確定性并生成了具有正確姿勢的高級對象部分(例如,狗的頭、狼的前腿)。

簡而言之,I-JEPA 能夠學習對象部分的高級表示,而不會丟棄它們在圖像中的局部位置信息。

e49929f8-0c36-11ee-962d-dac502259ad0.pnge4b3ea04-0c36-11ee-962d-dac502259ad0.png





審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 轉換器
    +關注

    關注

    27

    文章

    9034

    瀏覽量

    151611
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4937

    瀏覽量

    131145
  • 計算機視覺
    +關注

    關注

    9

    文章

    1708

    瀏覽量

    46746

原文標題:Meta開源I-JEPA,“類人” AI 模型

文章出處:【微信號:OSC開源社區,微信公眾號:OSC開源社區】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    大象機器攜手進迭時空推出 RISC-V 全棧開源六軸機械臂產品

    全球80多個國家和地區。 近日,大象機器聯合進迭時空推出全球首款RISC-V全棧開源六軸機器臂“myCobot 280 RISC-V”,為開發者打造全新的機器開源創新平臺。 “my
    發表于 04-25 17:59

    AI開源模型庫有什么用

    AI開源模型庫作為推動AI技術發展的重要力量,正深刻改變著我們的生產生活方式。接下來,AI部落小編帶您了解
    的頭像 發表于 02-24 11:50 ?420次閱讀

    Meta重磅發布Llama 3.3 70B:開源AI模型的新里程碑

    ?在人工智能領域,Meta的最新動作再次引起了全球的關注。今天,我們見證了Meta發布的 Llama 3.3 70B 模型,這是一個開源的人工智能
    的頭像 發表于 12-18 16:46 ?578次閱讀
    <b class='flag-5'>Meta</b>重磅發布Llama 3.3 70B:<b class='flag-5'>開源</b><b class='flag-5'>AI</b><b class='flag-5'>模型</b>的新里程碑

    Meta發布新AI模型Meta Motivo,旨在提升元宇宙體驗

    Meta在人工智能領域邁出了重要一步。通過這款模型Meta希望能夠為用戶提供更加自然、流暢的元宇宙交互體驗。數字代理在元宇宙中的動作將更加逼真,從而增強用戶的沉浸感和參與度。 除了Meta
    的頭像 發表于 12-16 10:34 ?966次閱讀

    開源AI模型庫是干嘛的

    開源AI模型庫是指那些公開源代碼、允許自由訪問和使用的AI模型集合。這些
    的頭像 發表于 12-14 10:33 ?772次閱讀

    Meta發布Llama 3.2量化版模型

    近日,Meta開源Llama 3.2的1B與3B模型后,再次為人工智能領域帶來了新進展。10月24日,Meta正式推出了這兩個模型的量化版
    的頭像 發表于 10-29 11:05 ?832次閱讀

    Llama 3 與開源AI模型的關系

    在人工智能(AI)的快速發展中,開源AI模型扮演著越來越重要的角色。它們不僅推動了技術的創新,還促進了全球開發者社區的合作。Llama 3,作為一個新興的
    的頭像 發表于 10-27 14:42 ?762次閱讀

    聯想與Meta合作推出AI Now個人AI智能體

    聯想集團近日在美國西雅圖舉辦了年度Tech World大會,會上聯想CEO楊元慶與Meta創始兼CEO馬克?扎克伯格共同宣布了一項重要合作。雙方基于Meta的Llama大模型,推出了
    的頭像 發表于 10-17 16:58 ?923次閱讀

    扎克伯格:聯想運用Meta Llama大模型打造個人AI助手AI Now

    美國西部時間10月15日,聯想集團于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上,聯想集團首席執行官楊元慶攜手Meta創始兼首席執行官馬克·扎克伯格,共同揭曉了一項重大合作成果——基于Meta的Llama大
    的頭像 發表于 10-16 14:58 ?935次閱讀

    亞馬遜云科技上線Meta Llama 3.2模型

    亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta首款多模態模型,現已在Amazon
    的頭像 發表于 10-11 18:08 ?743次閱讀

    Meta發布多模態LLAMA 3.2工智能模型

    Meta Platforms近日宣布了一項重要技術突破,成功推出了多模態LLAMA 3.2工智能模型。這一創新模型不僅能夠深度解析文本信息,還實現了對圖像內容的精準理解,標志著
    的頭像 發表于 09-27 11:44 ?687次閱讀

    Meta關閉明星AI聊天機器,轉向用戶自創AI工具

    7月31日,科技新聞源The Information透露,Meta已悄然終止了其備受矚目的明星AI聊天機器項目。這些機器曾因能夠模擬著名人物的性格特征并與用戶進行互動,在去年九月的
    的頭像 發表于 07-31 16:16 ?1040次閱讀

    Meta發布全新開源模型Llama 3.1

    科技巨頭Meta近期震撼發布了其最新的開源人工智能(AI模型——Llama 3.1,這一舉措標志著Meta
    的頭像 發表于 07-24 18:25 ?1773次閱讀

    Meta不會在歐盟提供新的多模態AI模型

    科技巨頭Meta近日宣布了一項重要決策,其即將推出的創新多模態Llama模型將不會在歐盟地區發布。這一決定背后,是Meta對歐洲復雜且不可預測的監管環境的深刻考量,也為Meta與歐盟監
    的頭像 發表于 07-19 16:04 ?839次閱讀

    Meta即將發布超強開源AI模型Llama 3-405B

    在人工智能領域的激烈競爭中,Meta公司再次擲出重磅炸彈,宣布將于7月23日正式發布其最新力作——Llama 3-405B,一個擁有驚人4050億參數的開源模型。這一舉措不僅標志著Meta
    的頭像 發表于 07-18 09:58 ?1326次閱讀
    主站蜘蛛池模板: 6080国产午夜精品 | 日本特级淫片免费看 | 亚洲精品视频网 | 色妞女女女女女bbbb | 天天夜夜狠狠一区二区三区 | 国产精品久久久久久吹潮 | 337p欧洲亚洲大胆艺术 | 午夜视频福利 | 天天干天天射天天 | 看全色黄大色大片免费久久 | 1024成人 | 亚洲成人精品 | 美女扒开内裤无遮挡禁18 | 天天伊人| 99热最新网址 | 日本在线视频一区二区 | 两人性世界| 国产99久久九九精品免费 | 久色tv| 免费在线成人 | 色综合天天综一个色天天综合网 | 白嫩美女一级高清毛片免费看 | 香蕉视频久久久 | 亚洲天堂视频一区 | 好黄好硬好爽好刺激 | 欧美极品xxxxⅹ另类 | 欧美视频区| 九九热最新| 四虎国产永久免费久久 | 大色综合色综合网站 | 国产精品一区二区三 | 男女视频在线看 | 国产精品虐乳在线播放 | 免费网站毛片 | 国产美女在线免费观看 | 午夜88 | 丁香婷婷激情五月 | 男女交性视频播放视频视频 | 在线观看886影院成人影院 | 天天天做天天天天爱天天想 | 日日干夜夜骑 |