在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ChatGPT的核心算法為何如此強大?

新思科技 ? 來源:未知 ? 2023-03-17 18:10 ? 次閱讀

ChatGPT近期成為了全球話題中心。短短兩個月,ChatGPT注冊用戶數已經破億,成為史上用戶破億速度最快的軟件之一。它不但可以回答問題,還能寫詩,寫代碼,提供旅游攻略…而ChatGPT的核心結構正是Transformer模型。

Transformer是一種能夠同時處理所有輸入數據的深度學習模型,最初是為翻譯和自動問答等自然語言處理應用開發的。計算機視覺應用領域過去主要采用卷積神經網絡(CNN),現在Transformer模型則更為流行,但它不會取代CNN,而是與之配合來提高視覺處理應用的準確度。

比如,當自動駕駛汽車在行駛過程中遇到障礙物,它是如何判斷馬路中間的是人,而不是電線桿呢?自動駕駛汽車的物體檢測和防撞系統必須正確識別前方路況并給車輛發出相應的指令。在現代汽車的計算機視覺處理應用中,深度學習模型就發揮著重要作用。

除了汽車會采用AI驅動的計算機視覺技術外,攝像頭如今已經在很多系統中都普及開了,手機和安防系統等大量基于攝像頭的設備都已經在使用神經網絡來提高圖像質量和準確性了。

為何Transformer是嵌入式計算機視覺的理想選擇呢?Transformer又將如何改變深度學習架構的發展方向?哪些技術可以優化這些模型來獲得更出色的結果?本文將帶著這些問題與大家共同探討。

更專注的注意力機制

更好的情景感知

10多年來,CNN一直是視覺處理的首選深度學習模型。隨著技術的不斷發展,CNN現已能夠準確地完成圖像分類、物體檢測、語義分割(對圖像中的每個像素進行分組或標記)和全景分割(識別物體位置以及對每個物體中的每個像素進行分組和標記)。

但Transformer除了需要將語言塊替換為圖像塊外,不需要任何其他修改就可以在準確性方面超越CNN。

2017年,Google Research將Transformer定義為一種基于自注意力機制的新型神經網絡架構,特別適合用于語言理解。到2020年,Google Research的科學家們發表了一篇關于Vision Transformer(ViT)的文章,ViT是一個基于原始Transformer架構的模型。據該文章表示,當有足夠的數據進行訓練時,ViT表現出了優異的性能,超過了先進的CNN,而所需的計算資源卻只有CNN的四分之一。這些Transformer雖然需要龐大的數據集進行訓練,但確實非常擅于處理圖像分類和物體檢測等視覺任務。

Transformer之所以能夠在視覺應用中游刃有余,其專有的注意力機制是關鍵,該機制讓模型能夠對特定情境有更深入的理解。Transformer和CNN一樣都可以檢測到前方道路上的物體是行人,而不是電線桿或者一棵樹,但不同的是,Transformer并不會同等處理所有像素,它更多關注的是數據中微小但重要的部分,比如那個行人,而不太會去過多關注代表道路其余部分的那些不重要像素。

在處理每幀數據時,CNN通常并不會考慮該幀之前和之后的數據。而相比CNN,Transformer更擅于學習較為復雜的模式,因此所需的計算也就更多,所以在速度方面Transformer沒有CNN快,但它也在努力的奮起直追了。

GPU目前可以支持這二種模型,但如果在實際應用中需要以更小的尺寸和更低的功耗來實現更高的性能,那么NPU或神經處理單元等專用AI加速器將會是更好的選擇。

為了提高推理效率,視覺處理應用可同時使用CNN和Transformer。要想實現全方位視覺感知,僅靠純視覺模型可能無法輕松獲得所需的信息,而多模態學習可以提供更詳盡的視覺信息。此外,Transformer等基于注意力機制的神經網絡非常適合像汽車應用這種集成了多個傳感器的應用。

利用NPUIP優化

Transformer和CNN的性能

Transformer包括以下幾種運算:

  • 矩陣乘法

  • 逐元素加法

  • Softmax數學函數

  • L2歸一化

  • 激活函數

目前大多數AI加速器都針對CNN進行了優化,但它們并非全都適合Transformer。Transformer需要龐大的計算能力來執行大量計算并支持其注意力機制。

新思科技的ARC NPX6 NPU IP就是一款能夠同時處理CNN和Transformer的AI加速器。ARC NPX6 NPU IP的計算單元包括一個用于矩陣乘法(對這兩種深度學習模型都非常重要)的卷積加速器,以及一個用于處理Transformer運算和激活函數的張量加速器。該IP提供高達3,500 TOPS的性能和高達30 TOPS/瓦的出色能效。

設計團隊還可以使用新思科技的MetaWare MX開發工具包來加速其應用軟件開發。該工具包提供了一個綜合的軟件編程環境,其中包括神經網絡軟件開發工具包和對各種虛擬模型的支持。

ChatGPT安全嗎?

在ChatGPT爆火的背后,我們也要知道,ChatGPT或者其他AI軟件所產出的內容或做出的決策并不是無懈可擊的。這些工具提供的結果往往會和現實有所偏差,而只有人類才能基于現實去對結果進行檢查和驗證。

而且是否會有人利用ChatGPT編寫惡意代碼來進行網絡攻擊呢?自從人類開始編寫代碼以來,開發人員一直都在無意或者有意地編寫出可被利用的代碼。幸運的是,有很多安全測試工具可以幫助開發者們進行安全防護。無論編碼者是誰,都應該使用安全工具掃描源代碼發現漏洞。

總結

Transformer擁有強大的計算能力,且一直在自然語言處理應用中被廣泛采用。現在,因Transformer模型基于其注意力機制的神經網絡擁有更出色的情感感知能力,智能手機、安防系統、自動駕駛汽車等實時視覺處理應用也開始采用此模型。以后,各種基于攝像頭的產品會越來越先進,提供的圖像質量也越來越高。在深度學習中加入Transformer后,嵌入式視覺攝像頭系統勢必能夠提供更清晰的圖像和更準確的物體檢測。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 新思科技
    +關注

    關注

    5

    文章

    854

    瀏覽量

    51239

原文標題:ChatGPT的核心算法為何如此強大?

文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    交流電機EMC整改:電磁兼容問題為何成為核心挑戰

    深圳南柯電子|交流電機EMC整改:電磁兼容問題為何成為核心挑戰
    的頭像 發表于 05-28 11:19 ?176次閱讀
    交流電機EMC整改:電磁兼容問題<b class='flag-5'>為何</b>成為<b class='flag-5'>核心</b>挑戰

    電網波動測試為何如此重要?

    電網中常會因雷擊、短路故障、大功率設備啟動、電網切換或負載突變等原因,可能會導致如設備停機、異常重啟、醫療設備斷電危及患者等嚴重后果,那么該如何避免呢?電網中常會因雷擊、短路故障、大功率設備啟動、電網切換或負載突變等原因,出現電壓暫降(Dip)、短時中斷(Interruption)或電壓波動(Variation),可能會導致如設備停機、異常重啟、醫療設備斷電
    的頭像 發表于 03-31 11:40 ?189次閱讀
    電網波動測試<b class='flag-5'>為何如此</b>重要?

    和安信可Ai-M61模組對話?手搓一個ChatGPT 語音助手 #人工智能 #

    ChatGPT
    jf_31745078
    發布于 :2025年03月12日 15:56:59

    ChatGPT Plus 2025新功能搶先看:如何訂閱與使用全攻略

    您是否想了解2025年ChatGPT Plus的強大功能以及如何輕松訂閱?本文將為您深度剖析ChatGPT Plus的核心功能、獨特優勢,并提供詳細的訂閱教程。 一、基礎功能再進化:更
    的頭像 發表于 02-13 19:59 ?756次閱讀

    ChatGPT新增實時搜索與高級語音功能

    。OpenAI對搜索算法進行了深度優化,使得ChatGPT能夠在用戶提出問題后,迅速獲取到分鐘級別的最新信息,包括股票、新聞等。這一功能的加入,極大地滿足了用戶對即時數據的需求,使得ChatGPT在各類應用場景中更加得心應手。
    的頭像 發表于 12-17 14:08 ?582次閱讀

    OpenAI發布滿血版ChatGPT Pro

    科技巨頭OpenAI近期宣布了一項重大更新,正式推出了其備受期待的“滿血版”ChatGPT Pro。這一新版本基于全新的推理模型o1,旨在為用戶提供更為強大的處理能力和更高質量的回答。 據了解
    的頭像 發表于 12-06 11:10 ?747次閱讀

    OpenAI推出Windows桌面版ChatGPT應用

    Embiricos介紹,這款桌面版ChatGPT應用不僅繼承了原有版本的強大功能,還新增了多項實用特性,旨在讓用戶在不中斷當前工作流程的情況下,輕松啟動新的對話或繼續之前的討論。 該應用支持語音交互和圖像識別功能,用戶只需通過簡單的“Alt+空格”組合鍵,即可快速調用
    的頭像 發表于 11-18 14:04 ?632次閱讀

    怎樣搭建基于 ChatGPT 的聊天系統

    搭建一個基于ChatGPT的聊天系統是一個涉及多個步驟的過程,包括理解ChatGPT的API、設計用戶界面、處理數據和集成ChatGPT模型。以下是一個簡化的指南,用于創建一個基本的聊天系統。 1.
    的頭像 發表于 10-25 16:23 ?945次閱讀

    電網中防逆流為何如此重要?

    、可再生能源的廣泛接入,電力逆流現象愈發頻繁,防逆流裝置的重要性也愈發凸顯。本文將從防逆流裝置的工作原理、使用場景及其實際應用效果等方面進行詳細闡述。 一、防逆流裝置的工作原理 防逆流裝置的核心在于其內置的電力電子元件和控制邏輯
    的頭像 發表于 09-23 15:31 ?811次閱讀
    電網中防逆流<b class='flag-5'>為何如此</b>重要?

    跨阻放大器的的增益單位是dbΩ,如何如何換算成db?

    跨阻放大器的的增益單位是dbΩ,如何如何換算成db?
    發表于 08-19 06:28

    空載時為何OPA454如此發燙,這個發燙是正常現象嗎?

    Supply voltage, VS = (V+) – (V–) 120 V,是不是意味著我使用(V-)=-12V,(V+)=95V供電是在其允許范圍內的?在空載時為何OPA454如此發燙,這個發燙是正常現象么?
    發表于 08-02 10:08

    深度學習的基本原理與核心算法

    處理、語音識別等領域取得了革命性的突破。本文將詳細闡述深度學習的原理、核心算法以及實現方式,并通過一個具體的代碼實例進行說明。
    的頭像 發表于 07-04 11:44 ?3550次閱讀

    神經網絡反向傳播算法的優缺點有哪些

    是一種模擬人腦神經元網絡的計算模型,具有強大的非線性映射能力和泛化能力。反向傳播算法是訓練神經網絡的核心算法,通過梯度下降法優化網絡權重,使網絡輸出盡可能接近目標值。然而,反向傳播算法
    的頭像 發表于 07-03 11:24 ?1874次閱讀

    用launch pad燒錄chatgpt_demo項目會有api key報錯的原因?

    我用launch pad燒錄chatgpt_demo項目問題會有api key報錯;請問用launch pad要如何設置api key和調試?還是只能通過idf?
    發表于 06-27 07:59

    使用espbox lite進行chatgpt_demo的燒錄報錯是什么原因?

    我使用espbox lite進行chatgpt_demo的燒錄 我的idf是v5.1release版本的,espbox是master版本的 在編譯時似乎沒有什么問題 在燒錄時報錯 請問這是什么原因
    發表于 06-11 08:45
    主站蜘蛛池模板: 最新四虎4hu影库地址在线 | 亚洲区免费 | 欧美成人伊人久久综合网 | 日韩在线网 | 99热在线获取最新地址 | 亚洲综合区图片小说区 | 亚洲精品精品一区 | 五月综合激情视频在线观看 | 免费看欧美一级片 | 日本免费黄色 | 免费看很黄很色裸乳视频 | 8050午夜一级二级全黄 | 亚洲a影院 | 欧美大片xxxxbbbb| 好吊色37pao在线观看 | 日韩三级免费 | 日日添天天做天天爱 | 四虎最新免费观看网址 | 小屁孩cao大人免费网站 | 欧美色香蕉 | 美妇乱人伦性 | 插吧插吧综合网 | 5566精品资源在线播放 | 奇米影视四色首页手机在线 | 国产大毛片 | 国产亚洲欧洲人人网 | 美女免费视频黄 | 激情综合色综合啪啪开心 | 精品免费福利视频 | 中文字幕一区二区三区视频在线 | 亚洲男人的天堂久久香蕉网 | 久精品视频村上里沙 | 6一10周岁毛片免费 717影院理论午夜伦不卡久久 | 日本人zzzwww| 天天干天天操天天透 | 色爱区综合激月婷婷激情五月 | 五月婷婷丁香综合网 | 91在线国内在线播放大神 | 午夜高清免费在线观看 | 你懂的网站在线观看网址 | 亚洲毛片儿 |