在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

一種基于因果路徑的層次圖卷積注意力網(wǎng)絡

可靠性雜壇 ? 來源:可靠性雜壇 ? 2024-11-12 09:52 ? 次閱讀

摘要

機電系統(tǒng)中的故障檢測對其可維護性和安全性至關重要。然而,系統(tǒng)監(jiān)測變量往往具有復雜的聯(lián)系,很難表征它們的關系并提取有效的特征。本文開發(fā)了一種基于因果路徑的層次圖卷積注意力網(wǎng)絡(HGCAN),以提高復雜機電系統(tǒng)中數(shù)據(jù)驅(qū)動故障檢測模型的性能和可解釋性。引入了一種混合因果發(fā)現(xiàn)算法來發(fā)現(xiàn)監(jiān)測變量之間的繼承因果關系。順序連接因果變量的因果路徑用作接收場,使用多尺度卷積來提取特征。基于分層注意力機制來聚合不同級別的特征,該機制考慮到不同的特征重要性來分配自適應權重。為了驗證所提出方法的有效性,使用實際高速列車制動系統(tǒng)的數(shù)據(jù)集驗證。實驗結果表明,所提出的方法有很好的性能改進效果,對算法可解釋性的分析表明其有助于實際決策。

引言

復雜的機電一體化系統(tǒng)在現(xiàn)代技術中普遍存在,例如移動機械臂、隧道掘進機和航空發(fā)動機。這些系統(tǒng)通過集成許多異構組件來實現(xiàn)功能,如電氣、機械和液壓組件。與傳統(tǒng)系統(tǒng)相比,架構和功能復雜性的增加不僅使模塊耦合關系復雜化,而且模糊了子系統(tǒng)的邊界。由于功能和時空依賴性的增加,這些系統(tǒng)可能會對風險變得敏感。一些微小的故障可以通過故障傳播和故障級聯(lián)發(fā)展,引起連鎖反應,危及整個系統(tǒng)。因此,準確及時地檢測正在發(fā)生的故障至關重要,這可以有效提高系統(tǒng)的可維護性、安全性和可用性。

目前開發(fā)的故障檢測方法可分為三類,即基于物理的、基于專業(yè)知識的和數(shù)據(jù)驅(qū)動的。大多數(shù)基于物理和專業(yè)知識的模型都是建立在對以前故障記錄的經(jīng)驗和分析的基礎上的。然而,這些模型的性能在很大程度上取決于目標系統(tǒng)的可靠知識,這通常是非常昂貴和耗時的。大多數(shù)最先進的數(shù)據(jù)驅(qū)動故障檢測方法直接對輸入特征和系統(tǒng)狀態(tài)之間的相關性進行建模。這種建模過程模糊不清,因此可信度較低。此外,隨著監(jiān)測變量數(shù)量的增加,對其內(nèi)部關系進行建模變得很有挑戰(zhàn)性。

最近,因果關系被視為獲得可解釋變量關系的一種很有前途的方法。具體地說,揭示和研究了變量的遺傳因果關系,為了解變量如何相互因果影響提供了客觀而穩(wěn)健的知識。然而,目前關于利用因果關系進行系統(tǒng)故障檢測的研究非常有限。如何將因果關系有效地結合到故障檢測模型中并提高其能力仍然是一個問題。

圖卷積網(wǎng)絡(GCN)因其在處理空間結構化數(shù)據(jù)方面的有效性而受到廣泛研究。這些模型利用具有非歐幾里得特征的數(shù)據(jù)進行表示學習。特征提取不僅考慮了變量,還考慮了它們的空間關系,這使得其在許多領域都具有最優(yōu)的性能。使用GCN對空間知識進行整合推動了故障檢測應用的研究。

考慮到上述問題,本文提出了一種基于因果路徑的層次圖卷積注意力網(wǎng)絡(HGCAN),用于復雜機電系統(tǒng)的故障檢測。所開發(fā)的模型包括兩個主要步驟。第一步是構建因果圖,對高維監(jiān)測數(shù)據(jù)進行空間表征。傳統(tǒng)的因果發(fā)現(xiàn)依賴于領域知識或隨機控制軌跡(RCT)。但獲取相關領域知識具有挑戰(zhàn)性,且在復雜系統(tǒng)中進行隨機對照試驗是不切實際的。因此,數(shù)據(jù)驅(qū)動方法已成為一種替代選擇。針對上述問題,本工作將經(jīng)驗約束與數(shù)據(jù)驅(qū)動的因果發(fā)現(xiàn)相結合,以獲得更現(xiàn)實、更穩(wěn)定的因果結構。第二步是將因果圖輸入到開發(fā)的HGCAN模型中。與僅關注相鄰鄰居的傳統(tǒng)基于圖的模型不同,所開發(fā)的模型考慮了因果圖中祖先節(jié)點對其后代節(jié)點的影響。具體而言,模型在由順序連接的節(jié)點組成的因果路徑上進行運行,從而包含了有關系統(tǒng)的主要信息。與系統(tǒng)狀態(tài)變量相關的因果路徑作為輸入。多尺度卷積最初用于提取具有不同分辨率大小的各種特征。隨后,引入了一種分層注意力機制來融合來自不同卷積尺度和路徑的特征。該機制為提取的特征分配自適應權重,并基于它們在上下文中各自的重要性對其進行聚合。然后將生成的結果連接到全連接層,通過網(wǎng)絡輸出系統(tǒng)故障檢測結果。

為了驗證所提出模型的有效性,對高速列車制動系統(tǒng)進行了實例研究。與主流的數(shù)據(jù)驅(qū)動基準測試相比,實驗結果表明了該模型的優(yōu)越性。此外,對所提出的HGCAN的可解釋性分析也表明了其指導實際決策過程的潛力。

這項工作的主要貢獻包括:

(1)提出了HGCAN模型,該模型從因果路徑中提取特征,并利用層次注意力機制自適應地聚合特征;

(2)引入了將專家知識與數(shù)據(jù)相結合的混合因果發(fā)現(xiàn),用于表征監(jiān)測變量之間的空間關系;

(3)考慮到因果路徑在圖中可能數(shù)量較多,開發(fā)了特定的路徑篩選規(guī)則來過濾路徑信息,提高建模效率;

(4)對HST制動系統(tǒng)進行了實際案例研究,以評估和驗證模型的性能和可解釋性。

本文的其余部分組織如下。第2節(jié)說明了所提出的用于復雜機電系統(tǒng)故障檢測的HGCAN的詳細框架。第3節(jié)介紹了HST制動系統(tǒng)的案例研究,并與多種數(shù)據(jù)驅(qū)動模型進行了比較。最后,在第4節(jié)中得出結論和未來的研究方向。

基于因果路徑的層次圖卷積注意力網(wǎng)絡

圖1描述了所提出的基于因果路徑的層次圖卷積注意力網(wǎng)絡(HGCAN)的框架,該網(wǎng)絡由兩個主要步驟組成,即用于表征監(jiān)測變量空間結構的因果圖構建和用于因果路徑特征提取的層次圖卷積注意力網(wǎng)絡構建。首先,將經(jīng)驗約束與因果發(fā)現(xiàn)算法相結合,以表征高維監(jiān)測數(shù)據(jù)的空間關系。然后,提取導致圖中表示系統(tǒng)狀態(tài)的節(jié)點的因果路徑,用于基于不同分辨率大小的卷積的特征提取。通過基于不同的重要性分配自適應權重,將提取的特征與分層注意力機制融合。全連接層在最后階段產(chǎn)生系統(tǒng)檢測結果。所提出方法框架的細節(jié)如以下各節(jié)所示。

bacf3710-9057-11ef-a511-92fbcf53809c.jpg

圖1 所提出的故障檢測方法的流程圖

基于混合因果發(fā)現(xiàn)的空間結構挖掘

在機電一體化系統(tǒng)中的傳感器通常具有多種集成方式,這給提取有效的故障特征帶來了困難。本文將變量的空間結構表示為用因果發(fā)現(xiàn)方法構建的因果圖,揭示了所考慮變量之間的因果關系。故障的潛在產(chǎn)生和傳播可以實現(xiàn)可視化,有利于特征提取和模型解釋。獲得因果關系的傳統(tǒng)方法要么依賴于專家知識,要么依賴于隨機對照試驗。然而,這些方法受到維度爆炸的影響,即難以分析復雜系統(tǒng)中高維變量的內(nèi)部結構。為了獲得更真實的因果關系,本文引入了Peter-Clark(PC)算法與經(jīng)驗約束相結合的混合因果發(fā)現(xiàn)。目前,關于在PC算法中添加經(jīng)驗約束的研究有限,大多數(shù)使用該方法通過限制直接因果關系來約束搜索空間。在本文中,不僅考慮了局部關系,而且考慮了全局關系,用更全面的類型改進了經(jīng)驗約束。本工作中增加的經(jīng)驗約束包括以下兩種類型:

(1)局部因果關系約束。若變量和變量之間存在(不存在)直接因果關系,則因果圖中節(jié)點和節(jié)點之間存在邊(無邊);

(2)全局方向約束。變量是變量的祖先原因,則因果路徑只能在圖中從到。此處,因果關系包括直接因果路徑和間接因果路徑。

約束可以通過結合PC算法中的以下步驟來實現(xiàn):

(1)邊緣修改。在因果骨架中,添加或刪除與局部因果約束對應的邊;

(2)方向控制。當將骨架擴展到因果圖時,添加以下識別骨架中因果方向的規(guī)則:如果存在,則將修改為,其中是有向邊,表示因果關系的直接因果影響;是一個無向邊,意味著存在因果關系,但“因”沒有用可用數(shù)據(jù)確定;表示任意變量集。如果和在骨架中相鄰,則設定。

其他規(guī)則與PC算法中的規(guī)則相同。

(3)結構驗證。因果圖生成后,驗證最終圖中是否滿足所有方向約束。如果不滿足方向約束,則添加最相關的邊,或調(diào)整PC算法中的參數(shù)以進行新的搜索。

通過上述過程,可以獲得用因果關系表示的完全部分有向無環(huán)圖(CPDAG)。圖2展示了一個典型的CPDAG示例。

bae970bc-9057-11ef-a511-92fbcf53809c.jpg

圖2 因果CPDAG示例

基于因果路徑的層次卷積注意力

在復雜系統(tǒng)的圖中可以有許多因果路徑。某些不包括目標變量的路徑可能不會導致系統(tǒng)的故障。即只有通向表示系統(tǒng)狀態(tài)的節(jié)點的路徑才被考慮用于建模。以下步驟描述了詳細的過程,其流程圖如圖3所示。圖4描述了所提出的HGCAN的詳細結構。

bb041a84-9057-11ef-a511-92fbcf53809c.jpg

圖3 基于因果路徑的層次卷積注意力的流程圖

bb27d2f8-9057-11ef-a511-92fbcf53809c.jpg

圖4 所提出的HGCAN的詳細結構

(1)因果路徑集構造。首先提取從一個沒有祖先節(jié)點的根節(jié)點到表示系統(tǒng)狀態(tài)的節(jié)點的父節(jié)點的因果路徑(注意,不包括在路徑中)。將表示為圖的第個因果路徑,其中是中第個節(jié)點的特征值,是的節(jié)點數(shù)。

(2)路徑多尺度卷積。為了從因果路徑中提取不同的特征,首先乘以可學習參數(shù),將輸入路徑特征投影到維的高維空間中。然后,采用多尺度卷積提取不同感受野大小的因果路徑信息。通過提取具有不同分辨率的特征,有助于提高模型性能。

(3)具有層次注意機制的特征聚合。在使用L層卷積進行特征提取后,在最后一層引入注意力機制來測量不同的特征重要性,并將其與動態(tài)權重融合。該機制由兩個層次構成。即:路徑的不同卷積尺度上的注意力,以及不同路徑上的注意力。

(4)FC層的故障檢測結果。最后,采用具有非線性激活函數(shù)的全連接層作為分類器,將提取的因果圖表示映射到系統(tǒng)狀態(tài)標簽。具體地說,在基于層次注意力的聚合之后的特征向量被饋送到全連接層中。在網(wǎng)絡中堆疊隱藏層和輸出層以產(chǎn)生故障檢測結果。

補充:路徑篩選規(guī)則

在某些情況下,因果路徑可能很多,這會對建模效率產(chǎn)生負面影響,并可能導致過度擬合。此外,在最先進的研究中指出,葉節(jié)點和主路徑可能包含主要信息。這一發(fā)現(xiàn)也可以基于沿著路徑的信息傳播來證明,即后一個節(jié)點可以包含來自祖先節(jié)點的信息。因此,為了減少因果路徑,并關注主路徑和葉節(jié)點的特征,開發(fā)了一些路徑篩選規(guī)則如下。

(1)刪除包容性關系。如果路徑中的所有節(jié)點都順序地包含在中,則定義了和之間的包容關系。由于包含的因果流,為了方便,我們刪除了路徑。例如,在圖2中,包括在中,因此,刪除了。

(2)從根節(jié)點刪除。根節(jié)點被定義為沒有祖先節(jié)點的節(jié)點,該節(jié)點可能信息量較小。為了提高建模效率,篩選規(guī)則為:從一個根節(jié)點開始,如果兩條路徑和()的連續(xù)個節(jié)點相同,則刪除和的初始節(jié)點,并生成新的路徑和。圖5(a)展示了從的根節(jié)點中刪除的示例。

(3)葉節(jié)點保護。葉節(jié)點是沒有派生節(jié)點的節(jié)點,當它們接收祖先節(jié)點信息時,派生節(jié)點可以提供更多信息。篩選規(guī)則為:從葉節(jié)點反向開始,如果和()的連續(xù)個節(jié)點相同,則路徑和將通過只保留最后一個個節(jié)點作為新的路徑來融合。圖5(b)顯示了從的葉節(jié)點中刪除的示例。

bb4d4f9c-9057-11ef-a511-92fbcf53809c.jpg

圖5 一些路徑篩選規(guī)則的示例

案例驗證

在本節(jié)中,利用高速列車(HST)制動系統(tǒng)的真實數(shù)據(jù)進行故障檢測,以驗證所提出的方法對目標問題的有效性和可解釋性。

數(shù)據(jù)描述

HST制動系統(tǒng)是一個復雜的機電一體化系統(tǒng),由許多氣動、電氣和機械子系統(tǒng)組成。考慮到制動系統(tǒng)具有高速減速的重要功能,其是高速列車中最關鍵系統(tǒng)之一。圖6描述了所考慮的雙管HST制動系統(tǒng)的簡化示意圖。即使制動系統(tǒng)現(xiàn)在高度可靠,故障仍可能發(fā)生,其后果可能是災難性的。因此,早期故障檢測至關重要。

bb6ea44e-9057-11ef-a511-92fbcf53809c.jpg

圖6 HST制動系統(tǒng)示意圖

在這項工作中,使用了一個關于HST制動系統(tǒng)一年運行的真實數(shù)據(jù)集來驗證所提出方法的有效性。原始數(shù)據(jù)集中總共記錄了43個變量,包括速度、電壓、電流、溫度、制動模式等。不同類型的傳感器會導致數(shù)據(jù)集的不一致性。具體來說,有21個連續(xù)的數(shù)值變量和22個離散的分類變量。22個離散變量可以進一步劃分為20個非層次變量和2個層次變量。

因果圖構造

利用預處理的數(shù)據(jù)集,通過將經(jīng)驗約束與PC算法相結合的混合因果發(fā)現(xiàn),可以獲得制動系統(tǒng)的因果圖。具體來說,最初的38+1變量首先分為三類:客觀環(huán)境變量(如外部溫度、運行持續(xù)時間),人為因素變量(例如制動模式、訪問級別)和系統(tǒng)物理屬性變量(例如線路電流、線路電壓、懸架壓力)。根據(jù)實踐經(jīng)驗,客觀環(huán)境和人為因素變量是系統(tǒng)物理屬性的祖先節(jié)點,客觀環(huán)境變量與人為因素變量之間的直接因果關系有限。基于前述算法,獲得的因果圖如圖7所示。

bb8bf954-9057-11ef-a511-92fbcf53809c.jpg

圖7 HST制動系統(tǒng)的因果圖

比較研究

為了驗證所提出方法的有效性,采用了一組流行的數(shù)據(jù)驅(qū)動方法進行基準測試,其中包括傳統(tǒng)的數(shù)據(jù)驅(qū)動法,即基于徑向基核函數(shù)的成本敏感SVM(CS-SVM),包括ANN、具有全連接層的CNN(CNN-FC)、1D-ResNet和多尺度CNN(MsCNN)的神經(jīng)網(wǎng)絡,以及最近所提出的基于圖的模型,如GCN和多端圖注意力網(wǎng)絡(MHGAT)。

采用兩個指標來衡量不同方法在這些條件下的性能,即F1-measure指標和Matthews相關系數(shù)(MCC)得分:

其中,,

表1報告了比較研究的實驗結果。從表中可以看出,所提出的HGCAN方法在F1-measure和MCC得分方面都優(yōu)于基準方法,平均分別提高了6.85%和6.05%。這可以歸因于高級表示學習策略,其中因果路徑可以提供關于故障因果關系的有效信息。此外,所提出的HGCAN優(yōu)于其他基于圖的方法。GCN和MHGAT是基于鄰居節(jié)點特征的集成構建的,只考慮局部鄰居進行特征提取,而忽略了沿因果路徑流動的長程信息。此外,HGCAN還提高了效率,因為它既不需要所有變量,也不需要整個圖結構來建模。

表1 HST制動系統(tǒng)的故障檢測結果

bbb56f46-9057-11ef-a511-92fbcf53809c.png

模型可解釋性

所開發(fā)的HGCAN也帶來了令人滿意的故障發(fā)展邏輯的可解釋性。因果路徑聚合的注意力系數(shù)可以基于所建立的模型來計算,從而可以量化每個因果路徑的貢獻,以反映其在影響系統(tǒng)狀態(tài)中的重要性,從而能夠識別關鍵路徑。此外,由于故障因果關系編碼在因果路徑中,它們反過來可以幫助定位故障原因,并分析在系統(tǒng)監(jiān)控中發(fā)揮關鍵作用的組件,從而促進維護決策。

如圖8所示,HST制動系統(tǒng)數(shù)據(jù)集的分析表明,路徑、和在所有已識別的路徑中表現(xiàn)出最高的權重。因此,這些特定路徑被認為是HST制動系統(tǒng)內(nèi)潛在故障發(fā)生的關鍵因素。值得注意的是,變量是一個關鍵因素,有可能直接導致故障的發(fā)生,因為所有三條路徑在到達最終系統(tǒng)狀態(tài)變量之前都會向其匯聚。通過研究這些變量的物理含義,發(fā)現(xiàn)橙色和綠色的路徑與HST運行模式的不同設置導致的故障有關。另一方面,紅色路徑與電機牽引相關的故障有關。所有三條路徑都指向一組變量,即和,負責測量和控制牽引力和制動力的分配。專家經(jīng)驗也驗證了這些途徑和變量在影響系統(tǒng)狀態(tài)中的關鍵性。

bbd18cb2-9057-11ef-a511-92fbcf53809c.jpg

圖8 已確定的具有最大關注值的關鍵路徑

結論

本文提出了一個名為HGCAN的復雜機電系統(tǒng)故障檢測框架。首先,使用混合因果發(fā)現(xiàn)算法來表征高維變量的關系,該算法將先驗約束和PC算法相結合。然后,利用圖中導致系統(tǒng)狀態(tài)變量的因果路徑進行故障特征提取。考慮到不同的特征重要性,使用分層注意力機制對提取的特征進行融合,以實現(xiàn)規(guī)模和路徑級別的自適應聚合。該方法使用HST制動系統(tǒng)的實際數(shù)據(jù)集進行了驗證。對比實驗表明,該模型具有良好的性能。還探討了HGCAN在實際故障檢測中的可解釋性,表明所提出的模型可以幫助識別關鍵路徑和變量,從而有助于后續(xù)維護。

目前,本文中將因果關系定義為連接關系是否存在。未來的工作將考慮檢查可變連接的強度,并研究節(jié)點聚合策略。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關注

    關注

    23

    文章

    4702

    瀏覽量

    94933
  • 圖卷積網(wǎng)絡

    關注

    0

    文章

    8

    瀏覽量

    1566

原文標題:基于因果路徑的層次圖卷積注意力網(wǎng)絡在復雜機電系統(tǒng)故障檢測中的應用

文章出處:【微信號:可靠性雜壇,微信公眾號:可靠性雜壇】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    什么是圖卷積神經(jīng)網(wǎng)絡

    圖卷積神經(jīng)網(wǎng)絡
    發(fā)表于 08-20 12:05

    利用卷積調(diào)制構建一種新的ConvNet架構Conv2Former

    1、利用卷積探索一種更高效的編碼空域特征的方式  本文旨在通過充分利用卷積探索一種更高效的編碼空域特征的方式:通過組合ConvNet與ViT的設計理念,本文利用
    發(fā)表于 12-19 17:37

    一種金字塔注意力網(wǎng)絡,用于處理圖像語義分割問題

    基于以上觀察,我們提出了特征金字塔注意力模塊 (FPA),該模塊能夠融合來自 U 型網(wǎng)絡 (如特征金字塔網(wǎng)絡 FPN) 所提取的三不同尺度的金字塔特征。為了更好地提取不同尺度下金字塔
    的頭像 發(fā)表于 06-05 09:21 ?1.2w次閱讀
    <b class='flag-5'>一種</b>金字塔<b class='flag-5'>注意力</b><b class='flag-5'>網(wǎng)絡</b>,用于處理圖像語義分割問題

    北大研究者創(chuàng)建了一種注意力生成對抗網(wǎng)絡

    同時我們還將完整的GAN結構和我們網(wǎng)絡的部分相對比:A表示只有自動編碼器,沒有注意力地圖;A+D表示沒有注意力自動編碼器,也沒有注意力判別器;A+AD表示沒有
    的頭像 發(fā)表于 08-11 09:22 ?5203次閱讀

    什么是圖卷積網(wǎng)絡?為什么要研究GCN?

    下面就讓我們來深入了解下什么是圖卷積網(wǎng)絡,以及它在行為識別領域的最新工作進展吧!
    的頭像 發(fā)表于 06-10 14:07 ?3w次閱讀

    循環(huán)神經(jīng)網(wǎng)絡卷積神經(jīng)網(wǎng)絡注意力文本生成變換器編碼器序列表征

    序列表征循環(huán)神經(jīng)網(wǎng)絡卷積神經(jīng)網(wǎng)絡注意力文本生成變換器編碼器自注意力解碼器自注意力殘差的重要性圖像
    的頭像 發(fā)表于 07-19 14:40 ?3492次閱讀
    循環(huán)神經(jīng)<b class='flag-5'>網(wǎng)絡</b><b class='flag-5'>卷積</b>神經(jīng)<b class='flag-5'>網(wǎng)絡</b><b class='flag-5'>注意力</b>文本生成變換器編碼器序列表征

    基于注意力機制的深度學習模型AT-DPCNN

    情感分析是自然語言處理領域的個重要分支,卷積神經(jīng)網(wǎng)絡(CNN)在文本情感分析方面取得了較好的效果,但其未充分提取文本信息中的關鍵情感信息。為此,建立一種基于
    發(fā)表于 03-17 09:53 ?12次下載
    基于<b class='flag-5'>注意力</b>機制的深度學習模型AT-DPCNN

    基于注意力機制和多尺度特征融合的網(wǎng)絡結構

    目前多數(shù)利用卷積神經(jīng)網(wǎng)絡進行圖像超分辨率重建的方法忽視對自然圖像固有屬性的捕捉,并且僅在單尺度下提取特征。針對該問題,提出一種基于注意力
    發(fā)表于 03-22 11:18 ?16次下載
    基于<b class='flag-5'>注意力</b>機制和多尺度特征融合的<b class='flag-5'>網(wǎng)絡</b>結構

    一種注意力增強的自然語言推理模型aESIM

    在自然語言處理任務中使用注意力機制可準確衡量單詞重要度。為此,提出一種注意力增強的自然語言推理模型aESM。將詞注意力層以及自適應方向權重層添加到ESIM模型的雙向LSTM
    發(fā)表于 03-25 11:34 ?9次下載
    <b class='flag-5'>一種</b><b class='flag-5'>注意力</b>增強的自然語言推理模型aESIM

    基于語音、字形和語義的層次注意力神經(jīng)網(wǎng)絡模型

    結合英文幽默語言學特征,提出基于語音、字形和語義的層次注意力神經(jīng)網(wǎng)絡模型( PFSHAN)進行幽默識別。在特征提取階段,將幽默文本表示為音素、字符以及攜帶歧義性等級信息的語義形式,分別采用卷積
    發(fā)表于 03-26 15:38 ?14次下載
    基于語音、字形和語義的<b class='flag-5'>層次</b><b class='flag-5'>注意力</b>神經(jīng)<b class='flag-5'>網(wǎng)絡</b>模型

    一種上下文感知與層級注意力網(wǎng)絡的文檔分類方法

    文檔分類是自然語言處理(NLP)領域中的個基本問題。近年來,盡管針對這問題的層級注意力網(wǎng)絡已經(jīng)取得了進展,但由于每條句子被獨立編碼,使得模型中使用的雙向編碼器僅能考慮到所編碼句子的
    發(fā)表于 04-02 14:02 ?3次下載
    <b class='flag-5'>一種</b>上下文感知與層級<b class='flag-5'>注意力</b><b class='flag-5'>網(wǎng)絡</b>的文檔分類方法

    基于循環(huán)卷積注意力模型的文本情感分類方法

    和全局信息。文中針對單標記和多標記情感分類任務,提出一種循環(huán)卷積注意力模型( LSTM-CNN-ATT,LCA)。該模型利用注意力機制融合卷積
    發(fā)表于 04-14 14:39 ?10次下載
    基于循環(huán)<b class='flag-5'>卷積</b><b class='flag-5'>注意力</b>模型的文本情感分類方法

    基于深度圖卷積膠囊網(wǎng)絡融合的圖分類模型

    針對提取圖表征用于圖分類過程中的結構信息提取過程的問題,提出了一種圖卷積神經(jīng)網(wǎng)絡與膠囊網(wǎng)絡融合的圖分類模型。首先,利用圖卷積神經(jīng)
    發(fā)表于 05-07 15:17 ?9次下載

    計算機視覺中的注意力機制

    計算機視覺中的注意力機制 卷積神經(jīng)網(wǎng)絡中常用的Attention 參考 注意力機制簡介與分類 注意力機制(Attention Mechan
    發(fā)表于 05-22 09:46 ?1次下載
    計算機視覺中的<b class='flag-5'>注意力</b>機制

    一種新的深度注意力算法

    本文簡介了一種新的深度注意力算法,即深度殘差收縮網(wǎng)絡(Deep Residual Shrinkage Network)。從功能上講,深度殘差收縮網(wǎng)絡
    發(fā)表于 05-24 16:28 ?0次下載
    <b class='flag-5'>一種</b>新的深度<b class='flag-5'>注意力</b>算法
    主站蜘蛛池模板: 黄色小视频免费 | 人人澡人人搞 | 性欧美大胆高清视频 | 午夜黄色一级片 | 国产精品一区二区三区四区 | 大尺度在线播放 | 亚洲色图 欧美 | 日日夜夜狠狠 | 天堂-bt种子 | 77久久| 亚洲二区在线观看 | 人人干在线观看 | www.黄黄黄 | 日韩欧美中文在线 | 色四虎| 一级毛片黄色片 | 日本视频www色 | 性夜影院爽黄e爽在线观看 羞羞色院91精品网站 | 日本高清色视频在线观看免费 | 极品丰满翘臀后进啪啪 | 视频网站免费 | 久久手机免费视频 | 欧美性xxxxxbbbbbb精品 | aaa亚洲| 丁香花在线观看免费观看 | 亚洲va久久久噜噜噜久久天堂 | 亚洲性天堂 | 亚洲一区在线视频 | 俄罗斯一级成人毛片 | 成人狠狠色综合 | 天天操夜夜嗨 | 色噜噜狠狠色综合中文字幕 | 在线免费你懂的 | 日韩三级在线免费观看 | 日本亚洲成人 | 井野雏田小樱天天被调教 | 亚洲欧洲一区二区三区在线观看 | 黄色网址播放 | 九九99久久精品影视 | 亚洲国产一区二区三区a毛片 | 天天操狠狠 |