本文貢獻(xiàn)有如下兩點：

提出了一個面向方面的樹結(jié)構(gòu)，通過重塑和修剪普通的依存樹來關(guān)注目標(biāo)方面。

提出了一個新的GAT模型來編碼依存關(guān)系，建立方面和意見詞之間的聯(lián)系。

餐廳評論中的三個例子來說明 ABSA 中方面aspect、注意力和句法之間的關(guān)系。Labeled edges表示依存關(guān)系，每個單詞下的分?jǐn)?shù)表示由LSTM分配注意力權(quán)重。具有高注意力權(quán)重的詞在「紅色框」中突出顯示，括號中的詞是目標(biāo)方面target aspect，后面是它們的情感標(biāo)簽。

面向方面的樹的構(gòu)建

輸入：原來的解析結(jié)果以及句子和方面。（原文有偽代碼）

「第一步」 將目標(biāo)方面放在根節(jié)點

「第二步」 我們將與方面有直接連接的節(jié)點設(shè)置為子節(jié)點，保留原始的依存關(guān)系

「第三步」 舍棄了其他的依存關(guān)系，取而代之的是一個從aspect到每個對應(yīng)節(jié)點的虛擬關(guān)系n:con，其中n表示兩個節(jié)點之間的距離。

注意 如果句子包含多個方面，我們?yōu)槊總€方面構(gòu)建一個唯一的樹。

根據(jù)是前人研究證明只關(guān)注在語法上接近目標(biāo)方面的一小部分上下文詞就足夠了。好處是每個方面都有自己的依存樹，可以減少不相關(guān)節(jié)點和關(guān)系的影響，同時這種統(tǒng)一的樹結(jié)構(gòu)不僅使模型專注于方面和情感詞之間的聯(lián)系，而且在訓(xùn)練過程中便于批量操作和并行操作。

R-GAT

為了對上述樹進(jìn)行編碼，在GAT的基礎(chǔ)上提出了一個新的R-GAT：relation graph attention network

GAT實現(xiàn)的是：

每個結(jié)點只對鄰居結(jié)點進(jìn)行注意力計算權(quán)重。這個得到的是。注意 表明一共使用了個做轉(zhuǎn)換矩陣，最后將它們得到的結(jié)果拼接到一起。

作者認(rèn)為沒有考慮到和相鄰接點的依存關(guān)系是存在不同的，不可以用同樣方法去計算。因此引入了考慮不同的依存關(guān)系的R-GAT來補(bǔ)充信息。大致的思想相同，只是對于（1）中的有考慮進(jìn)新的信息，也就是不同的依存關(guān)系。

「R-GAT」：

作者將各種依存關(guān)系映射到嵌入中，結(jié)點i和結(jié)點j之間的就是

也就是先將依存關(guān)系經(jīng)過兩層線性層，然后對一個結(jié)點的所有邊的結(jié)果歸一化，變成對應(yīng)的系數(shù)。

整個網(wǎng)絡(luò)結(jié)構(gòu)

結(jié)構(gòu)很簡單如下：

具體來說首先需要把句子的依存分析結(jié)果通過變換得到面向方面的數(shù)，這個結(jié)果將參與后續(xù)的圖編碼。

「第一步」，將句子的詞嵌入經(jīng)過BiLSTM編碼得到，利用另一個BiLSTM編碼方面詞作為根節(jié)點嵌入的初始化。

「第二步」，利用GAT和R-GAT分別去處理h，得到和，注意相當(dāng)于只用處理一個根節(jié)點。將得到的結(jié)果拼接到一起，再經(jīng)過一個線性層就是該方面詞的表達(dá)。

「第三步」，softmax分類得到方面詞預(yù)測結(jié)果。

Loss Function

實驗和分析

不同方法在三個數(shù)據(jù)集上的實驗：

多方面分析結(jié)果，表明距離較近的方面往往導(dǎo)致準(zhǔn)確度得分較低：

不用Parser的影響：

消融研究的結(jié)果，其中“Ordinary”表示使用普通依存樹，“Reshape”表示使用面向方面的樹，“*-n:con”表示不使用n:con的面向方面的樹：

R-GAT 和 R-GAT+BERT 對來自Restaurant數(shù)據(jù)集的 100 個錯誤分類示例的錯誤分析結(jié)果。原因分為四類，并給出了樣本。上表對應(yīng) R-GAT 的結(jié)果，下表對應(yīng) R-GAT+BERT：