人工智能近幾年實現(xiàn)了爆炸式發(fā)展，深度學習可以說是其主要的推動力。

在計算機視覺領(lǐng)域，大部分的問題都已經(jīng)開始使用深度神經(jīng)網(wǎng)絡進行解決，也確實取得了廣泛的成功。在很多視覺任務中，如圖像識別、語義分割、目標檢測與跟蹤、圖像檢索等，作為提取特征的CNN網(wǎng)絡模型往往起到了關(guān)鍵的作用。我們經(jīng)常見到最新的方法將基礎網(wǎng)絡換一下，性能就會得到很大的提升。因此，研究并設計一個更好的網(wǎng)絡模型變得至關(guān)重要。

基礎網(wǎng)絡模型的結(jié)構(gòu)樣例

最新研究進展

經(jīng)典的神經(jīng)網(wǎng)絡模型主要在“寬度”與“深度”方面進行不同程度的擴增。借助于大規(guī)模數(shù)據(jù)的訓練，AlexNet、VGG-16、VGG-19等經(jīng)典網(wǎng)絡通過寬度或深度增加的參數(shù)可以有效地提升其模型的表達能力。但當網(wǎng)絡變得越來越深，其訓練難度也隨之相應增加，反而會導致性能的下降。最近的ResNet和Highway Networks等方法通過引入Skip跳躍結(jié)構(gòu)來試圖解決極深網(wǎng)絡在優(yōu)化上帶來的問題。

ResNet和Highway Networks結(jié)構(gòu)的簡單示意圖

最新的一些研究嘗試從其他角度來解釋Highway、ResNet和GoogLeNet等網(wǎng)絡結(jié)構(gòu)表現(xiàn)優(yōu)異的原因。其中我在微軟實習的導師王井東研究員、實習生魏禎和張婷以及曾文君研究員提出Deep Fusion （Jingdong Wang， Zhen Wei， Ting Zhang， Wenjun Zeng： Deeply-Fused Nets. CoRR abs/1605.07716 （2016））深度融合的概念，認為不同分支的網(wǎng)絡在中間層進行融合（加和或拼接等方式）能夠（1）產(chǎn)生很多潛在的共享參數(shù)的基礎網(wǎng)絡，（2）同時優(yōu)化信息的流動，（3）從而幫助深層網(wǎng)絡的訓練過程。

Deep Fusion深度融合最簡單形式的概念示意圖

我們可以發(fā)現(xiàn)很多有代表性的網(wǎng)絡結(jié)構(gòu)基本都可以按照深度融合的概念進行理解。除去LeNet、AlexNet、VGGNet等單分支網(wǎng)絡，近兩年提出的ResNet、Highway Networks、GoogLeNet系列等網(wǎng)絡均可以看作是不同程度上的深度融合網(wǎng)絡。在這個概念下，我們發(fā)現(xiàn)今年新的Inception-v4、FractalNet、DenseNet、ResNeXt以及我們新提出的Merge-and-Run等網(wǎng)絡結(jié)構(gòu)在融合方式上進行了更多的設計和探索，使得中間的融合次數(shù)和分支數(shù)目更多，從而得到更多的基礎網(wǎng)絡和更優(yōu)的信息流動，最終取得更好的性能表現(xiàn)。

近期一些深度神經(jīng)網(wǎng)絡模型的基本結(jié)構(gòu)示意圖

康奈爾大學的Serge Belongie團隊也有類似的觀察與發(fā)現(xiàn)，他們解釋ResNet其實是眾多相對較淺的潛在網(wǎng)絡的一個集成。在模型的測試階段發(fā)現(xiàn)將網(wǎng)絡中的一些模塊去掉，剩下的網(wǎng)絡模型依然具有不錯的表現(xiàn)。

將ResNet中的某些模塊移除的實驗示意圖

最近提出的一些新的深度神經(jīng)網(wǎng)絡方法也從側(cè)面印證了這方面的研究，如ResNet with Stochastic Depth、FractalNet和Swapout等使用Drop-path的方法與上述移除Residual模塊的研究有著異曲同工之妙。ResNet of ResNet、ResNeXt、Multi-Residual Networks和DenseNet等增加分支或路徑數(shù)目的方法均得到了性能上的提升，從某種程度上驗證了增加基礎網(wǎng)絡數(shù)目對整體網(wǎng)絡模型的影響。

我們的工作

我們沿著deep fusion的思路更進一步地研究了類似ResNet、Highway、Inception等結(jié)構(gòu)的深度融合網(wǎng)絡，探索了“深度”在神經(jīng)網(wǎng)絡當中究竟帶來了什么。基于研究觀察與分析，我們又提出了一個新的網(wǎng)絡模型，在不同數(shù)據(jù)集上均取得了不錯的表現(xiàn)。

一、深度融合網(wǎng)絡剖析

首先我們從網(wǎng)絡結(jié)構(gòu)和實驗分析上展示這種多分支融合的網(wǎng)絡跟多個潛在網(wǎng)絡集成的關(guān)系。

多分支融合的網(wǎng)絡與集成網(wǎng)絡的結(jié)構(gòu)類似

通過上圖可以發(fā)現(xiàn)多分支融合的網(wǎng)絡形式可以近似很多潛在網(wǎng)絡的集成過程，區(qū)別是沒有中間的信息交互，只是他們共享對應層的網(wǎng)絡參數(shù)。通過10組不同深度的網(wǎng)絡結(jié)構(gòu)實驗發(fā)現(xiàn)，這樣一個共享參數(shù)的集成網(wǎng)絡與帶信息交互的深度融合網(wǎng)絡性能表現(xiàn)很相似。

深度融合網(wǎng)絡與集成網(wǎng)絡的表現(xiàn)類似

二、深度帶來更多組成網(wǎng)絡

下一步就可以利用集成學習中的一些思路來指導我們對該類型的深度融合網(wǎng)絡進行剖析。首先是研究其潛在的基礎網(wǎng)絡數(shù)目，很明顯上面圖中融合3次的網(wǎng)絡能夠組合8個基礎網(wǎng)絡，即2^3個。那么我們可以發(fā)現(xiàn)增加融合次數(shù)可以提升基礎網(wǎng)絡的組合數(shù)目。那么像ResNet、Highway、Inception等形式的網(wǎng)絡，增加“深度”帶來的一個影響就是增加了其潛在基礎網(wǎng)絡的組合數(shù)目（Ensemble Size）。

不同融合次數(shù)會得到不同數(shù)目的組合網(wǎng)絡（路徑）

我們也通過實驗在不同深度的網(wǎng)絡結(jié)構(gòu)上驗證了：增加組合數(shù)目能像傳統(tǒng)Ensemble理論中增加Ensemble Size一樣提升整體性能。

較多的組合網(wǎng)絡數(shù)目能夠取得更好的結(jié)果

我們也通過實驗在不同深度的網(wǎng)絡結(jié)構(gòu)上驗證了增加組合網(wǎng)絡數(shù)目能夠提升整體性能，這也與傳統(tǒng)Ensemble理論中增加Ensemble Size能提升性能的結(jié)論相吻合。我們可以看到ResNet在增加深度的同時，極大地增加了組合數(shù)目，這也是其性能優(yōu)異的原因之一。

三、深度影響整體性能

我們繼續(xù)研究每一個基礎組合網(wǎng)絡，并且探索在深度融合的過程中其相互之間會產(chǎn)生怎樣的影響。對比每個網(wǎng)絡單獨分開訓練得到的模型，我們發(fā)現(xiàn)，深度融合網(wǎng)絡里較深的組合網(wǎng)絡性能得到了提升，但較淺的組合網(wǎng)絡性能反而下降了。我們猜想在訓練過程中，由于淺層的網(wǎng)絡容易收斂，它們能夠幫助深層的網(wǎng)絡進行優(yōu)化。但深度融合網(wǎng)絡的各個潛在的組成網(wǎng)絡是共享參數(shù)的，極深的網(wǎng)絡可能會影響較淺網(wǎng)絡的求解空間與難度，從而產(chǎn)生相互影響性能往中間靠攏的現(xiàn)象。

每一個單獨的組成網(wǎng)絡行為分析

既然我們認為最終的表現(xiàn)是一種集成的近似，那么我們是否可以著手尋找更優(yōu)的組合網(wǎng)絡以達到整體性能的提升？通過上述組合網(wǎng)絡之間相互影響的啟發(fā)，我們認為極深的網(wǎng)絡會產(chǎn)生“拖后腿”的效果，反而較深但又不是特別深的“中間”網(wǎng)絡會對結(jié)果影響比較大。上圖的實驗結(jié)果也驗證了我們的這個想法：（a）顯示了每個組成網(wǎng)絡由于共享參數(shù)導致的性能變化；（b）顯示了每個組成網(wǎng)絡對整體網(wǎng)絡（ensemble）的相對貢獻程度。

我們依然需要淺層網(wǎng)絡來幫助訓練較深網(wǎng)絡，而且實際設計神經(jīng)網(wǎng)絡的時候很難做到只保留中間深度的網(wǎng)絡結(jié)構(gòu)。那么一個折中的方案是把這里面最深的組成網(wǎng)絡去掉，這樣看看對結(jié)果會產(chǎn)生什么影響。

去除最深的組成網(wǎng)絡（重新訓練或只是測試時候去除）

上圖三個方法的實驗結(jié)果表明，去除極深的組成網(wǎng)絡不會對整體性能產(chǎn)生太大影響，有時候反而會提高最終結(jié)果。

去除極深的組成網(wǎng)絡不會影響太大，大部分情況下反而會提升性能

四，提出新的方法

基于上述觀察，我們認為一個好的網(wǎng)絡結(jié)構(gòu)應該包含如下兩個特性：足夠多的潛在網(wǎng)絡數(shù)目，以及足夠好的組成網(wǎng)絡。最簡單的策略是去掉“拖后腿”的極深網(wǎng)絡，將其變成“中間”深的組成網(wǎng)絡。下面是我們提出的方法：

基于ResNet的形式，我們提出新的網(wǎng)絡結(jié)構(gòu)（b）和（c）

基于ResNet的形式，我們提出的Inception-Like結(jié)構(gòu)與Merge-and-Run結(jié)構(gòu)都去除了極深的那一條線路，但是Inception-Like的組合數(shù)目比相同參數(shù)下的ResNet要少，因此我們認為Merge-and-Run形式比較符合我們的分析與觀察。最終的實驗結(jié)果也確實驗證了這一想法，而且跟上面的實驗觀察相吻合：Inception-Like沒有極深網(wǎng)絡的影響，更加容易訓練或收斂，比ResNet會稍好一點，與上述的Ensemble-7與Ensemble-8的實驗結(jié)果相似。Merge-and-Run結(jié)構(gòu)比Inception-Like的潛在網(wǎng)絡數(shù)目多，最終結(jié)果也是比Inception-Like的表現(xiàn)要好。

ResNet， Inception-Like和Merge-and-Run在不同數(shù)據(jù)集上的對比

在ImageNet結(jié)果上也驗證了我們前面的論述 （我們的方法用DFN-MR表示）：

我們提出的DFN-MR與ResNet在ImageNet數(shù)據(jù)集上的對比

五、總結(jié)

目前一個研究熱點是在深度神經(jīng)網(wǎng)絡中引入一個新的維度：潛在的組成網(wǎng)絡數(shù)目（Ensemble Size）。可以發(fā)現(xiàn)像ResNet、Highway、Inception等網(wǎng)絡增加“深度”的同時，實際增加了這個網(wǎng)絡數(shù)目。此外，我們的工作發(fā)現(xiàn)極深網(wǎng)絡除了能增加潛在網(wǎng)絡數(shù)目外，對整體性能的貢獻并不是最大的。反而會影響其它的組成網(wǎng)絡，導致最終的結(jié)果受到影響。我們按照“不減少組成網(wǎng)絡數(shù)目”和“避免極深組成網(wǎng)絡”這兩個原則，設計出新的網(wǎng)絡結(jié)構(gòu)，發(fā)現(xiàn)在不同數(shù)據(jù)集上總是表現(xiàn)優(yōu)異。后續(xù)工作可以圍繞當前分析的內(nèi)容，最優(yōu)化提出的設計指標與原則，得到更容易訓練性能更好的網(wǎng)絡模型。