開發(fā)一個卷積神經(jīng)網(wǎng)絡（CNN）的成本通常是固定的。在獲得更多資源時，我們通常會按比例進行擴展，以便獲得更優(yōu)的準確性。例如，ResNet可以通過增加層數(shù)從ResNet-18擴展到ResNet-200，最近，GPipe 網(wǎng)絡通過將基準 CNN 模型擴展四倍，在 ImageNet Top-1 上獲得了 84.3％ 的準確度。在模型擴展方面的操作通常是任意增加 CNN 的深度或?qū)挾龋蛘咴诟筝斎雸D像分辨率上進行訓練和評估。雖然這些方法確實提高模型了準確性，但它們通常需要繁瑣的手工調(diào)整，而且還不一定能找到最優(yōu)的結(jié)構(gòu)。換言之，我們是否能找到一種擴展設計方法來獲得更好的準確性和效率呢？

在 Google 的 ICML 2019 論文“EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks”中，作者提出了一種新的模型尺度縮放方法，該方法使用簡單且高效的復合系數(shù)以更結(jié)構(gòu)化的方式來擴展 CNN。 與任意縮放網(wǎng)絡尺寸的傳統(tǒng)方法（例如寬度、深度和分辨率）不同，本文使用一個固定的縮放系數(shù)集合，均勻地縮放每個維度。 借助這種新的縮放方法和在AutoML 方面的最新進展，Google 開發(fā)了一系列稱為 EfficientNets 的模型，它超越了 SOTA 的精度，并且將效率提高了10倍（更小、更快）。

復合模型擴展：一種更好的擴展 CNN 的方法

為了理解擴展網(wǎng)絡的效果，本文系統(tǒng)地研究了擴展模型不同維度帶來的影響。雖然擴展各個維度可以提高模型性能，但作者觀察到，平衡網(wǎng)絡寬度、深度和輸入圖像大小這些維度比增加計算資源，可以更好地提高整體性能。

復合擴展方法的第一步是執(zhí)行網(wǎng)格搜索，用來找到在固定資源下基準網(wǎng)絡不同擴展維度之間的關(guān)系。這決定了上文提到的每個維度的縮放系數(shù)。然后，作者用這些系數(shù)將基準網(wǎng)絡擴展到所需的目標模型大小或預算的計算力。

不同縮放方法的比較。 與傳統(tǒng)僅縮放單個維度的方法（b）-（d）不同，我們的復合縮放方法以某種方式統(tǒng)一擴展所有維度。

與傳統(tǒng)的縮放方法相比，這種復合縮放方法可以用于提高多個模型的準確性和效率，如MobileNet（+ 1.4％圖像網(wǎng)精度）和ResNet（+ 0.7％）。

高效的網(wǎng)絡架構(gòu)

模型縮放的有效性也在很大程度上依賴于基準網(wǎng)絡。 因此，為了進一步提高性能，作者使用了 AutoML MNAS 框架（該框架在準確性和效率上都做了優(yōu)化），利用神經(jīng)架構(gòu)搜索來開發(fā)新的基準網(wǎng)絡。 由此產(chǎn)生的架構(gòu)使用了移動端的逆向 bottleneck 卷積（MBConv），類似于 MobileNetV2 和 MnasNet，但由于有更多的 FLOP 預算，因此結(jié)構(gòu)略大。最終，作者擴展了這個基準網(wǎng)絡以獲得一系列模型，稱為 EfficientNets。

本文的基準網(wǎng)絡 EfficientNet-B0，其架構(gòu)簡單干凈，便于擴展。

EfficientNet 網(wǎng)絡的性能

文中將 EfficientNets 與 ImageNet 上其他現(xiàn)有的 CNN 進行了比較。 總的來說，EfficientNet 模型實現(xiàn)了比現(xiàn)有 CNN 更高的精度和更高的效率，將參數(shù)大小和 FLOPS 降低了一個數(shù)量級。 例如，在高精度下，EfficientNet-B7 在 ImageNet 上達到了 SOTA 的Top-1，84.4％ 的準確率與 Top-5 97.1％ 的準確率，同時在 CPU 上的開銷比之前的 Gpipe 小 8.4 倍和 6.1 倍。與廣泛使用的 ResNet-50 相比，EfficientNet-B4 在保持相同 FLOPS 開銷情況下，將 Top-1 的精度從ResNet-50 的 76.3％ 提高到 82.6％（+ 6.3％）。

模型尺寸與精度比較。 EfficientNet-B0 是由 AutoML MNAS 開發(fā)的基準網(wǎng)絡，而 Efficient-B1 到 B7 是通過擴展基準網(wǎng)絡得到。特別是，EfficientNet-B7 實現(xiàn)了 SOTA 的 Top-1，84.4％ 準確率與 Top-5，97.1％ 的準確率，同時比現(xiàn)有最佳的 CNN 小 8.4 倍。

盡管 EfficientNets 在 ImageNet 上表現(xiàn)較好，但為了驗證它的泛化能力，也應該在其他數(shù)據(jù)集上進行測試。 為了評估這一點，作者在八個廣泛使用的遷移學習數(shù)據(jù)集上測試了EfficientNets。EfficientNets 在 8 個數(shù)據(jù)集中的 5 個中實現(xiàn)了 SOTA 的精度，例如 CIFAR-100（91.7％）和 Flowers（98.8％），模型參數(shù)減少了一個數(shù)量級（減少了21倍），這表明EfficientNets 也能很好的進行遷移。

由于 EfficientNets 顯著提高了模型效率，作者預計它可能在未來會成為計算機視覺任務的新基礎。 因此，作者開源了所有 EfficientNet 模型。