一、深度學習基礎

1、首先，我們簡單了解什么是感知器，感知器就是單個神經元。

深度學習模擬的是人體的大腦，神經元的樹突在接收到特定的輸入刺激后，其胞體就會被激活，并通過軸突向其它神經元輸出興奮，從而導致更多的神經元被激活，這是大腦思考的基礎。 這個過程簡化為當神經遞質的濃度達到一個特定的閾值，就可以通過電信號傳導興奮。

在深度學習中，生物學中的過程建模為上圖，神經元可以表示成圖中的?，當接受到輸入信號時，會乘以權重w1和w2，神經元計算出總和，超過閾值θ時被激活，輸出1。 θ稱為偏置，w1和w2稱為權重。

令b=-θ，公式可以改寫為下圖：

偏置和權重的作用是：w1和w2表示輸入對激活的重要性，b用來調整激活的難易程度。

2、邏輯門的實現

我們來看一下硬件中的邏輯電路是如何通過神經元實現的。

1'與門

(w1,w2,θ)=(0.5,0.5,0.7)滿足與門 (x1,x2,y)=000,010,100,111

2'與非門

(w1,w2,θ)=(-0.5,-0.5,-0.7)滿足與非門 (x1,x2,y)=001,011,101,110

3’或門

(w1,w2,θ)=(0.5,0.5,0.3)滿足或門 (x1,x2,y)=000,011,101,111

調整權重和閾值可以從硬件底層實現不同的邏輯門。 但是同時我們會發(fā)現，無論如何調整參數都無法實現異或門。

(w1,w2,b)=(1,1,-0.5)時x1+x2-0.5>=0?，在坐標系中畫出x2=0.5-x1的直線，直線右側表示神經元被激活時的輸入。 左圖表示或門，右圖表示異或門，異或門的對角表示激活，沒有直線可以分隔開。 由此可見，神經元實現的是線性化的運算，如果要實現異或門這種非線性的運算，就只能用多層感知器。

3、多層感知器

在數字電路中，異或門為y=AB'+A'B=AA'+AB'+A'B+A'B'=(A+B)(A'+B')=(A+B)(AB)'，左圖用三個基本邏輯門可以實現異或。 右圖是多個神經元的表現方式。

對于復雜函數，感知器有實現的可能性，但是參數需要手動設置。 為了解決這個問題，神經網絡應運而生，它可以自動學習到參數。 那么，神經網絡如何自動學習呢？ 隨著學習的深入，后面會慢慢揭曉！