我們經常會把大腦和計算機進行比較，大腦和計算機有很多相似之處。大腦包含了千億級別的神經元（neurons ），神經元細胞互相連接協同工作從而使大腦具有不可思議的神奇能力。神經元包含細胞體和神經元突起兩部分，細胞體由細胞核、細胞膜和細胞質構成，具有整合輸入信息并傳出信息的作用。而神經元突起又分為樹突（dendrite）和軸突（axon）兩種，樹突具有接受刺激并將沖動傳入細胞體的功能，軸突的主要是將神經沖動由胞體傳至其他神經元或效應細胞。神經元是神經系統最基本的結構和功能單位，在整個大腦中神經元只有大概10%，其余部分都是神經膠質。

我們都知道計算機的核心是處理器，處理器由大量的晶體管（transistor）構建而成。最新的微處理器包含了超過20億個晶體管，即使是功能非常簡單的微處理器也包含了至少500萬個晶體管。這些晶體管共同協作使得計算機具有強大的數據處理能力。構建處理器的晶體管是一種固體半導體器件，具有檢波、整流、放大、開關、穩壓、信號調制等多種功能，作為一種可變電流開關，晶體管能夠基于輸入電壓控制輸出電流。由晶體管構成的處理器連接和控制各種各樣的計算機外圍輸入輸出設備，使得計算機具有強大交互能力，在我們生活中扮演著越來越重要的角色。

雖然大腦是由大量互聯的神經元細胞構成，計算機的中央處理器也是由大量的晶體管構建而成，但是大腦神經元和計算機晶體管在連接方式，以及大腦和計算機的運行方式是完全不同的。 大腦中神經元細胞以一種大量復雜并行的方式連接在一起，每個神經元可能和上萬個其它神經元連接在一起；而計算機中晶體管以相對簡單的方式串聯在一起，每個晶體管可能只和兩到三個其它晶體管連接起來形成邏輯門電路。這種連接結構上的差異導致了大腦和計算機在工作方式的巨大差異。計算機可以精確無誤的存儲海量的數據信息，并且可以根據計算機指令對數據進行任意處理，例如計算機可以輕松的存儲整個圖書館的圖書內容，并瞬間精確無誤的找出任意內容。對于大腦而言這幾乎是不可能的。相比于計算機，大腦可能需要花費數月甚至數年的時間來學習和理解一些復雜的東西，在此基礎之上大腦可以以一種全新的方式對外界輸入做出響應。例如大腦可以很容易就能準確地識別出圖片中的物體，即使是圖片中包含以前不曾見過的物體。 這類對于計算機而言非常復雜的問題，對大腦而言卻非常的容易。這也就是神經網絡的魅力所在。

人工神經網絡（artificial neural networks） 是一種模仿生物神經網絡行為特征，進行信息處理的算法數學模型。在人工神經網絡模型中使用單元節點模擬神經元，通過調整神經網絡內部大量節點（神經元）之間相互連接的權重來達到處理信息的目的。人工神經網絡的神奇之處在于不需要顯示的編程告訴計算機該如何處理信息，它可以像大腦一樣從已知數據信息中進行自我學習，然后對全新的輸入數據信息輸出正確的響應。人工神經網絡并非真正的大腦，它只是使用軟件模擬人腦，用軟件的方式使普通的晶體管像數億互聯的神經元細胞一樣工作。

一個典型的人工神經網絡由一個輸入層（input layer），多個隱藏層（hidden layer）和一個輸出層（output layer）構成。神經網絡的第一層稱為輸入層，被設計來從外部接收各種輸入；神經網絡的最后一層稱為輸出層，輸出處理結果；位于輸入和輸出層之間有一到多個層稱為隱藏層，神經網絡的大部分由隱藏層構成。每一層由單元節點（或稱為神經元，感知器）構成，并且單元節點與前后的層的單元節點互相連接。幾乎所有的神經網絡都是全連接的，即每層中的單元節點與它兩邊的層的各個單元節點都是連接的。神經網絡對連接都賦予一個權重值，權重表明前一個單元的輸出對下一個單元輸出的影響力。

數據信息從神經網絡的輸入層進入神經網絡，經過隱藏層單元節點的處理，最后由輸出層輸出處理結果。最最簡單的人工神經網絡是前饋神經網絡，前饋神經網絡是一個沒有循環，單向傳播，是最簡單的人工神經網絡。神經網絡中的單元節點從它左邊單元節點接收輸入， 輸入乘以各個連接上的權重然后求和，如果加權求和的值大于某個閥值，這個單元將觸發輸出到右側與它相連單元節點。

神經網絡需要經過訓練和學習，從而使得神經網絡能生成期望的輸出。神經網絡的學習可分為：監督學習，無監督學習和強化學習，神經網絡的訓練中最常用的是監督學習。在監督學習中每個訓練實例都是由一個輸入值和一個期望的輸出值（也稱為監督信號）組成。訓練的輸入值通過神經網絡的后得到輸出值，輸出值和期望值之間的誤差差從輸出層開始反向逐層反饋回神經網絡，這個反饋過程就是神經網絡的反向傳播過程。在反向傳播過程中，神經網絡根據誤差來修正單元之間連接的權重，從而縮小輸出與期望之間誤差。整個訓練的關鍵是給權重設置正確的值，從而在神經網絡能夠生成期望的輸出。反向傳播使神經網絡具有自我學習的能力。

經過訓練好的神經網絡能夠處理全新輸入數據，生成期望的輸出值。例如，使用大量已經標記好的椅子和桌子的圖片訓練神經網絡，然后當輸入一張以前沒有見過的椅子或桌子的圖片時，神經網絡會根據以往訓練圖片中得到的經驗辨別圖片中的是椅子還是桌子。在這個例子中，假設輸入圖片被抽象成包含五個布爾變量的向量：1）圖片包含的物體是否有后背？2）是否有頂部？3）是否有柔軟的墊子？4）是否可以長期舒適地坐在上面？5）能否堆放很多東西放在上面？ 通過訓練，神經網絡學習的椅子的典型特征是有后背，沒有頂部，有軟墊，可以只長期舒適地坐在上面，不能放東西；而桌子的典型特征是沒有后背，有頂部，沒有軟墊，不能長期舒適地坐在上面，可以堆放東西。當全新的圖片輸入神經網絡時，它會檢查輸入數據是否具有對應的特征，并依據輸入物體的特征做出判斷。

神經網絡被廣泛的應用來解決各類問題，如模式識別，信息處理，決策制定等。在自動駕駛領域，輸入層從各種傳感器獲取信號和數據，數據經過神經網絡處理，由輸出單元的輸出并調整車輛的狀態；在金融領域，銀行也可以使用神經網絡來做放貸風險控制，根據過往的信用記錄，當前收入狀況以及雇傭情況等來幫助決定是否向發放貸款等；日常生活中，像手寫識別、語音識別等也可以通過簡單的神經網絡完美的解決。