人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進(jìn)行信息處理的數(shù)學(xué)模型。在工程與學(xué)術(shù)界也常直接簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)或類神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是一種運(yùn)算模型，由大量的節(jié)點(diǎn)（或稱神經(jīng)元）和之間相互聯(lián)接構(gòu)成。每個(gè)節(jié)點(diǎn)代表一種特定的輸出函數(shù)，稱為激勵(lì)函數(shù)（ activation function ）。每?jī)蓚€(gè)節(jié)點(diǎn)間的連接都代表一個(gè)對(duì)于通過(guò)該連接信號(hào)的加權(quán)值， 稱之為權(quán)重， 這相當(dāng)于人工神經(jīng)網(wǎng)絡(luò)的記憶。網(wǎng)絡(luò)的輸出則依網(wǎng)絡(luò)的連接方式， 權(quán)重值和激勵(lì)函數(shù)的不同而不同。而網(wǎng)絡(luò)自身通常都是對(duì)自然界某種算法或者函數(shù)的逼近， 也可能是對(duì)一種邏輯策略的表達(dá)。

　　它的構(gòu)筑理念是受到生物（人或其他動(dòng)物） 神經(jīng)網(wǎng)絡(luò)功能的運(yùn)作啟發(fā)而產(chǎn)生的。人工神經(jīng)網(wǎng)絡(luò)通常是通過(guò)一個(gè)基于數(shù)學(xué)統(tǒng)計(jì)學(xué)類型的學(xué)習(xí)方法（ LearningMethod ）得以優(yōu)化，所以人工神經(jīng)網(wǎng)絡(luò)也是數(shù)學(xué)統(tǒng)計(jì)學(xué)方法的一種實(shí)際應(yīng)用，通過(guò)統(tǒng)計(jì)學(xué)的標(biāo)準(zhǔn)數(shù)學(xué)方法我們能夠得到大量的可以用函數(shù)來(lái)表達(dá)的局部結(jié)構(gòu)空間，另一方面在人工智能學(xué)的人工感知領(lǐng)域， 我們通過(guò)數(shù)學(xué)統(tǒng)計(jì)學(xué)的應(yīng)用可以來(lái)做人工感知方面的決定問(wèn)題（也就是說(shuō)通過(guò)統(tǒng)計(jì)學(xué)的方法，人工神經(jīng)網(wǎng)絡(luò)能夠類似人一樣具有簡(jiǎn)單的決定能力和簡(jiǎn)單的判斷能力），這種方法比起正式的邏輯學(xué)推理演算更具有優(yōu)勢(shì)。

　　1943 年，心理學(xué)家W.S.McCulloch 和數(shù)理邏輯學(xué)家W.Pitts 建立了神經(jīng)網(wǎng)絡(luò)和數(shù)學(xué)模型， 稱為MP模型。他們通過(guò)MP模型提出了神經(jīng)元的形式化數(shù)學(xué)描述和網(wǎng)絡(luò)結(jié)構(gòu)方法， 證明了單個(gè)神經(jīng)元能執(zhí)行邏輯功能， 從而開(kāi)創(chuàng)了人工神經(jīng)網(wǎng)絡(luò)研究的時(shí)代。

　　1949 年，心理學(xué)家提出了突觸聯(lián)系強(qiáng)度可變的設(shè)想。60 年代，人工神經(jīng)網(wǎng)絡(luò)的到了進(jìn)一步發(fā)展， 更完善的神經(jīng)網(wǎng)絡(luò)模型被提出。其中包括感知器和自適應(yīng)線性元件等。M.Minsky 等仔細(xì)分析了以感知器為代表的神經(jīng)網(wǎng)絡(luò)系統(tǒng)的功能及局限后，于1969 年出版了《Perceptron 》一書(shū)，指出感知器不能解決高階謂詞問(wèn)題。他們的論點(diǎn)極大地影響了神經(jīng)網(wǎng)絡(luò)的研究。加之當(dāng)時(shí)串行計(jì)算機(jī)和人工智能所取得的成就，掩蓋了發(fā)展新型計(jì)算機(jī)和人工智能新途徑的必要性和迫切性，使人工神經(jīng)網(wǎng)絡(luò)的研究處于低潮。