人工智能幾乎與計算機(jī)本身一樣古老，其歷史可追溯到上世紀(jì)五十年代，但早期的人工智能解決方案與當(dāng)前的技術(shù)套件之間存在著很大的不同。

　　在早期階段，計算機(jī)科學(xué)家曾決心將世界上可用的所有事實和規(guī)則全部傳授給計算機(jī)，希望在計算機(jī)中復(fù)制人類的推理能力（正是推理能力讓人類的認(rèn)知如此強(qiáng)大）。

　　但是，當(dāng)這一領(lǐng)域遇到當(dāng)今所謂的“常識性問題”時，這一計劃卻以失敗告終，因為人類認(rèn)識是以隱性知識的形式得以體現(xiàn)，但無法以明確的事實和邏輯陳述來表達(dá)這些隱性知識形式。

　　從根本上講，深度學(xué)習(xí)算法并不可靠——如果輸入的數(shù)據(jù)超出了訓(xùn)練數(shù)據(jù)的范圍，那么它們就會犯錯誤，但它們卻無法告訴我們何時會發(fā)生錯誤，因此錯誤通常會被忽視。在許多應(yīng)用領(lǐng)域中，這并不是一個問題，但這會限制我們使用這些系統(tǒng)的領(lǐng)域。

　　1.靈活性

　　深度學(xué)習(xí)需依賴訓(xùn)練數(shù)據(jù)的質(zhì)量。例如，如果數(shù)據(jù)中充斥著性別、種族、殘疾性別或其它事實的刻板印象，則該技術(shù)的最終應(yīng)用成果將充滿偏見和不平等現(xiàn)象。進(jìn)行歷史數(shù)據(jù)算法方面的訓(xùn)練可能會進(jìn)一步增強(qiáng)現(xiàn)有的排斥和歧視做法。

　　深度學(xué)習(xí)系統(tǒng)在很大程度上是復(fù)雜難懂的黑匣子，因為不可能完全理解它如何獲得特定輸出內(nèi)容（例如，輸入數(shù)據(jù)中的特定特征如何促成輸出內(nèi)容的生成）。

　　因此，人工智能就給我們帶來了復(fù)雜的道德、法律和安全問題。例如，在法律環(huán)境中使用人工智能對人做出重大裁決已經(jīng)引起了人們對如何確保司法、公正、問責(zé)制和透明度的關(guān)注。

　　在限制與其固有的局限性相關(guān)的問題的同時，還需開展大量的研究來改進(jìn)深度學(xué)習(xí)并增強(qiáng)其功能。

　　2.建模問題

　　工業(yè)界曾經(jīng)有一種觀點：“在大數(shù)據(jù)條件下，簡單的機(jī)器學(xué)習(xí)模型會比復(fù)雜模型更有效。”在實際的大數(shù)據(jù)應(yīng)用中，很多最簡單的模型得到大量使用的情形也在一定程度上印證著這種觀點。

　　但是，隨著深度學(xué)習(xí)的快速發(fā)展，人們不得不重新思考這種觀點。因為在大數(shù)據(jù)情形下，往往只有比較復(fù)雜或表達(dá)能力強(qiáng)的模型，才能充分挖掘海量數(shù)據(jù)中的信息。隨著深度模型變得更強(qiáng)大，從大數(shù)據(jù)中發(fā)掘出的信息往往更有價值。大數(shù)據(jù)需要深度模型。比如說，語音識別所涉及的是大數(shù)據(jù)機(jī)器學(xué)習(xí)問題。其聲學(xué)建模所面臨的是高達(dá)十億到千億級別的樣本訓(xùn)練。

　　Google公司在一個語音識別實驗中發(fā)現(xiàn)，訓(xùn)練后的DNN，訓(xùn)練樣本上的預(yù)測誤差，竟然與測試樣本的預(yù)測誤差基本相當(dāng)。而在通常模型上，訓(xùn)練樣本上的預(yù)測誤差要明顯小于測試樣本。這是因為大數(shù)據(jù)里含有豐富的信息維度，從而讓DNN這樣高容量的復(fù)雜模型處于欠擬合狀態(tài)。由此也就表明大數(shù)據(jù)需要深度學(xué)習(xí)。淺層模型模擬人工經(jīng)驗抽取樣本特征，其功能主要是負(fù)責(zé)分類或預(yù)測。在這種情形下，特征的好壞就成為整個系統(tǒng)性能的關(guān)鍵。為此，為了發(fā)掘更好的特征，開發(fā)人員就得對需要解決的問題有深入的理解。要做到這一點，就需要反復(fù)摸索，這在時間上往往要花費數(shù)年。這就表明，人工設(shè)計樣本特征在可擴(kuò)展性上欠佳。

　　3.工程問題

　　對于從事深度學(xué)習(xí)技術(shù)研發(fā)的人來說，首先要解決的是利用并行計算平臺來實現(xiàn)海量數(shù)據(jù)訓(xùn)練的問題。深度學(xué)習(xí)需要頻繁迭代，傳統(tǒng)的大數(shù)據(jù)平臺無法適應(yīng)這一點。隨著互聯(lián)網(wǎng)服務(wù)的深入，海量數(shù)據(jù)訓(xùn)練的重要性日益凸顯。而現(xiàn)有的DNN訓(xùn)練技術(shù)通常所采用的隨機(jī)梯度法，不能在多個計算機(jī)之間并行。采用CPU進(jìn)行傳統(tǒng)的DNN模型訓(xùn)練，訓(xùn)練時間非常漫長，一般訓(xùn)練聲學(xué)模型就需要幾個月的時間。這樣緩慢的訓(xùn)練速度明顯不能滿足互聯(lián)網(wǎng)服務(wù)應(yīng)用的需要。目前，提升模型訓(xùn)練速度，成為許多大公司研發(fā)者的主攻方向。比如谷歌公司，搭建起了DistBelief這個深度學(xué)習(xí)并行計算平臺。通過采用異步算法，實現(xiàn)隨機(jī)梯度下降算法的并行化，從而加快模型訓(xùn)練速度。不過，工程方面盡管取得了一定的進(jìn)展，但對解決各種服務(wù)需求來說，仍然有很長的一段路要走。
?責(zé)任編輯人：CC