堅持你所相信的,直到世界追上你的腳步。因為傷了背,Geoff Hinton已經站著工作了12年,似乎巧合地迎合了現(xiàn)在“站立工作”的這股風潮。
“我領先于潮流,”Hinton說。
不僅僅是這一點,Hinton更廣為人知的“領先于潮流”,是在深度學習領域。在所有人都不看好神經網(wǎng)絡的年頭,是他,將這一技術帶進了主流學術界。
Bloomberg近日為這位“深度學習教父”拍攝了一段特寫紀錄片,用短短8分鐘,講述了這位“有點皮”的教授關于神經網(wǎng)絡的40年傳奇經歷。
為什么是AI教父?
今天,混AI圈的人鮮有人沒聽過Geoff Hinton。他是谷歌大腦研究小組的負責人,多倫多大學的榮譽教授。而奠定了他在今天人工智能圈“教父”地位的,是他在多層神經網(wǎng)絡技術的貢獻。
Hinton對AI的貢獻有多大呢?
學術點說,Hinton在1986年提出的通過反向傳播來訓練深度網(wǎng)絡理論,標志著深度學習發(fā)展的一大轉機,為近年來人工智能的發(fā)展奠定了基礎。
更實際點說,今天谷歌中通過語音識別進行圖片檢索、在手機上把語音轉化為文字的技術的實現(xiàn),大部分功勞要歸于Hinton博士的研究。
他的研究,徹底改變了人工智能,乃至整個人類發(fā)展的軌跡。
從研究大腦,到嘗試制作一個
Geoff Hinton出生在英國一家“書香門第”,家人多是數(shù)學家和經濟學家,這樣的“學霸爸媽”顯然讓Hinton的童年不太好過,正如他自己所說:“我大概在7歲的時候就意識到,不讀博是不行了(微笑臉)。”
而最初把Hinton引上人工智能這條路的,是他對人腦的好奇。
Hinton很早就沉迷于大腦如何工作的問題。于是,他開始進入生理學,解剖大腦以了解其工作方式。
不滿足于此,他又開始學習心理學。最后,他決定更多地使用計算機科學的方法來模擬大腦,并進入人工智能領域,開始了他近40年的研究生涯。
“我認為,如果你真的想了解一個非常復雜的裝置,比如大腦,那你就制作一個。”
堅信神經網(wǎng)絡:“其他人都錯了”
盡管現(xiàn)在已經成為了人工智能的主流研究方法,神經網(wǎng)絡在最初問世時,命途多舛。
1956年,美國認知心理學家弗蘭克·羅森布拉特(Frank Rosenblatt)基于神經元的理論發(fā)明了一種模擬神經元的方法。它的基本點是一個被稱為神經元的小單位的集合。 這些集合都是小的計算單元,但可以模擬人腦計算的方式。和我們從感官中獲取數(shù)據(jù)一樣,這些神經元可以獲取傳入數(shù)據(jù)并進行學習,所以神經網(wǎng)絡可以隨著時間的推移做出決定。
但是,Rosenblatt的學習算法當時對于多層結構的神經網(wǎng)絡不起作用。人工智能學者們也因此放棄了學習式軟件的想法。他們轉而使用邏輯來產生智能——比如下棋的能力。
幾乎沒人再相信神經網(wǎng)絡的前景,也沒人再研究神經網(wǎng)絡。
除了Hinton。
“大腦是一個巨大的神經網(wǎng)絡,因此,神經網(wǎng)絡必須也是可以工作的,因為它在我們的大腦中起作用。”Hinton說。
“那是什么支持著你不放棄?”
“其他人都錯了(everyone else is wrong)。”
離開五角大樓,成為“加拿大之光”
為了找到一個支持他研究神經網(wǎng)絡的棲身之處,Hinton在美國輾轉多地。但是,當時大部分的學術研究都是受到國防部支持。
而Hinton對于這樣拿到自己的研究經費并不滿意:“我不希望我的研究成果被用在一些不善意的目標上。”
的確,深度學習從誕生之日起,就與國防部的一些軍事目的有著不可分割的淵源。
甚至直至今天依然如此——今年3月谷歌被曝光正參與Maven項目,向美國軍方提供TensorFlow APIs和無人機圖像識別技術,引起巨大爭議和眾多抗議,6月谷歌不得不承諾不將AI用于武器。這場聲勢浩大的爭論甚至將戰(zhàn)火燃到了李飛飛身上。
而關于AI倫理和技術人員責任的爭論也從來沒有停止過。
近兩年,將算法用來自動識別一起犯罪是否屬于團伙犯罪,或識別一個人是否是同性戀的研究屢見不鮮,算法的締造者是否應該在研究之外分出心力,了解自己研究背后更深的影響呢?
在40年前,Hinton的選擇或許已經給出了他的答案。
為了避免為五角大樓服務,Hinton最終落腳在加拿大的多倫多大學。這個國家歡迎他,也支持他的神經網(wǎng)絡研究。“去這個文明的小鎮(zhèn)繼續(xù)研究對我來說非常有吸引力。”
而HIinton也沒有讓加拿大失望。
正因為Hinton和他的學生的研究,加拿大現(xiàn)在已經成為人工智能研究的重要力量之一,多家人工智能巨頭都將他們的研究中心開在了多倫多,各種前沿人才為了追隨Hinton的腳步,絡繹不絕地來到這座北方國度:“Hinton將加拿大拉入了AI超級大國的版圖。”
堅持你認為對的,直到世界追上你的腳步
在多倫多,Hinton和他的團隊研究出了更深度的神經網(wǎng)絡,以解決更復雜的問題。他們共同開發(fā)了一個多層神經網(wǎng)絡,這個深度神經網(wǎng)絡也被應用于多個方面。
比如有人用它在80年代就打造了一輛無人車并且開上了路。
而現(xiàn)在已經是深度學習的另一位領袖人物、Facebook的AI實驗室負責人Yann LeCun則利用深度神經網(wǎng)絡建立了一個可以識別手寫數(shù)字的系統(tǒng)。這一系統(tǒng)最終實現(xiàn)了商用。
在當時,深度神經網(wǎng)絡的前景似乎一片大好,但是,現(xiàn)實中的故事往往沒有這么簡單。
Hinton的研究再次遇到了瓶頸。
“我們當時并沒有足夠的數(shù)據(jù),也沒有足夠的計算機運行能力,AI和計算機科學的從業(yè)者認為神經網(wǎng)絡是一廂情愿的想法。”
但Hinton始終堅持著,盡管完全不被重視。
他坐在房間的最角落里參加學術會議,在大牛云集的人工智能會議上完全不被重視。甚至他自己也開始產生了懷疑:“有很多次我都覺得我不會繼續(xù)這項工作了”。
直到這個世界開始慢慢追上他的腳步。
2006年,計算機的運行速度有了巨大的提高,超快速芯片的到來以及互聯(lián)網(wǎng)上產生的大量數(shù)據(jù)使得Hinton的算法變得非常神奇。突然之間,計算機開始可以識別圖像中的內容,可以識別語音,可以將一種語言翻譯成另一種語言。
2012年,Geoffry Hinton和他的團隊帶著 AlexNet參加了那一年的ImageNet ILSVRC 挑戰(zhàn)賽,以驚人的優(yōu)勢獲勝(錯誤率比第二名低了足足 10%)。這篇被 NIPS 2012 收錄的論文被認為是深度學習熱的開啟。
同年,“神經網(wǎng)絡”和“機器學習”等詞匯也開始在紐約時報的頭版出現(xiàn)。
“人們終于理解了這個概念,我感到很欣慰。”Hinton這樣說。
推翻自己,膠囊網(wǎng)絡的提出
盡管已經成為了深度學習的領袖人物,Hinton的腳步卻從沒有停歇。2017年10月26日,Hinton發(fā)表了一篇在AI圈掀起軒然大波的論文——Capsule Networks(膠囊網(wǎng)絡)。
Hinton高喊,“卷積神經網(wǎng)絡(CNN)的時代已經過去了!”,將他過去幾十年的研究翻了過去。
-
AI
+關注
關注
88文章
35040瀏覽量
278976 -
深度學習
+關注
關注
73文章
5560瀏覽量
122758
原文標題:AI教父Geoff Hinton和深度學習的40年
文章出處:【微信號:CAAI-1981,微信公眾號:中國人工智能學會】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
【「零基礎開發(fā)AI Agent」閱讀體驗】+ 入門篇學習
可智能深度學習的AI攝像機模組方案
行業(yè)首創(chuàng):基于深度學習視覺平臺的AI驅動輪胎檢測自動化

《AI Agent 應用與項目實戰(zhàn)》----- 學習如何開發(fā)視頻應用
AI先驅Bengio警示:OpenAI或保留超級智能以沖擊其他經濟

AI自動化生產:深度學習在質量控制中的應用

AI教父預測:超越人類智慧的AI或5年內問世
NPU在深度學習中的應用
AI干貨補給站 | 深度學習與機器視覺的融合探索

AI深度噪音抑制技術

評論