Facebook副總裁Jér?me Pesenti近期在采訪中稱,構(gòu)建強(qiáng)大的AI系統(tǒng)需要巨大的日益增長(zhǎng)的計(jì)算能力,摩爾定律的終結(jié)意味著創(chuàng)建最先進(jìn)的AI所需的計(jì)算正在上升,AI計(jì)算依賴的增加,使得未來更多的軟件創(chuàng)新依托于硬件和軟件優(yōu)化而非強(qiáng)計(jì)算能力。
“我可以告訴你,這讓我夜不能寐,”Pesenti說。“像Facebook和谷歌這樣公司的算力峰值負(fù)擔(dān)得起任何一項(xiàng)實(shí)驗(yàn),我們已經(jīng)達(dá)到了這個(gè)目標(biāo)。”
他說,人工智能需要更多的軟件創(chuàng)新,才不會(huì)受到阻礙。硬件和軟件的優(yōu)化,可能對(duì)未來幾年的AI至關(guān)重要,而不是強(qiáng)力計(jì)算。
不太依賴算力,即可獲得創(chuàng)新突破的例子,比如由人工智能研究和卡內(nèi)基梅隆大學(xué)開發(fā)的人工智能系統(tǒng)Pluribus,它玩德州撲克不會(huì)輸給任何人。科學(xué)家在一篇文章中表示,Pluribus只需要150美元的云計(jì)算就可以進(jìn)行訓(xùn)練。
摩爾定律的終結(jié),意味著創(chuàng)建最先進(jìn)的AI所需的計(jì)算正在上升。
Pesenti引用OpenAI分析,發(fā)現(xiàn)創(chuàng)建最先進(jìn)系統(tǒng)所需的計(jì)算量自2012年以來。每年以10倍速度增長(zhǎng)。
“隨著計(jì)算量的增加我們能夠獲得東西也在增加,但問題的壓力將變得更大,”Pesenti說。“我認(rèn)為我們?nèi)匀粫?huì)繼續(xù)使用更多的計(jì)算機(jī),你仍然可以上網(wǎng),但它會(huì)變慢,因?yàn)槟銦o法跟上每年10倍的速度。那是不可能的。“
上個(gè)月發(fā)布的分析發(fā)現(xiàn),像OpenAI GPT-2這樣的培訓(xùn)系統(tǒng)的成本,可能會(huì)超過五輛汽車的碳排放量。
Pesenti是Facebook領(lǐng)導(dǎo)人工智能的人,在VentureBeat的轉(zhuǎn)型會(huì)議上的舞臺(tái)上,談到了Facebook在為全球28億獨(dú)立用戶部署人工智能系統(tǒng)時(shí)遇到的獨(dú)特挑戰(zhàn)。
他舉例分析了一個(gè)帖子是否有資格作為仇恨言論、一個(gè)視頻只是做了細(xì)微改動(dòng)或使用了deekfake。
公司在部署AI過程中,遇到的障礙可能是文化的或后勤的,或者只是未能認(rèn)識(shí)到AI堆棧與典型的工程堆棧不同。
人工智能幾乎在Facebook服務(wù)的每個(gè)方面都發(fā)揮著作用,從廣告到展示到Facebook或Instagram上的推薦到內(nèi)容審核,以及Portal的智能相機(jī)等新的客戶體驗(yàn)。
Facebook工程經(jīng)理Kim Hazelwood去年表示,許多Facebook服務(wù)都采用英特爾CPU。
Pesenti和來自Google,微軟和Airbnb的高管在,他們的轉(zhuǎn)型會(huì)談中也談到了多元化在招聘中的重要性,希望確保人工智能對(duì)每個(gè)人的工作方式都相同。
他認(rèn)為偏見通常來自數(shù)據(jù)集而不是AI系統(tǒng)的創(chuàng)建者。
“我們正在取得進(jìn)展。它離我們應(yīng)該達(dá)到的地方還很遠(yuǎn),“他說。“我們需要盡一切努力增加該領(lǐng)域的多樣性。”
Facebook本周早些時(shí)候分享了與公司多元化相關(guān)的新統(tǒng)計(jì)數(shù)據(jù),但沒有公布有關(guān)人工智能研究等專門針對(duì)人工智能的部門內(nèi)部種族或性別多樣性的統(tǒng)計(jì)數(shù)據(jù)。
數(shù)據(jù)與社會(huì)研究員和算法問責(zé)法案的共同作者M(jìn)utale Nkonde分析發(fā)現(xiàn),F(xiàn)acebook AI Research目前雇傭了146名員工,沒有一個(gè)是非洲后裔。
由Facebook AR/VR業(yè)務(wù)主管Lade Obamehinti創(chuàng)建的包容性人工智能程序,目前正在內(nèi)部用于審查產(chǎn)品的偏見。
一年前,Obamehinti創(chuàng)建了這個(gè)項(xiàng)目,因?yàn)樗l(fā)現(xiàn)Portal的智能相機(jī)AI應(yīng)用于像她一樣深色皮膚的人身上時(shí),失去了效果。
然而,團(tuán)隊(duì)對(duì)AI多樣性的測(cè)量可能很快就會(huì)過時(shí)。Pesenti希望Facebook內(nèi)的開發(fā)人員成為公司每個(gè)團(tuán)隊(duì)和部門的一部分。
“我的目標(biāo)是讓組織中的每一位工程師都成為ML工程師,這個(gè)數(shù)字在去年增加了3倍,”他說。
-
AI
+關(guān)注
關(guān)注
87文章
31513瀏覽量
270333 -
Facebook
+關(guān)注
關(guān)注
3文章
1429瀏覽量
54997
原文標(biāo)題:Facebook AI副總裁:28億用戶,算力需求每年增長(zhǎng)10倍,怎么跟的上!
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論