3月5日消息，F(xiàn)acebook的研究人員推出了一種新的AI模型，該模型可以從網(wǎng)上任何未標(biāo)記圖像的中學(xué)習(xí)，這是一項(xiàng)突破，盡管該團(tuán)隊(duì)的研究仍處于早期階段，但他們希望給計(jì)算機(jī)視覺(jué)領(lǐng)域帶來(lái)一次“革命”。

該模型被稱(chēng)為SEER（SElf-SupERvised），被饋入了10億張公開(kāi)可用的Instagram圖像，這些圖像未經(jīng)過(guò)手動(dòng)標(biāo)記。但是，即使沒(méi)有通常在AI算法訓(xùn)練中使用的標(biāo)簽和注釋?zhuān)琒EER仍能夠自主地訓(xùn)練數(shù)據(jù)集，不斷進(jìn)行學(xué)習(xí)，并最終在諸如對(duì)象檢測(cè)之類(lèi)的任務(wù)上達(dá)到最高的準(zhǔn)確性。

圖片來(lái)自Facebook AI

這種被稱(chēng)為自監(jiān)督學(xué)習(xí)（self-supervised learning）的方法在AI領(lǐng)域已經(jīng)很成熟：它由可以直接從給定信息中學(xué)習(xí)的系統(tǒng)組成，而不必依賴(lài)經(jīng)過(guò)仔細(xì)標(biāo)記的數(shù)據(jù)集來(lái)教他們?nèi)绾螆?zhí)行諸如識(shí)別照片中的對(duì)象或翻譯文本之類(lèi)的任務(wù)。

自監(jiān)督式學(xué)習(xí)近來(lái)引起了很多關(guān)注，因?yàn)檫@意味著需要手工標(biāo)記數(shù)據(jù)的工作要少很得，這對(duì)大多數(shù)研究人員而言是費(fèi)時(shí)費(fèi)力的工作。無(wú)需管理數(shù)據(jù)集的同時(shí)，自監(jiān)督模型可以處理更大，更多樣化的數(shù)據(jù)集。

在某些領(lǐng)域，特別是自然語(yǔ)言處理中，該方法已經(jīng)取得了突破。在數(shù)量越來(lái)越多的未標(biāo)記文本上訓(xùn)練算法已使諸如問(wèn)答、機(jī)器翻譯、自然語(yǔ)言推理等應(yīng)用程序取得了進(jìn)展。

相反，計(jì)算機(jī)視覺(jué)尚未完全進(jìn)入自監(jiān)督的學(xué)習(xí)革命。正如Facebook AI Research的軟件工程師Priya Gopal解釋的那樣，SEER是該領(lǐng)域的首創(chuàng)。她告訴ZDNet：“與現(xiàn)有的在ImageNet數(shù)據(jù)集上訓(xùn)練的計(jì)算機(jī)視覺(jué)的自監(jiān)督模型相比，SEER是第一個(gè)可以隨機(jī)訓(xùn)練互聯(lián)網(wǎng)上圖像上的完全自監(jiān)督的計(jì)算機(jī)視覺(jué)模型。”

ImageNet是一個(gè)大規(guī)模數(shù)據(jù)庫(kù)，包含研究人員標(biāo)記的數(shù)百萬(wàn)張圖片，并向較大的計(jì)算機(jī)視覺(jué)社區(qū)開(kāi)放，以促進(jìn)AI的發(fā)展。

該項(xiàng)目的數(shù)據(jù)庫(kù)被Facebook的研究人員用作評(píng)估SEER性能的基準(zhǔn)，他們發(fā)現(xiàn)自監(jiān)督模型在諸如低空拍攝、物體檢測(cè)、分割和圖像分類(lèi)等任務(wù)上優(yōu)于最新的監(jiān)督AI系統(tǒng)。

Goyal說(shuō)：“通過(guò)僅對(duì)隨機(jī)圖像進(jìn)行訓(xùn)練，SEER優(yōu)于現(xiàn)有的自監(jiān)督模型。這一結(jié)果表明，我們不需要像ImageNet這樣的高度精選的數(shù)據(jù)集，對(duì)隨機(jī)圖像的自監(jiān)督學(xué)習(xí)就可以產(chǎn)生非常高質(zhì)量的模型。”

隨著自監(jiān)督學(xué)習(xí)復(fù)雜度的提高，研究人員的工作并非沒(méi)有挑戰(zhàn)。在文本方面，AI模型的任務(wù)是為單詞賦予含義。但是對(duì)于圖像，該算法必須決定每個(gè)像素如何與一個(gè)概念相對(duì)應(yīng)，同時(shí)考慮到其在不同圖片中拍攝角度、視圖和形狀的差別。

換句話說(shuō)，研究人員需要大量數(shù)據(jù)，并且需要一個(gè)能夠從這種復(fù)雜的信息池中推導(dǎo)出所有可能的視覺(jué)概念。

為了完成此任務(wù)，Goyal和她的團(tuán)隊(duì)從Facebook AI在自監(jiān)督學(xué)習(xí)中的現(xiàn)有工作中改編了一種新算法，稱(chēng)為SwAV，該算法將顯示相似的圖像聚集到單獨(dú)的組中。科學(xué)家還設(shè)計(jì)了卷積網(wǎng)絡(luò)，也就是一種深度學(xué)習(xí)算法，算法對(duì)人腦中神經(jīng)元的連接模式進(jìn)行建模，根據(jù)重要性分配給圖像中的不同對(duì)象。

至少可以說(shuō)，借助Instagram的10億張圖片的數(shù)據(jù)集，該系統(tǒng)的規(guī)模很大。Facebook的團(tuán)隊(duì)使用了具有32GB RAM的V100 Nvidia GPU，并且隨著模型尺寸的增加，必須將模型放入可用的RAM中。但是Goyal解釋說(shuō)，進(jìn)一步的研究將對(duì)確保計(jì)算功能適應(yīng)新系統(tǒng)很有用。

“隨著我們?cè)谠絹?lái)越多的GPU上訓(xùn)練模型，這些GPU之間的通信需要快速進(jìn)行。可以通過(guò)開(kāi)發(fā)軟件來(lái)解決給定的內(nèi)存和運(yùn)行時(shí)間帶來(lái)的挑戰(zhàn)。”她說(shuō)。

盡管仍有許多工作要做，但是，在可以將SEER應(yīng)用于現(xiàn)實(shí)世界的用例之前，Goyal認(rèn)為不應(yīng)低估該技術(shù)的影響。她說(shuō)：“借助SEER，我們現(xiàn)在可以通過(guò)大量隨機(jī)的互聯(lián)網(wǎng)上的圖像訓(xùn)練大型模型，在計(jì)算機(jī)視覺(jué)方面取得更大的進(jìn)步。”

“這一突破可以實(shí)現(xiàn)計(jì)算機(jī)視覺(jué)的自監(jiān)督學(xué)習(xí)革命，類(lèi)似于我們?cè)谧匀徽Z(yǔ)言處理文本中所看到的。”

在Facebook內(nèi)部，SEER可用于各種計(jì)算機(jī)視覺(jué)任務(wù)，從自動(dòng)生成圖像描述到幫助識(shí)別違反政策的內(nèi)容。在公司外部，該技術(shù)還可用于圖像和元數(shù)據(jù)有限的領(lǐng)域，例如醫(yī)學(xué)成像。

Facebook的團(tuán)隊(duì)呼吁開(kāi)展更多工作，以將SEER推進(jìn)到其下一階段的開(kāi)發(fā)。作為研究的一部分，該團(tuán)隊(duì)開(kāi)發(fā)了一種基于PyTorch的全能庫(kù)，用于自監(jiān)督學(xué)習(xí)，稱(chēng)為VISSL，該庫(kù)是開(kāi)源的，鼓勵(lì)更多的AI社區(qū)成員對(duì)該技術(shù)進(jìn)行測(cè)試。

當(dāng)被問(wèn)及是否已通知Instagram用戶使用其圖像來(lái)訓(xùn)練SEER或用戶是否有機(jī)會(huì)選擇其圖像不被用來(lái)學(xué)習(xí)時(shí)，Goyal指出，F(xiàn)acebook在其數(shù)據(jù)政策中告知Instagram帳戶持有人，其使用圖片等信息來(lái)支持研究，其中包括支持SEER的研究。也就是說(shuō)，F(xiàn)acebook并不打算分享這些圖片或SEER模型本身，部分原因是該模型可能包含無(wú)意識(shí)的偏見(jiàn)。

Facebook在一篇博客文章中寫(xiě)道：“自我監(jiān)督學(xué)習(xí)一直是Facebook人工智能的重點(diǎn)，因?yàn)樗箼C(jī)器可以直接從世界上大量可用的信息中學(xué)習(xí)，而不僅僅是從專(zhuān)門(mén)為人工智能研究創(chuàng)建的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)。就像在其他研究領(lǐng)域一樣，自我監(jiān)督學(xué)習(xí)對(duì)未來(lái)的計(jì)算機(jī)視覺(jué)有著不可思議的影響。消除了對(duì)人工注釋和元數(shù)據(jù)的需要，使計(jì)算機(jī)視覺(jué)社區(qū)能夠處理更大、更多樣化的數(shù)據(jù)集，從隨機(jī)公共圖像中學(xué)習(xí)，并可能減輕數(shù)據(jù)管理中出現(xiàn)的一些偏見(jiàn)。自我監(jiān)督學(xué)習(xí)還可以幫助在圖像或元數(shù)據(jù)有限的領(lǐng)域（如醫(yī)學(xué)成像）對(duì)模型進(jìn)行專(zhuān)門(mén)研究。無(wú)需人工提前標(biāo)記，模型可以更快地創(chuàng)建和部署，能夠?qū)焖僮兓那闆r做出更快、更準(zhǔn)確的反應(yīng)。”
編輯：lyn