去年，Instagram推出了一個(gè)增強(qiáng)的評論過濾器，該過濾器使用機(jī)器學(xué)習(xí)在具有挑戰(zhàn)性的環(huán)境中發(fā)現(xiàn)令人反感的單詞和短語。現(xiàn)在，該公司正在擴(kuò)大這項(xiàng)功能覆蓋范圍。今天，它宣布它將使用AI“主動檢測欺凌”，然后再將內(nèi)容發(fā)送給人類審查者進(jìn)行復(fù)查。新功能將在未來幾周內(nèi)推廣給用戶，并將在10月份的美國國家欺凌預(yù)防月和英國反欺凌周之前推出。同樣的技術(shù)也被添加到實(shí)時(shí)視頻中以過濾那里的評論。

這是新Instagram首席執(zhí)行官亞當(dāng)·莫塞里（Adam Mosseri）在上個(gè)月聯(lián)合創(chuàng)始人凱文·西斯特羅姆（Kevin Systrom）和邁克·克里格（Mike Krieger）倉促離職后接手的第一個(gè)產(chǎn)品公告。據(jù)報(bào)道，這一分歧是由于Instagram公司和母公司Facebook之間的緊張關(guān)系引發(fā)的，該公司經(jīng)常插手Instagram的產(chǎn)品。

隨著公眾對Facebook的信任繼續(xù)下降，Instagram仍然是該公司產(chǎn)品陣容的亮點(diǎn)。它受歡迎，有利可圖，而且還有可能被Facebook丑聞所玷污。在這種情況下，使用人工智能來幫助清除令人反感的內(nèi)容并讓Instagram成為一個(gè)擁有良好氛圍的家園是非常重要的。

去年在Wired發(fā)表的一篇報(bào)道解釋了Instagram的機(jī)器學(xué)習(xí)評論過濾器的一些細(xì)節(jié)，但已經(jīng)確定這種技術(shù)不適合內(nèi)容審核。大規(guī)模部署人工智能是便宜的，是的，但它仍然無法處理內(nèi)容背景和細(xì)微差別。這就是為什么這些新的欺凌過濾器還向人類審核者發(fā)送內(nèi)容以執(zhí)行最終檢查，沒有監(jiān)督的自動化是一種災(zāi)難。