這可能是互聯(lián)網歷史上的第一個虛假新聞：1984年，有人在Usenet上發(fā)布了蘇聯(lián)加入網絡的消息。這是一個完全無害的四月愚人節(jié)惡作劇，與如今的虛假信息宣傳活動和旨在快速獲利的不擇手段的制造業(yè)相差甚遠。2017年，誤導性和惡意的虛假在線內容是如此豐富多產，以至于人類無法讓自己解脫困境。反而，這越發(fā)看來機器將不得不拯救我們。

一家名為AdVerif.ai 的初創(chuàng)公司設計了一種同名法算，可以把我們從黑暗中拯救出來。人工智能軟件的構建是為了檢測虛假的新聞報道、赤裸、惡意軟件和其他類型的問題內容。AdVerif.ai于11月份推出了測試版本，目前與美國和歐洲的內容平臺及廣告網絡合作，他們不希望與虛假或潛在的冒犯性新聞報道有關聯(lián)。

根據(jù)AdVerif.ai的創(chuàng)始人Or Levi的說法，公司在將焦點放在公司產品，而非普通用戶的事情上面看到了機遇。雖然個別消費者可能不會擔心他們所點擊新聞報道的真實性，但是廣告主和內容平臺會因為集結或宣傳不良內容而損失一些東西。如果他們改變自己的服務，他們可以有效地削減那些靠制造虛假新聞賺錢的人的收入來源。Levi說：“這將是與這類內容作斗爭的一個大的跨越。”

AdVerif.ai 是如何發(fā)現(xiàn)假新聞？

AdVerif.ai可以掃描整個內容，發(fā)現(xiàn)表明某些地方有問題的標志，比如文章標題與正文內容不對應，或標題中的大寫字母太多。AdVerif.ai還通過有數(shù)千個合法虛構新聞的數(shù)據(jù)庫對每一則新聞進行交叉檢查，這些合法的虛構新聞會每周更新一次。客戶可以看到系統(tǒng)考慮到的每一部分的報告，還有評估分數(shù)，評估某些事可能是虛假新聞，或可能攜帶惡意軟件，或可能包含他們要求系統(tǒng)留意的其他東西，比如說赤裸。最后，Levi表示，他計劃增加能找出操縱圖像的能力，并安裝一個瀏覽器插件。

在測試AdVerif.ai的演示版本時，AI將洋蔥識別為諷刺（這在過去曾經愚弄過很多人）。布賴特巴特的新聞故事被分類為“不可靠的，右翼的，政治的，帶有偏見的”，而Cosmopolitan則被認為是“左翼的”。可以看出，當Twitter賬戶使用標識時，而鏈接卻與它所描繪的品牌毫無關系。AdVerif.ai不僅發(fā)現(xiàn)Natural News上標題為“有證據(jù)表明比特幣成為NSA設計的心理戰(zhàn)行動來全面推廣單一世界數(shù)字貨幣”的新聞是來自一個黑名單網站，而且還確定了它是一條虛假新聞，在其他被列入黑名單的網站上也會彈出，而且在合法新聞機構沒有任何參考。

一些可疑的新聞報道仍然可以通過，出現(xiàn)在網站上。在一個名為Action News 3的網站上，有一篇題為“NFL播放器拍攝到在更衣室里燃燒美國國旗！”的帖子，雖然已經證明該帖是捏造的，但是帖子并沒有被攔截。為了幫助系統(tǒng)知道接下來的情況，可以手動逐個更新系統(tǒng)虛假新聞報道的黑名單。

當 AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在為在線公司提供以AI為動力的吐真藥中看到機遇的初創(chuàng)公司。特別是網絡安全公司，已經快速地將發(fā)現(xiàn)僵尸和虛假新聞的操作添加到他們的計算機指令系統(tǒng)中，指出很多方法與黑客手段有多么相似。Facebook正在調整其算法，以消除其新聞傳播中的虛假新聞。谷歌與事實檢查網站開展合作，到目前為止，取得的結果還參差不齊。“虛假新聞挑戰(zhàn)賽”于去年年底推出，比賽是由AI團體的志愿者舉辦，旨在鼓勵開發(fā)有助于打擊惡意報道的工具。

“虛假新聞挑戰(zhàn)賽”組織者之一，開發(fā)機器學習系統(tǒng)的Joostware公司創(chuàng)始人，Delip Rao表示，要發(fā)現(xiàn)虛假新聞有很多方面，所以這個挑戰(zhàn)將會分多個步驟完成。第一步是“立場檢測”，或者選取一條新聞，找出其他新聞網站對這個話題的評論。這可以讓人類事實檢驗員依靠新聞來驗證其它的新聞報道，用更短的時間檢查單個作品。

“虛假新聞挑戰(zhàn)賽”發(fā)布了數(shù)據(jù)集供團隊使用，有50個團隊提交了參賽作品。思科公司的網絡安全部門Talos Intelligence利用了一種算法贏得了比賽，這一算法獲得了80％以上的正確率——雖還沒有為黃金時段做好準備，但仍然是一個令人歡心鼓舞的結果。接下來的挑戰(zhàn)可能會出現(xiàn)帶有覆蓋文本的圖像（思考模因，但帶有虛假新聞），這是一種經常在社交媒體上推廣的格式，因為算法很難分解和理解這種文本格式。

Rao表示：“我們主要想為檢驗員建造最好的工具，以便他們能夠快速工作，像檢查類固醇的事實檢驗員一樣。”

即使開發(fā)出能夠有效遏制虛假內容趨勢的系統(tǒng)，也不太可能是新聞報道的終結。人工智能系統(tǒng)已經能夠創(chuàng)造虛假的文本了，以及令人難以置信的圖像和視頻。（請參閱“真實或虛假？人工智能令人難以置信”）。也許正因為如此，Gartner最近的一項研究預測，到2022年，發(fā)達經濟體中的大多數(shù)人會看到比真實信息更多的錯誤虛假信息。同樣的報告發(fā)現(xiàn)，甚至在發(fā)生這種事情之前，虛假內容將會超過AI檢測它的能力，改變我們相信數(shù)字信息的方式。

AdVerif.ai以及其他公司更像開始了一場競賽，而非虛假信息之戰(zhàn)。競賽中，虛假內容創(chuàng)作者開發(fā)自己的人工智能系統(tǒng)企圖戰(zhàn)勝 “正義”的人工智能。因此，我們不得不重新審視自己獲取信息的方式。