Facebook，微軟，人工智能合作伙伴關系以及來自幾所大學的研究人員發起了Deepfake檢測挑戰賽（DDC），該競賽旨在生產可以檢測由AI產生的誤導性圖像和視頻的AI。挑戰包括使用DDC的真實視頻和虛假視頻數據集，為創建最佳AI解決方案的團隊提供數個獎項和獎勵。

在最近的博客文章中，Facebook的首席技術官Mike Schroepfer宣布，Facebook將為這項工作以及包含付費演員視頻的精選數據集捐款1000萬美元。該數據集將“免費提供給社區”，這筆錢將用于為產生獲獎解決方案的開發商提供研究經費和現金獎勵。

Deepfakes是“基于人工智能的人類圖像合成技術”。簡而言之，它們是由深度學習模型創建的“虛假”圖像和視頻。圖像處理當然不是什么新鮮事，但是創建逼真的假視頻直到最近才需要好萊塢電影的巨額預算。隨著無處不在的云計算，深度學習框架以及“面子交換”技術的開源實現的出現，門檻大大降低了。盡管該技術確實僅具有娛樂性的應用，例如用一個演員的臉代替另一個演員的臉，但許多人擔心，深造假冒可能被惡意使用，以***輿論或作為“社會工程”。對可能濫用其深度學習結果的類似擔憂促使OpenAI不發布其完整的GPT-2文本生成模型。

Facebook和DDC的其他合作伙伴希望通過建立現金獎勵的“ Kaggle風格”競賽來設置AI以趕上AI 。參賽者將下載DDC數據集，該數據集將包含真實視頻和偽造視頻，并使用這些數據訓練可以成功識別偽造品的機器學習模型。挑戰包括“測試機制”，該機制將在不公開的數據集子集上對競爭對手的模型評分，而僅將其保留以進行測試。

Deepfake檢測已經是參與挑戰的大學之間積極研究的領域。例如，成思危教授呂 在 大學奧爾巴尼分校，紐約州立大學 發表了一份關于該主題的幾篇論文。Lyu指出，偽造視頻中的人通常不會眨眼。圖像生成算法還留下了其他更細微的“指紋”，這些指紋可以由深度學習系統檢測到。

有人擔心DDC本身可能導致更有說服力的假貨。大多數Deepfake模型都基于生成對抗網絡 （GAN）架構，該架構由兩個相互競爭的神經網絡組成：學習生成令人信服的圖像的生成網絡，以及判斷圖像質量的判別網絡。在AI“軍備競賽”中同時訓練兩個網絡，直到生成的網絡可以產生逼真的圖像。