輕松監(jiān)聽手機的信息，AI是如何竊取隱私、監(jiān)控社會的？

海歸學者發(fā)起的公益學術(shù)平臺

分享信息，整合資源

交流學術(shù)，偶爾風月

近日，劍橋大學計算機實驗室在預(yù)印本平臺arXiv上線了一項研究，研究人員設(shè)計了一種人工智能算法，該算法通過監(jiān)聽用戶點擊手機屏幕發(fā)出的聲音，可以還原出用戶在智能手機上的輸入內(nèi)容。

該研究由劍橋大學的Ilia Shumailov、Jeff Yan、Ross Anderson及三星美國研究院Laurent Simon合作開展。

在這個被智能手機統(tǒng)治了的社會，人們伸手點觸摸屏的頻次或許比張嘴說話更多。而任何點擊屏幕的操作都不可避免地會發(fā)出聲音。或許人們自己聽不見，可是手機內(nèi)置的麥克風卻能聽得一清二楚。

研究人員利用這一點，對人們點擊屏幕的聲音進行了監(jiān)聽，他們辨認出點擊屏幕不同區(qū)域時所產(chǎn)生的聲波波形，再進一步運用人工智能算法，使還原用戶輸入內(nèi)容成為了可能。從此，窺探隱私、竊取密碼易如反掌。

圖1.點擊觸摸屏上f時的聲波波形反饋

劍橋大學計算機實驗室安全工程教授Ross Anderson及其團隊設(shè)計開發(fā)了一個可以監(jiān)聽觸摸屏聲波的應(yīng)用程序，并隨即采用機器學習算法對其進行訓練，使其能夠順利還原出用戶輸入內(nèi)容。

圖2.可以監(jiān)聽觸摸屏的應(yīng)用程序

研究人員模擬了三種日常噪聲環(huán)境，并在這種環(huán)境下檢驗AI是否能成功還原信息。這三種環(huán)境分別為：

1、公共休息室：有人在旁邊談話，偶爾會有咖啡機噪聲。

2、閱覽室：有輕微鍵盤敲擊聲，有人低聲談話。

3、圖書館：幾乎無人談話，僅有鍵盤敲擊聲。

被試將被要求在上述環(huán)境中輸入文字與數(shù)字，而所采用的設(shè)備為谷歌智能手機Nexus 5與谷歌平板電腦Nexus 9。這兩種設(shè)備均有兩個內(nèi)置麥克風。

當被試輸入的是四位數(shù)字密碼時，重復(fù)輸入該密碼10次后，AI識別出正確密碼的概率是54%，重復(fù)輸入該密碼20次后，正確識別率為61%。被試輸入單詞時還原同樣有效。對于一個27詞長度的英文密碼，在重復(fù)輸入10次之后，Nexus 5手機上能夠被正確還原7個單詞， Nexus 9平板電腦上能夠被正確還原19個單詞。

研究人員表示，該算法模型還僅僅處于實驗階段。但這無疑揭示了一個針對人們隱私的巨大潛在威脅。而在其中助紂為虐的，正是上天入地無所不能的人工智能。

無獨有偶，在更早的一項研究里，研究人員竟然能夠利用AI分析薯片包裝袋的振動，進而破譯附近的人的談話內(nèi)容。

這個來自MIT的研究團隊通過捕捉物體的微小振動還原了音頻。在實驗里，研究人員在4.6米外透過隔音玻璃拍攝一個薯片包裝袋，而后通過分析包裝袋的振動還原了談話內(nèi)容。而在另一項實驗中，研究人員通過監(jiān)測植物葉片振動，成功鑒別出了播放的歌曲。

而原理同樣簡單：當聲波擊中物體時會引發(fā)物體振動，這正是一種視覺信號。通過對視覺信號的分析，我們就可以還原出音頻。而這些視覺信號人類的肉眼難以分辨，但是深度學習后的AI不僅可以輕松辨別，更能夠?qū)⑦@些信號背后的內(nèi)容破譯出來。

橫行世界的AI 監(jiān)控大師

嚴格說來，“偷聽”還不算人工智能的最強項，“偷看”才是。事實上，AI在人臉識別上的巨大突破，令其成為了人們最理想的監(jiān)控助手。尤其在公共安全領(lǐng)域，AI監(jiān)控正在發(fā)揮巨大的作用。

在莫斯科，城市正在組建一套監(jiān)控設(shè)施，該系統(tǒng)擁有超過10 萬臺高分辨率相機，覆蓋了城市 90％ 以上的公寓出入口，AI通過這些相機提供的資料進行人臉識別；在英國，警方開發(fā)了一套相當完備的AI監(jiān)控系統(tǒng)，它能夠準確區(qū)分上百萬個嫌疑人，甚至僅僅看見嫌疑人的耳朵就可以確定他的身份。

在過去十年間，中國是世界上監(jiān)控攝像頭增長最快的國家。根據(jù)IHS Markit 2016 年的數(shù)據(jù)，中國共有約 1.76 億個監(jiān)控攝像頭，而這一數(shù)值在2020年有望突破6億。這樣的背景為AI監(jiān)控技術(shù)提供了曠闊的成長空間。

現(xiàn)在AI技術(shù)的成長速度令人咋舌。即便你戴上墨鏡口罩，AI也照樣可以識別。來自劍橋大學的Amarjot Singh、印度國家理工學院的Devendra Patil、G Meghana Reddy和印度科學院的SN Omkar，在一篇題為“Disguised Face Identification (DFI) with Facial Key Points using Spatial Fusion Convolutional Network”的論文當中，初步驗證了人工智能可以用于識別那些戴著帽子、圍巾、墨鏡的人。

除開看臉的人臉識別，AI也有不看臉的步態(tài)識別算法。我國河南的一起案件就運用了這種技術(shù)，AI通過對對其步態(tài)體征進行分析，僅花費33個小時，就從3000個小時的監(jiān)控視頻資料里尋找到了特征吻合的嫌疑人。案件圓滿告破。

不過，歷史經(jīng)驗告訴我們，技術(shù)發(fā)展似乎總是一把雙刃劍。在迅猛的AI技術(shù)發(fā)展背后，我們或許應(yīng)該更多地思考：這些技術(shù)將為人們勾勒出一幅怎樣的生活圖景？

AI發(fā)展與隱私泄露

再度崛起的AI技術(shù)自然是一匹意義巨大的黑馬，但窺探手機隱私，破譯私密談話內(nèi)容，無處不在的監(jiān)控識別，似乎也已將人類的隱私逼入了一個死角。例如，現(xiàn)在許多企業(yè)都將AI技術(shù)用于員工考勤，而更有一些企業(yè)讓AI變成了一位“常駐監(jiān)工”。 這些AI監(jiān)工將員工的工作量化，并結(jié)合多種參數(shù)判斷員工績效如何、是否有偷懶嫌疑。

這樣的AI監(jiān)工受到了老板們的熱烈歡迎。互聯(lián)網(wǎng)企業(yè)高管Dana Gibber表示，這些AI監(jiān)工將被認為是非常有價值的，因為它們會提供關(guān)于員工行為的重要意見，鼓勵最佳的工作狀態(tài)，提高工作效率。不過對于員工們來說則是五味雜陳，因為在全方位監(jiān)督工作過程時，個人隱私也必定蕩然無存。

而另一方面，AI的深度學習是建立在大數(shù)據(jù)之上的。在使用深度學習AI的過程中，往往伴隨著海量隱私數(shù)據(jù)泄露的風險。

2017年5月，在沒有征詢患者意見的情況下，英國皇家自由信托基金會將共計160萬份病人資料提供給AI公司DeepMind。這些醫(yī)療資料里甚至包括HIV感染狀況、過去的吸毒量和墮胎信息等私密數(shù)據(jù)。而面對公眾憤怒的質(zhì)疑，DeepMind和英國皇家自由信托基金會表示，他們認為患者已經(jīng)給予“暗示同意”。

2017年9月，我國浙江紹興警方取締了臭名昭著的“快啊”打碼平臺，該平臺竊取了近10億組公民個人信息。作案人員在破解一個用戶密碼之后，往往用該密碼嘗試登入其他各大網(wǎng)站，以便破解該用戶的更多賬戶。該過程稱之為“撞庫”。

而在撞庫過程中，各網(wǎng)站的驗證碼機制讓作案人員必須手工鍵入，這無疑大大拖慢了破解速度。于是“快啊”案的作案人員轉(zhuǎn)而使用一個深度學習AI，完美解決了驗證碼問題。據(jù)悉，該AI破解驗證碼的效率在90%之上。

其實在AI技術(shù)聲勢喧天之時，反思與警告的聲音一直都存在。只不過它們都被淹沒在了關(guān)于AI技術(shù)的溢美之詞里。特斯拉首席執(zhí)行官Elon Musk至始至終對AI保持警惕態(tài)度，他聯(lián)合眾多硅谷巨頭發(fā)起了非營利組織Open AI，旨在預(yù)防人工智能的災(zāi)難性影響，推動人工智能發(fā)揮積極作用。

前不久，谷歌發(fā)布了一款可以自動拍照的AI相機Google Clips，許多人質(zhì)疑這樣的自動相機是否會侵犯用戶隱私。Musk則直接發(fā)推譏諷說：“這玩意甚至不屑于讓自己‘看起來’是無辜的。”

對于AI技術(shù)的反思很多，而隱私保護是其中非常重要的一環(huán)。按照如今的AI發(fā)展速度，這個問題已經(jīng)迫在眼前。如何在發(fā)展技術(shù)的同時建立起全新的法律法規(guī)、倫理框架，從而將收益提至最高、將風險降至最低，這是一個亟待解決的問題。相信，沒有人愿意生活在一個毫無隱私、處處被監(jiān)視的世界。

而尤其需要銘記的是，在一個技術(shù)飛速革新的社會里，我們都不是局外人，技術(shù)現(xiàn)在的發(fā)展將決定我們未來的生活。SAP首席學習官Jenny Dearborn說：“對于人工智能滲透到人們生活的程度，人們需要有所了解。這樣，他們就不會在某天醒來說：‘我一直都是被利用的棋子’”。