“黑化”后的人工智能太恐怖技術與道德沖突時必須防微杜漸

　　據外媒報道，雖然機器學習技術是時下最火熱的創新話題，但它依然帶來了許多麻煩和隱憂。其中最為明顯的就是這項技術正在侵犯我們每個人的隱私。

　　要想模仿人類，機器學習必須將人類最私密的一切“連根拔起”。因此，我們除了要保護自己的獨特性，還要找出控制機器學習的機制，否則恐怕有一天它就會利用我們的身份去做一些不法勾當，到時我們會有口難辯。

　　下面的幾個例子就向我們展示了“黑化”后的機器學習有多恐怖。當然，其本性是善良的，但落入壞人手中之后可能就會造成巨大的危害。同時，本文也是對大家的警示，在享受科技帶來的便利的同時，我們也應該長個心眼，否則最終其副作用可能會吞沒人類社會。

　　如果人臉識別技術“跑偏”了

　　神經網絡和深度學習算法在圖片識別和處理上效果顯著，它們讓我們的社交平臺、搜索引擎、游戲機和認證機制都變得更加聰明了。

　　不過，它們會走上邪惡之路嗎？顯然會。面部識別應用FindFace就是最好的例證。該應用今年年初誕生于俄羅斯，用戶可以利用面部識別系統看出某人是否也注冊了VK.com（俄羅斯的Facebook）。在不到一年的時間里，這款應用在東歐就獲得了超過2億用戶。

　　由于連上了VK.com的圖片數據庫，這款應用識別能力超強。不過，很多人用它并不是為了社交，其用途最終跑偏了。舉例來說，莫斯科警察部門就用上了FindFace的技術并將其植入首都的15萬個監控探頭中。此外，還有許多人拿這一技術來捉奸。

　　卡巴斯基實驗室的專家曾分享過一個欺騙面部識別技術的方法，但如果一直保持那樣的姿勢也實在是太累了。

　　所以，在社交網絡上曬自拍還是謹慎點吧，畢竟一旦有照片上傳，機器學習引擎總會從某個“倉庫”將這些照片吸納進來的，至于隨后某張照片將會引發什么樣的風波我們就不得而知了。

　　在馬賽克后偷窺的機器學習

　　馬賽克是圖片和視頻中保護隱私最常用的技術，用馬賽克覆蓋后，人眼根本無法再識別那些關鍵的敏感信息。

　　不過，機器學習可是會“透視”，它能做到徹底的心中無碼。

　　來自德克薩斯和康奈爾科技大學的研發人員最近成功訓練出一套圖像識別機器學習算法，該算法可以輕松搞定現有的打碼技術，把敏感信息看的透透的。一旦該技術落入壞人之手，后果簡直不敢想象。

　　據悉，經過訓練，神經網絡在識別面部、物體和筆跡的準確度上可以達到90%。研發人員此舉不是為了做壞事，相反他們要提醒相關部門注意公民隱私的保護。此外，專家表示，除了圖片和視頻中的馬賽克，其實變聲軟件做出的聲音模糊也逃不過機器學習的手掌心。

　　那么如何保證我們的隱私不被侵犯呢？專家表示唯一辦法就是將這些帶有明顯模糊信息的圖片放進黑匣子，不讓機器學習接觸。或者說可以在進行模糊處理前為圖片加入其它圖層來迷惑邪惡的算法。

　　會模仿你字跡的機器學習算法

　　偽造他人的字跡可不是件容易事，即使強如《水滸傳》中的圣手書生蕭讓，也最終被識破。不過，對于機器學習來說，日復一日的摹寫根本沒必要，它只要見過幾張你字跡的照片，很快就能模仿得天衣無縫。

　　倫敦大學的研究人員就開發出了一款名為My Text in Your Handwriting的程序，它只要看到你筆跡的片段，就能準確的按照你的筆跡寫出一樣的字。

　　當然，該技術并不是無懈可擊，寫完后它需要技術人員進行微調。不過，即使這樣，它也是現在模仿人類字跡最為精準的方式。在一次對比測試中，只有40%的人識別出了自己的真品墨寶。未來隨著技術的進步，這一比例還將繼續下降。

　　雖說這項技術有許多積極的應用場景，但大多數人還是擔心壞人用它來偽造法律協議、歷史記錄甚至做假證。想像一下，如果自己的字跡被機器學習學會了，第二天起床是不是就會背上巨額債務呢？

　　真假美猴王之困

　　除了模仿人的字跡，現在的機器學習和聊天機器人還能理解人的語言并生成非常自然的對話。未來，在線客服、天氣預報、新聞和餐廳預定的工作可能都會被它們掌控。

　　不過，聊天機器人也會“黑化”，Luka公司已經為我們做了示范。這家公司主攻高端的AI聊天機器人，它們的產品像人一樣，除了會對話，也有活生生的“思維”。最近，Luka就推出了一款模仿HBO熱播劇《硅谷》中男主角口氣的聊天機器人。該公司將男主角的語言輸入神經網絡以便進行深度分析，最終聊天機器人就能學會他說話的方式和語氣，就連說話時的抑揚頓挫都會一模一樣。

　　此前，Luka還做過一個大膽的項目，它們讓聊天機器人學習一個已經去世人的短信、社交網絡對話和其他各種信息。

　　雖然上面提到的例子都對社會無害，但一旦被壞人所利用，可能我們就更難防范了。就拿最近讓人深惡痛絕的電話詐騙來說，如果電話那頭傳來的就是你親人的聲音，你能不乖乖去銀行打錢嗎？

　　另外，更恐怖的是它不但會學習你說過的話，還會根據你的說話方式進行自由聯想。如果有了肉身，可能你本人連存在的必要都沒了。